2026年10月追記:LMM 2.0を公開しました
本記事はVersion 1.1.3当時の開発記録です。その後、2.0で「Vision補正」を追加しました。
記録したスクリーンショットから、操作対象や説明文の補正候補を提案します。内容を確認して「提案を採用」を選ぶまで、元の説明文は変更しません。AI処理はPC内で実行し、対象の画像・文章をクラウドAIへ送信しません。
記録中はAIを使わず、記録後に必要な場合だけ実行する設計は継続しています。変更点は公式サイトにまとめています。
https://falling-bush-c460.lmm-host.workers.dev/#v20-major
はじめに
Windows上の操作を記録して、スクリーンショット付きの手順書を作るアプリ
Local Manual Maker(LMM) を個人開発しました。
現在はMicrosoft Storeで販売しています。
この記事では製品紹介というより、
- なぜ作ろうと思ったのか
- どういう構成にしたのか
- AIを使った開発は実際どうだったのか
- Windowsアプリとして何が難しかったのか
- Microsoft Store公開までやってみてどうだったか
あたりを書いてみます。
私はもともとプログラマではなく、仕事ではWindows ServerやAzureなどのインフラ・運用側を長くやってきました。
そのため、最初から自分でC#を書いてアプリを作ろうと思っていたわけではありません。
きっかけは「手順書を作るのが面倒」
IT運用をしていると、操作手順書を作る場面がかなりあります。
例えば、
- 実際にWindowsを操作する
- スクリーンショットを撮る
- WordやExcelへ貼る
- 「○○をクリックする」と説明を書く
- 次の操作へ進む
- またスクリーンショットを撮る
という作業です。
内容自体は難しくなくても、とにかく手間がかかります。
そこで、
Windows操作を普通にやるだけで、手順書の元になるものを自動的に作れないか?
と考えたのが始まりでした。
最初は「クリックを記録する」だけ
最初に考えたのは非常に単純で、
- マウスクリックを検知
- その瞬間のスクリーンショットを取得
- クリック位置を保存
- Windows UI Automationからボタン名などを取得
- 1操作を1Stepとして保存
というものでした。
例えば、
「保存ボタンをクリック」
という操作をすると、
- スクリーンショット
- マウス座標
- UI Automation Name
- ControlType
- AutomationId
- Window Title
- Process
などをまとめて記録します。
実装はC# / WPFです。
AIは「記録中」に使わない
最初はいろいろ考えましたが、現在は、
操作を記録している最中はAIを一切使わない
という設計にしています。
理由は単純で、操作記録中にAI推論を挟むと、
- 記録が遅くなる
- AI処理待ちが発生する
- 推論失敗が操作記録に影響する
からです。
現在は、
- まず操作を高速に記録
- 記録完了
- 必要ならユーザーがAI処理を実行
- 説明文を生成・補正
という流れです。
この構成にしてから、記録部分とAI部分をかなりきれいに分離できました。
ローカルAIにした理由
LMMでは、AI処理もローカルで行う構成にしています。
クラウドAPIを使う方が簡単だったのですが、手順書作成ツールという性質上、
- 社内システム
- 顧客情報
- サーバー画面
- 管理画面
- 業務アプリ
などがスクリーンショットに映る可能性があります。
そのため、
記録内容やAI処理対象を外部へ送信しない
ことを優先しました。
操作記録、スクリーンショット、編集、AI処理、Word / Excel出力まで、主要処理はPC内で完結します。
インターネットへ接続していない環境でも主要機能を使える構成です。
Word / Excelテンプレート対応が意外と重要だった
作り始めた頃は、
Wordに出力できれば十分では?
と思っていました。
ただ、実際にIT運用の現場を考えると、会社ごとに既存の手順書フォーマットがあります。
そこで現在は、
- Wordテンプレート
- Excelテンプレート
を登録して、そのレイアウトへLMMの記録結果を流し込めるようにしています。
例えば、
- 自社の表紙
- 決められた罫線
- 手順番号
- スクリーンショット配置
- 説明文欄
などを維持したまま出力できます。
Excelでは、途中のStepから新しいシートへ分割する機能も追加しました。
「操作画面」だけでなく「結果画面」も保存
運用手順書では、
ボタンを押したこと
だけでなく、
押した結果どうなったか
を残したいことがあります。
そこで各Stepについて、
- 操作時の画像
- 操作後の結果画像
の両方を扱えるようにしました。
これによって、通常の操作手順書だけでなく、
作業エビデンス
として使うことも想定しています。
Windows 10 / 11だけでなくServer / RDPも確認
利用者としてIT運用担当を想定しているので、Windowsクライアントだけでは足りません。
現在は、
- Windows 10
- Windows 11
- Windows Server 2019
- Windows Server 2022
- Windows Server 2025
を対象にしています。
ServerはDesktop Experience環境を対象とし、RDP接続先のセッション内でLMMを起動する使い方も確認しました。
Server Core / Nano Server / ヘッドレス環境は対象外です。
Windows 10 22H2 Build 19045では、
- 操作記録
- 保存
- Word / Excel出力
- ローカルAI推論
まで実際に確認しています。
AIで開発すると「コードを書かなくていい」のか
これは実際に作ってみて、少し違うと思いました。
私はプログラマ経験がほぼありません。
実装自体はAIにかなり助けてもらっています。
例えば、
こういう機能を作りたい
とChatGPTと相談して構成を決め、AIコーディングツールへ実装を依頼する、という流れです。
ただし、
AIにお願いすれば全部完成する
という感じではありませんでした。
むしろ必要だったのは、
- 何を作るか決める
- 仕様を分解する
- テスト条件を決める
- AIの実装が本当に存在するか確認する
- 不具合の原因を切り分ける
- 変更してはいけない場所を決める
- 過去の結果と比較する
といった部分でした。
特に長期間開発していると、
「AIが追加したと言っているのに、実際のファイルには存在しない」
「別の修正で直前の変更が消える」
といったことも経験しました。
最終的には、
AIはものすごく強い実装担当者だけど、仕様管理と確認は人間側に必要
という感覚になっています。
テストが想像以上に重要だった
AIを使った開発だからこそ、テストはかなり増やしました。
LMMでは、
- 操作記録
- 保存 / 読み込み
- Word出力
- Excel出力
- テンプレート出力
- クラッシュリカバリー
- ローカルAI
- Windows 10 / 11
- Server / RDP
などを個別に確認しています。
最近はVision AIも検証していて、
「UI Automationでは対象名が取れない画面を、画像から認識できるか」
という試験もしています。
これも単純な画像認識精度だけでなく、
- 普通の画面
- UIA情報が弱い画面
- 小さい文字や似たアイコンが密集した難しい画面
に分けて評価しています。
AIモデルは簡単な画面では非常に高精度でも、難しい画面になると急に精度が落ちることがあり、かなり面白いです。
Microsoft Store公開も意外と大変だった
アプリが動けば終わり、ではありませんでした。
販売するとなると、
- MSIX
- 署名
- Windows依存関係
- VC++ Runtime
- Store登録
- 税務情報
- 銀行情報
- プライバシーポリシー
- 利用規約
- 特定商取引法表記
- 評価版
- 公式サイト
なども必要になります。
特にWindows 10では、Windows 11では出なかった依存関係の問題が出たりしました。
開発そのものより、
「他人のPCで普通に動く状態にする」
方が大変かもしれません。
現在のLMM
現在のVersionは 1.1.3 です。
主な機能は、
- Windows操作の記録
- スクリーンショット付きStep生成
- Word / Excel出力
- Word / Excelテンプレート出力
- 操作画像 / 結果画像
- Excel複数シート
- Ctrl+C / Ctrl+V / Ctrl+X記録
- 作業エビデンス出力
- クラッシュリカバリー
- ローカルAIによる説明文補助
- Windows Server / RDP対応
などです。
製品版は買い切り 6,800円(税込) で販売しています。
また、1プロジェクト7Stepまで試せる評価版も用意しています。
最後に
最初は、
「こういうツールがあったら楽なんだけど」
くらいの思いつきでした。
そこからAIと相談しながら、
- 仕様を考える
- 実装する
- テストする
- Windows 10 / Serverまで検証する
- Microsoft Storeへ出す
ところまで来ました。
プログラミングの知識が不要になったとは思いません。
ただ、
今までなら「自分には作れない」で終わっていたアイデアを、実際に動くところまで持っていける
ようになったのは、生成AIのかなり大きな変化だと思っています。
今後はVision AIなども追加しながら、もう少し手順書作成を楽にしていく予定です。
Local Manual Maker
公式サイト
Microsoft Store