4
3

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 3 years have passed since last update.

入門Power Automate Desktop:第七話「画像認識でゲームを自動化しよう」

Last updated at Posted at 2021-11-01

自動化する作業

  1. デスクトップから「Minecraft」のアイコンを探し出して起動する。
  2. ランチャーの「プレイ」ボタンを識別してクリックする。
  3. 「シングルプレイ」ボタンを識別してクリックする。
  4. 「ワールド新規作成」ボタンを識別してクリックする。
  5. ワールド読み込み完了をゲームUIで識別する。

ゲーム内のボタンはUI要素として識別できません。
その様な条件下で自動化するパターンの例題となります。

実際にフローを作る

0. 事前準備

目的が一目でわかる名前でフローを作成します。
image.png

1. デスクトップから「Minecraft」のアイコンを探し出して起動する。

1-1. デスクトップを表示する。

アクションから「デスクトップを表示」をドラッグしてフローにドロップします。
image.png
アクションの設定画面が表示されるので、「すべてのウィンドウを最小化」を設定します。
image.png

1-2. 「Minecraft」のアイコンを探し出して起動する。

アクションから「マウスを画像に移動します」をドラッグしてフローにドロップします。
image.png
アクションの設定画面が表示されるので、「画像のキャプチャ」を選択します。
image.png
画像のキャプチャモードになるので、アイコンの画像をキャプチャします。(滅茶苦茶動作が重いです)
image.png
「マウスの移動後にクリックを送信します」を有効化して、「クリックの種類」を「ダブルクリック」に設定します。
image.png
追加されるとこんな感じです。
image.png

2. ランチャーの「プレイ」ボタンを識別してクリックする。

アクションから「マウスを画像に移動します」をドラッグしてフローにドロップします。
image.png
アクションの設定画面が表示されるので、「プレイ」ボタンをキャプチャします。
「マウスの移動後にクリックを送信します」を有効化して、「クリックの種類」を「左クリック」に設定します。
image.png

3. 「シングルプレイ」ボタンを識別してクリックする。

2と同じ手順で「シングルプレイ」ボタンの処理を設定します。
image.png

4. 「ワールド新規作成」ボタンを識別してクリックする。

2と同じ手順で「ワールド新規作成」ボタンの処理を設定します。
image.png

5. ワールド読み込み完了をゲームUIで識別する。

アクションから「画像が存在する場合」をドラッグしてフローにドロップします。
image.png
アクションの設定画面が表示されるので、ゲームUIをキャプチャして設定します。
image.png
起動完了を示すダイアログを設定します。
image.png
image.png
追加されるとこんな感じです。
image.png

作成したフローを実行してみる

デスクトップのみが表示され後、Minecraftのワールド生成→起動まで進み、ダイアログが出れば成功です。

TIPS

判定に使う画像はなるべくパーツ単体で撮影する。

ボタンの後ろの背景などが判定画像に入り込むと、許容値から外れてしまい意図した判定を行ってくれません。

悪い例です。

image.png

良い例です。

image.png

うまく判定されない時は「許容値」を調整してみる。

元の画像とどれだけ一致しているかで判定しているので、その基準を甘くしてやれば解決する場合があります。
image.png

4
3
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
4
3

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?