6
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 1 year has passed since last update.

EXCELアドインのセレクタ(要素)取得テクニック

Last updated at Posted at 2023-05-23

EXCELアドインのセレクタ(要素)取得に苦戦中の方は是非ご一読ください

  • 本記事では、EXCELアドインをインストールし、対象ツールの独自ダイアログのUI自動化で期待結果を得られない経験をお持ちの方向けの内容を扱います。
  • SuperXLe という、100超の「使える」機能が満載の無料Excelアドインをもちいて実装例を記載しています。

操作対象の「設定ダイアログ」(「スイッチ」タブの例)

image.png

ダイアログ起動の実装例

image.png
image.png

Excelのリボンはメニューバーでアドイン名をシングルクリックしても、次のクリック操作の前に閉じてしまいます。
このため、対象リボンを虫ピンで固定してしまう、または次の様なキー操作での起動が有効です。

image.png

ラジオボタンやチェックボックスの実装例

image.png
image.png
要素認識できる場合、基本的には 「クリック」アクティビティでオプションの説明文または親要素をアンカーにする のがおススメです。
(ダイアログに機能追加や修正が入ったときなどの変更リスクを抑えることができます。)

ファイルパス入力の実装例

テキストを設定.JPG

「文字を入力」ではなく 「テキストを設定」アクティビティ の利用がおススメです。

「文字を入力」アクティビティはユーザーが実際にキーボード入力する際の挙動となるため、1文字ずつ対象要素に値を渡します。「テキストを設定」は指定した文字列を1回で入力するため、外部要因(ハードやアプリの状態起因)で意図した文字列が入力されないリスク等を軽減できます。

他と見た目が異なり、上手く要素認識しないパターン

F4でUIフレームワークをAAにすることで取得できる_既定だと全体でしか認識できない.JPG

ダイアログ全体でしか要素認識しないケースでは、まずF4ボタンを押下しUIフレームワークの切り替えを試してください。

F4でUIフレームワークをAAにすることで取得できる.JPG

このパターンではUIフレームワークは『AA』に切り替えることで要素取得ができました。(UIフレームワークについては以下の記事などをご参考ください)

プルダウンの実装例

以下の様に、クリックで期待結果を得られるケースはありますが、

image.png

基本的には 「項目を選択」アクティビティ での実装がおススメです↓↓↓

image.png

個人的な経験上は、「項目を選択」アクティビティはスコープ内では単独で簡単に利用できるのがほとんどでしたが、本例のダイアログでは次の2つのエラーに遭遇しました。

■セレクタ取得時のエラー
項目を選択アクティビティで対応できないケース.JPG
→ こちらは、プルダウンボタンを押下してリストが開いた状態にすることでセレクタ取得できました。
項目を選択アクティビティで対応できないケース_ダイアログを開いてあげることで認識できる.JPG

■実行時のエラー
項目を選択アクティビティで対応できないケース_ダイアログを開いてあげることで認識できる3.JPG
→ 「項目を選択」の直前に同項目の「クリック」を挟むことで解消しました。

なお、「項目を選択」が非対応で利用できないコンポーネントの場合、『「フォーカスを設定」+キー操作(上または下キー等)』 をおススメします↓↓↓

image.png
image.png

本例のダイアログでは、コンポーネントとの相性がわるくエラーとなりました。

フォーカスを設定.JPG
→ 「CV ドロップダウン リストから選択」アクティビティ を利用し実現できました。

image.png
フォーカスを設定_動作不良のためCVのドロップダウンリストから選択で対処.JPG

CV は Computer Vision の略です。Orchestrator との接続がない場合にも、ローカルサーバーのオプションを True にして利用できます。

画像からの要素認識

次の様なダイアログがあります。
もっと詳細に要素認識したいができないケース.JPG

ターゲットとしては緑枠までしか要素認識できません。(内側はおそらく画像)
本ツールの利用にあたっては不要な技術ですが、CVアクティビティを利用すれば値の取得や操作が可能であることをおみせします↓↓↓
image.png
CVテキスト取得で値をとれる例3.JPG

おまけ

image.png
CVテキスト取得で値をとれる例.JPG
image.png
CVテキスト取得で値をとれる例2.JPG

まとめ

おススメの実装方法:

■ボタンやラジオボタン、チェックボックスの操作など
 → 「クリック」アクティビティのアンカー利用

■テキスト入力欄
 → 「テキストを設定」アクティビティ

■ドロップダウンリスト
 → 「項目を選択」アクティビティ
  → 「フォーカスを設定」&キー操作
   → 「CV ドロップダウンリストから選択」アクティビティ

■その他、要素認識しないパターン
 → F4押下のUIフレームワーク変更
  → CV(Computer Vision)アクティビティの利用

最後までお読みいただきありがとうございますヾ(@⌒ー⌒@)ノ

6
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
6
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?