この記事の目的
私が所属している Sionic AI は、AIエージェント開発プラットフォームを提供するAI特化企業です。
AI を導入するための活動をしている現場で体験したこと、感じたことを書きなぐるポエムです。
このツアー、英語ができなくても大丈夫ですか？
私自身の勝手な想像ですが、BtoC の仕事をされていると、掲題のような一言で Yes/No では答えにくい質問を受けることが多いのではないかと思います。
空港の送迎や観光には日本語ガイドがつく。でも、自由時間の食事、買い物、病気になったときまで含めて「大丈夫」とは言い切れない。お客さんは安心して申し込みたいし、担当者は「どこまでのことを“大丈夫”とおっしゃっていますか」と確認したくなる。商談の構造によく似ています。そもそも、大丈夫ってなんやねん。
ほかにも、こんな例が考えられます。
-
工務店に「地震に強い家ですか？」
耐震基準を満たすことと、どんな地震でも損傷せず、住み続けられることは違う。でも「はい」と答えると、相手はそこまで期待するかもしれない。 -
ホテルに「バリアフリーに対応していますか？」
入口に段差がない、車椅子で浴室を使える、音声や視覚による案内があるなど、必要な対応は人によって違う。「対応しています」だけでは、その人が利用できるか分からない。 -
採用面接で「パソコンは使えますか？」
メールや資料作成なのか、複雑な表計算なのか、システムの設定なのか。「使える」の範囲が共有されないまま、Yes/Noを求められる。 -
飲食店に「アレルギー対応できますか？」
特定の食材を抜けることと、調理器具や厨房での混入まで防げることでは、引き受ける範囲が大きく違う。安易な Yes が深刻な問題につながる例です。
いきなり条件を細かく問い返すと、お客さんが求めている安心から遠ざかってしまうこともありそうです。ただ、安心してもらうことと、対応できる範囲を伝えることは、両立させる必要があります。
「空港送迎と観光中は日本語スタッフがサポートしますので、英語が苦手でも参加いただけます。ただし、自由行動中の食事や買い物はご自身で対応いただくため、翻訳アプリなどを準備しておくと安心です」
一旦は「大丈夫です」と安心してもらってから条件・制約を説明するといいのかもしれません。
AI導入の現場
AI 導入の現場でも似たような場面でどう答えてよいか迷う場面がかなりあります。
オーケストレーションをサポートしていますか？
オーケストレーションとは？
オーケストレーションとは、複数のAIやツールを、目的に合わせて順序立てて連携させる「段取り・進行管理」のことです。
弊社の場合「連携させる」ことを目的としたプラットフォームを提供することが目的なので、サポートもなにもまさにそのためのツールなので、
サポートしています！( ｰ`дｰ´)ｷﾘｯ
が一番シンプルなのかもしれないですが、そもそも、掲題の質問をしてくるので何か意図があるかもしれないので
「オーケストレーションは、AIや検索などのツールを組み合わせて、仕事の流れを動かす仕組みです。基本的にはサポートしていると言えます。ですが、オーケストレーションという意味には、決まった手順を実行するものから、状況に応じて次の手順を判断するものまであるので、どんな業務の流れを想定されているかによって、対応範囲が変わります」
といった答えがよいかもしれません。
ハーネスエンジニアリングをサポートしていますか？
ハーネスエンジニアリングは、先のオーケストレーションと概念的にはかなり重なるものがあります。本記事では、ハーネスエンジニアリングを、実行の流れに加え、ツールや情報の受け渡し、状態管理、検証など、AIが仕事を進める周辺の仕組みを設計・改善することとして捉えます。
「LLMにツールや情報を渡し、実行の流れや検証の仕組みを整えることですね。基本的にはサポートしていると言えます。その中で、どの部分を実現されたいですか？」
こんな感じの回答でしょうか。
オーケストレーションやハーネスエンジニアリングという言葉は、大きな概念を言語化したものなので
サポートしています
という回答は間違いではないですが、個人的には気持ち悪さが残ります。
ガードレールをサポートしていますか？
この質問も非常に多いですね。「ガードレール」は目的や実装方法も広いため、何を防ぎたいのかが分からないと、対応の有無を答えにくい言葉です。「ガードレール」という言葉が、道路のガードレールをイメージさせ具体的な設備を連想できるため、実装内容まで共通理解があるように感じさせるのかもしれません。
| 守りたい対象 | 想定される機能 |
|---|---|
| 入力 | 不適切な入力やプロンプトインジェクションの検知 |
| 出力 | 有害な内容や個人情報の出力の検知・抑制 |
| 回答の品質 | 根拠の確認、形式チェック、不明な場合の回答保留 |
| ツールの操作 | 実行可能な操作の制限、送信・更新前の人による承認 |
| データへのアクセス | 利用者ごとの参照権限、アクセス先の制限 |
| 実行全体 | 回数・時間・費用の上限、異常時の停止 |
また、実現方法による違いもあります。
- プロンプトで禁止を指示する
- モデルで問題を検知する
- プログラムや権限で実行を制限する
ガードレールに関しては、何をどの手法で防ぐを明確にしないと Yes/No では答えられない難しいところはあります。
AIエージェントプラットフォームベンダの弊社のような立ち位置では、どの層で対応するのか？といった考え方の軸もあります。
| 層 | 主な対策 | エージェント構築ベンダーの役割 |
|---|---|---|
| LLM自体 | 安全性の学習、危険な要求への拒否など | モデルの特性と限界を評価し、用途に合うものを選ぶ |
| ハーネス・アプリケーション | 入出力の検査、ツール実行の制御、承認、実行上限、異常時の停止など | 業務要件に合わせて実装し、モデルを含む全体の動作を検証する |
| 接続先システム・インフラ | 認証・認可、データの参照権限、ネットワーク制限など | 接続先の権限と整合させ、モデルの判断だけに依存しない制約を設ける |
「ガードレールには、入力・出力のチェックから、データのアクセス制御、操作前の承認まで複数の意味があります。LLMですでに保護されている対象やAIエージェントを作成する際に保護できるものはサポートしていると言えます。御社では、特にどのような事象を防ぎたいとお考えでしょうか？」
実際、どうすりゃいいの？
AI導入の現場は、前節のような回答に困る質問を受けることがよくある気がしています。
これは、AIという世界が現在とてもダイナミックに動いている・変化している・新しいコト・モノが生まれている業界で、抽象的な言葉が多く、AI 業界の現在の混沌とした複雑性を社会が受け入れている段階だからなのかもしれません。理解するための共通言語がまだ十分にないとも言えます。
技術も、その技術を説明する言葉も、社会が評価する基準も、同時に形成されていると考えられます。
前述のような抽象的な概念に対して「サポートしている？」「大丈夫？」という質問に対して、「大丈夫の定義は何ですか？」とだけ返すと、会話が止まってしまいます。お客さんが求める安心を受け止めながら、どの場面では支援でき、どの場面では準備が必要なのかを具体的に伝えた方がよいのかもしれません。
問い合わせてくる担当者自身も、社内の比較表に○×を埋めるよう求められているのかもしれません。要求が複数の組織や担当者を経由するうちに、背景や条件が抜け落ち、抽象的な質問だけが届くこともあります。
正直、元請けの SIer が背景や条件理解せずに丸投げするタイプだとプロジェクトの先行きが不安にはなりますが。。。
AI導入の現場で支援する仕事
私はかつて、製造業のお客様にIT製品・開発を提供する立場の仕事をしていました。ある程度 ITリテラシーは高いものの「製造業」が本業ですので、ITベンダ・SIer に降りてくる要求はかなりざっくりしていました。そういうざっくりを目の当たりにするとどんどんストレスたまってくるのですが、その時の指導者が言ったのが
我々の仕事は ふんわりしたもの を カチカチ にすること
という言葉でした。
とても抽象的ではありますが、自分たちの方向性・自分たちが何をすべきなのか？がとても明確になる言葉でした。
特に、AI導入の現場では、共通言語が十分に定まっておらず、要求の背景が伝わりにくい状況を考えれば、抽象的な問い合わせが届くのは自然なことなのかもしれません。
まとめ
今回、AI導入の現場において、よく聞かれる抽象的な質問に対する答えを求めるための壁打ちをメモとして記載しました。
発注者・SIer の方が AIベンダに上記の質問をした際の回答が「はい、サポートしています」だけだったらかなり怪しいと考えた方がよいかもしれません。
「サポートしていますか？」という質問には、まだ言葉になっていない期待が含まれています。
私たちの仕事は、Yes／Noを返すだけでなく、何を実現したいのか、どの条件なら対応できるのかを、一緒に具体化することなのだと思います。
ふんわりしたものを、カチカチにする。AI導入の現場でも、やるべき仕事はそこなのかもしれません。