ビッグデータの台頭と情報の一般化された生産と消費は、私たちの社会の様相を変えましたが、その使用の影響についての認識も変えました。
AIはこれまでこのような変化から恩恵を受けて来ましたが、グローバルイノベーションの主要な因子になりつつあります。
- 私たちの社会の知的労働力を劇的に強化する
- すべての科学分野における主要なボトルネックを打破する
現在、すべての業界で、AIは民主化の次の段階に入ろうとしています。そこでは、AIが明日の文明の柱となるであろうということは明白ですが、そのリスクはまだ誰もが理解していません。
リスクアセスメントをイノベーションのベクトルにする
一般に、リスクに関する発言は恐怖によって引き起こされます。AIを受け入れ、社会のあらゆる主要な側面にAIが存在するようになる世界に対する不確実性から生じる不安は、かなり理解しやすいと思います。
これを、検索エンジン、インターネットインデックス作成技術、オンラインリソースへのアクセスの民主化など、以前の主要なデジタルイノベーションと比較すると、クロード・シャノンの次のような意見に同意し得ます。
「人工知能はGoogleの究極のバージョンになるでしょう。」
私たちのテクノロジーの現状における課題は、シャノン氏の信念が控えめであるように思えることです。AIが私たちの感覚や他の多くの認知能力の代わりとなる追加的な本能として作用したり、同僚やビジネスパートナーさえも仮想化することも考えられるのです。
検索エンジンを利用したサービスとAIを利用したサービスとの信頼度の差は、オンラインサービスとのやり取りにおいてユーザー目線でのコントロール感があるかどうかに起因していると思われます。デジタル化される前のサービスには、まさにそのサービスから受け継いだ不文律やガイドラインが多く存在しました（売り手を警戒し、評判を確認したり、複数のソースの情報を相互検証したり、など）。同様のガイドラインをAIにも適用しようというのは、（データの専門家でない場合でも）以下の理由により、間違いなく、より困難です。
- AIの実装とライフサイクルにおける自動化の重要な役割とその（非常に大規模な）拡大
- 機械学習モデルの複雑さと多様性
AIに一般の人がアクセスできるようにする前に、ビジネスの状況や専門的なバックグラウンドに関係なく、誰もがそれぞれの状況に対して弱点や副作用、その起源、影響を特定できるようなシンプルな方法を構築し、共有することが必要です。
現在、多くの扉が閉ざされたままになっており、多くの場所でイノベーションが滞っています。しかし、このようなフレームワークを、下記の役割が持つことができれば、これらの扉は開かれるかもしれません。
- 政府または特定領域における規制機関
- 各組織の指揮系統 - 何が問題なのかを明確に理解することができるようになるでしょう
- 一般有権者は- 自分たちが何にさらされているのか、時には強引な技術的侵略とみなされるものの限界は何なのか、最終的に知ることができること。
AIがもたらす社会の変化を受け入れる人々は、そのメリットとリスクを認識する必要があります。Everyday AIの時代を迎え、消費者は貢献者になり続けるでしょう。より多くの情報が得られることで、自律的に適切な判断をすることができるようになるのです。本シリーズの今後のブログでは、ソースデータ、AIモデルやサービスの実装、採用など、さまざまな段階でのリスクや影響の特定について解き明かしていく予定です。
MLとリスクについてさらに深く掘り下げたいですか？
O'Reillyによる書籍の初期リリースの章では、MLが運用者と消費者にどのようなリスクをもたらすかを強調し、実務担当者がそれらを回避するのに役立つ方法を紹介しています。
こちらよりダウンロードいただけます(英語)。