この記事は、人工知能研究者 Filip Piekniewski氏のブログ記事 "AI Winter - Update" の翻訳です。なお、これは彼のブログ記事 "AI Winter Is Well On Its Way" (拙訳：人工知能の冬は確実に近付いている) へのフォロー記事として書かれたものです。
AIの冬 - 更新版
前書き
ほぼ6ヶ月前 (2018年5月28日) 私は「AIの冬は確実に近づいている」という記事を投稿し、その記事はバイラルを起こした。記事は累積でほぼ25万回も閲覧され、ブルームバーグ、フォーブス、ポリティコ、ベンチャービート、BBC、データサイエンスポッドキャストおよび他多数の小メディアやブログ [1, 2, 3, 4, ...] でも取り上げられ、Hacker newsやRedditといったサイトで暴力的な論争を引き起こした。私はこの記事がこれほど成功するとは予期していなかったので、非常にセンシティブな話題に触れてしまったことに気が付いたのだ。私の主張に同意する人もしない人も居るだろう。けれども、記事が著しく注目されたこと自体が、AIの舞台裏で何かが進行中であることの、また現にAIハイプの背後に何か確実なものがあるのかについて人々が興味と疑念を持っていることの証拠である。
記事では、AIのハイプが裂けつつあり (特に自動運転車の分野で)、結果として別の「AIの冬」が発生することを予測したため、私は定期的に主張を見直し、変化したことと新しい根拠を確認したい。
最初に主張の明確化を: 一部の読者は私の主張を誤解している。つまり、私はAIハイプが力を失ないつつあると予測した、と。実際は逆だ。元の記事の冒頭で、表面上は未だすべてが素晴しく見えると明言している。そしてそれは今でも正しい。NIPSカンファレンスのチケットはほんの数分で完売し、ディープラーニング熱狂者たちさえをも驚かせた。実際には、何名かの著名な研究者はカンファレンスに参加していないようであり、今後も参加しないだろう (おそらく、今年のカンファレンスで最も面白い話題は、その名称にまつわるドラマ全体だろう) [訳注: "nips" は俗語で乳首を意味するため、カンファレンスの名称を変更するべきだと主張されたという] これは何も矛盾していない。ハイプは、実際に発生した現象に対する遅延した指標である。この問題については、他の即時のフィードバックと合わせて「AIの冬 補遺」で議論した。ここ数ヶ月の間に何が起こったのかを見てみよう。
アップデート
私がフォローしている多数の著名な研究者のTwitter活動は、問題の期間にわたってかなり散発的であった。フェイフェイ・リー博士は議会で証言を行ない、以下でハイライトしたツイートを行なった (ツイートに対する愉快なリプライも合わせて掲載した)。
どれほどの長い期間、自身の評判を傷付けることなしにこれほどの完全なナンセンスを拡散することができるのか、私には分からない。しばらくの間は可能ではないかと思うが、けれども永遠にそうではないことを望んでいる。
私のお気に入りの「熱狂家」の1人であるアンドリュー・ングは、自身のスタートアップ企業群を築くことに忙しいようだが、幸運にもフォーチュン誌の短いインタビューに答える時間を見つけたようだ。そこで彼は単独でGoogleとBaiduをAI企業へと変えてしまったことを憂慮している。アンドリューは、アカデミックなバブルから更に巨大なAIハイプバブルへと飛び移った稀有な例である。彼はある程度の感染力のある熱意とかなりの量の傲慢さを組み合わせて、見たところ今日の多数の若者を引き付けているようだ。最近の彼の業績は、製品検査に関するものである。あるビデオでは、ディープラーニングシステムが欠陥のあるはんだ付けを認識する事例が示されている。私自身がエレクトロニクスの視覚検査を専門とする企業で実際に働いていたので、最先端技術がどれほどのものであるか知っている。機械は大規模なPCBを定常的にスキャンし、1秒未満で検査対象部品の完全な三次元データを再構成する。それぞれのはんだ接合部の不完全さと明確に定義された欠陥を分析し、組立工程で使用できる解釈可能なスコアを算出する。それに比べると、アンドリューの小さなビデオはむしろコミカルであり、何かしらのダニング=クルーガー効果を示すものであるように見える。今、私はディープラーニングがこの業界を何らかの形で改善できないと言っているわけではない。しかし、参入レベルはかなり高く設定されているのだ。高度に最適化されしばしば洗練されたアルゴリズム的ソリューションに依拠する他の業界についても、同じことが言える。
ここでAIシーンにおける色とりどりの登場人物を見ていこう。別の私のお気に入りは、Comma.aiのジョージ・ホッツである。彼はCommaでのCEOの役割から辞任することを発表した。ホッツは、プレイステーションをハッキングしたことで名を挙げたが、2015年に業界に波紋を巻き起こした。当時、彼はテスラ車向けの自動運転システムを構築できると、しかも当時テスラが採用していたMobileye社よりも安価かつ優れたものができると主張し、イーロン・マスクを驚かせたのだ。それからしばらくして、オートパイロットによる最初の死亡事故 (ジョシュア・ブラウン) が発生し、Mobileyeはテスラとの関係を断った。どうやらテスラによるテクノロジーの利用方法は無責任であると述べたらしい。ともかく、当時ホッツは古い電話の部品とディープラーニングの魔法を用いて、ガレージの中で自動運転車を製造できると確信していた。それ以来、彼の語りは180度転回しており、今ではジョージは "自動運転「詐欺」に対する十字軍の戦士" となっている…これについて私のコメントは無くても良いかもしれないが、しかしここでスタートレックのピカードが頭を抱える画像のミームを用意しておこう。ホッツの先導に続いて、ひとたびバブルが破裂したら、今AIハイプを吹かしている連中も自分はAIの冬を事前警告してきたのだと叫ぶだろうと私は確信している。
テスラについて言えば、長年の公約であった自動運転車の北米大陸横断走行は、未だに実現していない。今年初め、イーロン・マスク - テスラのCEOは、横断走行は2018年の夏までに確実に達成できると述べていた。けれども、2018年8月1日の電話カンファレンスで、マスクは「大陸横断走行はもはや優先事項ではなく、遅延するだろう」と述べた (新たな期限は定められなかった)。これは巨大な変化だ。特に、ちょうど2年前の、いわゆる完全自動運転機能を発表した電話カンファレンスを考慮すれば。また、8月までにはソフトウェアアップデートを通して最初の「自律走行機能」が展開される予定であったものの、実際にはそのようなことは起こらなかった (注目すべきは、2018年初めごろ、マスクは夏までにオートパイロットが顕著に進歩して完全自動運転が実現すると自信を持っていたことである) 実際のところ、新たなオートパイロット バージョン9は時々の車線変更が可能である。しかし、多くのコメンテーターによると、新システムは以前のものよりも更なる注意を必要とし、まだバグだらけであるという [1]。実際、現状のオートパイロットでさえ、安定性と信頼性の観点からはMobileye社の数年前のソリューションを超えていないという意見も珍しくない。10月18日には、テスラ車のすべてのモデル構成から将来の完全自動運転 (FSD) オプションが消滅した。「混乱を招く」からという以外にほとんど説明はない。この記事を執筆している時点では、オプションが復活するのか、既に支払い済みの顧客が払い戻しを受けられるのかは不明である。イーロン・マスク自身が自分をハイプの犠牲者だと考えているのか、それとも意図的にAIハイプを吹かしていたのかは分からない。それでも、スティーブン・ホーキングのとてつもない物語と合わせて、2015年から今に至るまでのAI熱狂に対し彼が継続的に貢献してきたことは確実である。
おそらくここで付け加えておかなければならないだろうが、私は、実際のところ、テスラのオートパイロットはかなり印象的なエンジニアリングの作品だと考えている。単に、効果的な運転支援の機能を超えて展開できるほどには安全でないというだけだ。8月に実施されたテスラの四半期電話カンファレンスで、同社が構築中の新しいハードウェアについて多くの時間が費されていたことも興味を引いた。現状のnVidia PX2運転システムから数桁ものオーダーでの改善が見込まれており、この新たなシステムによって遂に完全自動運転が可能になるのだという。私はこの主張にも懐疑的である。PX運転システムより数桁オーダーも多い計算力を持つということは、何ら特別なことではない。2台のGTX 1080Tiを搭載すれば何の問題もなく達成できる。またこれは多くの企業が既に実施していることで、それらの企業は高価なLIDARなどのセンサを利用している場合もあるが、それでも未だ完全自動運転は実現していないのだ。次に、これまでテスラが「完全自動運転互換」として販売してきた車は、決して安くはない部品交換を必要とするようだ。テスラのAIディレクター、アンドレイ・カーパシーのスライド (2018年5月10日) を見れば、テスラの自動運転が今現在どの段階にあるのかについて、少なくともいくらかの感触を掴むことができるだろう。プレゼンテーションの途中で彼が認識している通り、運転の現実は珍しい事例に満ちている。それらはニューラルネットにとって難しいというだけではなく、人間でさえどうラベル付けするのかが明白ではないような事例である。プレゼンテーションの残りの半分は、彼がソフトウェア2.0と呼ぶものに費されている。コンピュータはもはやプログラミングされず訓練されるというコンセプトである。ここから私が思い起こすのは80年代のAIハイプである。第五世代コンピュータは、Prologや類似の関数型言語で書かれた高水準の論理仕様に基づいて自分自身でプログラムを書くと言われていた。当時のハイプサイクルは、エキスパートシステムへの熱狂と密接に関連しており、80年代終わりにAIの冬を引き起こして崩壊した。ソフトウェア2.0のナンセンスも同様の運命を辿るだろうと確信している。
テスラの事例への結論として、直近の10月24日に開催されたテスラの第3四半期の電話カンファレンスでも、上述の不確実性を晴らす説明は得られなかった。マスクはテスラの自動運転車艦隊の実現を信じていると繰り返したが、完全自動運転はあまりに混乱を招くため、「メニューから除外」され続けるのだという (販売開始から2年も経過して！？)。直後にカーパシーが述べたところによると、新たなハードウェアはより大きなニューラルネットワークをサポートし、それは「非常に良く」機能し、新バージョンのオートパイロットは高速道路を走行できるだろうという。車線変更にはドライバーの確認が必要という制限がある (注意、あらゆる事故はドライバーの責任となる)。大陸横断走行についての説明はない。完全自動運転に関するタイムラインもない。
自動運転車の話題について、元々のAIの冬記事への主な批判として、自動運転分野のリーダーであるWaymoが除外されているという批判があった。私はWaymoに言及しており、また過去記事 [1]でもWaymoについて重点的に議論しているのでこの批判はちょっと不当ではあるのだが、しかしこのような状況ではWaymoに何が起きているかに言及しておくことは賢明であるように思われる。幸運なことに、最近の非常に優れた調査報道がWaymoに光を当てている。フェニックスでテストされたWaymoの車両は、高速道路への合流や左折など最も基本的な運転状況にも問題があったようだ。これは記事から引用する価値がある。
ある時には「自動運転車の実現は間近である」と思え、人間の運転手が介入することなく車両が一日中走行できる場合もある、とWaymoをよく知る人は述べる。別の日には、現実が迫ってくる。なぜならば「エッジケースには限りが無い」からだ。
いくつかの独立した観察もこの評価を確証しているように見える。Waymoがこのゲームで最も先へ進んでいることに私は同意するが、それは実際に何かしら意義があるものをデプロイしていると意味するわけではなく、またそのようなデプロイから利益を上げることからも隔たっている。(...) 定期的なPR用のナンセンスを除けば、Waymoはそれほど多くの情報を公開していない。しかし最近、Googleショーファー (後にWaymoとなったGoogle社の部門) の過去の失態についての恥ずべきレポートが公開された。これにはアンソニー・レヴァンドウスキーも関与しており、彼はUberとWaymoの紛争全体に責任がある。(...)
Uberについて言っておくと、彼らは自動運転車プログラムを大幅に遅延させており、実質的に自動運転トラックのプログラムを断念した (2016年にコロラド州で大ファンファーレと共に数個のビール箱を配達したものの、後に完全に演出されたデモだったと判明した)。また最近の噂によれば、Uberは自動運転部門の売却を検討しているかもしれないことを示している。
概して他の自動運転車プロジェクトも強まる逆風にさらされており、政府機関によって中断されたプロジェクトもある。他のプロジェクトも、広報の観点からは控え目なものになりつつある。とりわけ興味深いニュースが、最近Cruise社から出てきている。彼らはWaymoに続く業界第二位の企業である (少なくとも、カリフォルニア州の自動運転車の手動運転切替データによれば) ロイターの記事から注目すべき部分を引用する:
GMとCruiseの現在と過去の従業員と幹部へのインタビュー、またCruise社をよく知る自動運転テクノロジーの専門家によれば、それらの期待は今や道路のこぶに衝突しているという。これらの情報源によると、予期しない技術的課題により - その中には、車両が移動している物体を特定することが困難だという問題も含まれる - 2019年中にGMが無人車両を大規模に公道上へデプロイすることは、極めて実現見通しが低いという。
「何もスケジュール通りに進んでいない」とGMの情報筋は述べ、特定の走行距離目標および既に実現不可能となった別のマイルストーンについて言及した。
さらに後の段落:
「業界の人間は皆、何十億ドルも浪費することに対してますます神経質になっている」と、BMWの取締役であり研究開発責任者のクラウス・フローリッヒ氏は述べた。
自動運転車の未来はますます不確実になっている。これは2016年に私が書いた記事での予測と完璧に一致している。(こちらの記事も参照)
AIシーンの他プレイヤーにも簡単に触れておこう: DeepMindはかなり静かだった (最後に私がチェックした時点では、モンテスマの復讐は一般的なケースではAIによって解決されていなかった)、しかし、OpenAIはDotA2のプレイエージェントで小規模な宣伝戦を仕掛けた。最初の試合でAIが勝利した直後、コンピュータに有利となるよう多くの点でゲームが制限されていたことが即座に暴露された。そこでほとんどの制限が取り除かれた別の試合がオーガナイズされたのだが、その試合では…AIは劇的に人間に敗北した。OpenAIは馬鹿げた額の資金をエージェントの訓練に使っていたにもかかわらずだ。今では、私はゲームの領域での結果に大して注目していない。このブログで何度も述べてきた [拙訳] 通り [1, 2]、AI分野で真に解決する価値がある唯一の問題は、モラベックのパラドックスだ。しかし、DeepMindやOpenAIが行なっていることはその真逆である。けれども、それにもかかわらず、このメディア不発弾は愉快であると思う。
モラベックのパラドックスに触れておくと、真にロボット工学を進めようとしていた一握りの企業のうちの1社、Rethink Robotics社は事業を停止した。制御下にある工場生産ラインで既に実現されていることを超えるロボットの製造は、技術的に困難であるというだけでなく、ビジネスの事例としても挑戦的であることを示している。ロドニー・ブルックスの経験をもってしてさえ。この分野のほとんどのスタートアップ、ベンチャーキャピタルの安価な資金で肥大化した創業者のエゴ以外に主要な資産を持たない企業とは異なり、Rethink社は多くの印象的な技術的アチーブメントを実際に達成していた。そのため、このニュースは私にとって非常に悲しいものであった。ロボット工学には再思考が必要となるだろう。おそらく、何度も。
最後に、変化しつつあるセンチメントの追加的な指標として、フランソワ・ショレのツイートを1つ引用しておこう。彼はディープラーニングフレームワークKerasの作者であり、確実に名前を知られた人物である。
今日、より多くの人々がこれまで以上にディープラーニングに取り組んでいる。2014年と比べれば、およそ2桁オーダーで増えているだろう。そして私が見た進歩率は過去5年間で最も遅い。何か新しいことを始める時だ。
結論
それでは結論を: 2018年の終わりに向けたAIの現状は - コミカルさとの境界線上にある (それゆえ、タイトル画像にザ・シンプソンズの登場人物ピエロのクラスティを加えた)。特定のものごとは変化しているが、煙の一部は晴れ、鏡の一部にはひびが入っている。私が元の記事を公開して以来、主流派メディアにも多数の記事が表れている。そこでは記者たちは、少なくとも、我々が巨大なAIバブルの中に居て、バブルの空気は既に漏れ始めているという可能性を進んで検討しているようだ (たとえば、この記事や上述の文章で私が引用した多数の記事)。このような懐疑的態度の高まりは、必然的な幻滅に向けた当然のステップであるが、しかしバブルが最終的に収縮するまでにはしばらく時間を要するだろう。次の6ヶ月間は、AI劇場が特に面白いものとなるだろう。