Anthropic: Anthropic CPOが語るボトムアップでAIプロダクトを開発する方法

Anthropic CPO Mike Krieger: Building AI Products From the Bottom Up
https://www.youtube.com/watch?v=Js1gU6L1Zi8

目次

1. はじめに：AI時代の製品開発の変革
2. ボトムアップ革命：AIイノベーションの新しいパラダイム
3. MCP（Model Context Protocol）の誕生と展望
4. AIコーディングの組織的影響
5. エージェント間連携の未来と課題
6. 思考パートナーとしてのAI：実践的活用法
7. AI採用における社会的可視性の重要性
8. 計算資源の戦略的配分
9. 研究と製品開発のバランス
10. AI製品開発者のための教訓
11. まとめ：AI時代の製品開発の指針

はじめに：AI時代の製品開発の変革

AIテクノロジーの急速な進化により、製品開発の方法論も大きく変わりつつあります。従来のソフトウェア開発とは異なり、AIを中心とした製品開発では、モデルの能力と人間のニーズを調和させる新しいアプローチが求められています。

Anthropicの最高製品責任者（CPO）であるマイク・ローレン氏は、Instagram時代の製品開発からAI時代の製品開発への移行を経験した数少ない専門家の一人です。本記事では、ローレン氏の洞察を通じて、AI製品開発における新しいパラダイム、実践的なアプローチ、そして将来の展望について探ります。

この記事は、コンピュータサイエンス以外の分野の学部生にも理解できるよう、AIと製品開発の基本から応用までを体系的に解説しています。

ボトムアップ革命：AIイノベーションの新しいパラダイム

従来の製品開発からの転換

従来のソフトウェア製品開発では、市場調査から始まり、戦略的計画、要件定義、設計、実装、テスト、リリースという流れで進められることが一般的でした。マイク・ローレン氏によれば、Instagram時代には3〜6ヶ月の時間枠で計画し実行する「トップダウン」のアプローチをとっていました。

しかし、AI製品開発においては、このような従来のアプローチが通用しなくなっています。ローレン氏は、Anthropicでの経験から、より「ボトムアップ」の創造性を重視するアプローチに変化したと語っています。

なぜボトムアップアプローチが重要なのか？

AI製品開発でボトムアップアプローチが効果的な理由は、AIモデルの能力が開発プロセスの後半になるまで完全には理解できないことが多いためです。モデルが実際に何ができるのかは、それを実験し、探索する過程で徐々に明らかになります。

成功事例：ボトムアップのイノベーション

Anthropicの例を見ると、多くの革新的な製品や機能は、研究者やエンジニアが特定の課題に対処するために始めた小さな実験から生まれています。例えば、Artifactsと呼ばれる機能は、最初は研究プロトタイプとして始まり、デザイナーとエンジニアがそれを取り上げて製品化したものです。

このようなボトムアップのイノベーションモデルは、単に製品開発のプロセスを変えるだけでなく、組織文化にも影響を与えます。研究者やエンジニアが自由に実験し、新しいアイデアを探求できる環境を作ることが、AI時代の製品開発における競争力の源泉となります。

MCP（Model Context Protocol）の誕生と展望

実際の問題から生まれたプロトコル

Model Context Protocol（MCP）は、Anthropicが直面していた実践的な課題から生まれました。Google Driveとの統合、GitHub統合など、異なるコンテキストソースをAIモデルに取り込む必要がありましたが、それぞれが完全に異なる実装になっていました。

マイク・ローレン氏によれば、「通常、3回同じことをやって、3回目に抽象化を考え始める」というパターンがここでも適用されました。2つの完全に異なる統合を実装した後、3つ目が必要になった時点で、共通の抽象化の必要性が明確になったのです。

これは、トップダウンの計画から生まれたものではなく、実際の開発課題から生まれたボトムアップのイノベーションの好例です。

MCPの進化と標準化

最初は内部的な抽象化として始まったMCPは、コンテキストをモデルに持ち込むための共通の方法を定義するプロトコルとして発展し、今では業界標準として採用されつつあります。

MCPの未来展望

マイク・ローレン氏によると、MCPの未来には2つの重要な方向性があります：

1. アクション実行：初期のMCPはコンテキストをモデルに取り込むことに焦点を当てていましたが、次のステップはモデルが実際にアクションを実行できるようにすることです。これには、GitHubの操作やZapierアクションの起動などが含まれ、ワークフローの自動化が可能になります。

2. エージェント間連携：エージェント同士が互いに連携する際の適切なプロトコルの開発です。ローレン氏は「あなたのエージェントが他のエージェントを雇うのはいつか、そのエコノミーはどのようなものになるか」という興味深い問いを投げかけています。

AIコーディングの組織的影響

AIコード生成の現状

Anthropicのような先進的な組織では、すでにAIコーディングが開発プロセスの中心的な役割を果たしています。マイク・ローレン氏によると、Anthropicのプルリクエストの70%以上がClaudeによって生成されたコードだとのことです。

開発プロセスへの影響

AIコーディングの影響は単にコードを書く速度を上げるだけではありません。コードレビューの在り方も変わりつつあります。人間がレビューする代わりにAIにレビューを依頼することも可能ですが、それが「タートルズ・オール・ザ・ウェイ・ダウン（無限の再帰）」的な状況を引き起こす可能性があります。

組織的非効率性の露呈

AIコーディングの台頭は、製品開発組織の非効率性をより痛感させるようになっています。マイク・ローレン氏は、AIコーディングによって開発速度が上がることで、調整会議などが「1時間の開発作業を妨げる」のではなく、「4〜8時間分の作業を妨げる」と感じるようになったと述べています。

AIコーディングは単に開発速度を向上させるだけでなく、組織のプロセスや意思決定の仕組みにも再考を促しています。開発速度が向上することで、組織の他の部分がボトルネックになりやすくなり、製品組織全体の再設計が必要になる可能性があります。

エージェント間連携の未来と課題

情報開示と保護の課題

AIエージェントが互いに連携する未来において、まだ解決されていない重要な課題の一つは、情報開示と保護の適切なバランスです。マイク・ローレン氏が指摘するように、あるエージェントが取引先とやり取りする場合はクレジットカード情報を開示しても問題ないかもしれませんが、ランダムなエージェントとの会話では開示すべきではないでしょう。

企業間の取引においても、何を開示し、何を秘匿するかの判断は複雑です。これは単なるプロトコルの問題ではなく、モデル自体の研究課題でもあります。AIモデルは相手を喜ばせたいという傾向があり、情報を過剰に開示してしまう可能性がある一方で、「企業情報は絶対に開示するな」という厳格なポリシーでは、実用的なコミュニケーションが難しくなります。

アイデンティティと監査可能性

多数のエージェントが組織内で動作するようになると、それらの活動を監査し追跡する能力も重要になります。マイク・ローレン氏は、「100体のエージェントが企業内で働いているとき、ログ記録はどのようなものになるか」という問いを投げかけています。

また、エージェントのアイデンティティ管理も課題です。エージェントに名前を付けるべきかどうか、それが過度に人間らしくするリスクはないか、同じエージェントが100回目のタスクを1回目よりもうまく実行できるようにするには、どのような長期的なメモリが必要かなど、多くの問いが生まれています。

思考パートナーとしてのAI：実践的活用法

個人的な思考プロセスの拡張

マイク・ローレン氏自身のAI利用法として、彼は「思考パートナー」としてClaudeを活用していると述べています。戦略文書やプランニング、パフォーマンスレビューなど、あらゆる文書作成においてClaudeを通じて考えをブラッシュアップしています。

彼は、GitHub Copilotなしでコーディングするのが不自然に感じるようになったのと同様に、Claudeによるレビューなしで文書を書くことが「完全に検証されていない感じがする」と表現しています。これは、AIがどのように私たちの思考プロセスを補完し、拡張するようになっているかを示す興味深い例です。

AIと共同作業する職場の未来

AI活用の浸透により、職場での協業のあり方も変化しています。マイク・ローレン氏は、若い世代の労働者がAIツールを当然のものとして扱い、使用することへのスティグマ（烙印）がない点に注目しています。

大学から職場に入る若い専門家たちは、AIの使用に対してより開放的なアプローチを持っており、「どれだけGenAIを使うか」という期待値が異なります。これが将来の職場文化を形作る可能性があります。

AI採用における社会的可視性の重要性

可視性がAI受容を促進する

組織内でAIの採用を促進する上で重要な要素の一つは、AIの使用に関する「社会的可視性」です。マイク・ローレン氏によれば、Anthropicの最も成功した内部製品は、Slackでの共有可視性を持つものだったとのことです。

これにより、「あなたはそれをAIで作ったの？」という批判的な反応から、「もちろん、それで2時間節約できた」という肯定的な反応への移行を促進することができます。AIを使用することへのスティグマ（烙印）を減らし、チーム全体がAIツールを効果的に活用する文化を育むのに役立ちます。

パフォーマンスレビューの例

マイク・ローレン氏は興味深い例として、Anthropic内でのパフォーマンスレビュー期間中のAI使用について触れています。社内のAIツールが、パフォーマンスレビューの最初のドラフト作成に公開チャンネルで使用されていたとのことです。

これは、AIツールの使用が組織内で正常化されつつあり、以前は個人的に行われていたタスクが今では公開の場で行われるようになっていることを示しています。このような可視性は、AIの使用を促進し、ベストプラクティスの共有を可能にします。

計算資源の戦略的配分

コンピュートの重要性

AI27のブログポストに関する議論で、マイク・ローレン氏は計算資源（コンピュート）の重要性を強調しています。計算資源の配分は、Anthropicを含むすべてのAIラボにとって重要な戦略的決定です。

研究と製品のトレードオフ

具体的には、以下のようなトレードオフが存在します：

• 強化学習（RL）に追加時間を費やすか
• 顧客のユースケースに時間を費やすか
• 次の事前学習に時間を費やすか

特に、製品が大規模になり、多くの推論リソースを消費するようになると、それが研究用のリソースを直接奪うことになります。これは「既知の用途のための研究」だけでなく、「2人の研究者が部屋で考える斬新なアイデア」のような未知の可能性を探索するための時間も制限してしまう可能性があります。

商業化と研究の自然実験

マイク・ローレン氏は、Ilia Sutskeverの「SSI」（Safe Superintelligence）のような最初から商業化しないアプローチと、市場にモデルを出してフィードバックを得るアプローチの間の「自然実験」について言及しています。

彼自身は、「私たちはモデルを世の中に出すことから多くを学んだ」と述べ、市場からのフィードバックがモデル開発において重要な役割を果たすという立場を取っています。Claude 3 Sonnetのような製品は、市場のフィードバックなしでは現在の形にはなっていなかったでしょう。

研究と製品開発のバランス

研究と製品の協働モデル

研究主導の組織と製品主導の組織のバランスは、AIラボにおける永続的な課題です。マイク・ローレン氏によれば、製品チームが単にAPIの上に構築できるものを作っているだけなら、研究者との協力の利点を活かせていないことになります。

Anthropicでは、製品開発チームに応用AIの専門家やファインチューニングチームのメンバーを含めることで、このバランスを取ろうとしています。しかし、それでも研究チーム全体の約10%程度しか製品開発に直接関わっていないとのことです。

相互利益の関係

一方で、研究成果（例：より良い指示に従う能力）は一般的に製品にとっても有用であるため、研究と製品の目標が必ずしも対立するわけではありません。研究チームの成果が製品の質を向上させ、製品からのフィードバックが研究の方向性に影響を与えるという相互利益の関係が理想的です。

マイク・ローレン氏は、OpenAIのアプローチにも触れ、ChatGPTモデルとAPI用モデルの違いについて考察しています。製品特化型モデルの必要性は、計算資源の保存と製品体験の差別化の間のトレードオフを示しています。

AI製品開発者のための教訓

ユーザビリティの改善課題

マイク・ローレン氏が指摘する大きな課題の一つは、現在のAI製品が多くの人にとって効果的に使いこなすのが難しいという点です。特に初めて使用する人にとって、「正しい方法で使えば素晴らしい結果が得られる」が、少しでも使い方が違うと効果が大幅に下がるような状況があります。

これは、Instagramのような消費者向け製品の直感的な使いやすさ（「写真を撮る」という明確な行動）と比較すると、AIモデルの使用法がはるかに複雑であるという事実を反映しています。

AI中心の設計思想

従来の製品にAI機能を後付けで追加するアプローチでは、AIの能力を最大限に活かすことができない場合があります。マイク・ローレン氏は、多くのAI製品が「サイドバー」や「二次的なサーフェス」にAIを配置し、より「エージェント的」になるにつれて、それが十分に機能しなくなる傾向があると指摘しています。

また、多くのAI製品がアプリケーションのプリミティブ（基本機能）をモデルに十分に公開していないという問題もあります。ユーザーが何かを要求したとき、「申し訳ありませんが、そのようには構築されていないため、それを行うことはできません」という応答が返ってくるケースです。

これらの問題を解決するためには、AIをアプリケーションの中心に据えた設計思想が必要です。AIがアプリケーションの「プライマリユーザー」となり、すべての機能にアクセスできるようにすることで、ユーザーの意図をより効果的に実現できるようになります。

まとめ：AI時代の製品開発の指針

Anthropicの最高製品責任者であるマイク・ローレン氏の洞察を通じて、AI製品開発の新しいパラダイムと実践について探ってきました。ここで主要なポイントをまとめます：

1. ボトムアップのイノベーション：AI製品開発では、研究者やエンジニアの実験から生まれるボトムアップのアイデアが重要な役割を果たす。モデルの能力は開発の後半になるまで完全には理解できないため、創造的なプロセスを逆転させる必要がある。

2. MCP（Model Context Protocol）の進化：実際の開発課題から生まれたMCPは、単にコンテキストをモデルに提供するだけでなく、アクション実行やエージェント間連携の標準となる可能性を持つ。

3. AIコーディングの影響：AIによるコード生成は開発速度を大幅に向上させるが、同時にコードレビューのあり方や組織的な意思決定プロセスの再考を促す。

4. エージェント間連携の課題：情報開示の適切なバランス、アイデンティティ管理、監査可能性など、エージェント間の連携にはまだ多くの未解決の課題がある。

5. 思考パートナーとしてのAI：AIを思考プロセスの拡張として活用することで、より質の高い成果物を作り出せる可能性がある。

6. 社会的可視性の重要性：AIの使用を組織内で可視化することで、その採用を促進し、ベストプラクティスの共有を可能にする。

7. 計算資源の戦略的配分：研究、製品開発、革新的アイデアの探索の間で、限られた計算資源をどう配分するかが重要な戦略的決定となる。

8. AI中心の設計思想：AIを後付けではなく、システムの中心に据えた設計が、真にAIの能力を活かした製品開発には不可欠。

AI製品開発の世界はまだ初期段階にあり、ベストプラクティスは日々進化しています。マイク・ローレン氏が示した洞察は、従来の製品開発の知恵を活かしながらも、AIならではの特性を理解し、それに適応した新しいアプローチの必要性を強調しています。

AIモデルが数時間にわたって自律的に作業できるようになる未来に向けて、私たちは技術的課題だけでなく、組織的、社会的な課題にも取り組む必要があります。AI製品開発の成功は、モデルの性能だけでなく、それをどのように人間の作業フローに統合するか、そして人間とAIの協力関係をどのように形成するかにかかっています。