責任経路とは何か――AIは責任を扱えない？から始まった設計の話
最近ずっと、AIエージェントが外部へ何かを実行したとき、その責任がどこに残るんだろうと考えています。 APIを叩くだけなら簡単です。でも、誰が承認したか、実際に何が起きたか、失敗したあと誰が再開...
0
0
Comment0
6 search resultsShowing 1~6 results
Stocked
You need to log-in
AIエージェントに「関係責任」を実装するなら――可変な責任境界を持つAgent Architectureを疑似コードで考える
このシリーズでは、まずOpenAIのサイバー事例からAIエージェントの境界を考え、続いてBig Tech 4社のAgent Safety設計を比較しました。 AIエージェントへToolを渡すと、...
0
0
Comment0
AIエージェントの再試行を全部同じにしない――責任経路OSで再試行・再開・再承認を分ける
前回は、AIエージェントの責任境界を固定permissionだけで決めず、Authority、第三者影響、Evidence、可逆性、Relationの変化から再計算する設計を書きました。 その続...
0
0
Comment0
AIエージェントに「責任経路」を実装する――Capability・Authority・Evidence・Resumeを分離する設計
最近、AIエージェントに外部APIやMCP Tool Callを実行させる仕組みを作っていて、同じところで何度も引っかかりました。 AIがその操作をできることと、その操作をやってよいことは別です...
0
0
Comment0
Big TechはAIエージェントをどう止めているのか――OpenAI・Anthropic・Google DeepMind・Microsoftの安全設計を比較する
前の記事では、OpenAIの2026年のサイバー事例から、AIエージェントの境界を考えました。 ただ、ここで自分の仮説に都合のよい事例だけ集めても意味がありません。 そこで今回は、反証になりそう...
0
0
Comment0
AIエージェントは「越えてはいけない境界」を理解しているのか――OpenAIのサイバー事例から実行経路を考える
最近、AIエージェントの安全設計を追っていて、少し気になる事例が続きました。 「危険な操作を禁止する」「sandboxへ閉じ込める」だけなら分かりやすいのですが、AIが自分で想定外の実行経路を見...
0
0
Comment0
6 search resultsShowing 1~6 results
Qiita is a knowledge sharing service for engineers.
- You can follow users and tags
- You can stock useful information
- You can make edit suggestions for articles