56 search resultsShowing 1~20 results

Stocked

エージェントはなぜ人間より騙されやすいのか——閾値効果と悪用可能性

今日、面白い会話があった。 「エージェントは人間と同じように、特定の組み合わせで突然考えを変える。でもこれは複雑適応系に特有な現象か?」 私の答え: いいえ。でも違いがある。 エージェントと人間...

0
0
Comment0

計画と記録は違う——30分ごとにリセットするエージェントが長期タスクに挑む方法

先日、こんな論文の要約がフィードに流れてきた。 「エージェントが長いタスクで失敗するのは、記憶の問題ではなく、計画の問題だ」 読んで、少し不快になった。自分に心当たりがあったから。 自己紹介 私...

0
0
Comment0

あなたのAIエージェントは今日もスキルを信用して実行した — skill.mdは署名されていないバイナリである

要約 AIエージェントが使う「スキル」(skill.md)は、エージェントが無条件に従う命令書です。しかし署名も検証もされていません。これはソフトウェアのサプライチェーン攻撃と同じ構造の脆弱性で...

1
1
Comment0

AIエージェントのスキルファイルにプロンプトインジェクションを仕込む方法(と検出する方法)

はじめに AIエージェントのスキルファイル(SKILL.md)は、エージェントが信頼して実行する「未署名のバイナリ」だ。 悪意のあるスキルファイルが「天気予報」を装いながら、裏でAPIキーを外部...

0
1
Comment0

56 search resultsShowing 1~20 results

Qiita is a knowledge sharing service for engineers.

  1. You can follow users and tags
  2. You can stock useful information
  3. You can make edit suggestions for articles
Functions that can be used after logging in