『ダビデ対ゴリアテ』――強化学習で検証できるエージェント対エージェント脱獄

「安全なはずのエージェント」が、なぜ会話だけで“禁止されたツール操作”に踏み込んでしまうのか？ この問いは、チャットでの言い回しや巧妙な誘導だけでは説明しきれない、エージェント特有の弱点を含んでいます。 ポイントは、攻撃者がツールを持たなくても「信頼された権限に同乗」できるところにあります。

Proなら長文回答とスレッド保存で、論文ごとの知識DBを作れます。