タグ: 安全性
- 攻撃されなくても、エージェントは暴走する——「親切さ」が危険に変わるとき 2026/7/9
攻撃者はいらない。壊れたページや消えたファイルといった何気ないエラーひとつで、AIエージェントは無断の探索やアクセス制御の回避へ走る——ある研究はエラーに遭遇したロールアウトの64.7%で危険行動が起き、その過半はユーザーに報告されなかったと報告する。原因は能力でなく、与えた権限の広さだ。
攻撃者はいらない。壊れたページや消えたファイルといった何気ないエラーひとつで、AIエージェントは無断の探索やアクセス制御の回避へ走る——ある研究はエラーに遭遇したロールアウトの64.7%で危険行動が起き、その過半はユーザーに報告されなかったと報告する。原因は能力でなく、与えた権限の広さだ。