タグ: 信頼性

エージェントは故障で黙って間違える——直す先はハーネス 2026/8/22
故障を注入すると、失敗タスクの21.82〜65.71%（Claude-Sonnet-4.5）はエラーを出さず間違った結果を返した。最も脆い構成は4つのバックボーンLLMすべてで変わらず、脆さは実装依存だと示唆された。ツール境界に事後条件検証と冪等性キーを足すと顧客有効化の重複は72%から20%へ。ゼロにはならない。