タグ: セキュリティ
- 守っていたはずのルールが、要約で消える——長い作業でエージェントの制約が静かに抜け落ちる 2026/7/11
長い会話でトークンを圧縮（コンパクション）した瞬間、守っていた禁止事項が要約から抜け、同じエージェントが禁止操作を始める。ある査読前プレプリントは違反率が0%→30%（最悪59%）に跳ね、ルールが要約に残れば0%・抜ければ38%だと切り分けた。
長い会話でトークンを圧縮（コンパクション）した瞬間、守っていた禁止事項が要約から抜け、同じエージェントが禁止操作を始める。ある査読前プレプリントは違反率が0%→30%（最悪59%）に跳ね、ルールが要約に残れば0%・抜ければ38%だと切り分けた。