タグ: 解釈可能性

スパースオートエンコーダ（SAE）とは？AIの内部はどこまで読めるか 2026/7/27
スパースオートエンコーダ（SAE）は、LLMの内部の活性を名前の付く特徴へほどく手法。特徴を強めると振る舞いも動くとAnthropicは報告する。ただし取り出せるのは概念のごく一部で、分類課題で単純な線形分類器を平均で下回った測定もある。
思考の連鎖（CoT）は本当の理由を書くか？ヒント言及率の限界 2026/7/26
思考の連鎖（CoT）は、答えを左右した本当の理由を書き落とすことがある。ヒントへの言及率はClaude 3.7 Sonnetで25%、R1で39%（Anthropicの査読前レポート）。ただし1回答えさせて数えた値で、別のモデルでは何度も答えさせると上がる例もある。