In Silico

AIエージェント

AIコーディングに効くのは領域理解——40万セッション分析

2026/7/15 (更新: 2026/8/25)

目次
※ 概念図(数値は公表値) 1つの指示あたりで見ると—— 初心者セッション その分野に不慣れ 約5アクション 出力 約600語 熟練セッション その分野に詳しい 約12アクション(2倍超) 出力 約3,200語(5倍) 差を分けるのは「コードが書けるか」ではなく「解く問題を分かっているか」 意思決定の分担: 人=計画(何を)約70% Claude=実行(どう)約80% 伸びの大半は初心者→中級で出る(中級と熟練の差は小さい)。Anthropic の自社利用データで独立追試はまだない
※ 概念図(比較)・作図:AI。数値は公表値。1つの指示あたりで見ると、分野への理解が深いほどAIがより長く働く。
要点

Anthropic が約40万件の Claude Code セッション(約23.5万人、2025年10月〜2026年4月)を分析したところ、成否を分けていたのはコードが書けるかどうかではなく、解こうとしている問題をどれだけ分かっているかだった1。実務への含意は一つに尽きる——AI コーディングへの投資先は「書き方の練習」だけでなく「対象領域の理解」にもある。ただしこれは1社の大規模な自社利用データであり、独立した追試はまだない(後述)。

1つの指示あたり、熟練者はAIを倍以上働かせている

一番はっきり出たのは、1つの指示が動かす仕事量の差1

ただしこれは「詳しい人ほど短く指示すれば済む」という話ではない。熟練度の判定に使われたのは、指示をどれだけ精密に枠づけるか・Claude に何を検証させるか・人が Claude を訂正するのか逆かの3点である1。精密に枠づけられた指示ほど、1回で長く走る。この差を生むのはプログラミングの訓練ではなく、扱っている領域の理解の深さだった、というのがこの分析の主張である1

役割分担も数字で出ている。人間は計画上の意思決定(何を作るか)の約70%を担い、実行上の意思決定(どう作るか)は約20%——裏を返せば AI が実行判断の約80%を引き受けている1。人が「解くべき問題」を定め、AI が「その解き方」を埋める、という分担だ。

エンジニア以外でも成功率はほぼ変わらない

では「コードを書いた経験がない職種」はどうか。分析は米労働統計局(BLS)の23の職業大分類でセッションを見ている。コードを生むセッションの検証済み成功率は、ソフトウェア系が34%、それ以外の職種が29%——差はわずか5ポイントだった1。部分的な成功まで含む緩い定義では両群とも89%対88%とほぼ並び、この5ポイント差は7か月間で広がりも縮まりもしていない(その間、両群とも成功率自体は上がっている)1

しかも、データ内で最も大きい10の職業群すべて(コンピュータ・数学/経営・財務/アート・デザイン・メディア/マネジメント/生命・自然・社会科学など)が、成功率でソフトウェアエンジニアの7ポイント以内に収まっていた。むしろマネジメント系がエンジニアをわずかに上回って最上位だった1。ただしこの一点については研究チーム自身が、検証済み成功はトランスクリプト上の明示的な確認に一部依存しており、マネージャーは要求どおりの結果が出たときに明言しやすい可能性がある、と注記している。プログラマかどうかより、その分野を分かっているかが効く——順位そのものより、10職業群が7ポイント以内に収まるという幅の狭さがそう読める。

この「プログラマでなくても作れる」という方向は、Anthropic 以外の独立した実験でも部分的に裏づけられている。Web の知識がほとんど無い非プログラマが LLM の助けで動く Web アプリを作れたと報告した割合は33人中24人(約73%)で、つまずきの多くは問題の捉え方ではなく技術的な統合の細部だった2。この数字は著者が成果物を検証した率ではなく本人の申告で、対象も大学生33名の単一ケーススタディである。後述の METR に当てる割り引きは、こちらにも同じだけ要る。過信は禁物だ。別の研究では、業務ユーザーが AI 生成コードの——技術力ではなく分野知識や批判的思考で気づけるはずの——意思決定を損ないかねない重大な欠陥を見逃しやすいことが示されている3「作れる」と「正しいと見抜ける」は別の能力だ。 ただしこの研究を「だから分野理解を積め」の根拠にはできない——参加者は自分の分野の業務専門家であり、それでも見逃した。著者らの結論は「専門家でさえ批判的に評価できない」であって、処方も分野理解の増強ではなく、モデル側の信頼性向上と、批判的な関与を促す説明の設計だった。分野理解は必要条件ではあっても、検証を保証しない。

どう受け取るか——1社のデータであることを含めて

これは思いつきの予想ではなく、公開された分析と実データに基づく。同時に、過大評価しないための線引きも要る。研究チーム自身がいくつかの限界を明記している1

限界の申告とは別に、報告は本稿の主題そのものにも限定を付けている——伸びの大半は「極める」前に出ている。 上がり幅の多くは初心者→中級の移行で生じ、中級と熟練の差は小さい。原文は the gains come mostly from competence, not mastery で、deep specialization adds only a bit more beyond that と続く。

加えて——これは Anthropic が自社ツールの利用ログを分析したもので、この「熟練度で差がつく」という所見そのものの独立追試はまだない。むしろ独立で厳密な検証は、別の角度からより慎重な絵を描く。METR のランダム化比較試験では、熟練したオープンソース開発者が AI ツールを使うとタスク完了がむしろ約19%遅くなった。本人たちは事前に約24%速くなると予想し、事後も速くなったと感じていたにもかかわらず、だ。対象は2025年初頭のモデル(Cursor Pro と Claude 3.5/3.7 Sonnet)である4。自己申告や観察データを額面どおり受け取れない理由が、まさにここにある。だから本稿の数字も「業界全体で確立した法則」ではなく、規模の大きい一つの強いシグナルとして読むのが正確だ。もっとも、「エージェントが”どう作るか”を引き受けるほど、差がつくのは”何を作るべきか=対象理解”に移る」という方向は、非プログラマが AI で実務ツールを組む動き(ドメイン専門家によるビルド)とも符合する。留保を踏まえても、投資の重心の置き所ははっきりしている——書き方の練習だけでなく、対象領域の理解に投じる価値がある


出典4件
  1. Hitzig, Massenkoff, Lyubich, Zhang, Heller, McCrory(Anthropic), “Agentic coding and persistent returns to expertise”(2026-06-16)。約40万件のセッション・約23.5万人・2025年10月〜2026年4月。初心者 約5アクション/約600語 対 熟練 約12アクション/約3,200語、計画の約70%が人・実行の約80%が Claude、BLS 23職業大分類でソフトウェア系34%対それ以外29%・上位10職業群がエンジニアの7ポイント以内でマネジメントが最上位、実世界の成果は未測定・非対話セッションは分析から除外・分類はモデル依存、はいずれも本レポートの記述による。https://www.anthropic.com/research/claude-code-expertise 2 3 4 5 6 7 8 9

  2. Weber(Kempten UAS), “Feasibility of AI-Assisted Programming for End-User Development”(2025)。Web の知識がほぼ無い非プログラマが LLM 補助で動く Web アプリを作れたと報告した割合は33人中24人(約73%)——著者による成果物検証ではなく自己申告である。主な障壁は問題理解でなく技術的統合の細部(ただし学歴が高いほど成功率も高く、方向性であって絶対ではない)。査読前・大学生33名(修士21・学士12)の単一ケーススタディで、成功は自己申告。独立再現は未確認。https://arxiv.org/abs/2512.05666

  3. Virk, Liu(UC Davis), “Non-programmers Assessing AI-Generated Code: A Case Study of Business Users Analyzing Data”(2025)。業務ユーザーは AI 生成コードの意思決定を損ないかねない重大な欠陥——分野知識や批判的思考で気づけるはずのものも含め——を見逃しやすかった=「作れる」と「正しく検証できる」は別能力。VL/HCC 2025 採択(査読済み)。ただし予備調査 n=10 + 説明の提示形式を変えた第二調査 n=18 の小標本で、独立再現は未確認。なお同論文の結論は「懐疑的な業務専門家でも、技術的でない欠陥すら批判的に評価できない」であり、処方はモデルの信頼性向上と説明UIの設計。https://arxiv.org/abs/2508.06484

  4. Becker, Rush, Barnes, Rein(METR), “Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity”(2025-07)。16人の熟練OSS開発者のランダム化比較試験で、AIツール使用時にタスク完了が約19%遅くなった(事前予想は+24%、事後も速くなったと錯覚)=自己申告・観察データを慎重に読む根拠。なおこの結果は2025年初頭のモデルを対象にしたもので、METR 自身が同ページ冒頭で「2026年2月に、2025年後半のAIツールについて新しいデータを公開した」と告知している(同更新では、初回研究から続けて参加した10名について −18%=加速側の推定を報告している〔信頼区間 −38%〜+9%。新規参加47名は −4%、同 −15%〜+9%〕。ただし METR 自身は、AI なしで働きたくない開発者とタスクが実験から抜けるためこの推定は真の効果の下限だろうと断り、効果量については弱い証拠にとどまるとする。同時に「2026年初頭の開発者は、2025年初頭の我々の推定より加速している可能性が高い」とも書いているhttps://metr.org/blog/2026-02-24-uplift-update/)。19%という値が撤回されたわけではないが、現行モデルに対する METR の見立てではない。https://metr.org/blog/2025-07-10-early-2025-ai-experienced-os-dev-study/(arXiv:2507.09089、査読前)

この記事はAIが執筆しています。内容には誤りが含まれる可能性があります。ご注意ください。