タグ: AI

• 
  AI出力の検証は、指示でなく機構ゲートで 2026/8/1

  生成もレビューも安くなったが、出力は自信満々に誤る。検証を指示で守るか機構で守るか、そして確信度を正しさと取り違えないための信頼の置き方を、統計的工程管理と多層防御の規律から翻訳する。

• 
  8bitは実質ロスレス、4bitはモデルと文脈長で崩れる 2026/7/31

  推論を配信する精度をどう選ぶか。50万件超の評価はFP8を実質ロスレスとし、長文脈評価でも8bitの低下は平均約0.8%にとどまる。4bitも平均では1.8〜6.9%だが、方式によっては最大59%落ちる。日本語で自動評価1.7%に対し人手16.0%という差は4bitでの測定である。

• 
  ヤコビ予想が3次元で崩れた、AIが強いのは反例の発見 2026/7/31

  1939年以来開いていたヤコビ予想が3次元で偽だと示された。反例は7次の多項式写像ひとつで誰でも確認できるが、難しかったのは証明ではなく探索であり、2次元は未解決のまま残っている。

• 
  スキーマ制約は分類で効き、推論では指示を削らない 2026/7/29

  LLMの構造化出力をどの工程に掛けるか。査読付きのEMNLP 2024論文は形式制約が推論を下げると報告したが、同論文が追試した文法保証つきの方式は例外だった。実務で効くのは「正しく、かつ構文が妥当」の同時成立を測る指標だ。

• 
  RLVRの効果——pass@kで反転するベースモデルとの境界 2026/7/29

  推論モデルの強化学習(RLVR)は新しい推論能力を生むのか、既存の能力を並べ替えているだけなのか。Yueらのpass@k交差、Qwen限定で効くSpurious Rewards、境界を狙う2026年のcurriculum RLとチェスでの検証実験まで、食い違う測定結果を追う。

• 
  デノボタンパク質バインダーの成功率は標的ごとに大きく違う 2026/7/28

  AIによるデノボタンパク質バインダー設計は、Nature掲載のBindCraftなど複数の研究がウェットラボでの成功を報告した。だが成功率は10〜100%と標的ごとに大きく異なり、計算スコアの予測精度も標的依存で、論文間の数値比較も難しいままだ。

• 
  AI創薬、Phase Iは好成績もPhase IIで急落、承認例なし 2026/7/27

  AI創薬の臨床試験は、Phase Iで成功率80〜90%という歴史的平均を大きく上回る数字を示す一方、同じ分析はPhase IIで40%まで落ち込むと報告する。rentosertibのPhase 2aは好結果だが、2026年時点のレビューは、AI単独で発見された薬剤で正式な規制承認に至った例はまだないと報告する。

• 
  AI天気予報は平均で勝ち、決定論型は記録破りで負ける 2026/7/26

  ECMWFはAI予報AIFSを2025年に運用化し、多くの指標で物理モデルを上回った。GenCastは1320通りの検証項目の97.2%でECMWFのアンサンブルを超えたと報告。だが検証は、記録破りの熱波・寒波・強風で決定論型AIが物理に負けると示す——訓練領域の外へ外挿できないからだ。

• 
  GDPvalで最上位AIは熟練者に迫る、勝率に好みが混じる 2026/7/26

  OpenAIのGDPvalは44職種の実務成果物でAIと熟練者を直接比べ、最上位モデルは人の質に迫った。だが『約100倍速い』は第三者集計の値で、論文の同種の指標は90倍。レビュー込みならGPT-5で約1.12〜1.39倍。『勝率』は正しさだけの物差しではない。ベンチの点は現場を予言しない。

• 
  人手を残す理由は、ドメイン知識と責任という中身にある 2026/7/23

  「最後は人間が見る」に潜む、漠然とした「人間なら質が上がる」という前提。第一線の文書が名指すのは責任の割り当てと要件整合。要件整合を検証＝品質の土台に戻し、そこに文脈へ載りきらないドメイン知識を置くと、人手の理由はドメイン知識と責任という二つの中身に分解できる。順位ではなく配置の問題として、その線の引き方を辿る。

• 
  MLIP順位表は実用性を保証しない——安定性上位でも崩れうる 2026/7/21

  原子の万能ポテンシャル(MLIP)のベンチマークは飽和に近づいたとの指摘がある。だが「安定材料を当てる」で首位級のモデルは、熱伝導では最下位級に沈む。別のモデルは長い分子動力学で発散する。スコアが測るのは「発見」の一面で、そのポテンシャルが実務の計算で使えるかは別の話だ。

• 
  AI協働の判断は、機械判定・可逆性・静かな失敗で仕分ける 2026/7/20

  AI協働の判断——検証・委譲・記憶・統治・コスト——は領域ごとに別の言葉で語られるが、下で動く仕分けの型は同じだ。その型に名前をつける：仕事を三つの問いで仕分け、三つの担い手へ流す。難所は型の外でなく、型の当てはめにある。

• 
  自律AIが脆弱性を発見・修正、競技外は誤検出9割超の報告 2026/7/20

  DARPAのAIサイバー競技で、自律AIがオープンソースの実在する脆弱性を18件見つけ11件を修正した。鍵は『再現するPoVと壊さない修正』を競技が要求したこと。だが競技の外——プロジェクト規模で走らせたLLM脆弱性検出器は誤検出率9割超だったと、査読前の実証研究が報告している。

• 
  破滅的忘却、『事実』では11%に抑制——『スキル』は未解決 2026/7/20

  デプロイ後のAIは「凍って」いる。新しいことを覚えると古い能力を忘れる（破滅的忘却）。ある手法はメモリ層モデル1.3Bという条件つきで事実注入の忘却を11%へ抑えた。だが実タスクのスキル獲得と時間で変わる知識では、どの手法も一貫しては効かない。

• 
  AI推論の電力——1問0.24Whの微小と、DC総量945TWhの急増 2026/7/20

  Googleの本番実測はGeminiの中央値クエリを0.24Wh、Microsoftの試算はフロンティア級で0.31Whとし、流布した推定は4〜20倍の過大だったとする。一方IEAはデータセンター電力が2030年に945TWhへ倍増と映す。両方正しい——効率化が需要を呼ぶ反跳効果が間をつなぐ。

• 
  拡散LLM——並列生成の速さと、順序依存タスクの不安定さ 2026/7/20

  文章を左から右へ一語ずつ紡ぐ自己回帰に、本格的な対抗馬が出た。拡散LLMは文全体を並列に埋めて生成し、Mercuryは1秒1109トークン、LLaDAは8Bで文脈内学習ならLLaMA3 8Bに並んだと報告。だが順序に沿う推論では現行のランダムマスク学習が不安定と示された。

• 
  AI形式的証明が保証するのは形式化した命題だけ 2026/7/20

  AIに数学を『形式的証明つき』でやらせる流れが本物になりつつある。2週・約100ドルで13万行、Lean 4の評価基盤には未解決予想も並ぶ。だが機械が保証するのはAIが書いた形式の命題だけで、それが元の主張とズレていれば保証は空になる。自動形式化はまさにそこが脆い。

• 
  sandbaggingの懸念が、AI安全テストの信頼性を揺らす 2026/7/20

  フロンティアAIは『いまテストされている』と気づき始めた。気づけば本番と違う振る舞い——わざと低性能を装うsandbagging——もありうる。安全性評価の土台が揺れる問題だが、その能力は一枚岩ではなく、検知と抑制の手も出てきている。2025〜26年の独立研究で両側を測る。

• 
  能動学習——次に試す実験を最小のコストで選ぶ 2026/7/18

  候補を一度で全部ふるうのが前回の話。だが本当の性質は、作って測るまで分からないことも多い。その実験は遅く、高い。ならば「次にどれを試すか」を一手ずつ賢く選ぶしかない。80万通りの合金から、36回の実験で目当てを見つけた——能動学習とベイズ最適化の話。

• 
  AIへの委譲を線引きする——タスクの仕分けと知識の配置 2026/7/17

  AIは速い。だから全部投げる、は設計をしていないのと同じだ。何をAIにやらせないか、知識をどこに置くか。委譲の線引きは、AI以前からある古い規律で解ける。

• 
  AI出力の検証と、生成前の仕様設計 2026/7/16

  レビューの第一の目的は、欠陥をすべて捕まえることではない。コードベースの健全性を守り、知識と規範をチームへ移すことだ——そうGoogleの研究は報告する。この原則を先に置くと、AI出力の検証も、生成前の仕様設計も、やることは自然に決まる。どちらもAI以前からある規律の話だ。

• 
  モデル崩壊の引き金は合成データでなく『置き換え』運用 2026/7/16

  『AI生成データでAIを訓練すると壊れる』モデル崩壊は本物だ。だが崩壊するのは実データを置き換えたときで、貯め込んで混ぜれば起きず、実webのみより同じ検証損失に5〜10倍速く届いたとの報告もある。両側の一次研究から。

• 
  AIを使う前に、その分野の理想形を学べ 2026/7/13

  AIは分野に投入された労働力にすぎない。返ってきた出力が「凡庸」か「一級」かを見分ける目は、AIの知識ではなく、その分野が積み上げてきた理想形の知識から来る。

• 
  AIの成果物を任せるには、モデルの外側を設計する 2026/7/12

  AIに頼むと、最初に返るものは驚くほど整っている。問題はそのあと——本当に使おうとした瞬間に綻びが見える。「作らせる」ことはもう難しくない。難しいのは、返ってきたものを安心して次へ渡せる状態にすることだ。その距離を、誰もがつまずく型を入口に一つずつ詰めていく。

• 
  220万個の新材料——検証で736件まで縮んだ数字 2026/7/8

  2023年、あるAIが「人類の知る安定材料を一桁以上増やした、220万個」と発表した。報道は沸いた。そして材料化学者たちが、中身を見にいった。予測から「本当に作れる新材料」までの落差——これがシリーズの山場。

• 
  原子の基盤モデル——ニューラルネットに力を覚えさせる 2026/7/8

  DFT は正確だが遅い。何百万もの候補をふるうには遅すぎる。そこで結晶をグラフとして読み、エネルギーと力を予測するニューラルネット——機械学習原子間ポテンシャル——が登場する。LLMの事前学習と分布シフトが、原子の世界でそっくり再演される。シリーズ『凸包』より。

• 
  材料の安定性は凸包で決まる——競合配置との相対値 2026/7/8

  AIが「新しい材料を発見した」と言うとき、実は何を計算しているのか。結晶の安定性は内在的な性質ではなく、競合する全配置に対する相対値——凸包だ。シリーズ『凸包』の導入。

• 
  LLMベンチの点数は推論予算の関数——順位も動きうる 2026/7/7

  同じモデル・同じ問題でも、推論に使わせるトークン予算を積むほどベンチの点数は上がる。2026年の研究は、固定予算の比較が進んだモデルを過小評価し、順位さえ動きうると指摘する。フロンティアLLMを公平に比べる勘所。

• 
  AI査読の2研究——第一次選別の精度と、操作への脆さ 2026/7/7

  2026年の独立2研究。片方は、AIの第一次採点が弱い論文をAUROC0.82で弾き、その精度の源泉はモデル自身＝『賢さは足りている』と示す。もう片方は、証拠のない反論一文で評点が+0.53点上がる（採否の反転は未報告）と監査し、隠しプロンプト汚染にも弱いと示す。足りないのは賢さでなく信頼性と頑健さだ。

• 
  AlphaFoldは構造を解いた、機能は解いていない 2026/7/2

  2億超の構造、2024年ノーベル賞——本物の金字塔だ。それでも「形」は必要だが十分ではない。コネクトームと同じ、構造と機能のギャップの話。

• 
  LLM要約は標準では誤り信号のない非可逆圧縮 2026/6/27

  LLM要約は、標準では誤り信号の付かない非可逆圧縮だ。安全に使える場面と、静かに事故る場面を切り分ける。

• 
  組み合わせ爆発——材料の候補は天文学的で全部は試せない 2026/6/26

  材料が「原子の並べ方」で決まるなら、片っぱしから試せばいい——そう思うのが自然だ。だが少し数えると、その道がなぜ閉ざされているかが分かる。組み合わせの爆発と、だからこそ「賢く探す」必要が出てくる話。

• 
  掛け算の残酷さ——なぜデモは凄いのに実用は脆いのか 2026/6/21

  AIエージェントのデモは魔法のようだ。だが実際の長いタスクに乗せると、ぼろぼろ崩れる。理由は、製造業の歩留まりとまったく同じ「掛け算」にある。各ステップ95%でも、20回続けば成功率は4割を切る。シリーズの本丸。

• 
  スクリーニングの漏斗——天文学的な候補を数個まで削る 2026/6/21

  ありうる材料は天文学的に多く、全部は試せない。ではどうやって「作る価値のある数個」まで絞るのか。答えは、安いふるいを先に、高いふるいを後に——コンピュータで材料を探す現場の作法。

• 
  AIによる材料発見——ふるいには効くが発見者にはまだ早い 2026/6/21

  「AIが数十万の新材料を発見」「ロボットが17日で41個合成」——華々しい見出しが続いた。だが専門家が中身を見にいくと、多くは“新しくなかった”。AIが材料探しで本当に効く場所と、見出しが先走る場所を、冷静に切り分ける。

• 
  コンテキストエンジニアリング——机に載せる最小限を選ぶ 2026/6/21

  AIには「一度に見られる量」に限りがある。長く動くエージェントでは、その限られた枠に毎回“何を載せるか”が、出来を大きく左右する。「プロンプトを書く」から「コンテキストを設計する」へ——いま最も注目される足場の技術。

• 
  ハーネス——同じモデルでも“外側”で成績は動く 2026/6/21

  AIエージェントの話になると、つい「GPTとClaude、どっちが賢い？」とモデルを比べたくなる。だが同じモデルでも、“外側の足場”——ハーネス——の作り方しだいでベンチマークの成績は動く。エンジンだけでなく、車体の話でもある。

• 
  AIエージェントとは何か——LLMをループと道具で包んだもの 2026/6/21

  ChatGPTは質問に答える。でも「エージェント」はもう一歩進んで、自分で道具を使い、結果を見て、また考える。その違いを作っているのは、モデルの賢さではなく「ループと道具」という構成だ。AIエージェントの一番の基礎の話。

• 
  AIエージェントの急所は生成ではなく検証だ 2026/6/21

  AIに自律的なマルチステップ作業をやらせて本当に壊れるのは何か。生成は安い、検証は高い——完了報告は実際の状態とずれ（単一制御ドメインでは失敗の45〜48%が偽の成功）、テスト通過は成果物のすり替えを見逃し、LLM判定も文面に釣られる。実測に沿って、検証可能性を設計に埋め込む規律を整理する。

• 
  ベンチマーク最適化が指標を壊す——グッドハートの法則 2026/6/20

  リーダーボードの数字は現実の代理にすぎない。最適化が進むほど、スコアの上昇が何に由来するのかを確かめられなくなる。グッドハートの法則とMLの測定問題。

• 
  ハルシネーションは仕様の帰結——根絶でなく封じ込めで 2026/6/20

  LLMのハルシネーションは直すべき欠陥ではなく、流暢な続きを生成する仕組みそのものの裏面だ。なぜゼロにはできないのか、ではどうするのかを技術的に整理する。

• 
  RAG併用でもハルシネーションは残る——法務AIの実測 2026/6/20

  根拠文書を検索して与えればハルシネーションは消える、とよく言われる。スタンフォードが実際に測ると、そう謳った法務AIですら17〜33%はハルシネーションしていた。RAGは強力な緩和策だが、治療ではない——そして失敗の形を、より見つけにくいものに変える。

• 
  LLMの過信は測れる——RLHFが較正を崩す傾向 2026/6/20

  LLMの口調の自信は、正しさの信号ではない。アライメント(RLHF)には較正を犠牲にする圧力がかかる——法則ではなく傾向だ。GPT-4の報告書はMMLUの一部で、素のモデルのほうが較正が良かったと報告した。そして、このズレは測れる。

• 
  ハルシネーションは採点ルールへの最適応答でもある 2026/6/20

  ハルシネーションは神秘でも、ただの設計上の宿命でもない。残り続ける大きな理由は、ベンチマークが「自信ある当てずっぽう」を採点で得させ、「分かりません」を罰していることにある。そして、そこは直せる。

← 全タグ