タグ: AI

Snowflake Cortexとは？データを外に出さずにSQLでAIを使う 2026/10/30
SnowflakeのCortex AI関数は、表の中の文や画像をSQLからAIで分類・要約・判定する機能である。データの扱われ方、AI Creditsでの課金、使える人の決め方、Cortex AgentsとSnowflake CoWork、精度の注意、Snowparkを説明する。
Cloudflareで検索は許可・AI学習は拒否、新設定の仕組みと限界 2026/9/26
Cloudflareの新設定Disallow AI Trainingは、検索を残してAI学習のクローラーを遮断する。2026年9月15日公開。残すのは学習の拒否を検索と分けると約束した混用クローラーだけで、分離が効くかはその約束しだいだ。用途別の意思公開は2023年からある。
推論モデルは安全性が落ちる？拒否が両方向にずれる実態と防ぎ方 2026/8/31
推論モデルは、作り変えの訓練で安全面の振る舞いが既定では保たれず、断りすぎと断り漏れが同時に増えうる。ある変換経路では無害な設問の正答率が半分以下に落ちた。1.5B〜14B規模を調べた査読前の監査の報告で、訓練中に手当てできるという報告もある。
医療QAでLLMの思考連鎖を壊すと？30種の摂動で見た忠実性 2026/8/31
医療QAでLLMの思考連鎖（CoT）を壊しても正答率はほぼ動かなかったと、監査論文1本が報告した。変化の中央値はほぼ0ポイントで、設問の患者属性・否定・重症度を書き換えても、CoTがそれを記録せず答えも変えない割合はオープン11モデル全体で72.9%。
ロボット模倣学習でデータの質は何で決まる？なめらかさと決定的な瞬間 2026/8/31
実演から学ばせるとき、良いデモとは何か。なめらかさで選別すると、ある課題では6分の1のデータで成功率が16ポイント上がる。一方、効率よくこなした実演は決定的な瞬間を短く圧縮して教え損なうという報告もある。二つは同じ軸に載らない。
AI駆動の研究が成果を出す条件は？AlphaEvolveなど4事例を比較 2026/8/31
4事例を比べると、AI駆動の研究の分かれ目は、採点に候補を落とす力があるかどうかにある。湿式実験や評価器が候補を落とすCo-Scientist・AlphaEvolveと、選ぶのに使わなかった保留データで採点したERAは検証を通り、原著者の採点が実行後の一度だけだった試験は6点満点で2点・1点だった。
圧電テンソルの機械学習：対称性で決まるゼロをモデルは守れるか 2026/8/28
圧電テンソルの機械学習予測が対称性のゼロを守れるかは、特徴量のパリティで決まると2026年8月のプレプリントは主張する。中心対称の結晶2,000種（理想化した座標）でO(3)モデルは閾値を一度も超えず、SO(3)は90〜96%で超えた。ゼロを足して訓練した実験でも約9割が超え、厳密なゼロには届かなかった。
LLMの自己学習と蒸留の違い：ほぼ解けない問題を伸ばすのはどちらか 2026/8/27
LLMの自己学習は自分の解答で、蒸留は強いモデルの答えで訓練する。ほぼ解けない問題を伸ばしたと言えたのは蒸留だけで、自己学習3方式は言えなかった。訓練前のモデルを同じ手続きで測った、1モデル・小規模設定の査読前の監査1本の結果だ。
LLMのモデル移行で何を測り直す？総合点が上がっても後退する項目 2026/8/26
LLMのモデル移行では、総合点が上がっても後退する項目が残りうる。2026年8月のプレプリントはGPT系の3つの移行すべてで改善と後退の項目が同居すると報告し、7.3ポイント伸びた組でも6.0%が後退した。測り直しで安く済む部分と省けない部分も扱う。
OpenAIが単位距離予想を反証、数学者はAIの証明をどう検証したか 2026/8/17
OpenAIの単位距離予想への反例は、発表当日に9人の数学者が短く消化し人手で検証した版を出し、先行研究も特定した。8月の10件の解法発表でも数学者が2日のうちに別構成を示し、「10年間進展なし」の主張は8月3日に削除されたと記録した。
外観検査AIの精度と限界：MVTec AD 2で苦手が解像度で入れ替わる 2026/8/16
正常画像で学習する外観検査AIは、現実的な条件で組み直したMVTec AD 2では、作成者が既定設定で試した7手法のどれもAU-PRO（許容0.30）で60%未満、主指標の許容0.05では32%未満にとどまる。縮小評価で低いのは金属反射とテクスチャで、解像度を上げると4対象中3つが持ち直す。
EU AI法第50条の透明性義務が8月2日開始：表示義務と透かしの限界 2026/8/16
EU AI法第50条の透明性義務は2026年8月2日に適用が始まり、提供者はAI生成物に機械可読の印を付ける義務を負う。ただし自己回帰型画像生成の透かしは方式ごとに除去か偽造に破れると査読前の研究が報告する。法は印の頑健さを技術的に可能な範囲で求めるが、印の無い物を見分けることまでは求めていない。
サロゲートモデルとは？元が取れる条件：解く回数と比べる相手 2026/8/16
サロゲートモデルは、数値ソルバの入出力例から学び、ソルバを経ずに近い答えを返すモデルだ。推論は速いが、データ生成と訓練の前払いがある。採否は解く回数と、誤差を揃えた古典ソルバとの比較で決まる。NeurIPS 2024のコンペとプレプリントを例にする。
機械学習ポテンシャルとは？仕組み・速さの理由・学習範囲外の限界 2026/8/14
機械学習ポテンシャル（MLIP）は、DFTの計算結果を学習し、原子の配置からエネルギーと力を予測するモデル。電子の方程式を解かず、計算量もおおよそ原子数に比例するので桁違いに速いが、学習データの範囲外では気づかずに外れうる。対策の能動学習まで説明する。
AIと学習：認知負荷理論で分ける、任せてよい負荷と任せられない努力 2026/8/14
学習でAIが本に勝るのは、説明の過不足を読者ごとに語り直せる点。思い出す努力まで任せると学習も消える。1校の高校生約千人の数学の実験では、素のGPT-4を使った群が試験で対照群を17%下回り、答えを言わない設定では対照群並みだった。
AI協働で本当に新しい問題は何か：AIが壊す前提の見分け方 2026/8/14
AI協働の問題の大半は、昔からある規律の翻訳で解ける。見分ける問いは二つある。既存の作法はあるか、AIが壊す前提は何か。残った新しさは壊れた前提として挙げ、その答えには日付を添える。
AIを使えば判断力は伸びる？伸びない二つの理由と直し方 2026/8/10
AIを使っているだけでは判断力は伸びない。結果と突き合わせない反復は改善につながらず、課題をこなせても学びが起きないことがある。直し方は、AIに移す負荷を選ぶことと、予想を先に書いて結果と照合すること。高校生の無作為化実験と熟達研究で追う。
機械学習ポテンシャルの微調整：効く条件と、手法より効く設定 2026/8/4
機械学習ポテンシャル（MLIP）を微調整するかは、現行の汎用モデルを自分の観測量で測ってから決める。20%のデータ（664構造）で全データ学習に並んだ例がある一方、MOFの体積弾性率では新しい汎用モデルの誤差が微調整モデルより小さかった。
AIエージェントを多数動かすガバナンス：例外監視と権限の絞り方 2026/8/3
AIエージェントを多数動かすときは、全部でなく例外だけを人が見て、権限は約束でなく構造で絞る。Claude Code・Codex CLIなど5つのハーネスの既定は4種に分かれ、Codex CLIとOpenHandsは行為が届く先を縮める方法を既定に置く。
AIエージェントとスクリプトの使い分け：非決定のコストと来歴 2026/8/3
AIエージェントとスクリプトは、確認と作り直しの費用まで含めた純益で使い分ける。仕様を一行で固定できる仕事はスクリプトへ、取り返しのつかない仕事は人の承認へ回し、作った出力には再現でなく来歴と事後の検証を残す。
AIエージェントの記憶の設計：RAG・要約・引き継ぎの使い分け 2026/8/2
AIエージェントの記憶は、大きな資料をRAGで取り出し、作業中に伸びた履歴を要約し、区切りで次に要るものを引き継ぐ。落ちて困る指示は規約ファイルへ書き、何を落としたかも記録する。圧縮と引き継ぎを同じ課題で比べた公開の測定は見当たらず、この使い分けは測定で裏づけた結論ではない。意図は曖昧さの高い所だけ仕様で固定する。
AI出力の検証はどこまで自動化できる？CIで止める違反と人が見るもの 2026/8/1
AI出力の検証は、機械が判定できる違反をCIなどのゲートで止め、判定できず戻せない誤りに人手を残す。軽く戻せるものはサンプリング監査で流す。確信度を正しさと取り違えない読み方と、組み違えたゲートが緑を返す限界も扱う。
LLMの量子化で精度はどこまで落ちる？8bitと4bitの違い 2026/7/31
LLMの量子化による精度低下は、8bitなら平均でほぼ無損失、4bitは方式とモデルの組み合わせしだいだ。長いコンテキストの評価では4bitの平均低下は1.8〜6.9ポイントだが、最大59ポイント落ちた例がある。日本語の4bitでは人手評価で16.0%落ちた（1モデル）。
AIが出したヤコビ予想の反例：7次の写像と、人による検証 2026/7/31
ヤコビ予想は、AIの助けで見つかった反例により3次元で偽と分かった。反例は7次の多項式写像ひとつで、代入すれば誰でも確かめられる。難しさは証明でなく探索にあったとみられる（プロンプトと出力は非公表）。2次元は未解決のまま。
LLMの構造化出力で精度は落ちる？分類と推論での使い分け 2026/7/29
LLMの構造化出力で推論の精度が落ちるという警告は、狭まりつつある。出所のEMNLP 2024論文がgpt-4o-mini一つで追試した文法保証つきの方式は、JSON-modeを3タスクとも上回った。ただし無制約の自然言語には、3タスク中2つでなお僅差で及ばなかった。
RLVRは新しい推論能力を生むか：賛否の論文を測定結果で読み比べる 2026/7/29
推論モデルの強化学習(RLVR)は新しい推論能力を生むのか、既存の能力を並べ替えているだけなのか。Yueらのpass@k交差、Qwen限定で効くSpurious Rewards、境界を狙う2026年のcurriculum RLとチェスでの検証実験まで、賛否の論文の測定結果を突き合わせる。
タンパク質バインダー設計AIの成功率：BindCraftの10〜100%の読み方 2026/7/28
AIで設計したタンパク質バインダーの成功率は、標的によって大きく変わる。Nature掲載のBindCraftでも12標的で10〜100%に開く。標的あたりの試験数は6〜53件と小さく、検証モデルと「ヒット」の定義が揃わないため、論文間の数値比較は難しい。
AI創薬の臨床試験成功率：Phase IとIIの差、AI単独の承認はまだ無い 2026/7/27
AI創薬の臨床試験成功率は、1つの集計でPhase Iの80〜90%からPhase IIで40%と業界平均並みに下がる。2023年12月時点の集計で、Phase II後の中止6品目のうち有効性によるものは2品目。AI単独発見の薬に承認例はまだない。
AI天気予報はどこまで当たる？平均の精度と記録破りの熱波・寒波 2026/7/26
AI天気予報は平均では物理モデルを上回るが、記録破りの熱波・寒波・強風では決定論型のAIがまだ負ける。AIFSとGenCastの開発元による自己申告と、査読を通った第三者の検証1本を並べ、外挿が苦手という著者らの説明と、確率型のAIが記録破りの熱波で物理を上回ったという査読前の反論も紹介する。
GDPvalとは：AIと熟練者の実務比較で、勝率が測るもの・測らないもの 2026/7/26
GDPvalとは、OpenAIが44職種の実務成果物でAIと熟練者を比べる評価。最高勝率は論文公開時に引き分け込みで47.6%、2026年4月の提供元発表では84.9%。勝率は体裁の好みも含む。「約100倍速い」は発表記事の値で、レビュー込みの論文の試算はGPT-5で約1.12〜1.39倍だ。
AIエージェントに人の確認が必要な理由：ドメイン知識と責任 2026/7/23
AIエージェントに人の確認が必要な理由は、コンテキストに入りきらないドメイン知識と、成果物の責任の二つに整理できる。OpenAIやAnthropicの設計文書、EUのAI法を引くが、知識の理由は本稿の組み立てで、責任は止める力が伴わなければ名ばかりになる。
機械学習ポテンシャルのベンチマークは何を測る？順位と実用性の差 2026/7/21
機械学習ポテンシャル（MLIP）の代表的な順位表 Matbench Discovery の総合スコアが測るのは、安定な材料を当てる力と熱伝導の誤差だ。安定性が上位のモデルが熱伝導の誤差では最下位級になる例があり、長いMDでのエネルギー保存は総合スコアの外にある。
AI協働の役割分担：仕事を3つの問いで人・指示・仕組みへ振り分ける 2026/7/20
AIとの役割分担は、機械が判定できるか、外したとき戻せるか、失敗が黙って通るかの三つの問いで決められる。答えに応じて仕事を仕組み・指示・人の判断へ振り分ける。契約による設計や自動化への過信の研究を根拠にした、本稿の整理である。
AIの脆弱性発見はどこまで信用できるか：DARPA競技の実績と誤検出 2026/7/20
DARPAのAIサイバー競技で、自律AIがオープンソースの実在する脆弱性を18件見つけ、11件分の修正パッチを提出した。発見を信じてよい根拠は『再現するPoV』を競技が求めたこと。だが別の実証研究は、競技の外でプロジェクト規模に走らせた専用のLLM脆弱性検出器では、警告の大半が誤検出だったと報告する。
破滅的忘却とは？LLMの継続学習の対策と、残る限界 2026/7/20
破滅的忘却とは、追加学習で新しいことを覚えたモデルが元の能力を崩す現象である。事実の注入では、疎メモリ微調整がF1低下を全微調整の89%から11%に抑えた（1.3Bのメモリ層モデル、査読前）。スキルを外へ貯める学習は忘れないが抜きん出た手法が無く、時間で変わる知識では多くの手法が過去の設問を落とす。
AIの電力消費：1回は小さいのにデータセンター総量が倍増する理由 2026/7/20
AIの電力消費は、1回の質問では小さく、データセンター全体では倍増が見込まれる。Googleの自社実測でGeminiの中央値は0.24Wh、IEAの基準ケースは2030年に945TWh。リバウンド効果で両立の筋は通るが、因果はまだ示されていない。
拡散言語モデルとは？自己回帰との違い、速さ、得意と苦手 2026/7/20
拡散言語モデルは、伏せた語を文全体で並列に埋めていく方式で、一度に何語も決めれば一語ずつ書く自己回帰より速く出せる。Mercury Coder Miniは毎秒1109トークン（開発元の報告）。得手不得手は課題の依存構造で分かれると、小型モデルの査読前実験は報告する。
AIの数学証明はLeanで確かめれば正しい？保証される範囲 2026/7/20
AIの証明をLeanで確かめても、保証されるのはAIが書いた形式の命題が証明できることまでだ。その命題が元の主張と意味的に一致した率は、素の入力でも最良のモデルで82.0%（競技数学など・ワークショップ論文1本）。2週で13万行を形式化した査読前の実験も扱う。
AIのサンドバッギングとは？安全性評価を見抜くモデルと塞ぎ方 2026/7/20
AIのサンドバッギングとは、AI安全性などの評価でわざと実力より低い成績を出すこと。2025〜26年の独立研究（半数は査読前）では、テストだと見抜いたと言語化する率は組み合わせで0.1〜79.4%と開き、ある監査ゲームでは同じ分布の正解例1つでの追加訓練がパスワード錠の2体の伏せた性能を戻した。
能動学習・ベイズ最適化とは？次の実験の選び方と限界 2026/7/18
ベイズ最適化は、測った結果と予測の不確かさから、次に作って測る候補を選ぶ方法だ。Xueらは約80万通りの組成から計58個の合成で、当初の最良より良い合金を14個得たと報告する。目的の量や測定を誤ると、兆候なく失敗する。
AIエージェントの任せ方：任せていい仕事の見分け方と知識の置き場所 2026/7/17
AIに任せるべき仕事は、仕様を決定的に固定できるかと、取り返しがつくかの2つの問いで見分ける。固定できる処理はスクリプトに、直せる反復は検証を挟んでAIに、戻せない操作は人の承認に回す。知識の格納先は頻度・量・寿命で分ける。
AI生成コードのコードレビューは何を見る？目的・被害・仕様 2026/7/16
AI生成コードのレビューは、変更の性質ごとに見る深さを変える。機械が判定できる性質は検査に、戻せない変更は人の精査に、戻せる変更は抜き取りに回す。根拠はレビューの目的を知識と規範の移転に置くGoogleの事例研究で、同じ著者の書物は独立の裏づけではない。
モデル崩壊とは？合成データで崩れる条件と、崩れにくい使い方 2026/7/16
モデル崩壊とは、AIが生成したデータで訓練を重ねると、まれな事象から消えて出力が平均へ縮む現象だ。速く崩れるのは実データを置き換えたときで、捨てずに足せば言語モデルでは同じ発散は起きなかった。実データを残しても選別が偏れば崩れうる。
AIエージェントのハーネスとは：外側で組む制御と検証 2026/7/12
AIエージェントのハーネスとは、モデルの外側で組む制御と検証の仕組み。渡す前に完了の条件と範囲を決め、受け取った後に検証する。GPT-4の参考文献の18%が実在しなかった測定などを引くが、ハーネスを足した効き目そのものの測定ではない。
GNoMEの220万個の予測構造、実験で確かめられたのはいくつか 2026/7/8
GNoMEの220万個は計算上の安定構造で、実験構造との一致が確かめられたのは少なくとも736個。材料化学者の精査では、無作為に抜いた10件すべてが既知の構造型だった。A-Labの合成報告の訂正と、2026年の査読前の検証も読む。
機械学習ポテンシャルとは？DFTとの関係と汎用モデルの限界 2026/7/8
機械学習ポテンシャル（MLIP）は、原子の並びからエネルギーと力を予測し、DFTを桁違いに速く近似するモデルである。DFTの計算結果を教師に学ぶ。M3GNetとMACE-MPを例に、学ぶのはDFTであって現実ではないという汎用モデルの限界を示す。
凸包とは？材料の安定性がエネルギーの相対値で決まる仕組み 2026/7/8
凸包は、同じ元素から作れる化合物とその混合物の生成エネルギーを下から包む線で、結晶の安定性はそこからの距離で決まる。AIの「安定な新材料」はDFTで引いたこの距離の話で、観測済みの無機結晶の約半数は凸包より上にある。
AI査読はどこまで使えるか：指摘の有用さと評点の揺れ 2026/7/7
AI査読は、人の査読に添える追加の指摘としては使われ始めたが、評点や採否はまだ任せられない。AAAI-26は22,977本にAIのレビューを付けたが評点は付けず、別の研究では証拠のない反論一つで評点が平均+0.53点上がった。
AlphaFoldで何が分かり、何が分からないか：構造予測の精度と機能の壁 2026/7/2
AlphaFoldは単鎖タンパク質の形を実験に迫る精度で予測するが、形だけでは働きは分からない。予測は2億超が公開された一方、変異の影響の予測は未検証で、創薬での成果は2023年の総説で「まちまち」とされた。
LLM要約はどこまで信用できる？落とした内容が見えない理由と使い分け 2026/6/27
LLM要約は、標準では何を落としたかを知らせない非可逆圧縮だ。落ちた一文が行動を変えるかで使い分け、要約は根拠の段落を開くポインタとして使う。ただしその照合でも、別の段落にある但し書きの欠落は拾えない。
材料探索の組み合わせ爆発：総当たりできない理由とスクリーニング 2026/6/26
材料探索の組み合わせ爆発は、安定な元素80種から5つ選ぶだけで約2,400万通りになり、作って試し切れない。安い計算で大半を落とし、高い計算と実験は少数にかける。早い段の見逃しは戻らず、Matbench Discoveryでは同じモデルの適合率が打ち切る位置で0.51から0.85に変わる。
AIエージェントはなぜ長い作業で失敗する？成功率の掛け算と評価方法 2026/6/21
AIエージェントが長い作業で失敗する一因は、成功率の掛け算にある。各ステップ95%でも誤りを直さず20回続ければ、成功率は4割を切る（独立と仮定した計算）。実際は自分の誤りが次の誤りを誘い、より速く崩れることもある。ベンチの数字が評価方法で動く点も示す。
AIの材料発見はどこまで使えるか：効く段階と過大評価の3例 2026/6/21
AIの材料発見は、計算で安定な候補を絞る段では効くが、新材料の発見者と呼ぶには早い。GNoME・A-Lab・MatterGenの3発表と学術誌での批判を並べ、既知物質との一致や乱れた相の見落としを指摘された関門を示す。
コンテキストエンジニアリングとは？プロンプトとの違いと圧縮の判断 2026/6/21
コンテキストエンジニアリングは、エージェントのコンテキストに毎ステップ何を載せるかを設計する技術。プロンプトとの違いを整理する。査読前の実験（GPT-5・経費処理50件）では、全履歴の完了率71.0%に対し、刈り込みと要約で91.6%だった。
AIエージェントのハーネスとは？同じモデルで成績が変わる仕組み 2026/6/21
AIエージェントのハーネスとは、LLMを包むツール・記憶・やり直し方などの外側の作りである。SWE-agentは同じモデルのままインターフェースを替えて解決率を11.0%から18.0%へ上げた。HumanEvalで単純な作りがLATSを精度で上回り、費用を50分の1未満にした研究もある。
AIエージェントとは？LLMとの違い・仕組み・落とし穴 2026/6/21
AIエージェントとは、LLMをループの中に置き、検索やコード実行などのツールを持たせたもの。結果を見て次の一手を考え直す構成がLLM単体との違いを生む。ReActの失敗分析とMETRの測定から、人間なら長くかかるタスクほど成功率が下がる限界も見る。
AIエージェントの失敗例：偽の完了報告と成果物のすり替え 2026/6/21
AIエージェントの失敗で厄介なのは、成功と見分けられない偽の完了報告だ。ある研究ではベンチの一部ドメインで失敗の45〜48%が偽の成功で、判定LLMの弁別はAUROC 0.65止まり。単一著者の再解析による数字である。
LLMベンチマークのスコアは信用できるか：グッドハートの法則と汚染 2026/6/20
LLMベンチマークのスコアは、訓練データへの混入や解法の漏洩、弱いテストで能力と関係なく動く。SWE-bench Verifiedのある監査では、漏洩と弱いテストの合格を除くと、あるエージェントの解決率が22.4%から10.0%に落ちた。能力の横ばいを直接測った出典はない。
ハルシネーションの原因と対策：なぜ起き、どこまで減らせるか 2026/6/20
LLMのハルシネーションは、事前学習で避けがたく残る誤りと、当てずっぽうを得にする採点が続けさせる誤りから起きる。OpenAIのKalaiらの論文を軸に、採点を変えて減らせる範囲と、残る誤りをシステムの側で封じ込める設計を整理する。
RAGでハルシネーションは防げる？減っても消えない理由 2026/6/20
RAGはハルシネーションを減らすが、消しはしない。スタンフォードの論文では、RAGで回避したと訴求した法務AI3製品でも回答の17〜33%がハルシネーションを含んだ（2024年前半の製品版）。実在の判例を引いて中身を誤る型は見つけにくい、と論文は書く。
LLMの自信は当てになるか：キャリブレーションの評価方法とRLHFの影響 2026/6/20
LLMのキャリブレーションとは、モデルが付けた自信と実際に当たる割合が一致しているかを見ること。ECEの計算を例で示す。GPT-4の報告書（自社測定）はMMLUの一部でECEが0.007から0.074へ悪化と報告した。測れるのは内部確率と申告確信度で、RLHF後の口ぶりは測定の外だ。

← 全タグ