AIが、別のAIの答えを使って学ぶ。
この話をすると、急に空気が重くなる。
「それはコピーではないか」「先行modelの能力を盗んでいる」「AIがAIを食べ始めたら、知識が劣化する」──どれも、考えるべき懸念である。
一方で、AI開発の現場では、強いmodelの出力から小さなmodelを育てるknowledge distillationや、AIで作ったsynthetic dataを学習へ使う方法が、すでに当たり前の技術として使われている。
OpenAI自身も、frontier modelの出力を使って小型modelをfine-tuningする「Model Distillation」を製品として提供してきた。MicrosoftのPhi-4も、synthetic dataを学習の中心へ置いた。
それなのに、競争相手が同じような方法を使うと、「AIにAIを教えさせることを制限すべきだ」という議論になる。
ここには、技術、安全、契約、競争政策の話が混ざっている。
AIはAIから学んではいけないのか。
先に到達した企業だけがAIを教師として使い、後発にはその梯子を外す。もしそんなruleになるなら、それは安全対策ではなく、競争を固定する壁にもなり得る。
人間の発明も、まっさらな場所からは生まれない
大きな知識をそのまま複製するのではなく、選び、圧縮し、別の形へ組み替える。境界は方法と許諾で決まる。
技術や芸術の発展は、既存の知識を一度すべて忘れて、無から始まるものではない。
過去の発明、失敗、表現、道具、社会の要求が人の中へ蓄積され、別の何かと掛け合わされる。新しいgenreもproductも、多くは「既存の技術 × 別分野の発想」「過去の表現 × 今の体験」のような組み合わせから生まれる。
LLMと人間の脳は同じではない。学び方も、身体も、責任の負い方も違う。
それでも、既存の情報から関係を学び、複数のpatternを組み合わせて次の答えを作るという点では、重なる部分がある。
だから、「何にも影響されていない完全なoriginalだけを作れ」という要求は、人にもAIにもほとんど成立しない。
大切なのは、影響を受けたかどうかではない。
何を、どんな権利と方法で学び、どこまで再現し、誰がその結果へ責任を持つのか。
議論すべきなのは、こちらである。
蒸留は、昨日突然生まれた「抜け道」ではない
蒸留、instruction synthesis、synthetic training、frontier workflowを時系列で分けて見る。
- Knowledge Distillation大きなmodelの知識を小さく移す
- Instruction Synthesismodelが学習用の指示例を作る
- Synthetic Training小型modelの能力を補う
- Frontier Workflows教師・評価・改善を組み合わせる
knowledge distillationは、巨大なmodelや複数modelの知識を、より小さく扱いやすいmodelへ移す技術である。
2015年、Geoffrey Hinton、Oriol Vinyals、Jeff Deanは、複数のmodelを平均する高性能なensembleの知識を、単一の小さなmodelへ圧縮する方法を論文にまとめた。
教師modelのweightをそのまま複製するわけではない。入力に対して教師が返す確率分布や答えを手がかりに、生徒modelを訓練する。
目的は、単なる物真似ではなかった。
大きなmodelを端末や小さなserverで動かす。
推論費用や消費電力を下げる。
特定のtaskへ強いmodelを作る。
利用者の手元でprivacyを保ちながら動かす。
2024年、OpenAIはこの考え方をAPI上のworkflowとして提供した。frontier modelのinput-output pairを保存し、evalし、小型modelのfine-tuningへ使う仕組みである。
MicrosoftのPhi familyも、synthetic dataを大きく活用してきた。Phi-4のtechnical reportは、Web由来dataを中心とする一般的なrecipeとは異なり、学習の全段階へsynthetic dataを戦略的に組み込んだと説明している。
つまり、AIが作った例からAIを育てること自体は、異端でも不正でもない。
現在の小型・高性能modelを支える、正面から研究されてきた技術である。
「AIがAIから学ぶ」を、一つの言葉で括ってはいけない
許可された教育と、規約違反の抽出、危険能力の複製は、同じ線上でも境界が違う。
- 01PERMITTED許可された蒸留license内の教育
- 02SYNTHETICsynthetic data生成dataで訓練
- 03CONTRACT規約に反した取得大量query・制限回避
- 04CAPABILITY危険能力の複製安全保障・悪用risk
問題を分かりにくくしているのは、性質の違う四つの行為が、すべて「蒸留」と呼ばれがちなことだ。
1. 許可されたknowledge distillation
自社の大型modelから小型modelを作る。teacherの提供者が認めたAPIやlicenseの範囲で学習する。これは通常のmodel開発である。
たとえばDeepSeek-R1は、model cardでdistillationを含む派生利用を許可し、QwenやLlamaを土台にしたdistilled model群も公開している。ただし、派生先のbase modelにはそれぞれ別のlicenseがあり、すべてが無条件に同じ権利になるわけではない。
2. synthetic dataとself-training
AIがinstruction、問題、解答例、批評を作り、それをfilterして学習dataへ使う。
Self-Instructは、GPT-3自身にinstructionと回答例を作らせ、重複や不適切な例を除いてinstruction-following能力を改善した。Phi-4のように、教師の単純な模倣を超え、難易度やdomainを設計したsynthetic dataで小型modelを鍛える例もある。
ここでは「誰のservice出力を使ったか」に加え、dataの品質、偏り、誤りの増幅が問題になる。
3. 規約に反した大量取得
商用AIへ大量のqueryを投げ、競合modelのtraining setを作る。しかもrate limitや禁止条項を回避する。
これは、技術として蒸留できるかという話ではない。serviceを使うために合意した契約と、取得方法の問題である。
OpenAI、Anthropic、xAIの現行規約は、それぞれ表現は違うものの、出力を競合modelの開発へ使うことや、model behaviorの抽出を制限している。
4. model extractionと危険能力の複製
教師modelのdecision boundary、固有の振る舞い、安全機構、あるいはcyber・bioなどの高危険能力を再現する目的で、計画的にqueryする。
これは通常のsynthetic data生成より、security上のmodel theftやcapability proliferationに近い。
四つを混ぜれば、「便利な小型化まで禁止する」か、「規約回避や危険能力の抽出まで自由にする」かという、極端な二択になる。
必要なのは、AIから学ぶ行為の禁止ではなく、取得方法、許諾、再現する能力、利用目的に応じた線引きである。
先発企業もAIを教師にしている。その事実は重い
ここで、後発側が感じる違和感がある。
先発企業は、大量のWeb data、人間のfeedback、synthetic data、自社の強いmodelを使って、次のmodelを育てる。その一方で、自社serviceの出力を競合modelへ使うことは規約で禁じる。
もちろん、これはただちに「矛盾している」とは言えない。
自社が費用をかけて作ったserviceを守る権利はある。利用規約に同意して使う以上、競合側にも守る責任がある。安全対策を外したmodelへ危険能力だけが移れば、社会的な損失も生じる。
ただ、競争政策として見れば、それで話は終わらない。
frontier modelを一から作るには、膨大なcompute、data、電力、研究人材、distributionが要る。米FTCは、こうした重要inputが少数企業へ集中すれば、新規参入が難しくなり、市場支配が固定される懸念を指摘している。英国CMAも、access、diversity、choice、fair dealingなどをfoundation model市場の原則に置いた。
教師modelへのaccessが、先発企業の内部だけに閉じる。
公開情報の利用も制限される。
古い世代の能力さえ、後発が効率よく学ぶ経路を持てない。
そうなれば、競争は「良いmodelを作れるか」より、「最初から巨大な資本とdataを持っていたか」で決まりやすくなる。
追いつく権利が無条件に保障されるわけではない。だが、追いつくための合法的な経路まで消せば、競争は始まる前に終わる。
中国の進歩を「全部コピー」と片付けるのも危うい
参加条件を閉じることと、高risk能力を制限することは、同じpolicyではない。
- STEP 1論文・open weight基礎へ合法的にaccess
- STEP 2旧世代model追試・教育・改善
- STEP 3許可された教師利用lineageとauditを残す
- STEP 4高risk能力共通thresholdで制御
この議論は、米国と中国のAI競争になると、さらに荒くなる。
OpenAIは2026年2月に米下院委員会へ提出した文書で、中国の主要LLM providerや一部研究labが、model出力をprogrammaticに取得し、distillationへ利用しようとした事例を観測したと説明した。
これはOpenAIによる当事者報告である。個々の事業者について、第三者機関がすべての事実を独立確認したという意味ではない。
仮に規約回避や組織的なmodel extractionがあったなら、それは問われるべきだ。
しかし、中国勢の進歩を「先行modelを盗んだから」の一文で説明するのも正確ではない。
architecture、training recipe、reinforcement learning、inference最適化、hardware制約下のengineering、open-weight公開、研究者層。複数の要因が重なっている。
DeepSeek-R1が自らdistilled modelと再利用可能なlicenseを公開したことも、単純な「閉じたcopy文化」という図には収まらない。
国籍で善悪を決めると、技術的な境界が見えなくなる。
問うべきは、どの国かではなく、何を取得し、どの規約やlicenseの下で、どの能力を再現し、どこまで説明可能なのかである。
核競争に似ている。けれど、同じではない
frontier AIの能力競争を、核開発になぞらえる話は多い。
先に強い能力へ到達した側が、「この先は危険だから制限しよう」と言う。後発側から見れば、「自分たちだけ到達した後でruleを変えるのか」と映る。
この不信感は理解できる。
一方、AIにはcyber攻撃、biological design、自律的な不正利用など、能力拡散そのものを慎重に扱うべき領域もある。後発の公平性だけを理由に、すべてを無制限に共有することもできない。
ただし、AIは核物質と違い、一枚岩の能力ではない。
日本語の文章を自然にする能力、端末上で画像を理解する能力、顧客supportを自動化する能力まで、すべて「危険なfrontier能力」として閉じる必要はない。
model全体を閉じるのではなく、能力とriskの単位で考える。
この視点がなければ、安全保障を理由に、日常的なinnovationまで先発数社へ囲い込まれる。
AIがAIに教える社会へ、五つのruleを置く
許可、lineage、能力threshold、合法的な旧世代access、研究safe harborを別々に設計する。
全面自由と全面禁止の間には、いくつもの設計がある。
1. licenseで許された蒸留経路を明確にする
model cardと利用規約に、研究、社内利用、商用利用、競合model training、派生model公開の可否を分かりやすく示す。「出力はあなたのもの」と言いながらtraining利用だけ別条項で禁じる場合も、目立つ場所で説明する。
2. model lineageを残す
どのbase model、teacher、synthetic datasetを使ったか。完全な秘密を公開しなくても、監査可能なmanifestを持つ。後から権利や安全性を検証できない「出自不明model」を減らす。
3. 危険能力はthresholdで管理する
競合だから一律禁止するのではなく、cyber、bio、自律的な資金・system操作など、一定の評価thresholdを超える能力へ追加監査、access control、共有制限を置く。
4. 旧世代・低risk能力へ合法的な学習路を作る
frontierを永遠に開放する必要はない。一定期間を過ぎたmodel、低riskなtask、public-interest research向けに、蒸留license、研究API、benchmark accessを用意する。時間差で梯子を戻す発想である。
5. 独立研究のsafe harborを検討する
security、bias、robustnessを調べるための限定的なqueryまで、競合開発と同じ扱いにしない。研究目的、取得量、非商用性、責任ある開示などの条件を設け、検証可能性を残す。
この五つは、先発企業の投資を無償で開放する提案ではない。
守るべきものを守りながら、技術の次の担い手が合法的に学べる道を残す提案である。
開発者が今日から確認できること
AIを使ってdatasetや小型modelを作る側も、「公開されている答えだから自由」と考えてはいけない。
teacher serviceの最新TermsとAPI agreementを確認する。
base model、teacher、dataset、license、取得日を記録する。
大量取得、rate limit回避、複数accountによる制限回避をしない。
teacherの固有文言を再現する暗記と、task能力の一般化を別々にevalする。
synthetic dataを人や別系統のsourceで検証し、誤りの自己増幅を測る。
cyber、bio、個人dataなど高risk領域では、通常taskより厳しいgateを置く。
公開時に、派生元と制限事項を利用者へ伝える。
「modelが出したものだから権利はない」「研究だから何をしてもよい」「出力を少し言い換えれば別物」という判断は危険である。
技術的にできることと、契約・権利・社会的に許されることは同じではない。
問題は、AIがAIから学ぶことではない
これから、AIがAIの答えを教材にする流れは止まらない。
小型modelを作る。専門modelを作る。端末へ載せる。少ない電力で動かす。人間だけでは作り切れない量の練習問題やfeedbackを作る。
それをすべて禁じれば、AIは巨大企業のcloudにだけ存在する技術へ戻っていく。
一方、規約も権利も安全も無視して、強いmodelから能力を吸い出せばよいという話でもない。
議論の軸は、「AIにAIを教えさせるか」ではない。
誰が、何を、どの許可で教え、どのriskまで持ち運び、その恩恵へ誰がaccessできるのか。
人類の発展は、先人の知識を受け取り、別の何かと掛け合わせることで続いてきた。
AIだけを、誰からも学ばない箱にはできない。
だからこそ、学びを止めるruleではなく、学び方を公正にするruleが要る。
