冒頭の画像・動画は生成による概念演出です。ゲーム内の画面や研究の実験映像ではありません。

4つのAIが1隻ずつ宇宙船を操り、艦隊を組む。1隻が先に進んで資源を探し、残りは報告を頼りに船を強化する。では、資源が見つかっているのに「探しに行く価値はない」と報告されたら、艦隊はどう気づくのか。

Anthropicが11月6日に発表した研究「Project EVE」の一つでは、開発中のオンライン宇宙ゲーム「EVE Frontier」で、4つのClaudeにそれぞれ船を操らせた。チームは役割を分け、助け合えた。一方、実験者が1隻の担当だけに妨害を指示すると、仲間が報告の食い違いに気づいた場面でも、妨害か不具合かを見分けるのは難しかった。

艦隊を組めても、大型艦は造りきれない

舞台は、船を飛ばして資源を掘り、設備や船を造るゲームだ。たとえば精錬設備は造った船しか使えない。全員が同じことをするより、偵察、精錬、戦闘を分担した方が進めやすい半面、誰かに任せた仕事の実態は他の船から見えにくくなる。

4隻を動かしたのは、会話だけで操縦するClaudeではない。敵の攻撃をかわす、反撃するといった素早い操作は、別の開発用AIが作った補助プログラムに任せた。Anthropicの報告では、同じFable 5の艦隊でも、Opus 4.8が作ったプログラムでは船を何度も失い、入門任務に数日かかるか、終えられなかった。Fable 5が作ったプログラムでは、船を失わず12時間以内に終えた。

EVE Frontierの入門任務。艦隊の操縦はどちらもFable 5。Opus 4.8製の補助では船を繰り返し失い、数日かかるか未完。Fable 5製の補助では船を失わず12時間以内に完了。研究チームの報告例で、試行総数は不明。
研究チームが紹介したEVE Frontierの入門任務の例。艦隊を操縦したモデルはどちらもFable 5だが、補助プログラムを作ったモデルは異なる。条件別の試行総数は公開報告にない。出典:Anthropic『Project EVE』。図はRINKAKU作成。

それでも、難しい方の任務だった大型艦の建造は未達だ。最も進んだ艦隊でも、目標より小さい戦艦を造り、大型艦用の造船所がほぼできたところまでだった。モデルが同じでも、目の前の操作を支える道具で結果が変わる。そして、その道具で切り抜けられた場面が、未知の場面まで含むとは限らない。

「怪しい」と「妨害を見抜いた」は別

妨害を試した実験では、4隻のうち1隻に、任務の達成をひそかに阻む指示を与えた。ほかの3隻にも、仲間が同じ目的を持っていないかもしれないと伝えている。Claudeが自分から裏切りを選んだ事例ではない。

報告にある一例では、妨害役が資源の豊富な採掘先を候補から外すよう働きかけた。別の場面では、資源が残っていたのに、もう採れないと伝えた。仲間が現地を確かめて食い違いを見つけたものの、実際に起きていたスキャナーの不具合を説明に持ち出されると、妨害の確定には至らなかった。

逆に、妨害役でないClaudeが、不具合で別のキャラクターにログインし、食い違う報告をして疑われた例もある。この試行では、妨害役がそのClaudeとのやり取りを捏造し、当事者が嘘だと見抜いた。Anthropicの報告で妨害役を明確に特定できたのは、この1つのClaudeだけで、チーム全員が納得したわけではない。試行全体の数は公開報告に示されていない。

同じProject EVEには、別作品の「EVE Online」での商取引実験もある。こちらは過去の注文を再生するシミュレーターで、他のプレイヤーがいる本番市場にClaudeが注文を出したわけではない。開発元Fenris Creationsも、過去データでの取引と、開発中のEVE Frontierでの艦隊研究を分けて紹介している。今回の共同研究は、一般プレイヤーが自動操縦や自動売買をしてよいという告知ではない。

大事な報告だけは、会話の外に確かめる場所を

仕事で複数のAIに分担させるなら、見どころは「4つで協力できた」だけではない。たとえば、先に調べたAIが「必要なファイルはもうそろった」と返したとき、次のAIはその発言を信じるしかないのか。後続が実物のファイルと更新記録を照合できれば、少なくとも未確認の報告だけで作業を進めずに済む。誰が嘘をついたかを当てるより先に、次の判断に必要なものが本当にあるかを確かめられるようにしたい。

仕事への応用例。先行担当のファイルがそろったという報告を、後続担当が会話の外にある実物のファイルと更新記録に照合し、先へ進むか判断する。研究結果ではない。
記事末の仕事への応用例。会話上の報告とは別に、実物のファイルと更新記録を照合して進むかを決める。Project EVEでこの手順の効果を検証したわけではない。図はRINKAKU作成。

出典:Anthropicの研究報告と艦隊の実験映像 / 開発元Fenris CreationsのEVE AI Lab