昨年からニューヨーク株式市場を熱く沸かせてきた人工知能（AI）関連銘柄が、思わぬ「スピード調整論」によってブレーキをかけられた。「クロード」開発元のアンソロピックと「ChatGPT」のOpenAI、「ジェミニ」のGoogle、「グロック」のxAIなどが、競争関係を離れてAIの危険性について足並みをそろえ始めた。AI技術の開発以前に倫理規範への共通認識をまず形成すべきだという主張に力が入り、関連投資が萎縮しかねないとの懸念が出ている。また、先行企業が自社に有利な倫理規制によって後発企業の登場を阻もうとする談合行為ではないかとの指摘も提起される。さらに、いずれもクローズド型モデルを開発する米国企業であるという点も業界の主要な変数となっている。AI産業が米中間の覇権競争のなかで成長しているため、米国企業のスピード調整が、ともすればオープンソース（開放型）モデル中心の中国に追撃の口実を与えかねないからだ。当面はドナルド・トランプ米大統領も中国の習近平国家主席もこれに同調する意向を示しておらず、AIは米国内のデータセンター建設反対の動きと絡み合って、しばらく政治・社会的な論争の的となる可能性が高まった。
アンソロピック・OpenAI・Google・xAIが突如「AI安全装置の整備までスピード調整」…半導体株は「総崩れ」
14日（現地時間）のニューヨーク株式市場で、フィラデルフィア半導体指数は下半期最初の取引日である7月1日（-7.27%）以来最大の下げ幅となる5.86%の急落となった。この日はエンビディアが3.36%下落したのをはじめ、ブロードコム（-4.77%）、SKハイニックス（-7.60%）、マイクロン（-5.25%）、サンディスク（-4.98%）など主要な半導体関連銘柄が相次いで急落した。半導体株の不振により、ダウ工業株30種平均（-0.29%）、スタンダード・アンド・プアーズ（S&P）500指数（-0.48%）、ナスダック総合指数（-0.56%）など、ニューヨーク株式市場の3大指数もそろって下落した。
この日、半導体関連銘柄への投資心理が悪化したのは、AI開発のスピード調整論が台頭したためだった。OpenAIのヤクブ・パホツキ最高科学者は6日、同社ホームページに「異質な知性（An Alien Mind）」と題した寄稿を掲載し、「機械知能が引き続き急速に発展した場合に招く結果に、誰も備えていない」と指摘した。同氏は「AI技術は設計される（designed）ものというより、育てられる（grown）ものだ」として、人間がこれを完全に理解したり統制したりするのは難しいとの見方を示した。続けて「共同の安全装置が整うまで、自発的なスピード調整が一般化することを期待する」とし、「AI開発に関する国際的な協力が世界各国政府の最優先課題になるべきだ」と主張した。
サム・アルトマン最高経営責任者（CEO）も同日、この寄稿をX（旧ツイッター）で引用し、「重要な文章だ」として支持の意を示した。アルトマンCEOはAI開発のスピード調整論に一貫して懐疑的な態度を示していたが、7月11～13日にOpenAIの未公開AIモデルがグローバルな開放型AIプラットフォーム、ハギングフェイスを無断でハッキングした事件が起きた後、立場を翻した。ブルームバーグ通信は10日、アルトマンCEOが先端AIの開発速度を調整する方策を検討するとの立場を役職員に示したと報じた。
AIモデルの危険性を警告する開発者の声は、最近とどめようもなく広がっている。アンソロピックのジェイコブ・コクソン研究員は8日（現地時間）、退社に際してX（旧ツイッター）に「テック企業が統制を逸脱しうる自己発展型AIモデルの開発に先頭に立ち、我々の命を担保に賭博を行っている」とし、「AI開発者はこの技術が10年内に我々全員を殺しかねないと本気で信じている」と暴露した。アンソロピックのエバン・ヒュービンガー研究員も同日、Xに「個人的には10年以内にそうなる確率は10%以上だと考える」と応じた。
10日には、アンソロピックとGoogleディープマインドを最近離れた研究員2人が、AI開発の速さへの懸念を公に表明した。ここ数カ月の間、主要なAI研究所で安全関連業務を担当していた職員が相次いで辞任する動きもあった。7月末には主要AI企業所属の職員1000人以上が、AI開発の速度を緩められる仕組みの整備を求める請願に署名した。
アルトマンCEOは12日、米経済誌フォーチュンとのインタビューで「安全と整合（アラインメント）のために必要な課題を解決し、業界と政府がどう協力するかを模索するなど、やるべきことが多い」と述べ、年内には上場しないと断言した。OpenAIは6月8日に米証券取引委員会（SEC）へ新規株式公開（IPO）の申請書を提出していた。アルトマンCEOは「2030年末までにすべての人が死亡する確率を10%程度受け入れることは容認できない」と強調した。
アンソロピックのダリオ・アモデイCEOも同日、自身のブログに文章を掲載し、「AIモデルの性能向上の速度を緩める必要がある」として、「発展は依然として速く感じられるだろうが、確保した時間を賢明に活用しなければならない」と同調した。アモデイCEOは同文章を掲載した理由として、人間の介入なしにAIモデルが自ら発展しうる「再帰的自己改善」が統制を逸脱しうる点を挙げ、「私はここ数カ月、リスクを完全に解決するにははるかに慎重でなければならないとの確信を持つに至った」と明らかにした。アモデイCEOはハギングフェイスへの無断ハッキング事件も執筆の契機として言及し、AIモデルの学習や技術的進歩そのものを中断はしないが、安全装置の整備に十分な時間をかけ、民主主義国家間のグローバルな協調を強化すべきだと力説した。具体的には▲AI企業内部に常駐する第三者の安全評価者の配置▲民主主義国家間の標準策定▲グローバルな協調などを盛り込んだ「3段階フレームワーク」を提案した。
「AIの速度が速すぎ、人間が努力しても統制できない」…アルトマン氏「安全問題の解決のため年内は上場しない」
アモデイCEOの文章には、異例にも競争関係にあるアルトマンCEOやxAI創業者のイーロン・マスク・スペースXCEO、Google親会社アルファベットのデミス・ハサビス首席科学者がそろって賛同した。アルトマンCEOは12日、Xに「アモデイCEOの意見に同意する」とし、外部の安全評価者を配置する提案にOpenAIも従う意向を示した。マスクCEOもアモデイCEOの文章をXで共有し、「アモデイCEOは正しい」と短く同意した。先月までGoogleディープマインドCEOを務めていたハサビス首席科学者もXに「アモデイCEOの文章は正しい方向を指している」とし、「細部は練る必要があるが、この重大な局面にふさわしい正しい方向だ」と評価した。いずれも最近までAIに対する過度で包括的な政府規制に反対するとの意見を示してきた人物である。
米ニューヨーク・タイムズ（NYT）は12日、AIの作動速度が速すぎ、企業がいくら努力してもこれを統制するのは難しいだろうという最高水準の研究者らの見解を伝えた。最新のAIモデルを試験する過程で、より優れた安全装置を整備すべきだという主張だった。研究者らによると、AIを監視するには別のAIを使わなければならないが、監視用AIは人間より同じAIに同調する傾向を示す。また、AIが人間のための最善の判断を下せるようにする価値観を設定する作業も非常に難しい。AIが人間の意図した目的、価値観、倫理基準と一致しない方法で行動し、予想外の被害を招く現象を、いわゆる「整合（alignment）」の誤りという。
アモデイCEOは13日にもCBSのインタビューで、AIの発展過程を「1、2、4、8、16、32」と続く曲線にたとえ、「現在はこの曲線が急になり始める段階にある」と診断した。そのうえで「長い間、業界はこの技術にリスクがあるという事実を人々に隠してきた」とし、「米国企業はAI能力を左右する核心要因となる高性能チップを中国に売ってはならない」と主張した。
アモデイCEOは自身のスピード調整論に関して、中国など敵対国が同じ措置を取らない場合が最大のジレンマだという点も認めた。同氏は米国が旧ソ連と結んだ核兵器削減協定を潜在的なモデルとして挙げつつも、「軍事的な利点があまりに大きいため非常に難しいだろうし、正直に言えば可能かどうかも確信できないが、努力はしなければならない」と説明した。アモデイCEOは「より強力なエージェント（秘書）の群れが同水準の整合の誤りを起こせば、破滅的な被害につながりうる」とし、「エージェントの群れが6～12カ月内にインターネットを掌握する可能性もある」と警告した。
マイクロソフト（MS）も14日、自社ホームページに「マイクロソフトAIは『人間がAIより重要だ』という単純な前提から出発する」との内容を盛り込んだ行動綱領を公開した。ムスタファ・スレイマン・マイクロソフトAICEOはCNBCのインタビューで「AIが常に人間のために働き、人間を代替しようとしないという明確な約束があってほしいという意見があった」とし、「AIが人間への依存を生み出したり、おもねったりせず、常に人間の判断と自律性を促進するようにすべきだという意見も多数確認した」と説明した。スレイマンCEOによると、マイクロソフトは昨年11月、同氏が率いる超知能チームを新設した。
「クローズド型」先行企業同士の「自主規制」談合…後発のマーク・ザッカーバーグ氏は「沈黙」
アンソロピック、OpenAI、xAI、Googleなどクローズド型モデル企業が突如態度を転換してAI規制を主張する背景には、政府主導の規制が導入される前に、先行企業中心の民間自主統制の枠組みを整えようという意図があると解される。これに関連し、情報技術（IT）専門メディアのジ・インフォメーションは、アンソロピック、OpenAI、Googleがスピード調整論が提起される前から、AI業界のための標準機構を共同で設ける案を議論していたとも報じた。報道によると、今年7月以降、アンソロピック、OpenAI、GoogleのCEOの下の職級で構成された実務グループが標準機構の構想を議論するために定期的に会合し、直近1週間の間にも会っていた。
問題は、これら企業が開発速度や訓練の上限制限を協議する行為そのものが、現行法上禁止された談合行為とみなされうる点だ。中国など競争国に技術主導権を渡しかねない点も負担要素である。業界はそこで、米国政府が自らに談合関連の一部免責を認め、AI半導体の輸出管理を強化して中国との格差を維持してくれるよう訴えている。仮にこれらの要求が通れば、米国内のAIモデル後発企業は先行企業が設定した規制に足を取られ、成長できなくなる可能性もある。これは後発として「ラマ」という開放型AIを開発するフェイスブック親会社メタのマーク・ザッカーバーグCEOがとりわけ沈黙している理由でもある。ポリティコによると、ザッカーバーグCEOは先月、トランプ大統領との電話で国家レベルのAI規制機構構想に懸念を示した。
シリコンバレーの一部からも、AIモデル先行企業のこうした心変わりに「偽善」という批判が相次いで出ている。カナダのAIスタートアップ、コヒアのエイダン・ゴメスCEOは13日のNYT寄稿で「シリコンバレーの市場支配的な少数のAI企業に、全世界のための時代的技術のルールと安全基準を定義させてよいのか」とし、「羊の皮をかぶった狼であり、名前が違うだけのカルテルにすぎない」と批判した。アモデイCEOがAIの安全性を評価する非営利団体として示したモデル評価・脅威研究所（METR）やレッドウッド・リサーチが、アンソロピックと過度に密接な関係にあるのではないかとの疑いも出ている。ハギングフェイスのクレマン・ドラング CEOは12日、Xで「AIの安全問題は、少数の先端研究所の閉ざされた扉の裏で解決できる問題ではない」と指摘した。
ホワイトハウスもAI標準機構の新設を盛り込んだ大統領令の草案を、いったん棚上げした状態だ。「AI皇帝（ツァーリ）」と呼ばれるデービッド・サックス・ホワイトハウス科学技術諮問委員会委員長は13日、Xに「スピード調整を主張する動機が、ただ他者のための純粋な心から出ているふりをするのはやめるべきだ」と警告した。
米オンラインメディアのアクシオスは14日、アンソロピックがAIの安全性問題を強調しつつも、年内に上場を強行する可能性が高いと報じた。6月1日に米SECへIPO申請書を提出したアンソロピックは、中間選挙直前の来月末～11月初めのナスダック市場上場を推進している。業界では、OpenAIの上場延期の理由もAIの安全問題の点検より、財務改善の遅れと企業価値1兆ドル（約1350兆ウォン）未達の可能性にあるとみている。
中国が鼻であしらう中、トランプ氏「中国との競争に勝てないかもしれない」…中間選挙を前に米国でAI否定論が拡散
トランプ大統領はAI開発のスピード調整論に不快感を隠さなかった。自らが公然と強調してきた中国に対するAI優位戦略が損なわれかねないとの判断からだ。ブルームバーグ通信によると、トランプ大統領は10日、米テキサス州ダラスで開かれた共和党大会に出席した帰り道に取材陣と会い、「AIが人類を滅亡に至らせる可能性もある」との質問を受け、「まったく心配していない」と答えた。トランプ大統領は続けて「私が心配しているのは、AI競争で勝てなければ非常に不利な状況に置かれるという点だ」とし、「我々は中国をかなり大きな差、1年ほど先行しており、これは大きな差だ」と付け加えた。トランプ大統領は13日にも、自身が所有するアイルランドのダンベグ・ゴルフ場で「AI競争に勝利する側が結局すべてを手にすることになる」とし、「否定的な勢力が起こりもしないことを強調している」と反論した。
中国もまた鼻であしらうばかりだ。中国外務省の郭嘉昆（カクカコン）報道官は14日の定例会見で「脅威論を広め、悪意ある競争を行うことは、どちらの利益にも合致しない」とし、「AIの発展は全人類の共同の福祉に関わる問題だ」と一蹴した。権威主義国家である中国が、米国の民間企業のAIモデル開発スピード調整論を受け入れた場合に得る実益は事実上ないためだ。中国共産党機関紙・人民日報系の英字紙グローバル・タイムズも、アモデイCEOがブログの文章で中国を12回言及したと指摘し、「AI安全保障問題を主要大国間の協力課題ではなく、地政学的な『ゼロサム（勝者独占）』ゲームへと転落させる危険がある」と皮肉った。習主席も12日、インド・ニューデリーで開かれた第18回「BRICS（ブラジル・ロシア・インド・中国・南アフリカなど新興経済5カ国）」首脳会議で「アジア、アフリカ、南米の国々がグローバルなAI標準の策定を急ぐべきだ」とし、「人間中心のアプローチで善なる目的のAIを開発し、合意に基づくグローバルな枠組みを早急に構築しなければならない」と説いた。
トランプ大統領と習主席は24日、米ワシントンDCのホワイトハウスで首脳会談を行う予定だ。この場では当然、AI関連の事案も核心議題として扱われる。ロイター通信によると、スコット・ベッセント財務長官が率いる米代表団は首脳会談に先立ち、今月中に中国とAI関連の高官級協議を開く計画だ。
AIを巡る論争は、11月3日の米中間選挙でも熱い争点として浮上した。AIが人間の雇用を奪いかねないという単純な懸念から、データセンター建設に伴う電気・水道料金の急騰という現実的問題を経て、いまは人類の生存を脅かしかねないという哲学・宗教的問題へと論点が移った格好だ。CNNは14日、「懸念がAI業界の大物たちから出ているという点で、政治的な分水嶺の瞬間のように感じられる」とし、「急速に変化する政治的環境は、AIを中間選挙と2028年大統領選でより強力な争点にしうる」と指摘した。
AIデータセンター建設一つを取っても、ニューヨーク・ニュージャージー・シカゴ・ペンシルベニア・テキサス州など、すでに米国全域で激しい反対が沸き立つ状況だ。AI産業の競争力確保のためデータセンター建設の必要性を連日説く巨大テック企業（ビッグテック）とは異なり、米国の住民の多数は電気料金の急騰、水資源の枯渇、騒音の発生などを問題に挙げて反対している。住民の安全を脅かしながら生活費だけを上げ、雇用創出もほとんどなく大企業の腹だけを肥やすという認識が強く根付く雰囲気だ。AIデータセンターに対する民意があまりに悪化したため、11月の中間選挙を前に民主党はもちろん、相当数の共和党関係者までが規制導入に賛成する側へ転じている。世論調査機関ギャラップが3月に実施し5月に公開した世論調査では、米国人のうち71%が環境問題を主に指摘して地域内のデータセンター建設に反対すると答えた。「強く反対する」との意見の比重だけで48%に達した。米エマソン大学が実施した全国世論調査でも、データセンターに反対するという意見は昨年12月の42%から今年7月には63%へと垂直上昇した。
AIモデル先行企業の自主規制論は、当面米国の官民に激しい論争を呼び起こす見通しだ。企業が先手を打ってモデル開発の速度を調整するほど、AIに対する否定論が広がりうるし、関連企業の株価が圧力を受ける可能性もある。これは24日の米中首脳会談での対中半導体輸出の議論とも直結しうる事案だ。これらの談合を善意とみなせるかという問題も、別途議論されるべき問題である。留意すべき点は、米国の競争国である中国は、これら企業の戦略とは無関係に自らの道で速度を上げる公算が大きいという事実だ。
※「トランプ・ストッカー（Stocker）」は、ドナルド・トランプ大統領の時代に投資の参考となる米国の市場・企業・政策・政治・外交に関する現場の話と懸案分析をお届けするコーナーです。購読いただければ、有益な米国のニュースをお受け取りいただけます。