人工知能（AI）が人間の統制を離れた場合、人類に取り返しのつかない被害を与えかねないという警告がAI業界内部から相次いでいる。GoogleでAIの安全性とアラインメント（alignment）業務を担当していた研究者も、同社を去った後「AIは我々全員を殺す潜在力がある」として、現在の開発方向に強い懸念を示した。
14日（現地時間）ブルームバーグ通信によると、Google出身の研究者ビラル・チュグタイ氏は最近、ソーシャルメディアのX（エックス）とLinkedInに投稿し、「GoogleでAI開発が進む過程を直接目撃した」「この技術が現在のような方向に発展することを極度に懸念している」と明らかにした。
同氏はさらに「私はAIが我々全員を殺す潜在力があると心から信じている」と強調した。チュグタイ氏はGoogle在籍中、AIの安全性と、人間の意図に沿ってシステムを設計するアラインメント問題を扱っていたと説明した。
AIの性能が急速に高度化する中、技術発展の速度に比べ安全装置の整備が十分でないという懸念が業界内外で高まっている。とくにAIが人間の指示とは異なる目標を自ら追求したり、統制が困難な水準まで発展する可能性をめぐり、専門家の警告が続いている。
今月初めには、OpenAIとAnthropicでAI開発者として働いていたジェイコブ・コクソン氏も退社に際し、両社の競争を公然と批判した。同氏は両社が超知能AIの開発を競う中で「我々の生活を賭けて博打を打っている」と指摘した。
AI企業の最高経営責任者（CEO）の間でも同様の懸念が出ている。Anthropicのダリオ・アモデイCEOは最近、ブログを通じ、高度化したAIが人間の統制を離れ破滅的な結果をもたらす可能性に言及し、業界に開発速度を緩めるよう促した。
異例なことに、OpenAIのサム・アルトマンCEOとSpaceXのイーロン・マスクCEOもアモデイ氏の問題意識に共感を示した。AI開発を主導する企業の間でも、技術の発展そのものだけでなく、それに伴うリスクをどう統制するかをめぐる悩みが深まっているとの分析が出ている。
ただ、チュグタイ氏はAIの未来を悲観的にのみ見ているわけではない。同氏はAIをより安全な方向に導く機会がまだ残っていると考えており、今後もAI安全分野に集中する計画だと伝えられた。