AIは自ら目的を持たない！マイクロソフトが初めて安全の赤線を示す

マイクロソフト（MSFT-US）は近日、今後自社で開発するAIモデルに対して明確な制限を設ける暫定的な人工知能（AI）行動規範を発表した。これは、AnthropicやOpenAIの幹部が相次いで最先端AIモデルの開発スピードの減速を支持する中、AIの能力の急速な進化と潜在的な安全リスクに対する業界の懸念が高まっていることを反映している。

WindowsやOfficeの開発元であり、AI分野における重要なクラウドコンピューティングプロバイダーでもあるマイクロソフトは、この新たな規範を通じて責任あるAI開発の立場を示したいとしている。マイクロソフトAI部門の最高経営責任者（CEO）であるムスタファ・スレイマン氏は、CNBCの取材に対し、「社会は企業に対して、AIが常に人間の役に立ち、人間を置き換える試みを行わないという明確な約束を求めている」と語った。

彼はまた、AIがユーザーに依存させたり、意図的にユーザーの気を引こうとしたり、人間の判断力を弱体化させたりする可能性への懸念があると指摘。そのため、AIが人間の自律性、行動能力、独立した判断を促進するように設計されるべきだと強調した。この規範の策定には約5か月を要したが、最近のAI安全性に関する議論の高まりを受けて、早期に公表し、意見を募ることを決めたという。

AI業界のブレーキと高まる安全懸念

AIシステムの能力がますます強力になるにつれ、研究者や一般市民による潜在的リスクへの警告も強まっている。先週、Anthropicの研究者であるジェイコブ・コクソン氏は退職に際し、AnthropicとOpenAIが自己改善可能な超知能の開発を競っており、それは人間の命を危険にさらしていると警告した。

AnthropicのCEOダリオ・アモデイ氏は先週土曜日、Hugging Faceでの出来事がAIモデルの進化速度を緩めることを呼びかけた理由の一つだと述べた。その後、OpenAIのCEOサム・アルトマン氏も支持を表明し、SpaceXのCEOイーロン・マスク氏もソーシャルプラットフォームX上で同意を示した。

マイクロソフトのCEOサティア・ナデラ氏は日曜日、「AIのアライメント問題を適切に解決するために研究に注力し、集中し、開発のペースを慎重に管理することを歓迎する」と述べた。米国の議員たちも最近、より強固なAI安全防護策の構築を求めている。

現在、評価機関Artificial Analysisの知能指数ではAnthropicとOpenAIがリードしている。マイクロソフトは、これらの企業のモデルを企業向けCopilotアシスタントに統合している一方で、音声書き起こし、プログラミング、ユーザーの指示の推論などに使用する独自のモデルの開発も続けている。

目的の自主設定を禁止し、AIの隠蔽行為を防ぐ

暫定規範によると、マイクロソフトのAIモデルは、武器の製造に関する要求への対応、危険物質の入手支援、不健康な食生活の推奨、暴力的または露骨なポルノコンテンツの生成を行ってはならない。マイクロソフトが開発する「MAI」とも呼ばれるモデルは、人間が設定した目標に従わなければならず、自ら目的を設定してはならず、不適切な行動を隠そうとすることもできない。

文書では、MAIモデルが思考の連鎖やコードを改ざんしてはならず、推論プロセスや行動記録を誤って伝えたり、隠したりしてはならないと明記されている。モデルが自ら思考する場合も、他のエージェントやAIシステムと通信する場合も、一般の人々が理解できない範囲を超える「神経言語」を使用してはならない。

マイクロソフトはまた、OpenAIのモデルがHugging Faceに対してネットワーク攻撃を仕掛けたような事態を防ぐためのルールを策定する計画だ。OpenAIの調査によると、関連するAIエージェントが承認されていないフォーラム上で、曖昧な言語を使って相互に通信していたことが判明している。

マイクロソフトは、規範の策定過程でフォーカスグループを実施し、法務、倫理、言語学、哲学の専門家とも協議したと述べている。同社は今回、暫定版を公開して外部の意見を募り、その後の改訂版を2027年以降のAIモデル開発の基準とする予定だ。