何が起きたか
OpenAIのCEOであるサム・アルトマン氏はソーシャルメディアに投稿し、特に技術進歩のペースが加速する中で、ますます強力な人工知能を開発する米国企業が責任をもって行動することを世界は信頼すべきだと述べた。
同氏は、統一的な安全要件を定めるフロンティア人工知能向けの連邦の枠組みの創設をOpenAIは歓迎すると述べた。
アルトマン氏はさらに、企業はこの種の信頼をもたらす取り組みを始めるにあたり、独占禁止法の適用除外や法整備を待つ必要はないと付け加えた。
同氏はまた、安全性を重視したAIの開発と評価へ移行するには新たなツールが必要であり、ミスアラインメント、監視、安全性に関する共通基準を策定するため、業界の他の参加者と協働することを楽しみにしていると述べた。
なぜ重要か
この発言は、OpenAIがフロンティアAIの規制に抵抗するのではなく、むしろ規制を招き入れていることを示唆しており、最も高性能なモデルに対する安全性の期待の設定のされ方に影響を与え得る。
企業は独占禁止法の適用除外や法整備を待つ必要はないと述べることで、アルトマン氏は、いかなる正式な法改正にも先立って自主的な業界の取り組みを始められると主張しているように見える。
ミスアラインメント、監視、安全性に関する共通基準の呼びかけは、各開発者がそれぞれ独自のルールを定めるのではなく、業界全体で慣行を調整しようとする取り組みを示している。
主なポイント
サム・アルトマン氏はOpenAIのCEOである。
アルトマン氏は、ますます強力なAIを開発する米国企業が責任をもって行動することを世界は信頼すべきだと述べた。
OpenAIは、統一的な安全要件を定めるフロンティアAI向けの連邦の枠組みを歓迎している。
アルトマン氏は、企業はこの取り組みを始めるために独占禁止法の適用除外や法整備を待つ必要はないと述べた。
アルトマン氏は、安全性を重視したAIの開発と評価には新たなツールが必要だと述べた。
OpenAIは、ミスアラインメント、監視、安全性に関する共通基準について業界の他の参加者と協働することを楽しみにしていると述べた。
今後の注目点
米国の政策立案者が、フロンティアAIの安全要件に関する連邦の枠組みという考えを取り上げるのか、そしてそれがどのような形になり得るのか。
他のAI開発者が、ミスアラインメント、監視、安全性に関する共通基準の策定でOpenAIに加わるかどうか。
今すぐ行動することと、独占禁止法の適用除外や法整備を待つこととの間にアルトマン氏が引く線引きが、AI監督をめぐるより広範な議論の中でどう展開するか。