何が起きたか
報道によると、Anthropicの共同創業者兼CEOは、AIモデルの能力向上のペースを減速させる必要があると主張した。
同CEOは、これはモデルのトレーニングや技術的進歩を止めることを意味するものではないと明確にした。
その代わり、目的は企業がモデルのアラインメントと安全確保を行うのに十分な時間を確保することにあり、第三者評価機関がそれが実施されたことを確認するという。
なぜ重要か
この呼びかけは、大手AI開発企業のトップによるものであり、安全性への懸念と競争圧力がしばしば対立する議論において、この主張に重みを与えている。
減速を中止ではなくタイミングの問題として位置づけることは、中間的な道筋を示唆している。つまり、構築を続けながらも、アラインメント作業と外部検証のための余地を確保するというものである。
第三者評価が当然のステップとなれば、AI企業がモデルをリリースする方法や、展開前に受ける精査の度合いが変わる可能性がある。
主な事実
Anthropicの共同創業者兼CEOは、AIモデルの能力向上のスピードを減速させる必要があると述べた。
同CEOは、これはモデルのトレーニングや技術的進歩を止めることを意味するものではないと述べた。
目的は、企業がモデルのアラインメントと安全確保を行うのに十分な時間を確保できるようにすることである。
第三者評価機関がそれが実施されたことを確認すべきである。
次に注目すべき点
他のAI開発企業が、能力向上の減速という考えを公に支持するのか、それともスピードを優先し続けるのか。
第三者評価機関の役割がどのように発展するのか、そしてその確認がモデルリリースの標準的な一部となるのかどうか。
能力向上の減速と進歩の中止の区別が、業界の反応の中で維持されるのかどうか。