自己改善型AIシステムは、全10のミスアライメントベンチマークで性能を向上させ、全体的な性能を損なうことはなかった。
Anthropicの研究者が、自身の性能を改善できる自動システムの初期像を発表した。
このシステムは、特定のミスアライメント行動に焦点を当てた10のベンチマークでテストされた。
研究者によると、システムは全体的な性能を維持しながら、すべてのベンチマークで改善を示した。
これは、AIシステムが既知の安全性問題に自律的に対処でき、手動での微調整の必要性を減らす可能性を示唆している。
これらの結果がテスト環境以外でも成り立てば、自己改善はAIアライメント作業における重要なツールになり得る。
Anthropicの研究者が自己改善型AIの一端を公開した。
自動システムは全10のミスアライメントベンチマークで性能を向上させた。
この改善は、全体的な性能を低下させることなく達成された。
この自己改善の背後にある手法に関する今後の詳細が、そのアプローチの拡張性を明確にするだろう。
テストされた10以外のベンチマークでも同様の結果が現れるかどうか、注目に値する。
【严肃提醒】我从未参与、推广或代言任何虚拟货币项目。所有使用我名字、头像或形象的账号均为假冒，请勿相信任何相关投资信息。
https://t.co/54FDzGhNxO AI中转站，免订阅送点数，无需翻墙，十美金起暢享最強CLAUDE與GPT模型，不封號，也可以直接使用GPT一樣AI對話服務。可开票，无套路，BASE东京的中转站，不参水原价，打的就是十美金小额用顶部模型，
感觉每一点都戳中我 33. 为别人做过的事情，做完就立刻放下，不要记在心里。 66. 每天做一点小小的改变。 99. 尽你所能，做到最好。
Strava's data is quite protected so I couldn't index it for Hoodmaps But the good thing is the US Census data publishes median income level and the data is very fresh and accurate, so I added it to 🗺️ https://t.co/OyIH4aqaz1 So now you can switch to [ 💰 Income mode ] and https://t.co/DSRyndNzxs