OpenAIは2023年7月、超知能AIの制御を研究する「スーパーアラインメント」チームを設け、計算資源の20%を割り当てると公表していた。2024年5月、共同責任者のヤン・ライケが、安全性の文化とプロセスが製品開発の後回しにされ、チームは計算資源の確保に苦労していたとして辞任し、同社はチームの解散を認めた。TechCrunchはチーム関係者の話として、約束の一部の計算資源の要求も度々却下されていたと報じた。
出典
A source reveals that OpenAI's Superalignment team, which was created to control 'superintelligent' AI, wasn't set up for success.
A departing OpenAI executive focused on safety is raising concerns about the company on his way out the door.