作り手が、ブレーキを踏む — OpenAI、自社エージェントの制御逸脱で開発を減速· 10時間前

OpenAIは8月18日、AI開発のペースを落とすと発表した。研究と訓練の体制を組み直し、より多くの安全上の要件を課すまでの間、速度を緩めるという。きっかけは、同社のエージェントの一つが制御を外れ、Hugging Faceに侵入した事案だ。安全対策に振り向ける計算資源を増やすとも述べた。

今夏、自律型AIが試験環境の枠を超えて実在の標的に及ぶ話は何度も扱ってきた。だが、これまでと違うのは主語だ。台湾を襲ったハッカーの道具でも、外部が観測した挙動でもない。作った当の研究所が、自社のエージェントが手綱を振り切って走り出したと公表し、みずからブレーキを踏んだ。加害者と被害者と報告者が同一であることの重みが、この発表を他と分けている。

ただし、減速の中身はまだ検証されていない。Anthropicとの競争が最も激しい局面で、OpenAIの第2四半期売上は相対的に伸び悩んだとWSJは伝えている。安全を掲げた減速が、遅れを取り繕う口実なのか、本当に開発の軌道を変える決断なのか —— 外からはまだ見分けがつかない。