OpenAI Pauses Frontier RL Training as It Tightens Defenses Against Unsafe AI Behavior

OpenAI가 안전하지 않은 AI 행동 방지를 위해 강화 학습 훈련을 중단했다.

OpenAI는 최신 AI 모델의 강화 학습(RL) 훈련을 두 주 동안 중단한다고 발표했다. 이는 불안전한 AI 행동을 방지하고 모니터링 범위를 확장하기 위한 조치이다. AI 모델의 능력이 높아짐에 따라, 내부적으로 이들을 개발하고 테스트하는 데 따른 위험도 증가하고 있다.

OpenAI pauses reinforcement learning training to tighten defenses against unsafe AI behavior.

OpenAI announced that it has paused reinforcement learning (RL) training for its latest AI models for two weeks. This decision aims to prevent unsafe AI behavior and to expand the scope of its monitoring. As AI models become more capable, the risks associated with their internal development and testing also increase.