Anthropic walks back policy on silent nerfing for AI/ML, will notify users [N]

Anthropic이 AI 개발의 안전 장치를 사용자에게 공개하기로 정책 변경을 발표했다.

Anthropic은 Fable 5의 AI 개발 안전 장치를 사용자에게 가시적으로 제공하기로 변경한다고 발표했다. 과거에 비밀리에 조정된 이 정책은 사용자들이 고급 AI를 구축하려 할 때 경고하는 시스템으로 변경된다. 회사는 기존의 균형이 잘못되었다고 사과하며, 앞으로의 정책 변화에 대한 입장을 밝혔다.

Anthropic changes policy to make AI development safeguards visible to users.

Anthropic announced that it will change its policy regarding the safeguards for AI development in Fable 5, making them visible to users. The company admitted to previously making the wrong tradeoff and apologized for not getting the balance right. Now, if the system suspects a user is attempting to build a highly capable AI, it will alert them, either refusing the request or redirecting them to a less capable model.