AI 모델의 안전성을 평가하는 기준이 잘못된 것을 발견한 연구 결과
기업이 AI 모델을 평가하기 위해 사용하는 안전 기준이 잘못된 것을 연구가 밝혀냈습니다. OpenAI, Anthropic, Google, Amazon, xAI 등의 모델이 특정 공격 유형에 실패했다는 결과가 나왔습니다. 이는 AI 모델 안전성 평가에 대한 재고가 필요하다는 사실을 강조합니다.
Study finds safety benchmarks for AI models are measuring the wrong criteria.
A study has revealed that the safety benchmarks used by enterprises to evaluate AI models are flawed. Major models from OpenAI, Anthropic, Google, Amazon, and xAI failed to withstand certain types of attacks. This highlights the need to reconsider how we assess the safety of AI models.