LLM은 새로운 편향을 만들어내는 경향이 있음.
LLM(대규모 언어 모델)은 단순히 기존의 편견을 답습하는 것이 아니라, 가상 채용 실험을 통해 새로운 편향을 만들어낼 수 있다는 연구 결과가 나왔습니다. 특히, 능력 차이가 없는 집단을 서로 다른 직군에 배치하고, 초기의 우연한 성공을 반복 활용하여 다른 집단을 충분히 시험하지 않는 과정을 통해 편향이 고착되는 경향이 관찰되었습니다. 새로운 큰 모델일수록 이러한 편향이 더욱 두드러지는 것으로 나타났습니다.
LLMs tend to create new biases beyond merely perpetuating existing ones.
Research has shown that large language models (LLMs) do not just replicate existing biases but can actually create new biases, as demonstrated by virtual hiring experiments. In these studies, groups without differing abilities were assigned to different job roles, and the repetition of initial accidental successes reinforced bias without adequately testing alternate groups. The findings suggest that larger and newer models are more likely to exhibit these biases.