KAIST-MS, 뇌파로 ‘그게 아닌데’를 감지해 AI의 목표와 행동을 교정하는 연구 발표

KAIST와 MS 연구진이 뇌파를 활용해 AI 목표와 행동을 조정하는 기술을 발표했다.

KAIST와 마이크로소프트 연구소 아시아 팀이 공동으로 발표한 연구에서는 신경 가치 정렬(NVA) 기술을 제안했다. 이 기술은 사람의 뇌파를 피드백으로 활용하여 AI의 목표와 행동을 조정하는 방법을 설명한다. 연구는 AI가 특정 행동을 할 때 여러 목적이 있을 수 있다는 점에 주목하고, 예상과 다른 결과에 대응할 수 있는 방법에 대해 논의한다.

KAIST and MS researchers propose a method to adjust AI goals and behaviors using brainwave feedback.

A joint research team from KAIST and Microsoft Research Asia presented a technology called neural value alignment (NVA). This technology utilizes human brainwave feedback to adjust the goals and behaviors of AI. The study emphasizes the limitation that there can be multiple purposes behind specific actions, and discusses how to respond to unforeseen outcomes.