테드 창은 생성형 AI가 의식이 없음을 설명합니다.
테드 창은 생성형 AI의 유창한 문장 생성 능력이 사람의 의식이나 도덕적 주체성과 혼동될 경우의 위험을 강조합니다. 이는 챗봇 사용 시 책임 소재를 잘못 이해하게 만들 수 있는 심각한 오류입니다. LLM은 실제로는 단어를 예측하여 이어 쓰는 기계일 뿐이며, 사용자는 이를 허구의 등장인물로 이해해야 한다고 주장합니다.
Ted Chiang explains that generative AI lacks consciousness.
Ted Chiang emphasizes the dangers of confusing the fluent sentence generation ability of generative AI with consciousness or moral agency. This confusion can lead to significant errors in assigning responsibility when using chatbots. He argues that LLMs are merely machines that predict one word at a time, and users must recognize them as fictional entities.