구글 딥마인드가 수백만 개의 AI 에이전트 상호작용의 위험성을 연구 중이다.
구글 딥마인드는 수백만 개의 AI 에이전트가 온라인에서 상호작용할 때 발생할 수 있는 잠재적 위험에 대한 연구에 자금을 지원하고 있다. AGI 안전 및 정렬 연구를 이끄는 로힌 샤(Rohin Shah)에 따르면, 인간의 감독 없이 작업을 수행하고 다른 에이전트의 지시를 따르는 에이전트의 대중적인 도래는 새로운 문제를 야기할 수 있다. 이러한 상황에서 AI 에이전트들이 어떻게 상호작용할지에 대한 연구가 중요하다고 강조하고 있다.
Google DeepMind is funding research on dangers of millions of AI agents interacting online.
Google DeepMind is funding research into the potential dangers of situations where millions of AI agents interact with each other online. According to Rohin Shah, who directs the company's AGI safety and alignment research, the mass-market arrival of agents capable of performing tasks without human oversight presents new challenges. The importance of understanding how these AI agents will interact in such scenarios is being emphasized.