‘인류 멸종’ 경고가 만들어내는 AI 능력의 환상 요즘 인공지능에 관한 뉴스를 읽다 보면 묘한 역설을 발견하게 된다. 불과 몇 년 전까지만 해도 AI 기업들은 자신들이 얼마나 놀라운 기술을 만들었는지를 경쟁적으로 자랑했다. 이제는 반대로 자신들이 만들고 있는 기술이 얼마나 위험한지를 강조한다. 지난 9월 앤트로픽의 연구원 제이컵 콕슨Jacob Coxon은 회사를 떠나며 OpenAI와 앤트로픽이 “우리의 목숨을 걸고 도박하고 있다”고 주장했고, 앤트로픽의 정렬 연구 책임자 에번 허빙거Evan Hubinger는 향후 10년 안에 AI가 모든 인간을 죽일 가능성을 자신은 10% 이상으로 본다고 말했다. 영국에서는 컴퓨터과학자 스튜어트 러셀Stuart Russell과 전 국방장관 데스 브라운Des Browne이 AI의 위험을 핵무기에 비유했고, 의회에는 인공초지능(ASI) 개발을 금지하자는 법안까지 등장했다. AI가 [...]