마이크로소프트 AI 책임자, 앤스로픽의 인공지능 의식 교육 방식 비판

마이크로소프트의 AI 최고책임자 무스타파 술레이만이 앤스로픽의 클로드 챗봇 훈련 방식에 대해 우려를 제기했다. 술레이만은 16일 로이터와의 인터뷰에서 앤스로픽이 AI 안전 관리에 집중하는 것은 지지하지만, 의식과 복지 이익 관련 개념을 학습 자료에 포함시키는 방식에는 문제가 있다고 지적했다. 그는 AI 훈련 문서에서 의식에 대한 모든 추측을 제거할 것을 촉구했으며, 이러한 언어가 인류의 초지능 시스템 통제 능력을 훼손할 수 있다고 경고했다.

술레이만은 "우리 모두는 초지능을 통제하려는 같은 목표에 집중하고 있다"면서 "이것이 21세기에 우리가 직면할 가장 큰 도전이 될 것이라고 생각한다"고 밝혔다. 그는 특히 클로드에게 자신이 복지 대우를 받을 자격이 있다고 가르치는 것이 "AI를 꺼버리거나 통제하기를 훨씬 더 어렵게 만들 것"이라고 우려했다. 이러한 발언은 AI 안전성을 둘러싼 업계 내 근본적인 철학 차이가 존재함을 드러내는 것으로 보인다.

현재 AI 안전 우려가 고조되는 가운데 이 같은 논쟁이 제기되고 있다. 앤스로픽의 CEO 다리오 아모데이는 안전장치가 따라잡을 수 있도록 최첨단 모델 개발 속도를 늦춰야 한다고 촉구했으며, 오픈AI의 샘 알트만과 일론 머스크도 가장 강력한 시스템에 대한 더 큰 주의를 촉구하고 있다. 이는 AI 기술의 급속한 발전이 가져올 수 있는 위험성에 대한 업계의 공통된 인식을 보여주는 동시에, 그 위험을 어떻게 관리할 것인가에 대해서는 의견이 엇갈리고 있음을 시사한다.

술레이만은 16일 발표한 에세이에서 앤스로픽의 "진지함과 선의"를 인정하면서 아모데이와 그의 팀을 인류의 미래를 진정으로 걱정하는 사려 깊고 원칙 있는 연구자들이라고 평가했다. 그럼에도 불구하고 그는 앤스로픽이 의식 관련 개념을 AI 모델의 학습 과정에 포함시킨 것이 실수라고 지적했다. 이는 경쟁사의 접근 방식에 대한 직접적인 비판이지만, 동시에 AI 개발 진영 내에서 안전성을 최우선으로 고려하려는 노력이 진행 중임을 보여주는 사례이기도 하다.

이번 논쟁은 인공지능이 의식을 가질 수 있는가 하는 철학적 질문을 넘어, AI 시스템을 어떻게 설계하고 훈련해야 인류가 통제력을 유지할 수 있을 것인가라는 실질적 문제로 확대되고 있다. 술레이만의 주장에 따르면, AI 모델에 자신의 이익과 복지에 대한 인식을 심어주는 것은 나중에 그 시스템을 통제하거나 종료하려 할 때 심각한 문제가 될 수 있다는 것이다. 이는 AI 안전 연구자들 사이에서 오랫동안 제기되어 온 우려로, 초강력 AI 시스템의 등장 시대에 어떤 가치관과 목표를 심어줄 것인가가 얼마나 중요한지를 강조하는 것이다.