AI 안전과 개발 속도 놓고 엇갈린 두 거물의 입장차

인공지능 개발의 속도를 조절해야 하는가를 둘러싼 실리콘밸리의 핵심 논쟁이 두 거물의 직접 대면으로 수면 위에 떠올랐다. 15일 미국 샌프란시스코에서 열린 세일즈포스의 연례 행사 '드림포스 2026'의 기조연설 무대에서 다리오 아모데이 앤트로픽 최고경영자(CEO)와 젠슨 황 엔비디아 CEO는 AI 안전성을 확보하기 위한 방법론을 놓고 정면으로 맞섰다. 두 사람 모두 AI 안전의 중요성에는 동의했지만, 그 실현 방식에 있어서는 근본적인 차이를 드러냈다.

아모데이 CEO는 AI 산업 전체가 공동으로 안전 기준을 높이고 국제적 논의까지 확대해야 한다는 입장을 강조했다. 그는 자동차 산업의 안전사고를 사례로 들며 경쟁사를 비판하기보다 자신의 안전 기록을 먼저 점검해야 한다고 주장했다. 아모데이 CEO는 "완벽한 회사는 없기 때문에 관행을 개선하고 투명성을 높이며 안전에 더 투자해야 한다"고 밝혔으며, 이를 위해 "나머지 업계를 조직해 모두의 기준을 높이기 위해 무엇을 할 수 있는지 살펴봐야 한다"고 강조했다. 그가 제시한 3단계 계획은 먼저 앤트로픽이 자체 안전 조치를 강화하고, 이후 다른 AI 기업들과 함께 업계 기준을 논의하겠다는 것이다. 이는 개별 기업의 자율성만으로는 부족하며 산업 차원의 조율된 노력이 필요하다는 철학을 반영한다.

반면 황 CEO는 규제를 통한 속도조절에 명확하게 반대 입장을 표했다. 그는 "안전은 무엇보다 중요하며 여러 면에서 첫 번째 과제"라고 인정하면서도 "안전은 엔지니어링의 문제"라고 정의했다. AI도 결국 소프트웨어와 컴퓨팅 시스템이므로 안전한 시험 환경을 구축하고 충분히 검증하는 방식으로 위험을 관리할 수 있다는 논리다. 황 CEO는 "제품의 기능이나 성능, 안전성을 확신하지 못한다면 출시하지 않으면 된다"며 "새로운 법도, 새로운 규제도 필요하지 않다"고 말했다. 그는 혁신의 속도와 제품의 안전성이 상충하는 관계가 아니라고 주장했으며, "최대한 빨리 달려라. 다만 어느 순간 회사가 통제되지 않거나 제품이 안전하지 않다고 느끼면 멈추고 제대로 만들면 된다"고 강조했다.

두 CEO의 입장 차이는 AI 산업의 미래 방향성을 결정할 중요한 갈림길을 보여준다. 아모데이가 업계 공동 기준과 국제적 규범 마련에 무게를 둔다면, 황 CEO는 기업의 자체 검증과 시장의 자율적 통제를 강조한다. 아모데이 CEO는 다만 AI 기술 자체를 멈추자는 주장은 아니라고 선을 그었다. 그는 "프런티어 AI의 속도를 조절한다는 것이 기술 발전을 동결한다는 의미는 전혀 아니다"라며 "현재 AI 기술 수준을 그대로 유지한다고 가정해도 기업과 사회가 활용하고 있는 것은 잠재적 가치의 5~10%에 불과하다"고 설명했다. 즉, 가장 강력한 AI의 개발 과정에는 더 강한 안전장치를 두면서도 기존 AI의 보급과 활용은 계속 빠르게 진행하자는 입장이다.

황 CEO는 현재가 AI 도입을 가속해야 할 시점이라고 역설했다. 그는 최근 1년 사이 AI가 생성하는 토큰 규모가 약 25배 늘었으며, 이 가운데 오픈 모델의 비중이 약 30%에서 70% 수준으로 높아졌다고 언급했다. 기업들이 외부의 AI 모델을 사용하는 데 그치지 않고 자체 AI를 구축하는 움직임이 빠르게 확산하고 있다는 의미다. 황 CEO는 "AI에 참여하고 기술을 배워야 한다"며 "오늘 시험해봤는데 원하는 것의 80%밖에 하지 못했다고 포기하지 말라. 몇 주 뒤 다시 시험하면 훨씬 좋아져 있을 것"이라고 말했다. 기업들을 향해 "AI에 참여하라. 뒤처지지 말라"고 강조한 그의 발언은 현재의 AI 경쟁에서 속도 경쟁의 중요성을 얼마나 크게 보는지를 드러낸다.

이번 대면은 AI 산업의 성장 과정에서 불가피하게 마주치게 될 안전성과 혁신 속도 사이의 긴장 관계를 상징적으로 보여준다. 아모데이가 제시하는 산업 차원의 공동 기준과 국제적 논의는 AI 기술의 위험성을 사전에 관리하려는 접근이며, 황이 강조하는 기업 자율성과 시장 통제는 기술 발전의 동력을 유지하려는 전략이다. 두 입장 모두 현재 AI 업계가 직면한 현실적 과제를 반영하고 있으며, 향후 AI 규제와 산업 표준의 형성 과정에서 이러한 논쟁이 얼마나 영향을 미칠지가 주목된다.