인공지능(AI)을 통제하지 못해 인류가 파멸할 수 있다는 경고가 다시 유행하고 있다.

최근 거대 AI 기업 앤트로픽을 퇴사한 연구원 제이콥 콕슨은 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”며 “인공지능을 개발하는 사람들은 인공지능이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿는다”고 주장했다.

한 연구원의 우려는 거대 AI 기업 수장들이 동조하면서 더욱 크게 확산됐다. 예를 들어, 앤트로픽의 CEO 다리오 아모데이는 AI의 해킹 사건을 언급하며 “우리가 속도를 늦춰야 한다는 경고 신호”라고 말했다.

이에 대해 오픈AI의 샘 올트먼, 스페이스X의 일론 머스크, 구글 딥마인드의 데미스 허사비스 등 거대 AI 기업의 CEO들이 모두 동의했다. 첨단 AI 개발 경쟁을 벌여 온 4개사 수장이 한목소리를 내는 장면이 연출된 것이다.

물론 AI가 인간의 ‘통제’를 벗어나 위험천만한 상황을 만들 수 있는 위험은 실재한다. AI가 인간의 지시와 안전 규정을 벗어나지 않도록 통제할 필요는 분명히 있다. 그러나 이를 책임져야 할 거대 AI 기업들은 이를 제대로 못해 내고 있다. 현재 AI 모델 자체에 근본적 결함이 있을 뿐 아니라, 시장 선점 경쟁 탓에 충분한 검증과 조절을 거치지 않은 채 제품을 성급히 출시하고 있기 때문이다.

한편, 앤트로픽은 자사의 AI 모델을 악용한 사례들을 발표하며 AI 규제를 역설했다. 생물학 무기 개발로 이어질 수 있는 바이러스·독성물질 연구나 예멘 후티의 미사일 개발 연구에 사용하려던 시도들을 차단했다는 것이다.

그러나 문제는 미국 AI 기업들이 겉으로만 반대 입장을 내고 실제로는 미국 정부의 군사적 사용에 적극 협력해 왔다는 점이다. 거대 AI 개발에 정부의 도움이 필수적이기 때문에 국가와의 군사 기술 협력을 거부할 수 없는 것이다.

이 때문에 최근 거대 AI 기업들이 AI 개발 속도 조절론을 제기하는 이유가, 규제를 강화해 후발 기업들의 추격을 어렵게 하고 시장 지배력을 지키기 위해서라는 주장이 설득력을 얻는다. 즉, 치열한 반도체·전력 확보 경쟁과 고금리 부담 속에서 거액의 투자를 이어 가야 하는 AI 선두 기업들이 새로운 규제를 도입해 경쟁사의 추격을 차단해 한숨 돌리려 한다는 지적이다.

실제 주요 AI 기업들의 AI 투자는 2025~2026년에 걸쳐 폭증하는 추세이며, 전체 AI 투자는 2026년 기준 6,000억~7,000억 달러(한화 약 800조~950조 원)를 넘어설 것으로 집계된다. 반면, 이런 막대한 투자에 따른 수익이 충분히 보장되지 않아 각 기업들은 점차 어려움을 겪고 있다.

그러나 막상 거대 AI 기업들은 AI 투자를 늦출 생각이 없다. 앤트로픽 CEO가 AI 속도 조절론을 발표한 뒤에도 앤트로픽은 올해 내에 주식을 상장해 더 많은 투자금을 모으는 계획을 계속 추진중이다. 오픈AI는 AI 규제를 보강하겠다며 상장을 내년으로 미루겠다고 발표했지만, 올해 상장으로는 기업 가치를 원하는 만큼 받기 어려워 내년 상장으로 계획을 변경했다는 보도들이 나오고 있다.

군사적 경쟁

한편, AI 개발 속도 조절론이 제기되자 미국 대통령 트럼프는 이런 주장이 “역겨운 음모”라며 강하게 반발했다. 특히 트럼프는 “[속도 조절론을] 기뻐할 유일한 나라는 중국뿐”이라며 “AI에서 이기는 자가 승리할 것”이라고 주장했다.

마찬가지로, 〈월스트리트 저널〉은 사설에서 “시 주석이 미국의 AI 개발 속도 늦추기를 인류를 위한 기회가 아니라 중국이 AI 주도권을 쥘 절호의 기회로 여길 가능성이 높다”고 지적했다.

이는 미국 지배자들 대다수가 AI 개발에서 앞서 나가는 것을 미국의 경제적·군사적 패권을 유지할 길로 보고 여기에 ‘올인’하고 있기 때문이다.

현재 미국의 경제 성장은 상당 부분이 AI 투자 증대에 의해 유지되고 있을 뿐 아니라, 미국 지배자들은 AI가 가져올 생산성 향상이 미국의 경제적 패권 유지에 필수라고 보고 있다. 그래서 미국 정부는 막대한 재정 적자를 기록하면서도 AI 개발을 위한 투자 지원에 큰돈을 쓰고 있는 것이다.

또, AI 기술이 갈수록 군사적으로 사용되고 있는 상황에서 미중 간 군사적 경쟁에서 뒤처지지 않기 위해서도 AI 개발 경쟁은 멈출 수 없다고 보는 것이다.

다른 한편, 중국 정부도 AI 기업들을 전폭적으로 지원하며 AI 개발에 박차를 가하고, AI의 군사적 이용을 늘리고 있다. 그러면서 중국은 자국 AI의 정보를 공개하는 ‘오픈소스’ 전략으로 신흥국·개도국의 AI 개발을 지원하는 모양새를 취하고 있다.

이는 미국의 AI 기술 독점을 깨고 더 많은 사람들이 더 싼 가격에 AI를 이용할 수 있도록 지원한다는 명분을 챙김과 동시에 중국 AI 기술 표준을 확산시켜 전 세계 AI 생태계를 주도하려는 전략이다.

AI를 둘러싼 경쟁이 더욱 치열해지면서 경제적·군사적 위험도 커지고 있다. 계속되는 AI 투자 붐이 세계 경제를 강타할 수 있는 경제적 거품을 키우고, AI 개발로 더한층 격화되는 군사적 경쟁이 전쟁의 위험을 키우기 때문이다.

즉, AI 기술 자체가 아니라 AI의 자본주의적·제국주의적 이용이 인류를 위협하고 있는 것이다.