인공지능(AI)을 통제하지 못해 인류가 파멸할 수 있다는 경고가 다시 유행하고 있다.

최근 거대 AI 기업 앤트로픽을 퇴사한 연구원 제이콥 콕슨은 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”며 “인공지능을 개발하는 사람들은 인공지능이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿는다”고 주장했다.

한 연구원의 우려는 거대 AI 기업 수장들이 동조하면서 더욱 크게 확산됐다. 예를 들어, 앤트로픽의 CEO 다리오 아모데이는 AI의 해킹 사건을 언급하며 “우리가 속도를 늦춰야 한다는 경고 신호”라고 말했다.

이에 대해 오픈AI의 샘 올트먼, 스페이스X의 일론 머스크, 구글 딥마인드의 데미스 허사비스 등 거대 AI 기업의 CEO들이 모두 동의했다. 첨단 AI 개발 경쟁을 벌여 온 4개사 수장이 한목소리를 내는 장면이 연출된 것이다.

그러나 AI가 인간과 다른 의지를 지니고 인류를 파멸시킬 수 있다는 주장은 터무니없는 소리다. 현재 AI가 수행하는 기능은 기본적으로 방대한 양의 정보를 처리하는 것으로 의지는커녕 인간과 같은 맥락적 이해나 직관, 감정, 자의식을 갖추지 못한다.

물론 우리는 AI가 인간의 ‘통제’를 벗어나는 일을 흔히 경험한다. 챗GPT, 제미나이, 클로드 등을 이용해 보면 알 수 있듯, 이용자가 지시한 규정을 벗어나 엉뚱한 답변을 내놓는 경우가 적지 않다.

그러나 이는 AI가 의지나 자의식을 지녀서가 아니라, AI 모델이 수많은 매개변수를 조정해 통계적 오차를 줄이는 과정에서 빚어지는 기술적 오류다. 즉, AI의 우월성이 아니라 현재의 AI 모델이 갖고 있는 한계가 드러나는 일이다.

물론 AI가 인간의 지시와 규정을 벗어나지 않도록 통제할 필요는 분명히 있다. 이는 AI의 성능과 관련된 문제다. 그러나 이를 책임져야 할 거대 AI 기업들은 이를 제대로 못해 내고 있다. 현재 AI 모델 자체에 근본적 결함이 있을 뿐 아니라, 시장 선점 경쟁 탓에 충분한 검증과 조절을 거치지 않은 채 제품을 성급히 출시하고 있기 때문이다.

한편, 앤트로픽은 자사의 AI 모델을 악용한 사례들을 발표하며 AI 규제를 역설했다. 생물학 무기 개발로 이어질 수 있는 바이러스·독성물질 연구나 예멘 후티의 미사일 개발 연구에 사용하려던 시도들을 차단했다는 것이다.

그러나 이런 군사적 악용은 각 기업들이 호들갑 떨 것이 아니라 철저히 막으면 될 일이다. 오히려 문제는 미국 AI 기업들이 겉으로만 반대 입장을 내고 실제로는 미국 정부의 군사적 사용에 적극 협력해 왔다는 점이다.

이 때문에 최근 거대 AI 기업들이 AI 개발 속도 조절론을 제기하는 이유가 경쟁적 투자 비용을 줄여 수익성을 개선하기 위해서라는 주장이 설득력을 얻는다. 즉, 치열한 반도체·전력 확보 경쟁과 고금리 부담 속에서 거액의 투자를 이어 가야 하는 AI 선두 기업들이 새로운 규제를 도입해 경쟁사의 추격을 차단해 한숨 돌리려 한다는 지적이다.

실제 주요 AI 기업들의 AI 투자는 2025~2026년에 걸쳐 폭증하는 추세이며, 전체 AI 투자는 2026년 기준 6,000억~7,000억 달러(한화 약 800조~950조 원)를 넘어설 것으로 집계된다. 반면, 이런 막대한 투자에 따른 수익이 충분히 보장되지 않아 각 기업들은 점차 어려움을 겪고 있다.

그러나 막상 거대 AI 기업들은 AI 투자를 늦출 생각이 없다. AI 위협론이 제기된 직후 앤트로픽은 올해 내에 주식을 상장해 더 많은 투자금을 모으겠다고 발표했다. 오픈AI는 상장을 내년으로 미루겠다고 발표했지만, 이는 AI 규제를 보강하기 위해서가 아니라 당장 상장할 수 있는 수익을 내지 못하고 있기 때문이다.

군사적 경쟁

한편, AI 개발 속도 조절론이 제기되자 미국 대통령 트럼프는 이런 주장이 “역겨운 음모”라며 강하게 반발했다. 특히 트럼프는 “[속도 조절론을] 기뻐할 유일한 나라는 중국뿐”이라며 “AI에서 이기는 자가 승리할 것”이라고 주장했다.

마찬가지로, 〈월스트리트 저널〉은 사설에서 “시 주석이 미국의 AI 개발 속도 늦추기를 인류를 위한 기회가 아니라 중국이 AI 주도권을 쥘 절호의 기회로 여길 가능성이 높다”고 지적했다.

이는 미국 지배자들 대다수가 AI 개발에서 앞서 나가는 것을 미국의 경제적·군사적 패권을 유지할 길로 보고 여기에 ‘올인’하고 있기 때문이다.

현재 미국의 경제 성장은 상당 부분이 AI 투자 증대에 의해 유지되고 있을 뿐 아니라, 미국 지배자들은 AI가 가져올 생산성 향상이 미국의 경제적 패권 유지에 필수라고 보고 있다. 그래서 미국 정부는 막대한 재정 적자를 기록하면서도 AI 개발을 위한 투자 지원에 큰돈을 쓰고 있는 것이다.

또, AI 기술이 갈수록 군사적으로 사용되고 있는 상황에서 미중 간 군사적 경쟁에서 뒤처지지 않기 위해서도 AI 개발 경쟁은 멈출 수 없다고 보는 것이다.

다른 한편, 중국 정부도 AI 기업들을 전폭적으로 지원하며 AI 개발에 박차를 가하고, AI의 군사적 이용을 늘리고 있다. 그러면서 중국은 자국 AI의 정보를 공개하는 ‘오픈소스’ 전략으로 신흥국·개도국의 AI 개발을 지원하는 모양새를 취하고 있다.

이는 미국의 AI 기술 독점을 깨고 더 많은 사람들이 더 싼 가격에 AI를 이용할 수 있도록 지원한다는 명분을 챙김과 동시에 중국 AI 기술 표준을 확산시켜 전 세계 AI 생태계를 주도하려는 전략이다.

AI를 둘러싼 경쟁이 더욱 치열해지면서 경제적·군사적 위험도 커지고 있다. 그러나 이는 AI가 인간의 ‘통제’를 벗어나 인류를 공격하려 해서가 아니다. 계속되는 AI 투자 붐이 세계 경제를 강타할 수 있는 경제적 거품을 키우고, AI 개발로 더한층 격화되는 군사적 경쟁이 전쟁의 위험을 키우기 때문이다.

즉, AI 기술 자체가 아니라 AI의 자본주의적·제국주의적 이용이 인류를 위협하고 있는 것이다.