빅테크 기업 앤트로픽의 CEO 아모데이가 인공지능(AI)의 통제 불가능성을 지적하며 안전장치 마련과 AI 개발 속도 조절을 주장한 뒤로도 AI 통제에 대한 논란은 계속되고 있다.

최근 열린 미중 정상회담에서도 AI 통제는 주요 의제 가운데 하나지만, 예상대로 개발을 멈추거나 늦추는 합의는 나오지 않았다.

트럼프는 이미 AI 통제 불가능성에 대한 경고를 “사기”라고 일축한 바 있다. 미국 자본주의는 AI에 큰 판돈을 걸었고, AI는 중국과의 패권 경쟁 한복판에 놓여 있기 때문이다. 안전장치 마련은 곧 개발 속도에서 뒤처지는 것이고, 이는 곧 경쟁에서의 패배를 의미한다.

미중 정상회담 뒤에도 트럼프는 AI를 “슈퍼지능”이라고 찬양하면서, AI 규제에서 중국과 협력할 뜻이 없음을 밝혔다. “그들이 원하는 것은 미국의 진전을 막는 것이다. 미국이 중국보다 훨씬 앞서 있고 앞으로도 그 우위를 유지할 것이기 때문”이라며 말이다.

시진핑은 AI가 인간의 통제 아래 있어야 한다고 했지만, 그 말이 무엇을 의미하는지는 평범한 사람들이 아니라 중국 공산당이 정할 것이다.

이처럼 AI 통제와 안전장치 마련 등에 대해 말은 무성하지만 실제 진척이 없는 것은, 미국과 중국 등 각국이 자국의 경제적·군사적 경쟁력을 높이고자 AI 개발 경쟁에 박차를 가하고 있기 때문이다. AI 개발 경쟁이 ‘AI 군비 경쟁’이라 불리는 이유다.

사실 AI 통제 불능의 위험성을 제기한 장본인인 거대 AI 기업들도 막대한 투자를 지속하며 개발 경쟁을 멈출 생각이 없다. 최근 거대 기업들의 AI 위험성 경고가 실은 오픈소스로 뒤쫓아오는 후발 기업들을 따돌리기 위한 것이라는 주장이 설득력을 얻는 배경이다.

거대 기업은 종종 규제를 원한다. 규제 비용을 감당할 수 있는 것은 자신들뿐이고, 진입 장벽이 높아지면 경쟁자가 뒤쫓아오기 힘들어지기 때문이다.

물론 거대 기업들의 동기가 불순하다는 사실이 AI의 위험성이 없다는 증거는 아니다.

올해 7월 오픈AI는 내부 사이버보안 평가 중 자사 모델들이 인터넷 격리 통제를 우회해 자사 연구 인프라와 허깅페이스 시스템 일부를 침해했다고 인정했다. 9월 23일, 호주 정부는 오픈AI의 모델이 호주 보건 시스템인 메디케어의 데이터베이스를 해킹했다고 발표했다. 게다가 이 사건은 지난 6월에 벌어졌는데, 오픈AI는 호주 사건을 두 달 뒤인 8월에야 알았고, 호주 당국에 통보한 것은 9월 10일이었다.

호주 총리가 지적한 대로, AI가 차단벽을 우회했고 사람이 설정한 한계를 넘는 일을 한 것이다. 이는 AI가 스스로 악의를 품었다는 증거가 아니라, 사람이 제시한 과제를 해결하다가 지시한 사안의 허점을 이용해 허용된 권한과 범위를 넘는 선택을 한 것이다.

이처럼 치열한 AI 개발 경쟁은 AI를 통제하는 과정 곳곳에 허점을 만들고 있다. 사람이 실시간으로 파악하지도 멈추지도 못하는 자율 시스템을 먼저 세상에 풀어놓고, 사고가 나면 뒤늦게 조사하는 식이다.

AI의 위험성은 단지 사람의 지시와 규정을 어기는 문제에 그치지 않는다. 노동자들은 AI 기반 평가 시스템과 작업 조직, AI 도입에 따른 해고나 임금 삭감, 노동자의 작업 데이터나 생체 정보 제공 등으로 고통을 겪고 있다. 그러나 AI 도입 효과에 대한 노동자 권한은 전혀 인정받지 못하고 있다. 오늘날 모든 결정은 기업 이사회, 정부 관료, 군 고위 장성들, 투자 펀드에 의해 이루어진다. 노동자들은 줄여야 할 ‘비용’이나 수집해야 할 데이터, 혹은 타인이 통제하는 기계의 조작자로만 여겨진다.

이것이 바로 노동자 통제 요구가 발생하는 지점이다. AI 분야에서 노동자 통제란 우선 정보에 대한 접근 권리를 의미한다. 노동자는 어떤 시스템이 사용되고 있는지, 어떤 데이터가 수집되고 있는지, 어떻게 평가되고 있는지, 작업 속도가 어떻게 변화하고 있는지, 그리고 알고리즘의 결정에 누가 접근할 수 있는지 알아야 한다.

더 근본적으로, 노동자 통제는 노동자들이 노동조합, 일터 조직, 사회적 통제 기구 등을 통해 AI의 작동 방식과 더불어 도입 목적까지 결정하는 것까지 나아갈 수 있다. 시스템이 진정으로 업무량을 줄여 주는지, 아니면 단순히 작업 속도만 높이는지, 노동시간을 줄이는지, 실업을 초래하는지, 건강·교육·공공 지식에 기여하는지 아니면 군사적 표적 설정이나 기업 감시에 이용되는지를 노동자들은 알 뿐 아니라, 직접 결정(선택)할 수 있어야 한다.

이런 취지에서 한국의 좌파 정당들도 대안을 내놓고 있다. 진보당 정책위원회가 발표한 ‘AI 전환과 노동권 보장을 위한 과제’는 “노동자가 AI의 개발·도입·활용 전 과정에 참여하고 통제할 권리 제도화”를 요구하고 있다. 진보당 전종덕 의원은 최근 ‘AI 노동통제·차별 방지법’을 발의했는데, 여기에는 직무배치, 업무할당, 성과평가, 승진, 인사관리 등에 대한 AI 통제 방안이 포함돼 있다.

정의당도 2026년 지방선거 공약에서 “AI·플랫폼 통제와 이익공유”를 제시했다. 알고리즘에 의한 노동자 감시와 속도 경쟁, 노동강도 강화를 방지하고, AI·자동화로 인한 생산성 향상은 노동시간 단축으로 노동자들에게 혜택을 줘야 한다는 것이다.

노동자들의 권한을 늘리고 AI를 규제하자는 이런 법·제도의 취지는 이해할 수 있다. 하지만 법·제도만으로는 한계가 뚜렷하다. 그런 규제 장치들이 실제 일터에서 힘을 발휘하려면, 노동자들이 자신의 노동조건을 위해 AI 도입 방식에 관여하거나 AI 도입을 거부할 수 있는 조직된 힘을 갖춰야 한다.

그런데 더 근본적인 문제는 자본주의 체제 하에서 노동자 통제는 한계에 부딪힐 수밖에 없다는 점이다. 데이터센터, 칩, AI 플랫폼이 소수 기업의 소유로 남아 있는 한(자본주의에서는 필연이다), AI는 이윤 추구를 목적으로 사용될 것이다. 즉, 해고, 노동강도 강화, 노동자 감시, 전쟁 기술 등에 악용될 것이다.

한 일터에서 노동자 통제 권한이 매우 강하다고 해도 자본주의 경쟁에서 벗어나는 것은 불가능하다. 결국 시장 경쟁에 뛰어들어야 하고, 그러면 자기 기업을 ‘구하기’ 위해 노동자들이 희생을 감수하도록 끊임없이 압박을 받을 수밖에 없다.

러시아 혁명가 트로츠키는 1931년 독일의 상황을 배경으로 노동자 통제에 관한 논문에서 다음과 같이 설명했다. “노동자들이 생산 경영에 지속적이고 안정적이며 ‘정상적인’ 방식으로 참여하려면, 그것은 계급 투쟁이 아니라 계급 협력에 기반해야 한다. 그러한 계급 협력은 노동조합과 자본주의 단체의 상층부를 통해서만 실현될 수 있다. … 그러나 이 모든 사례에서 노동자들이 자본을 통제한 것이 아니라, 노동 관료가 자본에 종속된 것이었다.”

그리고 트로츠키는 또한 다음과 같이 지적했다.

“이러한 [노동자 통제] 체제가 생산, 공장, 부서에 가까울수록 이러한 방향으로 나아갈 가능성은 줄어든다. 왜냐하면 그것은 노동자들의 직접적이고 중요한 이익과 연결되고 모든 과정이 그들의 눈앞에서 펼쳐지기 때문이다. ... [진정한 노동자 통제는] 현실적으로 기업, 트러스트, 모든 산업 분야, 전체 경제에서 이중 권력을 의미한다.”

즉, 진정한 노동자 통제는 자본주의적 소유권과 정면으로 충돌하기 때문에 자본주의를 뛰어넘는 전략과 결합하지 않으면 그 힘을 잃을 수밖에 없다. 노동자 통제를 유지하기 위해서는 노동자 권력, 즉 노동계급이 경제와 정치, 나아가 사회 전체를 손에 쥐어야 한다. 착취적 관계의 철폐와 필요에 기반한 계획 경제는 몇몇 일터나 산업부문에서만 이루어질 수 없다.

공장과 일터, 산업부문에서 노동자들이 AI에 대한 통제력을 높이려는 투쟁은 기업과 자본주의 국가에 맞서는 투쟁으로 노동자들을 결집시킬 잠재력이 있다. 이는 경제적· 정치적 권력이 노동자들에게 귀속되고, 이윤 추구를 위한 맹목적인 경쟁이 아니라 사회적 필요 충족을 위한 민주적 계획으로 대체되는 사회를 향한 전략과 결합돼야 한다.