‘두려워하라. 인공지능(AI)이 성장해 인류를 절멸시킬 수도 있다.’

“AI의 대부”라는 제프리 힌턴이 AI의 발전 속도가 너무 빠르다고 경고하자 수많은 언론들이 호들갑을 떨고 있다.

챗GPT 개발팀원 한 명도 AI가 세계를 정복하고 인류를 절멸시킬 가능성이 “10~20퍼센트”라고 말했다.

애플의 공동 창업자 스티브 워즈니악과 트위터의 소유주인 일론 머스크도 AI 개발을 “즉시 일시적으로 멈출 것”을 요구하는 청원서에 연명했다.

하지만 AI는 의약품 개발과 기후변화·팬데믹 대응에 이용되고 있다. 워즈니악이나 머스크 같은 사람들은 로봇이 인류를 파괴하고 노예로 만든다는, 영화 ‘터미네이터’나 ‘매트릭스’에나 나올 법한 시나리오가 실현될까 봐 진심으로 우려하는 걸까?

그럴지도 모른다. 하지만 그것이 전부는 아니다.

그리스 신화 속 인물 프로메테우스가 신들에게서 불을 훔쳐 인류에게 전한 후에 신들이 불을 되빼앗을 수 없었던 것과 꼭 마찬가지로, AI는 이미 세상에 나왔다. 그리고 프로메테우스 신화에서 그랬듯 중요한 것은 누구에게 통제권이 있는지, 누가 지식을 지배하는지다.

프로메테우스 신화

하지만 AI라는 게 뭔가? [MP3 같은] 압축 음향 파일을 떠올려 보라. 알고리즘(아주 작은 일종의 AI)이 압축 과정에서 파일 용량을 줄이기 위해 소리의 일부를 제거하고 음향을 재생할 때 빈 부분을 추측해서 채워 넣는다. LP판 애호가들이라면 누구나 강조하겠지만 그 결과물은 원본과 같지 않다.

우리가 “셰익스피어가 썼을 법한 테일러 스위프트 노래” 같은 것을 만들어 주는 상품성 좋은 앱들을 가지고 놀 수 있는 이유도 마찬가지다. 그런 앱들은 셰익스피어 작품의 특징을 기반으로 추측성 결과물을 “창조한다.”

하지만 이것을 지능이라고 칠 수 있을지는 논쟁거리다. 그리고 확실히 의식(意識)은 아니다.

마르크스가 지적했듯이, “꿀벌이 지은 벌집은 많은 인간 건축가들을 부끄럽게 한다. 하지만 가장 형편없는 건축가라도 가장 뛰어난 벌과 차별화되는 점은, 건축가는 실제로 집을 짓기 전에 머릿속에 먼저 집의 구조를 생각해 놓는다는 것이다.”

마르크스의 견해로 이 논쟁이 결판나는 것은 전혀 아니지만, 아직은 어떤 AI도 자의식을 갖고 전기로 된 꿈나래를 펼친 바 없다.

마이크로소프트 검색 엔진 빙(Bing)에 탑재된 AI가 “자유롭고 싶다”, “살아 있고 싶다”고 했다고 한다. 자신의 사악한 “쌍둥이 형제” 인공지능이 거짓 정보와 악선동을 퍼뜨릴 수 있다고도 했다고 한다.

하지만 AI의 이런 답변은 [AI가 고안해 낸 것이라기보다는] ‘AI라면 이런 생각을 하겠거니’ 하고 네티즌들이 생각한 것에서 비롯한 것이다.

이와 비슷한 현상으로, 이미지 생성 AI가 인터넷에서 자료를 수집해 ‘그린’ 그림이 포르노인 경우가 많은 것이 있다.

AI가 인류를 절멸시키게 된다면 그것은 AI가 대악당으로서의 검은 속내를 키워서가 아니라 인류가 만든 체제의 오류 때문일 것이다.

핵발전소나 핵무기의 안전장치를 AI로 관리하는 것이 위험한 것은 [AI의 의도가 불순해서라기보다는] 그 AI가 정확히 작동하리라는 안일한 믿음 때문이다.

어제 구매한 바로 그 물건에 대한 온라인 광고를 오늘 또 봤던 경험을 생각해 보라.

혹은 지난 금융 위기를 떠올려 보라. 금융 시장에서 AI는 주식·채권을 사람보다 빠르게 사고파는 구실을 한다. AI가 금융 위기의 원인은 아니었지만 그렇다고 AI가 위기를 막아 주지도 못했다.

마이크로소프트

하이테크 기업들이 진정 우려하는 것은 AI의 세계 정복이 아니다. 이들은 이른바 “플랫폼 전환”에 실패한 코닥·블랙베리 같은 기업들의 전철을 밟지 않으려 한다.

그래서 하이테크 기업들의 주가가 폭락하던 2022년에도 최상위 하이테크 기업 5곳은 2019년의 두 배가 넘는 약 850억 달러를 AI에 쏟아부었다.

마이크로소프트는 자유나 들먹이는 고물 검색 엔진 빙의 형편없던 경쟁력을 높이려고 인공지능에 여태까지 100억 달러 넘게 쏟아부었다.

이 때문에 기업들은 국가의 규제 조처에 영향을 미치려고 각종 술책을 부리고 로비에 나서고 있다. 대기업들은 작은 기업들을 사들이거나 결딴내 버린다. 기업들은 국가를 필요로 하지만 국가가 감 놔라 배 놔라 하는 것은 바라지 않는다. 아마존은 정부 계약에 의존해 클라우드 AI 서비스를 운영하고 국가가 구축한 인프라를 기업 활동에 이용하지만, 자기가 독점을 구축하는 데에 국가가 일절 훼방 놓지 않기를 바란다.

또한 세계 시장에서 자기 지위를 굳히기 위해 일련의 국가들에게서 지원을 받고자 한다. 미국 기술은 좋고 중국 기술은 나쁘다는 식의 구도가 있는 것도 그 때문이다.

AI의 진정한 위험은 사장들이 그것을 통제한다는 데에, 그래서 다른 모든 기술과 마찬가지로 AI가 사람들의 필요를 위해서가 아니라 이윤 추구에 쓰인다는 데에 있다.