과학자 존 패링턴:
인공지능
〈노동자 연대〉 구독
오늘 오후 8시에 열리는 옥스퍼드대 존 패링턴 교수 초청 강연 ‘AI가 세계를 지배하게 될까?’를 듣는 데 도움이 될 패링턴의 글을 소개한다. 2016년 알파고의 바둑 대국으로 인공지능이 화두가 되기도 전인 2014년에 쓴 글이지만, 인간의 뇌를 환원론적으로 볼 수 없는 이유에 관한 지적은 여전히 유효하다.
컴퓨터가 언젠가는 사람처럼 생각하게 될까? 인공지능이 발전하면 인간을 뛰어넘는 날이 올까? 만약 그런 일이 기술적으로 가능하다면 우리는 이를 반겨야 할까 아니면 겁내야 할까?
하루하루 먹고 사는 것이나 해고 위험, 심지어 지구온난화 등 이미 걱정할 거리가 숱하게 많은 사람들 입장에서는 위와 같은 질문이 한가한 소리처럼 들릴 수 있다.
그러나 최근 IT 기업가 일론 머스크는 슈퍼 인공지능 컴퓨터가 등장할 가능성이 높아졌고, 그것이 장차 인류의 존망을 위협할 것이라고 경고했다.
머스크는 인터넷 결제회사 페이팔로 억만장자가 된 인물이고, 인공지능을 개발하는 딥마인드의 초기 투자자이기도 했다. 최근 구글은 딥마인드를 약 5억 달러
그런데 이제 머스크는 “인공지능 기술은 악마를 소환하는 기술”이라고 주장하고 있다. 머스크는 영화
머스크의 이런 주장을 얼마나 진지하게 받아들여야 할까?
머지 않아 ‘생각하는 컴퓨터’가 등장할 것이라고 주장하는 인공지능 비관/예찬론자들의 허점 한 가지는, 인간 두뇌가 실로 얼마나 복잡한지를 과소평가하는 경향이 있다는 것이다.
예를 들어, 그런 사람들은 뇌를 컴퓨터의 하드웨어에 빗대어 “웨트웨어”라고 부른다. 그러나 이는 인간의 뇌가 어느 컴퓨터보다 훨씬 더 복잡한 구조로 돼 있다는 사실을 흐린다.
인간의 뇌에는 신경세포가 1000억 개 있다. 그런데 각각의 신경세포는 다시 평균적으로 1000개의 다른 신경세포와 연결돼 있어서 전기 자극을 주고받는 통로가 도합 1000조 개에 달한다. 현재 컴퓨터 회로의 집적 수준은 한참 낮은 수준에 있다.
게다가 뇌를 그저 커다란 집적회로로 보기도 어렵다. 신경세포들 자체의 구조도 무시할 수 없다. 그 구조에 대한 정보는 DNA에 각인돼 있기도 하지만 개인의 경험에 따라서도 달라진다.
생각
인간의 뇌는 수백만 년에 걸쳐 진화한 인간이라는 생물학적 개체들 사이의 상호작용을 가능케 하는 독특한 장소이다. 이곳에서 자의식이나, 다른 이들과 사상이나 생각을 나눌 능력 등 인간 고유의 능력이 나온다.
이 모든 것은 전기 자극만이 아니라 다양한 화학적 전달 물질로도 이뤄진다.
이처럼 복잡하게 얽힌 뇌가 총체적으로 어떻게 작동하는지에 대해 우리는 아직 알지 못한다. 하물며, 그런 뇌를 닮은 컴퓨터를 만들 능력은 더더욱 없다.
인간과 컴퓨터의 차이를 알려면 컴퓨터가 할 수 없는 일이 무엇인지를 보면 된다.
일부 컴퓨터들의 뛰어난 체스 실력을 두고 숱한 얘기들이 쏟아진다. 그러나 컴퓨터의 체스 실력이 보여 주는 것은 뛰어난 연산능력이지, 진정한 지능과는 거리가 멀다.
그래서 컴퓨터는 포커나 바둑처럼 계산보다는 직관, 창조성, 때로는 감정이 수반되는 게임에서는 맥을 못 춘다.
그러나 내가 머스크에 한 가지 동의하는 지점이 있다면, 과학 발전과 그 리스크를 지금보다 더 엄밀하게 평가할 필요가 있다는 것이다.
관건은 그런 평가를 누구에게 맡길 것이냐다. 오늘날 평범한 사람들은 신기술의 개발과 적용을 결정하는 과정에 거의 목소리를 내지 못한다. 군사용으로 쓰일 수 있는 기술은 특히나 더 그렇다.
신기술로 평범한 사람들의 삶을 개선할 잠재력이나 관련 리스크를 진정 제대로 평가하는 일은 사회주의 사회에서만 가능하다.
영화
평범한 사람들에게는 신기술로 이 세계를 낙원과 지옥 중 무엇으로 만들지 결정할 충분한 능력이 있다. 그러나 그런 결정을 내리기 위해서는 먼저 우리 위에 군림하는 소수의 지배자들에게서 이 세계를 되찾아 와야 한다.