지금, 깊이 읽어야 하는 이유
AI가 인간을 뛰어넘는 미래가 온다면?
개발자 얀 탈린과 과학자들이 내다보는 초지능 시대 인류의 미래.
스카이프 공동 창업자인 에스토니아의 개발자 얀 탈린은 스카이프 매각 이후 인공지능 시대의 인류 생존을 고민하고 있다. 그는 AI가 인간 지능을 추월하는 상황에 대비하는 것이 인류의 가장 중요한 과제라고 지적하면서 인간을 삭제해 버리지 않는 ‘호의적’ AI를 연구하는 과학자들에게 자금을 지원한다. 신체를 소중하게 여기고, 가끔은 앞뒤가 맞지 않는 얘기를 하고, 술에 취해 잘못된 판단을 하기도 하는 인간의 평범한 행태를 AI가 공유하지 않는다면 위험한 일이 벌어질 수도 있다는 것이다. 탈린이 지원하는 연구에는 AI를 막을 수 있는 물리적인 구조물 설계, 프로그래밍을 통한 정지 버튼 설정 등이 있다. 그러나 자신의 존재를 보존하려고 하는 뛰어난 AI는 정지 상태가 되는 것을 막으려 하거나 그 이유를 파악하려 할 수 있다. 탈린은 AI가 의식, 의지를 가질 수 있을 것이냐를 논하기 전에, AI는 안전할 것인가를 물어야 한다고 강조한다.
* 13분이면 끝까지 읽을 수 있습니다(A4 7장 분량).
The Guardian × BOOK JOURNALISM
북저널리즘이 영국 《가디언》과 파트너십을 맺고 〈The Long Read〉를 소개합니다. 〈The Long Read〉는 기사 한 편이 단편소설 분량이라 깊이 있는 정보 습득이 가능하고, 내러티브가 풍성해 읽는 재미가 있습니다. 정치, 경제부터 패션, 테크까지 세계적인 필진들의 고유한 관점과 통찰을 전달합니다.
저자 소개
마라 비슨달은 《사이언스》 의 기자로 일하며 고고학, 바이오 기술 분야에 이르는 다양한 주제의 글을 쓰고 있다. 저서로 퓰리처상 논픽션 부문 최종 후보에 오른 《남성 과잉 사회》가 있다.
역자 최혜윤은 한양대학교에서 커뮤니케이션을 공부하고 미국 뉴욕 주립대 스토니브룩(Stony Brook)에서 실험심리와 인지과학을 전공했다. 인간, 기술, 문화의 융합 이슈에 많은 관심이 있으며 현재 연세대학교 의과대학에서 뇌와 행동을 연결시키는 뇌인지과학 분야를 연구하고 있다.
키노트
이렇게 구성했습니다
1. 인간을 해치는 초지능적 기계
인간성은 사라질 것인가
탈린과 유드코프스키의 만남
2. 뛰어난 AI가 할 수 있는 것
엑스리스크
케임브리지의 학자들
3. 혁신과 책임 사이
AI의 지능을 제한할 것인가
철학자 닉 보스트롬
4. AI와 인간이 관심사를 공유할 수 있을까
수학자 스튜어트 암스트롱의 오라클 AI
당연한 원칙을 학습할 수 있을까
5. 무엇이냐가 아니라 무엇을 하느냐를 물어라
권리, 의식은 다음 문제다
우리가 걱정해야 하는 것
먼저 읽어 보세요
에스토니아 출신의 컴퓨터 프로그래머인 얀 탈린은 2003년 스카이프(Skype)를 공동 창업하고 애플리케이션의 백엔드를 개발했다. 탈린은 2007년 읽게 된 엘리저 유드코프스키의 글을 계기로 인공지능에 관심을 갖게 됐다. 그는 인간이 원숭이의 우위를 점하게 된 것과 마찬가지로 초지능형 AI가 진화의 사다리에서 우리 인간의 자리를 차지하게 되거나, 혹은 더 나아가 전멸시킬 수도 있다고 보고 대응책을 마련하기 위한 연구에 투자하고 있다.
에디터의 밑줄
“호의적인 AI란 - 물론 초지능 AI에겐 가능한 일이지만 - 날씨에 대해 잡담을 나누거나 당신 아이들의 이름을 기억하는 기계나 에이전트(agent)를 의미하지 않는다. 이타심이나 애정에 기초하여 작동하는 AI를 의미하지도 않는다. AI가 인간의 충동과 가치를 공유하고 있다고 가정하는 것은 흔한 오해다. ‘호의적’이라는 것은 훨씬 더 근본적인 것을 의미한다. 미래의 기계들이 그들의 목표를 달성하기 위해 우리 인간을 지워 버리지 않는 것 말이다.”
“AI가 세상을 지배를 하기 위해서는 숙주로 삼을 신체가 필요할 것이라고 그 남성이 말했다. “물리적 형체 없이 어떻게 물리적 통제력을 가질 수 있을까요?” 탈린에게는 또 다른 은유가 준비되어 있었다. “나를 인터넷이 연결된 지하실에 집어넣어 보세요. 나는 그 자리에서 많은 피해를 유발할 수 있을 테니까요.””
“AI의 안전성을 우려하는 그룹들 내에서조차 탈린의 견해에 대한 반대론자들이 있다. 일부에서는 초지능 AI을 완전하게 이해하지 않은 우리가 이를 제한하는 방법을 고심하는 것은 시기상조라고 이의를 제기한다.”
“궁극적으로, 암스트롱은 그가 논문에서 언급한 대로 ‘커다란 빨간 정지 버튼’을 만들 필요가 있다고 믿는다. 이는 물리적 스위치가 될 수도 있고, 비상시에 AI가 스스로 자동으로 꺼지게 하는 프로그램이 될 수도 있다. 하지만 그러한 스위치를 설계하는 것은 결코 쉬운 일이 아니다. 자신의 존재를 보존하려고 하는 뛰어난 AI는 그 버튼이 눌리는 것을 막을 수 있을 뿐만 아니라, 왜 인간들이 그 버튼을 고안해 내 이를 작동 시키고 자신들을 쓸모없게 만들려고 하는지에 대해 호기심을 가질 수도 있다.”
“그 과정에서 AI는 인간의 비논리적인 면을 배우고 인지할 필요가 있을 것이다. 사람들은 종종 의미하는 바와 다른 말을 하고, 그들의 기호는 때때로 상충하며, 술에 취한 인간은 미덥지 못하다.”
코멘트
서비스, 산업의 측면에서 보는 AI를 넘어 새로운 시대를 이끄는 키워드로서의 AI를 이해할 수 있다. 유머와 통찰이 넘치는 학자들의 대화를 읽는 재미가 있다.
북저널리즘 CCO 김하나