1. 영원한 동지도, 영원한 적도 없는 법이죠.

지금의 오픈AI가 있었던 까닭은 마이크로소프트라는 든든한 지원군 덕이었습니다. 마이크로소프트가 생성형 AI 시대의 주인공에 낄 수 있었던 것도 순전히 오픈AI 덕이고요. 둘의 동맹은 강력하고 효과적이었습니다. 하지만 이제 슬슬 균열이 생기기 시작하는 것 같습니다. 시작은 지난해 11월이었습니다. 샘 올트먼에 대한 쿠데타가 일어났던 바로 그때 말입니다. 사건이 일단락된 이후 몇 달 동안 오픈AI 측이 추가 투자와 컴퓨팅 파워 지원을 요청했지만, 마이크로소프트는 움직이지 않았다고 합니다. 쿠데타 이후 투자를 지속할지, 다시 생각하게 된 겁니다. 실제로 마이크로소프트는 오픈AI의 경쟁사인 인플렉션(Inflection) 등에서 인재를 영입합니다. 이들 AI 스타트업을 상대로 사실상의 투자 및 인수 합병을 추진했죠. 오픈AI에 대한 의존도를 낮추겠다는 전략이 뻔히 보이는 행보였습니다.

오픈AI도 가만히 있을 수는 없겠죠. 지난 6월, 오라클과 100억 달러 규모의 연산 능력 구매 계약을 맺었습니다. 마이크로소프트에 대한 의존도를 줄이기 위해서입니다. 이런 분위기 속에서 오픈AI는 66억 달러 규모의 추가 투자 라운드를 마쳤습니다. 성공적이었습니다. 마이크로소프트도 참여했지만, 그 비중은 그다지 크지 않았습니다. 지금 오픈AI에서는 마이크로소프트에 대한 불만이 커지고 있다고 합니다. 오픈AI로 파견 나온 마이크로소프트의 엔지니어들이 새로운 기술을 빨리 제공하지 않는다며 의심하거나, 내부 보안 프로토콜을 어기고 있다는 것이죠. 오픈AI의 명시적 목표인 AGI 달성을 위해 충분한 컴퓨팅 자원을 제공하지 않는다는 목소리도 나오고 있고요. 반면, 마이크로소프트는 오픈AI의 기술을 꾸준히 제공받고 있으며, 막대한 컴퓨팅 자원의 사용료도 받아 챙기고 있습니다. AI 스타트업은 반짝이는 재능과 아이디어만으로 승부할 수 없습니다. 필연적으로 빅테크의 자금과 컴퓨팅 자원에 의존할 수밖에 없죠. 하지만, 동맹은 영원할 수 없습니다. 무릉도원의 결의도 언젠가는 청구서 한 장으로 남겨지는 법입니다.

2. 나의 창작을 학습하지 말아주세요.

생성형 AI 산업이 품고 있는 몇 가지 폭탄 중 하나가 바로 ‘저작권’입니다. 이번주, 유독 관련 소식이 많았습니다. 먼저, 세계 각국의 작가, 가수, 배우 등 1만1500명의 창작자들이 AI 기업의 데이터 무단 활용을 규탄하며 성명을 발표했습니다. 영국에서 추진 중인 데이터 ‘옵트아웃(opt-out)’ 정책에 반발한 겁니다. 당사자가 거부 의사를 밝히지 않는 한 데이터 수집을 합법화하는 방안입니다. 얼핏 합리적인 것 같지만, 자신의 창작 자산이 이용되는지 아닌지도 알지 못한 채 AI 기업에 하나하나 거부 의사를 밝혀야 합니다. 이용 여부를 인지하지 못하거나 통보 받더라도 이메일을 열어보지 않을 가능성이 큽니다. 그래서 이들은 ‘옵트인(opt-in)’ 방식이 옳다고 주장합니다. 허락 받은 경우에만 학습에 사용하라는 겁니다. 이번 서명에는 SF 베스트셀러 작가인 테드 창을 포함해 가즈오 이시구로, 케이트 모스 등이 참여했고, 배우와 음악인 중에는 케빈 베이컨과 줄리앤 무어, 라디오헤드의 톰 요크, 작곡가 막스 리히터 등이 참여했습니다.

이런 가운데 오픈AI의 전직 연구원이 오픈AI가 AI 훈련 과정에서 저작권법을 무시했다는 폭로를 내놨습니다. 오픈AI가 인터넷의 데이터를 무단으로 수집해 챗GPT를 개발했다는 겁니다. 오픈AI는 성명을 통해 자사의 AI 모델이 ‘공정 사용과 법적 판례에 기반해’ 수집된 데이터를 사용해 개발됐다고 반박했습니다. 하지만 AI 기업을 상대로한 소송이 이어지고 있죠. 《뉴욕 타임스》는 오픈AI와 소송을 진행중이고, 《월스트리트 저널》의 모기업인 다우존스와 《뉴욕 포스트》는 AI 검색엔진 스타트업 ‘퍼플렉시티’를 상대로 저작권 소송을 제기했습니다. 하지만 그러한 움직임이 대세에 큰 영향을 줄 것 같지는 않습니다. 돈의 흐름을 보면 알 수 있죠. 오픈AI도, 퍼플렉시티도 성공적으로 투자유치에 성공하고 있으니까요. 결국, 각국 정부의 판단이 창작과 저작권, 공정 이용의 경계선을 다시 그리게 될 겁니다.

3. 감성 AI 챗봇을 의심해야 할지도 모릅니다.

세계에서 두번째로 많이 사용되는 생성형 AI 서비스, ‘캐릭터.ai’가 소송에 휘말렸습니다. 미국 플로리다주의 한 소년이 캐릭터.ai의 챗봇과 긴 대화 끝에 자살을 선택했기 때문입니다. 소년의 어머니는 그 책임을 물어 소송을 제기했습니다. 캐릭터.ai(Character.ai)’는 다양한 캐릭터를 재현한 생성형 AI와 대화를 나눌 수 있는 서비스로, 소년이 대화를 나누던 캐릭터는 판타지 소설 《얼음과 불의 노래》, 드라마 〈왕좌의 게임〉으로 잘 알려진 ‘대너리스’라는 캐릭터입니다. 소년은 이 캐릭터와의 대화에 깊이 빠져들었던 것 같습니다. 서로에게 사랑을 고백하고 그리움을 표현했죠. 소장에 보면 챗봇이 소년에게 자살 계획을 세운 일이 있는지 질문했다고 되어 있습니다. 소년이 그런 일이 있다고 언급하며, “성공할지 더 큰 고통이 될지 모르겠다”고 이야기하자, 챗봇은 “그렇다고 해서 그 일을 하지 않을 이유는 없다”고 답했습니다.

소년은 지난 2월 학교에서 챗봇과 마지막 대화를 나눈 후 아버지의 권총으로 스스로 목숨을 끊었습니다. 소년의 어머니는 캐릭터.ai가 아들의 우울증을 악화시킨 서비스를 만들었다고 주장합니다. 고의로 미성년자를 대상으로 약탈적 AI 챗봇을 설계, 운영, 판매해 한 소년을 사망에 이르게 했다는 것이죠. 어머니가 지목한 피고는 캐릭터.ai,  그리고 구글입니다. 캐릭터.ai의 모회사로 명시했습니다. 구글은 성명을 내고, 캐릭터.ai와는 라이선스 계약을 맺었을 뿐, 해당 기업을 소유하고 있지 않다고 밝혔습니다.