1. 알렉사에게 정치 성향이 생겼습니다.

알렉사, 아마도 전 세계에서 가장 많이 불렸을 이름일 겁니다. 아마존의 음성 비서 알렉사는 아주 오랫동안, 스피커 안에 갇혀 아주 기본적인 질문에만 답할 수 있었죠. 그런데 이제 알렉사가 달라질 것 같습니다. 아마존이 다음 달 공개할 예정인 새로운 알렉사에는 자체 개발한 AI 모델 대신 앤트로픽의 ‘클로드’가 탑재될 예정이기 때문이죠. 클로드는 오픈AI의 GPT 모델과 앞서거니 뒤서거니 경쟁할 만큼 뛰어난 성능을 자랑합니다.

한편, 대대적인 업그레이드를 앞두고 알렉사가 논란에 휩싸였습니다. 공화당 대선후보인 도널드 트럼프 전 대통령 캠프에서 알렉사가 민주당의 대선 후보인 카멀라 해리스 부통령을 지지한다고 주장했거든요. 한 보수 단체가 공개한 동영상을 보면, 알렉사에게 트럼프 전 대통령을 지지해야 할 이유를 물었을 때는 답변을 거부합니다. 그런데 해리스 부통령에 관해 같은 질문을 했더니 지지 이유를 줄줄 늘어놓습니다. 현재 알렉사에는 지난해 추가한 LLM이 적용되어 있습니다. 여기에 결함이 있다는 것이죠. 클로드를 장착하게 될 알렉사는 다시 정치적인 질문을 잘 피해 나갈 수 있을까요? 어쨌든 클로드는 알렉사 스피커라는 하드웨어를 입게 되었습니다.

2. 안전하고 강력한 AI 개발을 위해 10억 달러가 모였습니다.

샘 올트먼과의 대결에서 밀려난 일리야 수츠케버는 지난 5월 SSI(Safe Superintelligence Inc.)를 설립했습니다. 오픈AI를 떠나고 약 한 달 만의 일이었죠. 수츠케버는 SSI 설립 목적에 관해 ‘안전하고 강력한 AI 시스템 개발’을 언급했습니다. 그리고 회사 설립 4개월 만에 10억 달러 규모의 투자를 유치했습니다. 주요 투자사로는 A16Z(안드레센 호로위츠), 세콰이어 캐피털, DST 글로벌 등 이름만 들어도 쟁쟁한 VC들이 참여했습니다. 수츠케버는 능력 있는 과학자가 맞습니다. 다만, 이 VC들이 ‘안전’과 ‘강력’ 중에서 어느 쪽을 위해 거금을 선뜻 투자했는지는 궁금하네요.

일리야 수츠케버는 오픈AI에 몸담았을 당시 AI 안전 관련 연구 부서를 만들었습니다. 바로 ‘Superalignment’ 팀입니다. 우리말로 풀면 ‘완벽한 정렬을 위한 팀’ 정도 되겠네요. 생성형 AI의 급속한 발전과 함께 자주 언급되는 단어가 바로 ‘정렬’입니다. AI가 인간의 의도나 목적, 윤리적 기준을 벗어나지 않도록 조정하는 기술을 일컫는 말입니다. 쉽게 말해 비뚤어지지 않게끔 방향을 잡아주는 것인데요, AI를 안전하게 통제하는 것을 목적으로 합니다. 수츠케버는 AGI가 인류의 발전을 이끌기 위해서는 제대로 된 정렬이 중요하다는 점을 강조해 왔습니다. 이번 투자가 수츠케버의 신념에 득이 될지, 독이 될지 궁금합니다.

3. AI 관련 최초의 국제 조약이 나왔습니다.

AI의 국적은 어떻게 판단할 수 있을까요? 주로 미국 실리콘밸리에서 개발되고 있으니, 미국인이라고 할 수 있겠습니다. 하지만 챗GPT와 대화를 나누다 보면, 한국인과 대화하는 것과 별반 다름없다고 느낄 때도 있습니다. 실리콘밸리에서 개발된 AI 모델이라도 전 세계의 데이터를 학습했기 때문입니다. 또, 사용자도 전 세계에 걸쳐 있으니, 현재 생성형 AI의 국적은 어느 한군데를 지정하기 어렵습니다. 그래서 AI 규제도 마찬가지입니다. 한 국가 안에서만 이뤄지는 규제는 규제로서 작동하기 힘듭니다. 오히려 규제 국가를 AI 기술로부터 고립시키는 결과를 초래할 수도 있죠. 실제로 지난 8월 1일, 유럽연합(EU)은 세계 최초의 AI 법(AI ACT)을 발효했지만, 메타나 애플 등의 빅테크는 규제 위험이 있는 유럽에서 오히려 AI 서비스 출시를 미루고 있습니다.

그래서 AI와 관련된 정책, 규제 등은 국제적인 합의가 필요합니다. 미국, 영국, EU 등이 AI 사용에 관한 국제 조약(Treaty)에 서명했습니다. 중요한 한 발짝입니다. 개별 국가가 아닌 다수의 국가가 합의한 최초의 국제 조약입니다. 이 조약이 기준이 되어 향후 개별 국가들이 AI 규제법을 만들게 될 수도 있겠네요. 다만, 조약 내용은 아직 뾰족하지 않습니다. 서명한 국가들은 AI로 인한 잠재적 피해를 줄이기 위해 위험 평가 체계를 개발해야 하며, 독립적인 감시 기구도 설치할 것을 권고하고 있습니다. 평가와 감시를 해야 한다는 것은 알겠는데 방법은 애매합니다. 위반 시 제재 수단도 딱히 없습니다. 그러니 선언적인 의미의 조약이라고 볼 수 있겠습니다.