‘AI won’t save us’ 시리즈를 시작합니다. 매주 금요일 오후 5시에 발행합니다. 우리는 지금 반세기마다 다가오는 완전히 새로운 변화를 목격하고 있습니다. 디지털 혁명보다 더 크고 더 강력한 혁명이 오고 있습니다. 바로 AI입니다. 디지털 대량 생산은 물질 대량 생산처럼 인간의 삶을 근본적으로 변화시킬 것입니다. ‘AI won’t save us’ 시리즈는 AI가 가져올 경제, 사회, 문화 변화의 징후를 포착합니다. 이번 에피소드에서는 생성형 AI가 몰고 온 ‘죽은 인터넷’의 시대에 관해 짚어봅니다.
 

변화와 징후

변화: 오픈AI가 내놓을 새로운 AI 모델에 관심이 모이고 있다. 성패에 따라 오픈AI의 가치와 미래가 달라지기 때문이다.

징후: 오픈AI가 준비하고 있는 것은 더 똑똑해진 챗GPT가 아니다. 고도의 추론 능력을 갖춘, 인간 없이도 발전하는 AI 모델이다.

AI 시대, 돈 버는 법

음악이 사기 행각에 이용될 수 있을까. 충분히 가능한 일이다. AI를 이용한다면 말이다. 미국 FBI가 7년 동안 AI를 이용해 음악 스트리밍 사기를 저지르며 약 천만 달러의 수익을 올린 인물을 체포했다. 노스캐롤라이나 출신의 마이클 스미스, 음악 프로듀서다. AI를 활용해 수십만 곡의 음악을 만들었다. 스포티파이, 아마존 뮤직, 애플 뮤직 등 주요 음원 스트리밍 플랫폼에 수천 개의 봇 계정을 생성하고, AI로 생성한 음악을 재생했다. 하루에 66만 회 이상 스트리밍했다고 한다. SUNO 등을 이용해 생성한, 꽤 들을 만한 음악도 아니었다. 저품질의 소음에 가까운 음원이었다.

엄청나게 창의적인 방법이라고 할 수는 없다. 최근 페이스북 사용자들 사이에서는 갑자기 스팸 게시물이 엄청나게 쏟아지고 있다는 이야기가 나온다. 주로 북미 지역에서 발생하는 현상이다. 어떤 것은 애매하고, 어떤 것은 명확하다. 하지만 분명히, 이 스팸 게시물은 AI가 만들어낸 이미지를 이용한다. 다친 사람들이나 곤경에 처한 사람들의 이미지를 이용해 감성을 자극하기도 하고, 약간 기분 나쁘거나 기괴한 이미지가 사용되기도 한다. 이것을 ‘AI 슬롭’이라고 한다.

미국 조지타운 대학교와 스탠퍼드 대학교의 연구진들이 분석한 결과에 따르면, 하루에 수십 번씩 정기적으로 AI 콘텐츠, 그러니까 AI 슬롭을 게시하는 페이스북 페이지 100개 이상을 조사한 결과, 다수가 사기 및 스팸에 연루되어 있다는 사실을 발견했다. 그리고 페이스북은 이러한 콘텐츠 중 일부를 사용자의 피드에 적극적으로 추천하고 있다. 이런 ‘낚시성’ 게시물은 원래 존재했던 것이다. 문제는 페이스북이 사용자에게 ‘추천’ 게시물을 더 많이 보여주고 있다는 점이다.

AI Slop

이유는 ‘틱톡’이다. 그리고 ‘뉴스’다. 소셜미디어는 이제 더 이상 ‘소셜’ 하지 않다. 틱톡의 등장으로, 소셜미디어는 ‘콘텐츠’를 소비하는 공간이 되었다. 페이스북은 이 변화에 발맞추기 위해 사용자에게 ‘추천’ 서비스를 더 많이 제공하고 있다. 내 친구의 이야기는 점점 더 적게 보게 되고, 페이스북이 보여주는 콘텐츠를 더 많이 보게 되었다는 얘기다. 앱을 더 오래 사용토록 하기 위한 전략이다. 게다가 페이스북이 언론사에 뉴스 사용료를 지불하지 않겠다는 정책을 고수하면서 주요 콘텐츠 중 하나였던 ‘뉴스’가 사라지기 시작했다. 

그러니 페이스북은 사람들에게 보여 줄 다른 콘텐츠가 필요하다. 이 전략을 유지하기 위해 페이스북은 ‘크리에이터’를 육성하고자 한다. 페이스북에 좋은 콘텐츠를 올리면 돈을 벌 수 있다. 광고 수익을 올릴 수도 있고, 팬의 후원을 받을 수도 있다. 그런데 사람들이 만든 ‘좋은 콘텐츠’는 실제로는 별로 좋지 않았다. 캐나다 맥길 대학교와 토론토 대학교의 연구 결과에 따르면, 하루 500~800만 건에 달했던 페이스북 뉴스 조회 수를 대체한 것은 정치 관련 밈(meme) 이미지였다. 뉴스가 사라진 자리에는 조롱과 출처 불명의 소식이 들어찼다. 그리고 이제는 AI로 만들어낸 스팸 이미지가 범람한다.

옥스퍼드 대학교 AI 윤리 연구소의 카리사 벨리즈 교수는 페이스북의 작동 방식 자체에 문제가 있다고 지적한다. 페이스북이 건전한 관계를 만들거나 신뢰할 수 있는 정보를 얻을 수 있는 장소가 되지 못했다는 것이다. 그저 사람들의 관심을 끌면 ‘좋아요’가 늘어나고, 그것을 이용해 돈도 벌 수 있다. 실제로 AI를 이용해 어떤 이미지를 만들어 어떻게 돈을 벌 것인지, 튜토리얼 영상까지 등장하고 있다. 영상에서는 미국에서 트래픽이 발생하면 돈을 더 벌 수 있다든가, 굶주림을 주제로 이미지를 게시하는 채널이 잘 된다든가 하는 정보를 세심하게 강의한다.

죽은 인터넷 이론

인터넷에 떠도는 괴담 중에 ‘죽은 인터넷 이론’이 있다. 지금의 온라인 세상은 이미 ‘봇’이 만들어낸 데이터로 가득 차 있다는 내용의 음모론이다. 말도 안 되는 얘기 같지만, 노르웨이에서는 지난 2021년, 이미 ‘죽은 인터넷’을 경험했다. 구글에서 무엇을 검색해도 ‘havfruen4220.dk’라는 도메인이 상위에 노출되는 현상이 발생한 것이다. havfruen은 덴마크어로 ‘인어’라는 뜻이다. 이 도메인을 클릭하면 사기 사이트로 연결되는 식이었다.

‘SEO(Search Engine Optimization)’가 마케팅의 기법 중 하나로 통용되는 시대다. 검색 엔진 최적화, 특정 웹사이트나 콘텐츠가 구글과 같은 검색 엔진에서 더 잘 노출되도록 최적화하는 작업이다. 뒤집어 말하면, 상업적인 목적으로 검색 결과를 조작하는 행위다. 우리나라에서 네이버 맛집 검색이 신뢰를 잃어버렸던 것처럼, 해외에서도 구글에 대한 신뢰는 떨어질 수밖에 없다. 미국에서는 많은 사람들이 검색어에 ‘Reddit(레딧)’을 추가한다. 영미권 최대 커뮤니티다. 구글이 보여주는 검색 결과는 믿지 못하겠으니, 커뮤니티에 올라와 있는 ‘진짜 의견’을 검색하겠다는 것이다. 네이버 맛집 검색어에 ‘엄마랑’을 추가하는 우리와 닮아있다. 인터넷에 쓰레기가 너무 많다.

아직 인터넷은 죽지 않았다. 지금, 이 글은 사람이 쓰고 있다. 살아있다. 하지만 최근 생성형 AI의 등장과 함께 슬롭(slop)이라는 단어가 널리 쓰이고 있다. 원래 음식물 찌꺼기나 오물 등을 의미하는 말이다. ‘AI 슬롭’은 AI로 만들어낸 의미 없는 콘텐츠들을 지칭하는 말이다. 스팸과는 다르다. 원치 않는 이메일, 메시지, 전화 통화 등을 무작위로 발신하는 것이 스팸이다. 어느 것이든 인간이 만들어 인간이 보낸다. 하지만 슬롭은 인간의 개입이 최소화된 형태다. 스스로 증식하는 오물이라고 할 수 있다. 오물의 농도가 높아지면 연못은 죽는다. 지금 페이스북이 질식해 가고 있는 것처럼 말이다.

사유

페이스북은 AI로 생성된 게시물에 표식을 붙이겠다는 입장이다. AI 생성물에 워터마크를 의무화하는 법안이 딥페이크 방지 대책으로 논의되는 것과 같은 맥락이다. 하지만 그런 표식이 괴상한 이미지의 생성과 소비를 근본적으로 막을 수 있을는지는 의문이다. 도파민을 자극하는 이미지가 AI 생성물인지의 여부는, 크게 중요한 문제가 아닐 수도 있기 때문이다. 진정성(Authenticity)이 문제의 핵심이 아닐 수 있다.