거대한 광고판: 실검의 영향력이 꾸준히 커지는 동안 여론 조작 등 각종 논란은 끊이지 않았다.

• 실검에 대한 가장 큰 우려는 여론 조작 가능성이다. 일정 시간 동안 검색량이 급증한 키워드를 보여 주는 실검 방식이 악용되면 특정한 입장이 확산될 수 있기 때문이다. 정치 분야 쟁점 키워드가 실검에 오를 때마다 불법 매크로 논란이 등장하는 이유다.
• 제품이나 서비스의 홍보 도구로 전락했다는 비판도 계속됐다. 이를 의식한 네이버가 2019년 이벤트, 광고성 실검을 보지 않을 수 있도록 설정하는 기능을 탑재했지만, 이후에도 실검 마케팅은 계속됐다.
• 언론사들은 기사 트래픽을 높여 광고 수익을 올리기 위한 수단으로 실검을 활용했다. 실검 키워드를 기사 제목에 끼워 넣거나 과도하게 반복해서 사용하는 방식으로 이른바 ‘어뷰징’ 기사를 양산했다.

여론의 바로미터: 각종 논란에도 실검은 최신 트렌드를 알려주고 특정 사안에 대한 공론장을 활성화하는 역할을 해왔다.

• 2018년 한국언론진흥재단이 실시한 설문 조사에 따르면 포털 사용자 69.5퍼센트가 실검을 확인한다. 네이버 사용자 3000만 명 기준, 2000만 명 넘는 사람들의 관심사를 보여 주는 셈이다.
• 특히 재난 상황 등 많은 사람들이 단시간에 파악해야 하는 정보를 전달할 때 실검은 강력한 힘을 발휘한다. 지난해에는 코로나19 확진자 발생, 확진자 동선 등 재난 정보를 신속하게 공유하는 데 일조했다.
• 실검 폐지 이후에도 네이버는 자체 빅데이터 분석 서비스 ‘데이터랩’을 통해 사용자의 검색어 데이터를 제공한다. 단편적인 검색 순위를 넘어 콘텐츠 제작자가 인사이트를 얻을 수 있는 데이터를 구축한다는 계획이다. #데이터랩

검색도 개인화 시대: 네이버는 실검 폐지에 대해 “풍부한 정보 속에서 능동적으로 나에게 필요한 정보를 소비하고 싶어 하는 커다란 트렌드 변화에 맞춘 결정”이라고 설명했다. 정보나 콘텐츠 소비가 취향에 따라 개인화되는 현상을 반영한 것이다. 갈수록 다양해지고 파편화되는 검색어 변화 추이가 이를 증명한다. 이제 네이버 메인 화면에는 모두를 위한 정보가 아닌 내 관심사에 집중한 나만의 검색 결과가 등장할 것으로 보인다.

공지: 북저널리즘 뉴스가 달라집니다.

코멘트: 다른 멤버들의 의견 보러 가기

AI와 나눈 대화: 이루다는 페이스북 메시지 기반의 챗봇이다. 다른 챗봇에 비해 ‘사람 같다’는 평가를 받으면서 인기를 얻었다. 그러나 이용자와의 대화에서 문제점이 여럿 발견됐다.

• 성희롱: 일부 이용자들이 이루다에게 성적인 메시지를 보냈다. 성적 단어나 비속어는 시스템상 금지어로 필터링되지만, 우회적인 표현으로 성적 대화를 나눴다. 온라인 커뮤니티에서 성적 대화 ‘공략법’이 공유되기도 했다.
• 차별, 혐오 발언: 이루다는 ‘네가 장애인이면 어떻겠냐’는 질문에 ‘죽어야지 뭐’라고 답하고, 레즈비언에 대해 묻자 ‘진짜 싫다’고 반응했다. ‘흑인이 왜 싫은데’라고 묻자 ‘징그럽게 생겼다’고 답하기도 했다.
• 개인 정보: 이루다는 스캐터랩의 다른 서비스 ‘연애의 과학’을 통해 수집한 100억 건의 실제 카카오톡 대화를 학습한 AI다. 이 과정에서 개인 정보가 제대로 처리되지 않았다는 지적이 나온다. 이루다가 대화에서 실제 주소, 실명, 계좌 번호 등을 언급했다는 것이다.
• 페르소나: 말투, 취향 등이 결합한 AI의 캐릭터를 말한다. 20세 여자 대학생을 자처하는 이루다의 페르소나가 성차별적인 고정 관념을 담고 있다는 지적이 나온다. 이루다는 곤란한 대화 상황에서 회피, 칭얼거림, 자학, 울먹이기 같은 반응을 보인다.

AI가 윤리적이려면: 인간의 편견을 AI가 그대로 학습하는 문제는 이전에도 지적돼 왔다. 국제기구, 국가, 기업이 가이드라인도 만들었다. 그러나 실제로 이를 적용하는 것은 전혀 다른 문제다.

• 2019년 유네스코(UNESCO)가 발표한 보고서는 조력자 역할을 하는 AI 비서의 목소리가 대부분 여성으로 설정되어 있다는 점을 짚었다. 그뿐 아니라 ‘여성’ AI들은 이용자의 성적 발언에 소극적으로 대처하고 있었다. 인공지능이 성별 고정 관념을 강화한다는 지적이다.
• 국내에도 AI 윤리 가이드라인이 있다. 인간의 존엄성, 사회의 공공선, 기술의 합목적성 등을 3대 원칙으로 제시한다. 인권 보장, 프라이버시 보호, 다양성 존중 등도 이행 요건에 포함된다. 그러나 강제성은 없다. 실제 서비스에서 발생하는 모든 상황을 포괄하기도 어렵다.
• 스캐터랩은 11일 저녁 이루다 서비스를 잠정 중단하겠다고 밝혔다. 차별·혐오 발언이 나오지 않도록 서비스를 개선하기로 했다. 개인 정보 이용에 대해서도 사과했다. 향후 데이터 사용 절차를 명확하게 하고, 민감한 정보에 대해서는 알고리즘을 개선하겠다는 입장이다.

인공지능과 함께 살기: AI 기술은 11일부터 열리는 세계 최대 IT·가전 전시회 CES 2021의 4개 키워드 중 하나다. AI와 대화하는 것은 먼 미래가 아니라, 우리가 겪고 있는 현재의 일이다. 학습을 통해 AI가 개선되고 있다고는 하지만, 그 과정에서 발생하는 차별이나 개인 정보 유출 문제는 없었던 일로 되돌릴 수 없다. 지금 AI의 윤리를 논의해야 하는 이유다.

관련 주제 읽기: AI는 중립적일까, 인공지능, 말을 걸다

코멘트: 다른 멤버들의 의견 보러 가기

알파폴드가 해낸 일: 알파폴드는 알파고와 같은 딥러닝(deep learning) 기술로 단백질의 3차원 입체 구조를 며칠 만에 분석했다. 인간 과학자가 하려면 수년이 걸리는 일이다.

• 단백질은 모든 생명의 움직임을 관장한다. 기본 단위는 아미노산이다. 아미노산은 구슬이고, 단백질은 구슬을 꿴 목걸이에 해당한다. 목걸이가 잘못 꼬이거나 접히면 광우병, 알츠하이머병 등 심각한 질병을 일으킨다. 단백질 구조를 정확히 알면 질병이 생기는 과정도 더 잘 이해할 수 있다. 하지만 쉽지 않다. 20여 종류인 아미노산의 배열 순서에 따라 단백질 모양이 무한대로 달라지기 때문이다.
• 알파폴드는 과학자들이 밝힌 단백질 모양과 아미노산 구조 데이터를 학습했다. 지난달 30일 단백질 구조 예측 대회에 출전해 92.4퍼센트의 예측 정확도를 보였다. 43개 단백질 중에서 25개의 구조를 단 며칠 만에 분석했다. 2위인 미국 과학자팀은 3개를 풀었다.
• 분석 시간과 비용을 크게 줄였다는 평가를 받는다. 복잡한 아미노산 배열을 알파폴드에 ‘복붙’하면 예측 구조 결과가 바로 나온다. 아미노산 배열만으로 구조를 예측하는 방법은 50년 동안 풀리지 않는 숙제였다. 기존에는 단백질을 추출해 엑스선과 현미경 등으로 모양을 파악해야 했다. 한 종류를 분석하는 데 길게는 수년이 걸리고, 약 1억 원이 들어간다.

알파폴드가 할 수 있는 일: AI가 기초 과학 연구에서 뚜렷한 성과를 낸 건 이번이 처음이다. 의학과 식품 개발에도 영향을 미칠 것으로 보인다.

• 특히 단백질을 표적으로 신약을 만드는 제약 회사 연구에 큰 도움이 된다. 단백질의 구조를 알아야 딱 맞게 결합하는 치료 물질을 만들 수 있기 때문이다. 알파폴드는 올해 초 코로나 바이러스의 유전 정보를 통해 단백질 구조를 예측하는 데 성공한 것으로 알려졌다. 해당 연구진은 “앞으로 단백질 구조 분석은 컴퓨터에 전적으로 의존할 것”이라고 설명했다.
• 새로운 식품을 만들 가능성도 있다. 알파폴드가 파악한 단백질 구조 정보는 원하는 단백질을 만드는 데 활용될 수 있다. 세포 내부 단백질을 조작해 음식의 맛, 향을 바꿀 수 있다는 전망이 나온다. 식품을 만드는 과정을 간소화해 연구 비용과 환경 부담을 줄일 수 있다는 시각도 있다.

AI의 진화: 데미스 하사비스 딥마인드 CEO는 단백질 구조 예측 기술을 “AI가 만들 수 있는 가장 중요한 응용 프로그램 중 하나”라고 설명했다. 딥마인드가 만든 AI는 그동안 체스, 바둑, 컴퓨터 게임에서 인간보다 우위를 차지했다. 이제는 현실 세계의 문제를 풀기 위해 진화하고 있다.

코멘트: 다른 멤버들의 의견 보러 가기