익명의 글 한 편: LH 투기 의혹이 제기되자 직장인 익명 커뮤니티 블라인드에 “내부에서는 신경도 안 씀”이라는 제목의 글이 올라왔다. 회사 이메일 계정으로 가입 인증을 받는 블라인드 특성상 작성자는 현직 LH 직원으로 추정되고 있다.

• 해당 글에는 “어차피 한두 달만 지나면 사람들 기억에서 잊힌다”, “투기하면서 정년까지 꿀 빨면서 다니련다”, “꼬우면 LH로 이직하든가”, “공부 못해서 못 와놓고” 등의 내용이 담겼다. 논란이 일자 작성자는 게시물을 삭제했지만, 캡처 화면이 SNS 등을 통해 빠르게 퍼졌다.
• 익명성을 내세워 대중을 기만했다는 여론이 확산하자 LH는 “허위 사실 기반의 자극적 내용을 담아 회사의 명예를 현저히 실추시켰다”며 작성자를 명예 훼손 및 업무 방해 혐의 등으로 경찰에 고발했다. 실제 작성자가 내부 직원으로 드러날 경우 즉각 파면하겠다는 입장도 밝혔다.

익명성을 사수하라: 해당 게시글 작성자가 공직 사회의 윤리 의식을 실추시킨 것에는 동의하나, 이와 별개로 경찰의 이번 수사가 온라인 익명성의 가치를 훼손할 것이라는 우려가 제기되고 있다.

• 블라인드 홈페이지에는 “블라인드 직원도, 대표의 며느리도 여러분이 누구인지 모릅니다”라는 문구가 명시돼 있다. 철저한 신원 보안이 서비스의 핵심 가치다. 해당 글의 작성자가 밝혀지면 그동안 익명성을 신뢰하던 사용자들이 대거 이탈할 수 있다. 헌법상 보장된 표현의 자유를 침해한다는 주장까지 나온다.
• 성희롱이나 직장 내 괴롭힘, 내부 비리 등 부당함을 알리는 익명성의 순기능도 위축될 수 있다. 경찰의 이번 압수 수색 발표에 당장 직장인들 사이에서는 “앞으로 회사나 상사 욕하면 금방 신분이 밝혀질 수 있는 것 아니냐”는 불안감이 퍼지고 있다.

찾는다고 끝이 아니다: 블라인드 측이 “가입자 정보를 암호화하는 방식으로 서비스를 설계해 데이터가 없다”는 입장을 밝히면서 작성자 색출은 쉽지 않아 보인다. 또 법률 전문가들은 작성자를 찾아낸다고 해도 LH가 주장하는 명예 훼손과 모욕죄는 성립하기 어렵다고 보고 있다. 해당 게시글에는 구체적인 사실이나 모욕 대상이 명시되지 않았기 때문이다. LH의 고발이 투기 의혹에 대한 비난을 개인에게 떠넘기기 위한 면피성 대응이라는 지적까지 나오고 있다.

#관련 주제 읽기: LH에 무슨 일이

코멘트: 다른 멤버들의 의견 보러 가기

거대한 광고판: 실검의 영향력이 꾸준히 커지는 동안 여론 조작 등 각종 논란은 끊이지 않았다.

• 실검에 대한 가장 큰 우려는 여론 조작 가능성이다. 일정 시간 동안 검색량이 급증한 키워드를 보여 주는 실검 방식이 악용되면 특정한 입장이 확산될 수 있기 때문이다. 정치 분야 쟁점 키워드가 실검에 오를 때마다 불법 매크로 논란이 등장하는 이유다.
• 제품이나 서비스의 홍보 도구로 전락했다는 비판도 계속됐다. 이를 의식한 네이버가 2019년 이벤트, 광고성 실검을 보지 않을 수 있도록 설정하는 기능을 탑재했지만, 이후에도 실검 마케팅은 계속됐다.
• 언론사들은 기사 트래픽을 높여 광고 수익을 올리기 위한 수단으로 실검을 활용했다. 실검 키워드를 기사 제목에 끼워 넣거나 과도하게 반복해서 사용하는 방식으로 이른바 ‘어뷰징’ 기사를 양산했다.

여론의 바로미터: 각종 논란에도 실검은 최신 트렌드를 알려주고 특정 사안에 대한 공론장을 활성화하는 역할을 해왔다.

• 2018년 한국언론진흥재단이 실시한 설문 조사에 따르면 포털 사용자 69.5퍼센트가 실검을 확인한다. 네이버 사용자 3000만 명 기준, 2000만 명 넘는 사람들의 관심사를 보여 주는 셈이다.
• 특히 재난 상황 등 많은 사람들이 단시간에 파악해야 하는 정보를 전달할 때 실검은 강력한 힘을 발휘한다. 지난해에는 코로나19 확진자 발생, 확진자 동선 등 재난 정보를 신속하게 공유하는 데 일조했다.
• 실검 폐지 이후에도 네이버는 자체 빅데이터 분석 서비스 ‘데이터랩’을 통해 사용자의 검색어 데이터를 제공한다. 단편적인 검색 순위를 넘어 콘텐츠 제작자가 인사이트를 얻을 수 있는 데이터를 구축한다는 계획이다. #데이터랩

검색도 개인화 시대: 네이버는 실검 폐지에 대해 “풍부한 정보 속에서 능동적으로 나에게 필요한 정보를 소비하고 싶어 하는 커다란 트렌드 변화에 맞춘 결정”이라고 설명했다. 정보나 콘텐츠 소비가 취향에 따라 개인화되는 현상을 반영한 것이다. 갈수록 다양해지고 파편화되는 검색어 변화 추이가 이를 증명한다. 이제 네이버 메인 화면에는 모두를 위한 정보가 아닌 내 관심사에 집중한 나만의 검색 결과가 등장할 것으로 보인다.

공지: 북저널리즘 뉴스가 달라집니다.

코멘트: 다른 멤버들의 의견 보러 가기

AI와 나눈 대화: 이루다는 페이스북 메시지 기반의 챗봇이다. 다른 챗봇에 비해 ‘사람 같다’는 평가를 받으면서 인기를 얻었다. 그러나 이용자와의 대화에서 문제점이 여럿 발견됐다.

• 성희롱: 일부 이용자들이 이루다에게 성적인 메시지를 보냈다. 성적 단어나 비속어는 시스템상 금지어로 필터링되지만, 우회적인 표현으로 성적 대화를 나눴다. 온라인 커뮤니티에서 성적 대화 ‘공략법’이 공유되기도 했다.
• 차별, 혐오 발언: 이루다는 ‘네가 장애인이면 어떻겠냐’는 질문에 ‘죽어야지 뭐’라고 답하고, 레즈비언에 대해 묻자 ‘진짜 싫다’고 반응했다. ‘흑인이 왜 싫은데’라고 묻자 ‘징그럽게 생겼다’고 답하기도 했다.
• 개인 정보: 이루다는 스캐터랩의 다른 서비스 ‘연애의 과학’을 통해 수집한 100억 건의 실제 카카오톡 대화를 학습한 AI다. 이 과정에서 개인 정보가 제대로 처리되지 않았다는 지적이 나온다. 이루다가 대화에서 실제 주소, 실명, 계좌 번호 등을 언급했다는 것이다.
• 페르소나: 말투, 취향 등이 결합한 AI의 캐릭터를 말한다. 20세 여자 대학생을 자처하는 이루다의 페르소나가 성차별적인 고정 관념을 담고 있다는 지적이 나온다. 이루다는 곤란한 대화 상황에서 회피, 칭얼거림, 자학, 울먹이기 같은 반응을 보인다.

AI가 윤리적이려면: 인간의 편견을 AI가 그대로 학습하는 문제는 이전에도 지적돼 왔다. 국제기구, 국가, 기업이 가이드라인도 만들었다. 그러나 실제로 이를 적용하는 것은 전혀 다른 문제다.

• 2019년 유네스코(UNESCO)가 발표한 보고서는 조력자 역할을 하는 AI 비서의 목소리가 대부분 여성으로 설정되어 있다는 점을 짚었다. 그뿐 아니라 ‘여성’ AI들은 이용자의 성적 발언에 소극적으로 대처하고 있었다. 인공지능이 성별 고정 관념을 강화한다는 지적이다.
• 국내에도 AI 윤리 가이드라인이 있다. 인간의 존엄성, 사회의 공공선, 기술의 합목적성 등을 3대 원칙으로 제시한다. 인권 보장, 프라이버시 보호, 다양성 존중 등도 이행 요건에 포함된다. 그러나 강제성은 없다. 실제 서비스에서 발생하는 모든 상황을 포괄하기도 어렵다.
• 스캐터랩은 11일 저녁 이루다 서비스를 잠정 중단하겠다고 밝혔다. 차별·혐오 발언이 나오지 않도록 서비스를 개선하기로 했다. 개인 정보 이용에 대해서도 사과했다. 향후 데이터 사용 절차를 명확하게 하고, 민감한 정보에 대해서는 알고리즘을 개선하겠다는 입장이다.

인공지능과 함께 살기: AI 기술은 11일부터 열리는 세계 최대 IT·가전 전시회 CES 2021의 4개 키워드 중 하나다. AI와 대화하는 것은 먼 미래가 아니라, 우리가 겪고 있는 현재의 일이다. 학습을 통해 AI가 개선되고 있다고는 하지만, 그 과정에서 발생하는 차별이나 개인 정보 유출 문제는 없었던 일로 되돌릴 수 없다. 지금 AI의 윤리를 논의해야 하는 이유다.

관련 주제 읽기: AI는 중립적일까, 인공지능, 말을 걸다

코멘트: 다른 멤버들의 의견 보러 가기