담배와 테크 업계의 학계 매수 전략

1만 명 이상의 보건 정책 연구자들이 매년 열리는 세계 최대 국제 보건 정책 콘퍼런스에 참석했다고 가정해 보자. 많은 주제 가운데, 담배 사용량 증가에 따라 늘어나는 사망률 같은 부정적 보건 위협에 어떻게 대응할지도 논의될 것이다. 그런데, 무대를 빛낸 많은 의학계 연사 중 상당수가 거대 담배 회사의 후원을 받았다면 어떨까? 그뿐 아니다. 콘퍼런스 자체가 거대 담배 회사가 후원한 행사였다면?

공중 보건 분야 전문가들은 이런 콘퍼런스를 인정할 수 있을까? 이해관계가 선명하게 충돌한다는 점을 고려할 때, 대부분의 전문가는 이를 생각조차 할 수 없는 일로 여길 것이다. 담배가 공중 보건에 미치는 영향과 관련해 콘퍼런스에서 다뤄지는 모든 내용은 불신과 회의의 시선을 마주하게 될 것이다. 거대 담배 회사의 자금이 연구의 신뢰성과 중립성에 부정적인 영향을 미친다는 사실은 널리 보고되어 왔다. 민간의 자금 후원이 연구를 편향적으로 만든다는 사실도 인정되고 있다. 세계보건기구(WHO)의 담배 규제에 관한 기본 협약(Framework Convention on Tobacco Control·FCTC) 5.3항에 따르면, 국가 정책 입안자들은 이해관계가 상충하는 연사들이 하는 조언을 귀담아듣지 않아야 한다.^[1]

하지만 현재 머신 러닝(machine learning) 분야에서는 이런 일이 벌어지고 있다. ‘보건 정책’을 ‘머신 러닝’으로 바꾸고, ‘담배 사용량 증가의 영향’을 ‘인공지능 활용 증가에 따른 윤리적 우려’로 바꾸고, ‘거대 담배 회사’를 ‘거대 테크 기업’으로 바꿔 보자. 이런 사고 실험은 현재 학계에서 충돌하고 있는 이해관계를 이해할 수 있는 좋은 도구다. 하지만 머신 러닝 분야의 많은 연구자들은 잠재적 이해관계의 상충을 대체로 사소한 문제로 여기고 있다.

역사적으로 거대 담배 회사들은 대중과 과학계에 혼란과 불협화음을 일으키며 정부의 담배 규제를 지연하거나 막아 내는 데 성공했다. 1954년 거대 담배 회사들은 악화하는 여론에 직면했다. 담배 수요도 사상 최초로 감소하고 있었다. 2년 전인 1952년에 미국 유명 월간지 《리더스 다이제스트(Reader’s Digest)》는 〈담뱃갑이 일으키는 암(Cancer by the carton)〉이라는 기사에서 당시 최신 과학 연구에 의해 밝혀진 담배와 폐암 사이의 연관성을 다뤘다.^[2] 거대 담배 회사들도 연구의 결론을 내부적으로 인정하고 있었지만, 회사의 주가에 미칠 위협 때문에 연구의 내용이 알려지도록 방치할 수 없었다.^[3] 1954년 담배 회사들은 행동에 나섰다. 〈솔직한 입장문〉이라는 제목의 공개서한이었다.^[4]

〈흡연자들에게 보내는 솔직한 입장문(A Frank Statement to Cigarette Smokers)〉은 거대 담배 회사들이 400개 이상 신문의 약 4300만 명 독자를 대상으로 집행한 전면 광고였다.^[5] 유명 담배 회사 회장들은 “우리는 사람들이 건강에 갖는 관심을 다른 어떤 사항보다도 기본적이고도 무거운 책무로 받아들이고” 있으며 담배 회사는 “사람들의 건강을 지키는 전문가와 밀접한 관계를 맺고 있으며, 앞으로도 이들과 긴밀하게 협력할 것”이라고 밝혔다.^[6] 거대 담배 회사를 소비자에게 우호적이고 세심한 기업으로 묘사하고, 흡연과 폐암 사이의 결정적인 연관성을 보여 주는 의학 연구 결과에 의혹의 시선을 심어 넣기 위해 설계된 보다 거대한 계획의 일부였다.^[7]

거대 담배 회사들은 “사람들의 건강을 보호하는 임무를 가진 이들과 긴밀하게 협력하는” 중요한 임무를 위해 바쁘게 움직였다.^[8] 여기에는 담배산업연구위원회(Tobacco Industry Research Committee·TIRC)를 만드는 일도 포함되었다. 위원회의 명시적 목표는 “담배 사용이 건강에 미치는 영향을 밝히기 위해 편견 없는 과학자들이 수행하는 연구에 재정 지원을 제공하는 것”이었다.^[9] 1986년에 발표한 입장문에서 TIRC는 다음과 같이 밝혔다. “독립적 연구에 지원되는 액수가 1억 3000만 달러를 상회하면서 2600편에 달하는 논문이 발표되었다. 저명한 과학자들은 흡연과 건강 사이의 연관성이 완전히 밝혀지지 않았다고 결론지었다. 담배 산업계는 문제의 해답을 찾기 위해 새롭게 전념할 것이다.”

거대 담배 회사의 학술 기관 투자는 은밀한 방식으로 사업을 확장하는 데 도움을 주었다.^[10](그림1 참조) 담배 산업계가 자금 지원을 통해 의학 논문 발표를 도운 근본적인 이유는 1998년의 법정 소송으로 폭로되기 전까지 비밀에 부쳐져 있었다.^[11] 거대 테크 기업은 담배 업계의 고질적인 방식을 빌려와 “젊은 연구자를 기업 친화적인 방향으로 이끌 학계 지도자와 저명한 학자들을” 길들이고 있다.^[12]

거대 테크 기업은 2010년대 후반부터 광채를 잃기 시작했다. 테크 기업에 대한 대중의 인식이 삶을 편리하게 하는 ‘구세주’에서 지금까지 전통적으로 존재했던 이기적인 기업 중 하나로 바뀌기 시작하면서 여론이 시들해졌다. 2016년 미국 대통령 선거에 영향을 미치기 위해 해외 정보 요원들이 페이스북을 활용했다는 사실이 밝혀지면서 부정적인 이미지는 더욱 부각되었다.^[13]

마크 저커버그(Mark Zuckerberg) 페이스북 CEO는 미국 의회에 출석한 자리에서 이렇게 말했다. “우리가 충분한 조치를 취하지 않았다는 것은 명백합니다. 우리는 공격을 방지하는 데 충분히 집중하지 않았고, 사람들이 해를 끼칠 목적으로 페이스북이라는 도구를 활용할 수 있다는 사실을 충분히 생각하지 않았습니다.”^[14] 저커버그는 페이스북의 책무를 더욱 심각하게 받아들이겠다고 말했지만, 그의 서두 발언은 거대 담배 회사의 〈솔직한 입장문〉과 유사했다. 페이스북 내부 이메일에 따르면, 페이스북은 케임브리지 애널리티카(Cambridge Analytica)와 같은 기업이 자사 스크랩 정책을 위반하고 있음을 이미 인지하고 있었다. 저커버그는 의회에서 이를 제대로 해명하지 못했다.^[15] 그의 사과가 페이스북 CEO로서 하는 첫 번째가 아니라 여러 번 반복된 사과 중 하나라는 사실도 언급하지 않았다.^[16]

거대 테크 기업은 거대 담배 회사처럼 여론 악화의 대응책으로 “인공지능의 윤리적 개발을 보장”하고 “책임 있는 개발”에 초점을 맞추겠다는 명분으로 다양한 기관에 자금을 지원하기 시작했다.^[17] 페이스북은 “인공지능의 윤리적 개발과 활용에 헌신하겠다”고 약속했고, 구글은 인공지능의 윤리적 개발과 관련한 자사의 모범 사례를 공개했다.^[18] 마이크로소프트는 ‘윤리 점검 항목’을 개발하고 있다고 주장해 왔지만, 최근 들어 의문이 제기되고 있다.^[19] 아마존은 미국 국립과학재단(National Science Foundation·NSF)과 공동으로 인공지능의 공정성이라는 주제에 2000만 달러를 후원하고 있다.^[20] 거대 테크 기업은 연구 센터를 설립해 자사 비즈니스가 사회에 미치는 영향을 조사하고, 해당 프로젝트에 자금을 지원하는 일에도 몰두하고 있다. 비판에 대응하는 거대 테크 기업의 모습은 거대 담배 회사의 전술과 유사하다. 막대한 자금을 쏟아부어 관련 연구를 진행하는 것이다.

궁지에 몰린 거대 담배 회사와 거대 테크 기업과 같은 산업계가 학계에 대규모 자금을 투자하는 이유를 크게 네 가지로 나눠 볼 수 있다. 우선 학계에 연구 자금을 지원해 사회적 책임을 다하는 이미지를 만들려는 목표가 있다. 둘째는 자금을 지원받은 대학이 주최하는 행사와 대학 이사회의 의사 결정 과정에 영향력을 행사하려는 의도다. 셋째는 연구 자금을 틀어쥐고 대학 전체뿐 아니라 과학자 개인의 연구 주제와 계획에 영향력을 행사하기 위해서다. 마지막으로는 자금 지원을 통해 산업계에 협조적인 교수진을 발굴하고, 업계에 우호적인 여론을 조성하는 데 활용하려는 의도다. 이 글에서는 다음과 같은 기업을 ‘거대 테크 기업’으로 간주한다. 구글, 아마존, 페이스북, 마이크로소프트, 애플, 엔비디아(NVIDIA), 인텔, IBM, 화웨이, 삼성, 우버, 알리바바, 엘리먼트 AI, 오픈AI 등이다.

 

전략 하나; 사회적 책임을 다하는 기업이라는 이미지 만들기

거대 담배 회사들은 얼핏 보기에 ‘대행 기관’이라는 공정한 방식으로 학계에 연구 지원금을 제공하는 듯 보였다. 담배연구자문위원회(The Council for Tobacco Research·CTR)는 내부 소위원회에 속한 다수의 저명한 과학자의 조언을 받아 세계 여러 학술 기관의 독립적인 연구자들에게 수억 달러의 자금을 제공했다.^[21] 자금 지원 결과 양질의 연구가 상당수 출간되었다는 데는 의심의 여지가 없다. 그러나 CTR 지원금의 대부분은 담배가 흡연자의 건강과 상관관계가 없다는 가설을 증명하려는 연구로 들어갔다.^[22] 담배 회사의 선별적 자금 지원은 담배 사용이 건강에 미치는 효과를 규명하는 데 도움을 주겠다는 CTR의 명시된 목표와 배치된다.

자금 조달을 책임지는 변호사들은 과학자들의 조언에도 불구하고 니코틴에 중독성이 있다는 내용이나 흡연의 위험성을 인정하는 연구 제안은 간단히 거부했다.^[23] CTR의 지원금은 폐암의 원인을 담배 대신 반려동물로 키우는 새 등으로 돌리는 다른 연구 프로젝트에 돌아갔다. 연구 지원이 담배 회사의 사회적 책임을 부각하기 위한 일이었다는 걸 고려하면 이런 방식의 지원금 배분은 큰 문제가 있는 행위였다. 요식 행위보다 못한 자금 지원 프로젝트는 담배 회사의 책임을 묻는 1990년대 다수의 재판에서 업계에 유리한 증거로 제시됐다. CTR의 보조금 지원 대상이었던 대학과 종합 병원의 목록이 배심원들에게 담배 회사가 사회적 책임을 다했다는 증거로 제시됐다.

거대 담배 회사들이 CTR와 TIRC를 설립해 담배가 건강에 미치는 영향을 조사하는 연구에 재정 지원을 했던 것처럼, 거대 테크 기업들도 다수 기관에 자금을 지원해 왔다. 구글, 마이크로소프트, 페이스북, IBM, 아마존 등의 기업이 2016년 설립한 ‘인간과 사회에 기여하는 인공지능에 관한 파트너십(Partnership on AI to Benefit People and Society·PAI)’은 “인공지능 기술 관련 모범 사례를 정립하고 연구하며, 인공지능이 인간과 사회에 미치는 영향과 인공지능을 연구하기 위해 설립되었다”고 밝히고 있다.^[24] 하지만 여기에 참여한 학계와 시민 사회단체 구성원들은 얼마 지나지 않아 “미국자유인권협회(ACLU)든 매사추세츠 공립대(MIT)든 모든 비영리 기관이 파트너십 내에서 아무런 영향력이 없다”는 것을 깨달았다. ACLU나 MIT 등의 학술 및 비영리 단체는 PAI가 중립적인 연구를 수행하는 것처럼 보이도록 정당화하는 역할을 맡았기 때문이다.^[25]

PAI는 사회적 책임을 다하는 기업의 이미지를 만들기 위해 업계의 이익을 대변하는 조직을 설립하는 이율배반적 행위의 좋은 예시다. 2018년 11월, PAI는 파트너십에 참여한 학계 구성원들에게 캘리포니아주 상원에 계류 중인 형사 처벌법 개정안과 관련한 입장문 작성을 요청했다. 캘리포니아주 법률 위원회(Judicial Council of California, 캘리포니아주 법원의 통일된 행정 및 재판 시스템을 구축하는 기관)에 제출할 내용이 필요했기 때문이다. 보증금을 받고 형사 피고인의 구속을 풀어 주는 보석금 제도를 없애는 대신 인공지능이 재판 전 구속 여부를 일부 판단하는 시스템을 도입하는 내용이 새로운 개정안의 골자였다. PAI는 소속 연구자들이 시스템이 갖춰야 할 요소를 정리해 입장문의 형태로 주 상원과 법률 위원회에 제출하기를 원했다. 형법 제도에 점진적으로라도 인공지능이 도입된다면 테크 기업들의 비즈니스 영역이 넓어지기 때문이다.

하지만 많은 PAI 연구자들은 인공지능이 피의자 구속 여부에 개입하는 시스템이 윤리적으로 문제가 있다고 주장했다. 피의자의 구속을 판단하는 인공지능 시스템의 공정성을 논하는 계량 지표 자체가 공정하기 어렵다고 생각했기 때문이다. 인공지능을 만드는 사회와 개발자, 인간의 편견이 인공지능에 들어가게 될 수밖에 없다는 것이 이들의 논지였다. PAI는 연구자들의 반발을 무시하고 형사 피의자 구속 여부를 결정하는 인공지능 시스템 개발이 기술적으로 가능하고, 더 나은 기초 데이터와 처리 기술로 인공지능 편향성 문제를 극복할 수 있다고 주장하는 입장문 초안을 내부적으로 공유했다.^[26] 학계와 테크 업계를 아우르는 파트너십인 PAI가 올바른 정책 방향이라며 정부에 권한 내용이 ACLU나 MIT 등 학술 및 비영리 단체의 전문가가 조언하는 방향과 전혀 달랐던 것이다.

업계의 이익을 우선하는 파트너십 외에도, 테크 기업은 개별적인 홍보 캠페인을 진행하고 있다. 미 국방부와의 협업을 부정적으로 바라보는 대중과 직원의 목소리가 커지자 구글은 외부 자문 위원회를 만들었다.^[27] 하지만 위원회는 자문 위원 중 한 명이 과거 동성애자 혐오 발언을 했던 사실이 드러나면서 구설수에 오른 뒤 설립 일주일 만에 해체되었다. 마이크로소프트도 “인공지능을 경험하는 환경을 개선하고 관련 플랫폼을 구축하려는 우리의 노력이 마이크로소프트의 핵심 가치와 어긋나지 않도록” 내부 위원회를 만들었다고 밝혔다.^[28] 해외 정보기관이 페이스북을 통해 미 대선에 개입한 사건인 케임브리지 애널리티카 스캔들 이후 마크 저커버그 페이스북 CEO는 “선거 과정의 소셜 미디어 남용을 연구하기 위해 독립적인 그룹”을 만들겠다고 약속했다. 회원들은 “독립적인 학자가 될 것이며, 페이스북은 연구 활동에 어떠한 사전 통제도 하지 않을 것”이라고 덧붙였다.^[29] 최근 페이스북은 가짜 뉴스와 허위 정보 유포에 대한 우려가 커지고 있다는 점을 감안해 일부 학자의 분노를 가라앉히고 저널리즘을 지원하기 위해 3억 달러의 보조금을 편성할 것이라고도 밝혔다.^[30]

담배 회사의 보조금이 훌륭한 논문을 생산해 낸 것처럼 테크 회사의 노력이 어느 정도의 성과로 이어질 가능성도 높다. 하지만 이러한 노력이 테크 기업의 사회적 책임을 입증하기 위한 도구로 이용될 가능성도 배제할 수 없다. 거대 담배 회사가 연구 자금 지원으로 법적 책임을 회피했던 것과 마찬가지로, 거대 테크 기업도 막대한 양의 연구 지출을 구실로 감사와 규제를 회피해 왔다. 저커버그는 미 의회에서 “독립적인 학자들”이라는 표현을 사용했고, 구글은 “책임감 있는 인공지능이라는 주제에 관한 연구 논문을 1년에 75건 이상 발표하고 있다”고 과시하고 있으며, 일방적인 파트너십을 설립해 테크 기업의 사업 방식을 정당화하는 역할을 수행하게 하고 있다.

 

전략 둘; 대학에 자금을 지원하고, 영향력을 행사하라

긍정적인 이미지 형성이 연구 기관에 자금을 제공하는 유일한 동기는 아니다. 거대 담배 기업은 자사 자금에 의존하는 대학의 의사 결정 과정에서 부당한 영향력을 획득하고 사용하는 것을 주저하지 않았다.^[31] 영국계 다국적 담배 회사 임페리얼 타바코(Imperial Tobacco)는 가장 적절한 예시다. 1988년 토론토대학교 법대 학생들은 미성년자에게 담배를 판매한 쇼퍼스 드러그 마트(Shoppers Drug Mart)를 대상으로 형사 소송을 제기하는 데 크게 기여했다. 임페리얼 타바코가 소유하고 있던 쇼퍼스 드러그 마트는 18세 미만 미성년자에게 담배를 판매할 수 없다는 법규를 위반하고 14세 학생에게도 담배를 팔았다. 토론토대학교 2학년 법대생들이 대대적인 기자 회견 및 소송을 진행하자, 이에 대한 보복으로 임페리얼 타바코는 그전까지 매년 후원해 온 토론토대학교 법학부의 연례 콘퍼런스에 대한 자금 지원을 보류했다.^[32]

거대 담배 회사가 학계 의사 결정 과정에 영향력을 행사하는 덜 노골적인 방법은 의사 결정을 지연시키고 관련 규제를 무용지물로 만드는 것이다.^[33] 이는 자금 지원을 끊겠다고 위협하여 달성할 수도 있지만, 업계에 우호적인 활동가를 학계 내부에서 포섭하는 방식으로도 가능하다. 토론토대학교 전직 총장과 법대 학장을 지냈던 로버트 프리처드(Robert Pritchard)는 대형 담배 회사인 이마스코(Imasco) 임원이었고, 캐나다 담배 제조사 협의회 회장과 수석 대변인을 지냈던 로버트 파커(Robert Parker) 역시 토론토대 의대 부속 병원인 여성 대학 병원 재단 이사회에 속해 있었다. 기록된 문서로 확인할 수 있는 연결 고리들을 보면, 대학의 의사 결정이 상충하는 이해관계에 의해 어떻게 영향을 받는지 알 수 있다.^[34]

또한, 간접흡연을 주제로 개최되는 심포지엄처럼 거대 담배 회사가 후원하는 행사는 지원을 받지 않는 행사에 비해 다루는 내용의 왜곡이 심하고 논의의 질도 떨어지는 것으로 나타났다.^[35] 여기에서 출간된 논문은 연구 과정에서 적합하지 못한 실험 집단을 고르거나, 연구에서 도출된 데이터 결과 값과 맞지 않는 결론을 내리는 경우도 있었다. 증거에 기반해 결론을 내는 과학의 가장 기본적 원칙을 어긴 것이다. 하지만 거대 담배 회사는 여전히 관련 내용을 인용하고 있다.^[36]

거대 테크 기업도 자금 지원을 통해 자사 제품 혁신을 지원할 학문적 연구 성과를 확보하고 학계에서 영향력을 행사하고자 수많은 연구자를 후원하고 있다. 머신 러닝 분야 최고 권위를 자랑하는 신경 정보 처리 시스템 콘퍼런스인 뉴럴IPS(NeurIPS)의 자금줄은 이미 오래전에 구글 등 테크 기업이 틀어쥐었다. 2015년 이후, 최소 두 개의 거대 테크 기업이 뉴럴IPS에 최대 후원금을 낸 기업으로 매년 이름을 올렸다. 인공지능 윤리나 공정성에 관한 워크숍의 주최자들도 테크 기업의 영향권 안에 있다.^[37] 한 곳을 제외한 모든 워크숍은 주최자 중 최소 한 명이 거대 테크 기업과 연관되어 있었다. 거대 테크 기업이 막강한 영향력을 행사하는 학계 워크숍도 쉽게 찾아볼 수 있다. 예를 들어, “재현 가능하며 책임 있는 인공지능”을 주제로 개최된 워크숍은 페이스북이 단독으로 후원했다. 지난 5년간 뉴럴IPS에서 개최된 인공지능 윤리 워크숍 중에서 거대 테크 기업에 속한 주최자가 단 한 명도 없었던 경우는 2018년 열린 ‘강력한 금융 서비스 인공지능(Robust AI in Financial Services)’이라는 제목의 워크숍이 유일했다. 여기에도 대형 은행에서 인공지능 연구를 맡은 부서의 최고 책임자들이 참여했다.

학계 구성원의 이해관계 충돌은 인공지능과 인터넷 기술의 사회적 영향력을 다루는 콘퍼런스에서도 발견된다. ‘공정성, 책임, 투명성에 관한 미국 컴퓨터 학회 콘퍼런스(Association for Computing Machinery Conference on Fairness, Accountability, and Transparency·ACM FAccT)’는 지난 3년간 단 한 해도 거대 테크 기업으로부터 자금 지원을 받지 않은 적이 없었다. 구글은 매년, 마이크로소프트와 페이스북은 3년 중 한 해만 빼놓고 꾸준히 지원했다.^[38] 콘퍼런스 주최 측은 〈후원 및 재정 지원과 관련한 입장〉이라는 안내문을 제공하고 있지만, 후원 정보를 공유하는 것이 참가자와 연구자의 무의식적인 편향성을 방지하는 데 얼마나 효과가 있는지는 명확하지 않다.

거대 테크 기업은 인공지능 관련 워크숍의 의제를 제한하는 방식으로 공론장에서의 논의 자체를 통제하고, 토의의 방향을 바꿀 힘을 갖는다. 테크 기업은 자사가 후원하는 콘퍼런스에 다양한 관점을 가진 연사들이 참여하는 것처럼 꾸미기도 한다. 2012년 5월, 조지메이슨대학교(George Mason University) 로스쿨에서 열린 인터넷 검색 엔진 독점 관련 콘퍼런스는 학자 간 설전이 오가는 일반 콘퍼런스와는 달랐다. 구글에 비판적인 프랭크 파스칼(Frank Pasquale) 브루클린대 로스쿨 교수가 발언한 직후 연단에 나온 인사는 구글을 대표하는 로펌에 소속된 변호사인 스콧 셔(Scott Sher)였다. 셔는 학술적 발표를 하는 것이 아니라 구글의 입장을 대변하며 ‘경쟁은 한 클릭 떨어져 있고’ 당시 구글의 검색 엔진 시장 점유율인 65퍼센트는 문제될 것이 없다고 주장했다. 셔 이후에도 구글에 호의적인 인사들이 발언했는데, 콘퍼런스에는 2012년 당시 구글을 반독점법으로 기소할 것을 고려하고 있던 연방통상위원회(Federal Trade Commision·FTC), 미 의회, 미 법무부 관계자가 대거 참석해 있었다. 다른 참석자의 발언이 끝난 뒤에도 파스칼 교수에게는 자신의 입장을 방어하고 논의된 내용에 반박할 기회가 주어지지 않았다. 조지메이슨대 콘퍼런스는 구글이 반독점법으로 기소되지 않기 위해 기획한 행사였다는 것이 이후 《워싱턴포스트》 보도를 통해 드러났다. 구글은 자사의 사업이 반독점법에 저촉되지 않는다는 주장에 힘을 싣고자 연사 발언 순서와 초대된 학자 리스트까지 주도면밀하게 통제했다.

거대 테크 기업은 학계 지도자들과의 관계 형성에도 집중하고 있다. 벡터 연구소(Vector Institute)는 구글 부사장을 비롯해 차량 공유 업체 우버나 그래픽 카드 제조사 엔비디아와 등 여러 기업의 인공지능 부문 책임자를 연구진으로 참여시켰고, 총 연구 자금의 3분의 1에 해당하는 금액을 테크 기업으로부터 지원받고 있다. 벡터 연구소는 인공지능 분야에서 공정성으로 가장 명성이 높은 연구자들로 이루어져 있지만, 연구 자금의 출처 관련해 발생할 윤리적 문제에는 침묵하고 있다. 테크 기업이 과학자의 연구 자금을 지배하는 현실에서 공정성은 그저 계량적인 수치의 문제로만 치부된다.

거대 테크 기업에서 윤리 문제를 담당하는 17명의 직원을 인터뷰한 내용에 따르면, 거대 테크 기업 내부에는 ‘능력주의에 대한 맹목적 믿음,’ ‘기술 만능주의,’ ‘시장 근본주의’라는 견고한 인식이 자리 잡고 있다. 세 가지 믿음은 인공지능 윤리와 관련한 문제와 충돌하며 해결점을 찾기 더더욱 어렵게 만들고 있다.^[39] ‘능력주의에 대한 맹목적 믿음’은 테크 기업의 서비스에서 파생된 윤리적 문제들도 자신들이 직접 해결해야 한다는 생각이다. 거대 테크 기업의 직원들은 출중한 실력과 피나는 노력을 통해 그 자리에 오른 인재들이기 때문이다. 인공지능과 알고리즘에 기반한 테크 기업의 서비스에 무지한 시민 사회 활동가나 정치인이 아니라 기술과 제품을 가장 잘 아는 자신들이 스스로를 규제해야 한다고 생각한다.

‘기술 만능주의’는 기술이 모든 문제를 해결할 힘이 있으며, 아직 기술적 해결책이 없는 문제도 추가적인 연구와 개발로 해결책을 도출해 낼 수 있다는 믿음이다. 거대 테크 기업의 서비스가 원인이 된 유튜브 가짜 뉴스 문제, 페이스북 선거 개입 이용 등의 윤리적, 정치적 문제조차 기술적인 문제로 치환해 해결이 가능하다는 생각이다. 테크 기업은 자사 서비스와 연관된 윤리적 문제를 마주했을 때 정부, 시민 사회, 학계와 협력해서 문제를 풀기보다는 기술적 해결책을 내놓으려고 한다. 거대 테크 기업 결정권자들은 편향되지 않은 데이터를 구하거나 훌륭한 소프트웨어 툴킷과 체크 리스트 등 정밀한 소프트웨어 디자인을 통해 모든 종류의 데이터 편향을 교정한다면 윤리적 문제가 생기지 않을 거라 생각한다.

테크 기업 내부 의사 결정 시스템의 ‘시장 근본주의’도 빼놓을 수 없다. 기업의 시장 점유율이나 내부 주요 성과 지표에 조금이라도 타격을 줄 수 있는 윤리 담당자들의 조언은 대부분 무시된다. 기업의 수익이나 지표에 영향을 주는 윤리적인 방법을 택하면 다른 경쟁 회사에 비해 손해를 보는 것을 감수해야 한다고 생각한다.

이러한 구조적인 문제는 테크 기업 외부에서 제기되는 의문과 문제점, 우려 사항을 테크 업계가 제대로 설명하거나 규명하지 못하는 이유를 보여 준다. 거대 테크 기업이 받아들일 수 있는 윤리적 해결책은 명확히 존재하지 않는다. 테크 기업이 정부 정책이나 규제에 협력해야 한다거나, 시민이 테크 기업의 힘을 민주적으로 제한해야 한다고 주장하는 인공지능 윤리학자는 기업 내 윤리 담당자로 고용되지 못한다. 테크 기업 스스로가 윤리 문제 해결의 주체가 되어야 하고, 기술로 윤리적 문제를 해결할 수 있고, 시장 점유율과 이윤은 타협할 수 없는 지점이라는 생각 안에서 나올 수 있는 해결책은 현상 유지나 더 나은 인공지능 개발일 수밖에 없다. 기존 문제들에 대한 이러한 설명은 업계를 지배하는 “거대 테크 기업들의 논리”를 말해 주며, 테크 기업의 외부인들이 제기하는 수많은 의문과 우려 사항을 테크 기업이 고려하지 못한다는 지적과도 일맥상통한다.^[40]

 

전략 셋; 과학자의 연구 주제와 계획을 통제하라

담배연구자문위원회(CTR)는 얼핏 관련 없어 보이는 수많은 프로젝트에 의도적으로 자금을 지원했다. CTR은 연구 자금을 어떻게 분배할지 통제하며 흡연과 건강 사이의 상관관계를 규명하는 연구에 직간접적으로 영향력을 행사했다. 거대 담배 회사들은 무엇보다도 흡연자의 건강 악화에 대한 책임을 다른 원인으로 돌릴 수 있는 연구라면 무조건 자금을 지원했다.^[41] 건강 악화의 다른 원인을 찾으려는 연구가 없다면, 거대 담배 회사들은 암 관련 기초 과학 연구를 지원하는 것으로 방향을 바꿨다.^[42]

미시시피주가 1994년에 담배 회사를 대상으로 한 재판에서 최초로 승소하기 전까지, 이들 기업은 자사 제품이 초래한 암과 같은 질환과 신체적 피해에 법적 책임을 진 적이 없다. 필립 모리스(Phillip Morris) 등 거대 담배 회사는 흡연 이외에 다른 암 발생 요인에 주목한 전문가를 재판 증인으로 내세워 법률적인 책임을 회피할 수 있었다. 거대 담배 회사가 출자한 CTR의 연구 지원금을 받은 전문가들은 담배가 아닌 인유두종 바이러스(HPV), 음주, 석면, 디젤 매연, 훈제 생선, 구강 청결제, 도시 거주 등 여러 요인을 암 발병 원인으로 지목했기 때문이다.

담배가 암 발병에 기여한다는 확실한 연구 결과가 존재하기 때문에 담배 회사에 유리한 전문가 증언이 법률적, 금전적 책임으로부터 담배 업계를 완전히 자유롭게 해주지는 못한다. 그러나 담배 업계에 유리한 증언을 하는 전문가가 근거로 삼는 연구는 담배 회사가 지원금을 대고 후원했기에 출간될 수 있었다는 점을 눈여겨봐야 한다. 담배 회사는 손해 배상 소송에서 완전히 승리하지는 못하더라도, 자사가 후원한 연구 결과를 제시해 완전히 불리한 재판 결과가 나오는 것을 막는 전략을 취하고 있다. 이러한 연구는 판사와 배심원단에게 혼란을 주어 손해 배상액이나 벌금을 크게 경감하는 데 도움을 주고 있다. 거대 담배 회사는 담배와 연결 고리가 적은 기초 암 연구에 자금을 집중적으로 지원하며 ‘혼란의 씨앗’을 뿌림으로써 대중과 과학계 내부의 주의력을 분산시키는 방법을 쓰고 있다.

거대 담배 회사는 자사에 불리한 연구를 도출하는 과학자들을 망신 주려는 계획도 세웠다. 자신들이 동의하지 못하는 결론을 도출한 과학자에게 연구의 허점을 지적하는 광고를 집행하겠다고 위협하는 것이다. 담배 회사의 이익에 반하는 연구를 진행하는 것을 실수가 용납되지 않는 어려운 일로 만드는 방법이다.^[43] 대형 담배 회사인 필립 모리스와 RJ 레이놀즈(RJ Reynolds)는 담배 업계의 이익에 반하는 견해를 가진 과학자들의 정부 연구 지원금을 끊어 버리기 위해 정치인을 대상으로 로비 활동을 벌였다. 미국 보건복지부 예산 결의안 작성에 참여하는 의회 내 보좌관 등 업계에 우호적인 인맥을 이용했다. 두 회사는 자신들과 맞서 싸우던 과학자인 스탠턴 글랜츠(Stanton Glantz)가 진행하는 연구에 정부 지원금이 가지 못하게 하는 문구를 결의안에 포함시키기 위해 힘을 쏟았다. 이후 손해 배상 소송에서 줄줄이 패소하면서 필립 모리스의 내부 이메일이 공개됐는데, “글랜츠에 대한 자금 지원을 금지하는 문구가 결의안에 포함될 것”이라는 내용이 있었다.^[44]

연구 수행에 필요한 지금을 직접 구해야 하는 대부분의 과학자들은 국립 암 연구소(National Cancer Institute·NCI)나 보건복지부 등 정부 기관에 연구 자금을 요청한다. 문제는 상당수 연구 기관이 담배 업계로부터 금전적 지원을 받는다는 것이다. 과학자들이 연구 보조금 승인 가능성을 높이기 위해 담배 회사의 이해관계와 충돌하지 않는 쪽으로 조사 연구 주제를 변경할 가능성이 충분하다. 지원금이 지급된 연구 사례들에 비추어 보면, 거대 담배 회사는 자신의 이익이 침해받는 특정한 주제에 자금을 지원하지 않을 것임을 분명히 했기 때문이다.

컴퓨터 공학과의 연구 교수들과 인공지능 윤리와 공정성을 연구하는 테크 외 분야 교수들의 자금 출처 분석은 테크 기업과 학계 사이에 심각한 이해 상충 문제가 있음을 보여 준다. R1(Research I)급 북미 대학교 중 MIT, 토론토대학교, 스탠퍼드, UC 버클리 네 곳의 컴퓨터 공학과 종신 재직(tenure-track) 연구 교수에게 지원되는 자금 출처를 조사한 결과, 자금 출처가 알려진 교수진의 52퍼센트(149명 중 77명)가 거대 테크 기업으로부터 직접 지원을 받은 것이 드러났다.^[45] 박사 과정 등 이전에 진행했던 연구와 교수 개인의 과거 경력으로 기준을 더 넓게 확대하면 자금 출처가 알려진 교수진의 84퍼센트(148명 중 125명)가 거대 테크 기업으로부터 재정적 보상을 받은 적이 있었다. 연구 자금의 출처가 밝혀지지 않은 교수까지 포함해도 전체의 47퍼센트라는 수치가 나온다.

 

거대 테크 기업은 테크 분야 밖에서 진행되는 인공지능 윤리와 공정성 관련 연구에도 상당한 자금을 지원하고 있다. 컴퓨터 공학과 테크 분야 밖의 대표적 학술 저널인 《네이처(Nature)》와 《사이언스(Science)》에 기고된 인공지능 윤리와 공정성 관련 토의 논문(position paper) 저자의 연구 자금 출처 분석은 충격적이다. 17건의 논문 중 59퍼센트에 해당하는 10개 논문의 저자가 테크 기업과 금전적 이해관계가 얽힌 적이 있던 것으로 나타났다. 이는 테크 기업 대상 컨설팅이나 테크 기업이 후원한 교수 연구 수상 실적을 포함한 결과다.

연구 교수들이 의도적으로 테크 기업과 협력하지 않는다고 하더라도, 테크 업계와 학계의 이해관계가 맞물리며 거대 테크 업계에 유리한 방향의 연구가 계속해서 생산되고 있다. 인공지능 윤리 및 공정성을 다루는 대부분의 연구는 ‘혁신적인 기술 솔루션을 통해 사회 문제를 해결할 수 있다’는 거대 테크 기업의 견고한 인식을 재생산하고 있다.^[46] 학계에는 테크 기업의 주장과 다른 관점도 있다. 그러나 테크 업계에 반대되는 관점은 워크숍이나 콘퍼런스, 심포지엄과 같은 학계 인사가 모이는 자리나 이어지는 연구 및 논의에서 차지하는 비중이 작을 가능성이 높다.

 

전략 넷; 협조적인 교수진을 발견하고 활용하라

다국적 담배 회사 힐앤놀튼(Hill & Knowlton)의 전략 중 하나는 학계 내부의 회의론자를 활용해 흡연과 건강 악화 사이의 상관관계를 입증하는 과학적 발견을 의심하는 씨앗을 뿌리고 불신을 조장하는 일이었다.^[47] 이들 회의론자는 업계로부터 청탁을 받았고, 자금을 지원받았으며, 담배 산업계의 메시지를 대중적인 담론으로 증폭했다.^[48] 그 결과 기존의 회의론이 더욱 강화되며 거대 담배 회사의 목표가 일부 현실이 되었다. 거대 담배 회사 변호인들은 담배와 폐암 사이의 연관성이 확실치 않다는 증거가 조금이라도 있는 모든 연구에 자금을 지원하며 동조하는 연구자들을 적극적으로 찾아 나섰다. 반려동물로 키우는 조류가 폐암 발병률 증가의 원인으로 계속 지목되었던 배경이다. 담배 회사의 ‘전술 교본’은 1998년부터 이어진 담배 업계와의 소송 과정에서 공개된 메모 덕분에 합리적 의심을 넘어 확정적 사실로 밝혀질 수 있었다.

담배 업계는 의회 청문회에서 거대 담배 회사에 유리한 증언을 해줄 연구자들에게 지급할 자금도 비축했다. 필립 모리스는 유럽 과학자 중 담배 업계를 대변할 사람을 찾는 데 은밀한 노력을 기울였다. 회사와 발을 맞출 과학자는 이전까지 담배 업계와 연관이 없어야 했고, 간접흡연을 규제하려는 정부에 맞서 증언대에 오를 의지가 있어야 했다.^[49] 우호적인 연구자를 발견하고 연구 자금 지원의 형태로 이들을 매수하는 전략은 규제 당국 공무원, 학계 지도자, 언론사 편집 위원을 대상으로 은밀하지만 광범위하게 진행된 담배 업계의 ‘흰색 가운 프로젝트(White Coat Project)의 일부였다.^[50]

담배 회사가 암을 일으키는 다른 원인을 찾는 연구에 돈을 대고, 연구가 소송에서 담배 회사에 유리하게 작용하는 일은 지금도 벌어지고 있다. 2009년부터 2014년까지 플로리다주에서 뇌종양 및 후두암 환자들이 담배 회사를 대상으로 손해 배상 소송을 제기했다. 담배 회사들은 담배 이외의 다른 요인을 암 발병의 원인으로 지목하는 소수의 학자를 지속해서 전문가 증인으로 세웠다.^[51] 이들의 증언은 소송에서 판사와 배심원단이 무조건 암 환자의 손을 들어 주기 어렵게 만들었다. 담배 외에 수많은 다른 암 발병 요인이 있다는 전문가들의 증언 자체는 사실이기 때문이다.

거대 담배 회사가 연구 지원금을 이용해 업계 입장에서 규제를 저지하고 관련 소송에서 증언할 학자를 찾아냈던 것처럼, 거대 테크 기업도 동일한 방식으로 자신들의 힘을 조직적으로 활용하고 있다. 구글의 전 회장인 에릭 슈미트(Eric Schmidt)는 테크 기업의 영향력을 극대화하기 위해서 학계의 인공지능 관련 윤리학자 중 누구에게 자금을 지원해야 하는지 조언을 구했다.^[52] 이러한 정밀한 자금 지원 계획은 일회적으로 있었던 일이 아니다. 슈미트는 ‘슈미트 퓨쳐스(Schmidt Futures)’라는 개인 출자 재단을 만들어 연구자를 선발해 지원하고, 인공지능에 기반한 시뮬레이션 등으로 기존의 과학적 연구 방법을 일부 대체할 방안을 대학에 제시하고 있다. 마크 저커버그 페이스북 CEO도 아내의 이름을 딴 ‘챈 저커버그 이니셔티브(Chan Zuckerberg Initiative)’를 설립해 테크 기업의 청사진과 비전을 공유하는 연구진에 자금을 지원하고 있다.

조지메이슨대학교 로스쿨 교수인 조슈아 라이트(Joshua D. Wright) 교수는 테크 기업 자금 지원이 가지는 막강한 힘을 보여 준다. 그는 구글의 자금 지원으로 학술 논문을 썼으며, 연방통상위원회가 구글이 독점 금지법을 위반했는지 정밀 조사에 착수하기 전에 위원회의 조사 시도를 비판했다. 라이트가 비판적 의견을 낸 직후인 2015년 7월, 위원회는 독점 금지 위반 소송을 철회했다.^[53] 슈미트는 미 의회에 서한을 제출할 때 구글이 연구 자금을 지원한 논문을 인용했는데, 구글과 논문 연구자의 금전적 관계는 전혀 언급하지 않았다.^[54]

이처럼 노골적인 학계와의 유착 관계는 거대 담배 회사가 과거 진행했던 흰색 가운 프로젝트를 연상시킨다. 테크 기업과 학계의 연결고리는 일반 대중에 잘 드러나지 않는다. 정보를 얻기도 어렵다. 몇 년에 걸친 소송을 통해 관련 문서가 공개된 담배 업계와는 다르게, 테크 기업 내부 문서는 사내 기밀로 유지되고 있기 때문이다.

 

사회를 바꾸는 인공지능 윤리 연구를 위해

새로운 테크 기술이 사회에 미치는 영향을 다루는 논문의 자금 출처와 연구자의 배경을 찾아보면 학계와 거대 테크 기업들 사이에 우려할 만한 연결 고리가 드러난다. 현재 컴퓨터 공학계와 테크 기업의 상호 작용은 20세기 후반에 의료계와 거대 담배 회사들 사이에 존재했던 협력 관계와 기이할 정도로 유사하다. 물론, 컴퓨터 공학계를 거대 테크 기업들로부터 완전하게 떼어 놓는 것은 불가능하고, 일부 경우에는 테크 기업이 학계 연구에 자금을 대는 것이 인공지능 학계를 발전시킬 수도 있다는 타당한 지적이 존재한다. 그러나 이런 희망적인 주장이 사실이 되려면 테크 기업의 신기술이 우리 사회에 미치는 영향을 연구하는 과학자의 재정적 독립이 보장되어야 한다.

외부 민간 자금이 일으키는 학계의 이해관계 상충은 사회적 차원에서 존재하는 구조적인 문제다. 해결책이 나오기까지 민간에 맡겨 둘 것이 아니라 정부가 주도하는 법률적, 제도적인 차원에서 효율적인 해결책이 나와야 한다. 선의를 가진 숙련된 연구자가 수행하는 다수의 연구가 일부 테크 기업에 속한 구성원을 넘어 우리 사회 전체에 혜택을 가져다주기 위해서는 다음 조건들이 충족되어야 한다.

우선, 연구 자금의 출처와 관련한 모든 정보는 온라인에 투명하게 게시되어야 한다. 대학은 거대 테크 기업으로부터 연구자가 직접 자금을 지원받는 것이 어떤 경우에 적절한지 기준을 세워야 한다. 정부 정책에 영향을 미칠 수 있는 연구자의 작업에 거대 테크 기업들이 직접 자금을 지원할 수 있는가? 이 질문에 ‘그렇다’고 답한다는 것은 테크 업계와 관련된 정부 정책 수립 과정에 거대 테크 기업이 개입할 수 있음을 의미한다. 특정한 기술적 문제에 한해 연구 자금을 직접 지원할 수 있다면, 자금 지원의 효과가 위험성을 능가하는가? 자금 지원과 관련한 의사 결정은 대학 전체 차원에서 이루어져야 하는가, 학과별로 이루어져야 하는가? 과학자의 연구 영역에 따라 대답이 달라질 수 있는가? 등의 질문이 필요하다. 인공지능 윤리, 공정성, 그리고 관련 연구의 미래가 어떻게 우리의 삶을 바꿀 것인지 깊은 고민이 필요한 시점이다. 산업계의 연구 자금 지원이 학계에 끼쳤던 영향을 고려해 산업계가 자금 지원을 지렛대로 삼아 공공의 이익에 부합하지 않는 연구 의제를 밀어붙이는 것을 막을 방법을 찾아야 한다.

단기적인 해결책으로는 거대 테크 기업이 후원하는 연구 자금이 누구에게 지급될 것인지 결정하는 위원회를 만드는 방안을 생각해 볼 수 있다. 여기에 테크 업계의 입김을 최소화할 수 있는 정부와 대학 추천 인사가 들어가 어떤 연구 프로젝트에 자금을 댈지 정하는 역할을 하는 것이다. 독립적인 단체가 연구비의 향방을 정하는 것이 완벽한 대안은 아니지만, 현재 테크 기업의 거대한 영향력을 줄이는 방법은 될 수 있다. 최근 미국과 캐나다 정부의 연구 지원 예산이 삭감된 자리를 거대 테크 기업이 채우면서 업계의 입김이 더 세진 측면도 있다. 중립적인 연구 위원회가 전문가의 토론으로 연구 자금 배분의 우선순위를 정한다면, 테크 기업의 자금이 전체 연구비에서 여전히 큰 비중을 차지하더라도 보다 공적인 의사 결정 구조를 통해 그들을 견제할 수 있다.

더 나아가 기술 개발의 성과가 사회 전체에 비교적 고르게 나누어지기 위해서는 사회 전체적으로 영향을 미칠 테크 관련 연구의 방향을 민주적으로 통제할 수 있어야 한다. 시민의 통제를 받는 의회와 정부가 법률 제정을 통해 테크 기업이 지원할 수 있는 연구의 범위를 명확히 정립하는 것이다. 어떤 종류의 연구가 테크 업계의 자금을 받을 수 있고 연구 자금 지원은 어떠한 공식 절차를 통해 이루어질 수 있는지 등 모든 정보를 투명하게 밝힐 것을 의무화하는 법률이 통과되어야 한다. 학계도 이해관계 상충 문제가 작동하는 방식을 면밀하게 이해하고, 테크 기업으로부터 받는 자금이 연구자의 자율성을 심각하게 제한하는 문제를 자발적으로 고민해야 한다.

장기적인 방안은 생명 윤리학과 생명 공학이 분리된 것처럼 인공지능 윤리학을 컴퓨터 공학으로부터 분리하는 것이다. 거대 제약 기업에서 자금을 지원받는 생명 윤리학 학자의 연구가 진지하게 받아들여지기는 어렵다. 거대 테크 기업의 입김으로부터 자유로운 ‘인공지능 윤리학’이라는 새로운 학문 분야를 정착시켜야 한다. ‘더 성능 좋은 알고리즘을 어떻게 만드는가’와 같은 기술적인 문제를 해결하기 위해 테크 기업이 연구 자금을 대는 일은 문제가 되지 않는다. ‘인공지능이 어떻게 활용되어야 하는가’라는 인공지능 윤리학의 문제와 겹치지 않기 때문이다. 그러나 ‘어느 분야에 인공지능을 도입해 의사 결정을 위탁할 것인가’와 같은 문제는 윤리학의 영역이다. 현실적인 문제는 대부분의 컴퓨터 공학자가 인공지능 윤리 문제를 동시에 연구하는 상황에서 어떻게 거대 테크 기업과 연관이 없는 학자를 찾아내느냐 하는 것이다.

거대 테크 기업이 학계와 정부 정책에 끼치는 영향을 제대로 견제하지 못한다면 우리는 지금보다 덜 정의로운 사회에서 살게 될지도 모른다. 거대 테크 기업과 그들이 개발한 인공지능이 주도하는 사회는 부와 권력이 일부 소수에 집중되어 있고 지속적인 이윤 창출을 위해 불평등에 눈을 감는 세상이다. 다행히 권력 독점의 사회가 현실이 되는 것을 막을 시간이 있다. 알고리즘이 지배하는 세상을 막기 위한 움직임이 필요하다.