모하메드 압달라(Mohamed Abdalla)는 토론토대학교 컴퓨터 공학과에서 박사 과정을 밟고 있다. 현재 토론토대학교 윤리 연구소(Center for Ethics)에서 자금 지원을 받아 컴퓨터의 자연어 처리와 인공지능의 윤리적 사용에 관한 연구를 이어나가고 있다. 세계 정상급 대학의 컴퓨터 공학과 교수진과 테크 기업 사이의 금전적 이해관계를 탐구한 〈회색 후드 프로젝트(The Grey Hoodie Project)〉라는 제목의 논문이 최근 언론의 주목을 받았다.
공저자 무스타파 압달라(Moustafa Abdalla)는 옥스퍼드대학교 통계학과에서 박사 과정을 밟고 있다. 통계 유전학과 신약 개발 관련 연구를 진행하고 있으며, 박사 학위 취득 이후 하버드 의과 대학 입학이 예정되어 있다.
역자 전리오는 서울대학교에서 원자핵공학을 전공했다. 대학 시절 총연극회 활동을 하며 글쓰기를 시작해 장편 소설과 단행본을 출간했다. 음악, 환경, 국제 이슈에 많은 관심이 있으며 현재 소설을 쓰면서 번역을 한다.

이렇게 구성했습니다

1. 담배와 테크 업계의 학계 매수 전략
거대 담배 회사의 ‘솔직한 입장문’
테크 기업, 담배 업계의 전철을 밟다

2. 전략 하나; 사회적 책임을 다하는 기업이라는 이미지 만들기
‘대행 기관’이라는 허울
연구자를 들러리로 세운 테크 기업

3. 전략 둘; 대학에 자금을 지원하고, 영향력을 행사하라
자금 지원의 무기화
인공지능 학계의 의제를 통제하라
테크 기업의 인식과 인공지능 윤리의 충돌

4. 전략 셋; 과학자의 연구 주제와 계획을 통제하라
업계에 유리한 연구 주제 선택
학계에 만연한 이해관계 상충 문제

5. 전략 넷; 협조적인 교수진을 발견하고 활용하라
유리한 증언을 해줄 연구자를 포섭하다
테크 업계의 정밀한 자금 지원 계획

6. 사회를 바꾸는 인공지능 윤리 연구를 위해
연구 자금 출처의 투명한 공개
중립적인 위원회의 설립
인공지능 윤리학을 분리하라

먼저 읽어 보세요

거대 테크 기업은 테크 분야 밖에서 진행되는 인공지능 윤리와 공정성 관련 연구에도 상당한 자금을 지원하고 있다. 컴퓨터 공학과 테크 분야 밖의 대표적 학술 저널인 《네이처(Nature)》와 《사이언스(Science)》에 기고된 인공지능 윤리와 공정성 관련 토의 논문(position paper) 저자의 연구 자금 출처 분석은 충격적이다. 17건의 논문 중 59퍼센트에 해당하는 10개 논문의 저자가 테크 기업과 금전적 이해관계가 얽힌 적이 있던 것으로 나타났다. 이는 테크 기업 대상 컨설팅이나 테크 기업이 후원한 교수 연구 수상 실적을 포함한 결과다.

에디터의 밑줄

“자금 조달을 책임지는 변호사들은 과학자들의 조언에도 불구하고 니코틴에 중독성이 있다는 내용이나 흡연의 위험성을 인정하는 연구 제안은 간단히 거부했다. 담배연구자문위원회(The Council for Tobacco Research·CTR)의 지원금은 폐암의 원인을 담배 대신 반려동물로 키우는 새 등으로 돌리는 다른 연구 프로젝트에 돌아갔다.”

“‘공정성, 책임, 투명성에 관한 미국 컴퓨터 학회 콘퍼런스(Association for Computing Machinery Conference on Fairness, Accountability, and Transparency·ACM FAccT)’는 지난 3년간 단 한 해도 거대 테크 기업으로부터 자금 지원을 받지 않은 적이 없었다. 구글은 매년, 마이크로소프트와 페이스북은 3년 중 한 해만 빼놓고 꾸준히 지원했다.”

“조지메이슨대 콘퍼런스는 구글이 반독점법으로 기소되지 않기 위해 기획한 행사였다는 것이 이후 《워싱턴포스트》 보도를 통해 드러났다. 구글은 자사의 사업이 반독점법에 저촉되지 않는다는 주장에 힘을 싣고자 연사 발언 순서와 초대된 학자 리스트까지 주도면밀하게 통제했다.”

“테크 기업은 자사 서비스와 연관된 윤리적 문제를 마주했을 때 정부, 시민 사회, 학계와 협력해서 문제를 풀기보다는 기술적 해결책을 내놓으려고 한다. 거대 테크 기업 결정권자들은 편향되지 않은 데이터를 구하거나 훌륭한 소프트웨어 툴킷과 체크 리스트 등 정밀한 소프트웨어 디자인을 통해 모든 종류의 데이터 편향을 교정한다면 윤리적 문제가 생기지 않을 거라 생각한다.”

“대학은 거대 테크 기업으로부터 연구자가 직접 자금을 지원받는 것이 어떤 경우에 적절한지 기준을 세워야 한다. 정부 정책에 영향을 미칠 수 있는 연구자의 작업에 거대 테크 기업들이 직접 자금을 지원할 수 있는가? 이 질문에 ‘그렇다’고 답한다는 것은 테크 업계와 관련된 정부 정책 수립 과정에 거대 테크 기업이 개입할 수 있음을 의미한다.”

구글과 페이스북의 서비스는 너무나도 편리하다. 안 쓰기가 더 어렵다. 그만큼 많은 이용자에게 영향을 미치기 때문에 테크 기업의 알고리즘과 인공지능 관련 연구는 업계의 영향력에서 자유로워야 한다. 테크 기업과 인공지능 학계, 정부 정책 사이 존재하는 연결 고리를 면밀히 살펴봐야 하는 이유다.
북저널리즘 에디터 김민호