정부는 정책 방향을 혼자 결정하지 않는다. 시민 의견을 수렴하거나 해외 사례를 참고하며 합리성과 공공성을 보장하는 방법을 고민한다. 인공지능처럼 전문 지식이 필요한 분야와 관련된 정책은 학계 전문가에 의존한다. 학계의 검증된 자료와 연구를 바탕으로 정책을 만들고, 기술이 소수가 아니라 다수를 위해 쓰일 수 있게 돕는다. 그러나 저자는 정부 정책에 영향을 미치는 인공지능 학계의 연구가 관련 업계에 편향되어 있다고 지적한다. 테크 기업이 인공지능 학계의 자금줄을 쥐고 있기 때문이다.

거대 테크 기업은 연구 지원금을 통해 학계의 연구 방향을 기업에 유리하게 설정하고, 인공지능과 알고리즘에 대한 논의를 통제한다. 이를 통해 정부 정책에도 영향력을 행사한다. 구글, 아마존 등의 기업이 2016년 설립한 ‘인간과 사회에 기여하는 인공지능에 관한 파트너십(PAI)’은 ‘사회에 기여하는’이라는 말이 무색할 정도로 관련 시장 확대에 골몰했다. 피부색, 나이, 성별, 거주지, 언어 습관, 행동 양식 등의 정보를 기반으로 피의자 구속 여부를 결정하는 인공지능에 윤리적 문제가 있다는 지적에도 불구하고 이런 기술 개발이 가능하고, 편향성 문제를 기술적으로 극복할 수 있다는 입장문 초안을 내부적으로 공유했다.

거대 테크 기업이 정부 정책에 미치는 영향력을 제한하려면 테크 업계와 인공지능 윤리를 연구하는 학계가 분리되어야 한다고 저자는 주장한다. ‘인공지능과 신기술이 어느 방향으로 가야 하는가’라는 윤리적, 정치적 질문에 답하는 연구에는 테크 기업이 자금을 지원할 수 없게 만들어야 한다는 것이다. 이런 규제가 자유로운 기업 활동을 방해하고 연구 자금의 유입을 저해하는 조치라고 우려하는 목소리가 나올 수도 있다. 그러나 인공지능은 10~20년 뒤 우리 삶을 완전히 바꿔 놓을 수 있는 기술이다. 관련 정책의 방향을 테크 기업에만 맡길 수 없는 이유다. 인공지능 연구를 공정하게 후원할 제도를 고민해야 한다.

김민호 에디터