“우리는 언제라도 30일 안에 폐업 당할 수 있다.” 엔비디아(Nvidia)의 공동창업자인 젠슨 황(Jen-Hsun Huang, 黃仁勳)이 주문처럼 하는 말이다. 게임 및 인공지능(AI) 용도의 고성능 반도체를 판매함으로써 시가총액이 5년 만에 310억 달러에서 5050억 달러로 증가했고, 한때 세계 최강의 칩 제조사였던 인텔(Intel)을 추월한 회사의 수장이 하는 말 치고는 조금은 과장된 표현이다. 그러나 아주 조금은 그렇다. 젠슨 황은 엔비디아가 “똑같이 거대한 기회를 포착하려는 거대한 기업들”에 둘러싸여 있다고 설명한다. 인텔의 공동창업자인 앤디 그로브(Andy Grove)의 표현을 빌리자면, 빠르게 변화하는 시장에서는 “오직 편집증 환자만이 살아남는다.”

끊임없는 경계 태세는 엔비디아에게 많은 도움이 되었다. 2016년부터 2021년까지 매출액이 233퍼센트 상승했다. 지난 5년 동안 영업이익은 두 배 이상 늘어서 45억 달러에 이르렀다. (표1 참조) 지난 5월까지 세 달 동안의 매출액은 전년 동기와 비교해서 84퍼센트 치솟았고, 매출총이익은 64퍼센트에 달했다. 인텔은 매출이 4배나 더 많고 칩을 설계할 뿐만 아니라 직접 제조까지 하지만, 투자자들은 설계만 하는 엔비디아의 비즈니스를 더욱 높게 평가한다. (시가총액 면에서 두 배나 된다는 점이 이를 증명한다.)

아마존, 구글, 마이크로소프트, 그리고 중국 알리바바의 데이터 센터들에서 모두 엔비디아의 제품을 사용하고 있다. 정보기술(IT) 업계의 대기업들은 물론이고, 의약품 탐사에서부터 기후 모델에 이르기까기 다양한 분야에서 과학 연구를 하는 수없이 많은 조직들도 마찬가지이다. 그들은 자사의 경쟁우위를 방어하기 위한 넓고도 깊은 “해자(moat)”를 만들어 왔다.

젠슨 황은 현재 이러한 해자를 더욱 넓고 더욱 깊게 만들고 싶어 한다. 지난해 9월, 엔비디아는 대부분의 스마트폰에서 사용되는 빠르고 에너지 효율적인 칩을 만드는 영국계 기업인 암(Arm)을 400억 달러에 인수할 것이라고 말했다. 그 취지는 암의 설계 능력을 활용하여 데이터 센터와 AI에서 사용되는 중앙처리장치(CPU)를 제조해서 엔비디아가 이미 확보하고 있는 그래픽처리장치(GPU)라고 알려진 전문 칩에서의 강점을 보완하겠다는 것이다. 그러기 위해서는 미국, 영국, 중국, EU의 규제당국이 모두 이 협상을 승인해야만 한다. 만약 그렇게 되었을 때, 각 나라에서 두 회사가 가진 시장 지배력을 감안한다면, 컴퓨팅 업계에서도 아주 뜨거운 분야에서 엔비디아의 입지는 거의 난공불락이 될 것이 확실하다.

어린 시절에 가족과 함께 대만에서 미국으로 이민을 왔던 젠슨 황은 1993년에 엔비디아를 설립했다. 초기의 20여 년 동안 이 회사는 비디오 게임이 실제처럼 보이게 도와주는 GPU를 만들었다. 그러나 지난 10년 동안 GPU는 컴퓨팅 분야에서 또 하나의 미래지향적이고 결코 가볍게 볼 수 없는 영역에서도 탁월한 것으로 판명되었다. GPU가 머신러닝(ML) 알고리즘에게 아주 많은 양의 데이터를 주입함으로써 그 알고리즘이 작업을 수행할 수 있도록 훈련시키는 속도를 획기적으로 높였던 것이다. 4년 전, 젠슨 황은 가속 컴퓨팅(accelerated computing)이라고 알려져 왔던 분야에서 엔비디아의 전망이 어떨지에 대해서 아주 솔직한 평가를 내림으로써 월스트리트를 깜짝 놀라게 했다. 그는 그것이 “아주 잘 될 수도 있다”고 했지만, “끔찍한 결과”가 될 수도 있다고 말했던 것이다. 그럼에도 불구하고, 회사는 “올인”을 했다.

엔비디아의 연매출 170억 달러 중에서 절반 정도는 여전히 게임용 칩에서 나오고 있다. (표2 참조) 게임용 칩은 유명한 암호화폐인 이더리움(ethereum)의 기반이 되는 수학적 퍼즐을 푸는데도 능하다. 이러한 특성이 때로는 GPU의 매출에 암호 같은 변동성을 주입하면서, 2018년에 엔비디아의 주가가 50퍼센트 가까이 떨어지는데 일부 원인으로 작용하기도 했다. 비중이 작기는 하지만 그래픽이나 AI 외에도 다른 기능들의 속도를 높여주는 칩을 하드웨어 제조사들에게 판매함으로써 거두는 수익도 있다.

그러나 AI 비즈니스가 빠르게 성장하고 있다. 여기에는 전문화된 칩과 소프트웨어가 포함되어 있는데, 프로그래머들은 그것들을 미세한 수준에서 조절할 수 있다. 이러한 칩 자체는 젠슨 황이 예전에 벌인 베팅에 의해 가능한 것이었는데, 일부 투자자들은 당시에 그것을 두고 비용이 많이 들며 주력 사업에 지장을 주는 것이라고 비판했다. 2004년, 그는 전문적인 칩을 미세하게 조절할 수 있게 해주는 소프트웨어의 기본 계층인 “쿠다(Cuda)”에 투자하면서 이를 엔비디아의 모든 칩들에 이식하기 시작했다.

이러한 시스템들의 상당수는 결국엔 데이터 센터들의 처리 능력의 배후에 있는 강력한 서버들의 내부로 들어가게 된다. 데이터 센터들에 대한 매출이 전체 매출액에서 차지하는 비중은 2019년 초의 25퍼센트에서 올해 초에는 36퍼센트로 증가하면서 게임용 GPU의 매출액과 거의 맞먹게 되었다. 다양한 업계에 걸쳐서 많은 기업들이 AI를 채택하면서, 엔비디아의 데이터 센터 부문 매출 중에서 대형 클라우드 제공업체들이 차지하는 비중은 100퍼센트에서 절반으로 떨어졌다.

현재 엔비디아의 AI 관련 하드웨어-소프트웨어 조합은 구글이 소유한 텐서플로(TensorFlow)나 페이스북의 파이토치(PyTorch)와 같은 라이브러리(library)^[1]에 모여 있는 머신러닝 알고리즘과 원활하게 작동하도록 설계되었다. 회사는 자체적인 AI 프로젝트를 통해서 대기업 고객들의 IT 시스템으로 자사의 하드웨어와 소프트웨어를 연결할 수 있는 프로그램들을 만들어왔다. 엔비디아에서 임원으로 근무했던 어떤 사람은, 그 덕분에 AI 개발자들의 업무가 어마어마하게 쉬워졌다고 말한다. 엔비디아는 또한 단순히 CPU를 훈련시키는 것만이 아니라 “추론(inference)” 분야에도 뛰어들었는데, 이는 AI를 실행하는 모델로써 그전까지는 CPU의 전유물이었다. 엔비디아의 가속 컴퓨팅 비즈니스를 이끌고 있는 이안 벅(Ian Buck)은 음성 인식이나 콘텐츠 추천과 같은 분야에서 사용되는 것과 같은 거대한 실시간 모델이 성능을 제대로 발휘하기 위해서는 전문적인 GPU가 더욱 필요해지고 있다고 말한다.

무장(Arm)을 해서 위험한^[2] 

여기에서 바로 암(Arm)이 등장하게 된다. 엔비디아는 서버 팜(server farm)^[3]에서 필요로 하는 네트워크 인터페이스 카드(NIC, 랜카드) 분야에서도 새로운 능력을 확보한 것에 더해서(2019년 엔비디아는 이 분야의 전문기업인 멜라녹스(Mellanox)를 인수했다), 암을 소유하게 되면 CPU 부문까지 갖추게 되어 기존의 GPU 진용을 보완할 수 있을 것이다. 지난 4월 엔비디아는 자신들의 첫 번째 데이터 센터용 CPU인 그레이스(Grace)를 공개했는데, 이것은 암의 설계를 기반으로 만든 하이엔드급 칩이다. 암의 에너지 효율적인 칩들은 “에지 컴퓨팅(edge computing)^[4]” 용도의 AI 장비들에도 사용될 수 있다. 즉, 데이터 센터에서 아주 멀리 떨어진 자율주행 차량이나 공장의 로봇 등과 같은 기기에서는 전력소모가 심한 GPU는 그다지 이상적이지 않을 것이다.

마이크로프로세스에 들어 있는 트랜지스터들은 이미 원자 몇 개 정도의 크기에 불과하기 때문에, 더 이상 줄일 여지가 거의 없다. 그렇기 때문에 컴퓨팅 능력을 클라우드로 이전하거나 소프트웨어를 활용해서 물리적인 컴퓨터 하나를 여러 개의 가상기계(virtual machine)로 분할하는 기법이 실행될 것이다. 그래서 기업들이 더욱 많은 CPU를 구입하는데 많은 돈을 들이지 않고도 처리 능력을 확보하기 위한 방법의 하나인 가속 컴퓨팅으로 전환할 것으로 예상된다. 번스타인(Bernstein) 증권의 스테이시 라스곤(Stacy Rasgon)은 AI가 더욱 보편화됨에 따라서 향후 5-10년 동안 기업들이 서버에 쏟아 붓는 연간 800-900억 달러 중에서 최대 절반은 엔비디아의 가속 컴퓨팅 모델로 흘러갈 것이라고 예측한다. 그러한 서버의 절반이 엔비디아의 GPU가 장악하고 있는 가속 컴퓨팅 칩에 의존할 것이라고 그는 말한다. 엔비디아는 데이터 센터와 에지 컴퓨팅을 포함하여 전 세계 가속 컴퓨팅 시장의 규모는 연간 1000억 달러에 이르게 될 것이라고 생각한다.

기회를 엿보는 것은 엔비디아만이 아니다. 여러 스타트업들부터 다른 칩 제조사 및 기술 대기업들에 이르기까지 많은 경쟁자들이 나타나고 있다. 텐스토렌트(Tenstorrent), 언테더AI(Untether AI), 세레브라스(Cerebras), 그록(Groq) 같은 기업들은 모두 엔비디아의 GPU보다 AI에 더욱 적합한 칩을 만들기 위해서 노력하고 있다. 참고로, 엔비디아의 GPU는 그 모든 장점에도 불구하고 많은 전력을 소모하며 프로그래밍이 까다롭다. 한편, 영국 기업인 그래프코어(Graphcore)는 자신들의 지능처리장치(intelligence processing unit, IPU)를 홍보하고 있다.

인텔은 2019년에 이스라엘의 AI 칩 분야 스타트업인 하바나랩스(Habana Labs)를 인수했다. 전자상거래 기업인 아마존의 클라우드 부문인 아마존웹서비스(AWS)는 조만간 하바나랩스의 가우디(Gaudi) 가속기(accelerator)를 고객들에게 제공하기 시작할 것이다. AWS는 가우디의 칩이 엔비디아의 GPU보다 느리긴 하지만, 그럼에도 불구하고 성능을 비교하면 40퍼센트 저렴하다고 주장한다. 게임 시장에서는 엔비디아의 주요한 경쟁자이며 CPU 분야에서는 인텔의 라이벌 기업인 어드밴스드마이크로디바이스(Advanced Micro Devices, AMD)는 필드 프로그래머블 게이트 어레이(field programmable gate array, FPGA)라는 일종의 가속기 칩을 만드는 자일링스(Xilinx)를 350억 달러에 인수하는 작업을 마무리하고 있다.

그러나 더욱 커다란 위협은 엔비디아의 최대 고객들로부터 나타나고 있다. 클라우드 대기업들은 모두 자체적인 맞춤형의 실리콘 칩을 설계하고 있다. 구글이 “텐서처리장치(tensor processing unit, TPU)”를 만들면서 가장 먼저 나섰다. 마이크로소프트의 클라우드 부문인 애저(Azure)는 FPGA를 선택했다. 중국의 검색 대기업인 바이두(Baidu)는 AI 용도의 “쿤룬(Kunlun)”을, 전자상거래 대기업인 알리바바(Alibaba)는 한광 800(Hanguang 800)을 갖고 있다. AWS는 이미 인퍼런시아(Inferentia)라고 하는 추론 용도로 설계한 칩을 갖고 있으며, 학습용 칩도 내놓을 예정이다. “앞으로 10년 안에 AWS가 모든 부품을 자신들이 직접 만든 저렴한 AI 박스를 제공할 수 있다는 것이 리스크입니다.” 앞에서 소개한 엔비디아의 전직 임원의 말이다. 제프리스(Jefferies) 투자은행의 마크 리파시스(Mark Lipacis)는 2020년 중반부터 AWS가 고객들에게 인퍼런시아를 제공하는 비율을 대폭 늘렸다는 점을 지적하는데, 이는 잠재적으로 엔비디아의 손해라고 할 수 있다.

암의 인수와 관련해서 말하자면, 그것이 확정되려면 아직 한참이나 남았다. 암의 고객들로는 세계 최대의 칩 제조사은 물론이고 AWS, 그리고 아이폰에서 암의 칩을 사용하는 애플까지 포함되어 있다. 그들 중 일부는 엔비디아가 암의 칩 설계도에 대한 접근을 제한할 수 있다며 불만을 드러냈다. AWS의 맞춤형 서버 칩인 그래비톤2(The Graviton2)는 암의 설계를 기반으로 만들었다. 엔비디아는 암의 비즈니스 모델을 변경할 계획이 없다고 말한다. 서방의 규제당국은 인수의 승인 여부에 대해서 아직까지 판단을 내리지 않고 있다. 그에 대해서 지난 7월 30일까지 면밀하게 검토를 했던 영국의 경쟁 관련 당국이 처음으로 판단을 내릴 것으로 예측되고 있다. 중국은 자국의 기술 기업들에게 있어서 중요한 공급업체를 미국 기업이 인수하는 것을 달갑게 여기지 않을 것이다. 참고로 암은 현재 일본의 기술 그룹인 소프트뱅크(SoftBank)가 소유하고 있다.

그러나 이들 나라의 반독점 감시 기구들 중 하나가 암의 인수를 망친다 하더라도, 엔비디아의 전망은 밝아 보인다. 인텔은 가속 컴퓨팅을 포함하는 많은 것들에 대해서 약속을 해왔지만, 대부분은 현실화되지 않았다. 미국의 데이터 센터 운영사인 에퀴닉스(Equinix)의 폴 테이치(Paul Teich)는 엔비디아 및 그들의 소프트웨어와 경쟁하고 있는 스타트업은 물론이고 가속 컴퓨팅에 투자하고 있는 다른 기술 대기업들을 지원하는 것에 대한 벤처 투자가들의 관심이 현저하게 줄어들었다고 설명한다. AWS를 비롯한 다른 기술 대기업들에 대해 말하자면, 그들은 현재 신경을 써야 할 것이 많은 데다 엔비디아처럼 가속 컴퓨팅에만 명확하게 집중할 수 있는 능력이 결여되어 있다.  엔비디아는 기업들의 실제 사용량으로 측정을 해보면, 자신들이 AWS의 인퍼런시아에게 시장 점유율을 내주지 않았다고 말한다.

젠슨 황은 이러한 성과가 하드웨어 컴포넌트에 들인 비용 때문이 아니라, 중요한 AI 애플리케이션을 학습시키고 실행한 덕분이라고 말한다. 그리고 그러한 정책에 대해서 그는 “가성비 측면에서 우리는 타의 추종을 불허한다”고 말한다. 엔비디아의 경쟁자들 중에서 그들처럼 자체적인 소프트웨어 생태계를 확보한 이들은 없다. 그리고 그들은 기어를 바꾸고 행운을 활용할 수 있다는 능력을 입증해 보였다. 또 다른 전직 임원 한 명은 “그들은 언제나 밖에 무엇이 있는지를 둘러본다”며 열변을 토했다. 마크 리파시스는 그들의 입지가 일단 확고해지면, 그로 인한 관성력으로부터도 혜택을 얻을 수 있을 것이라고 말한다.

투자자들은 2018년에 엔비디아의 주가가 곤두박질 쳤던 사실을 잊지 않고 있다. 그들의 주가는 여전히 암호화폐 시장의 운명과 어느 정도는 연관되어 있을 수 있다. 번스타인의 라스곤은 엔비디아의 주식을 보유하려면 강한 인내력이 필요하다고 말한다. 엔비디아는 스스로가 컴퓨팅 산업의 기둥임을 보여줄 수도 있지만, 그들은 여전히 공격적인 성향의 창업자가 이끌고 있으며 스타트업처럼 행동하는 기업이다. 여기에 일부 편집증까지 더해진다면, 그들을 방해하기는 쉽지 않을 것이다.