뉴스 | [디지틀조선일보] “폐쇄적 AI, 가짜 혁신 위험 불러” (물리 노영균 동문)

폐쇄적 AI, 가짜 혁신 위험 불러

혁신의 시기가 이어지는 동안에도 인공지능(AI) 커뮤니티에는 역사적으로 여러 차례 겪었던 AI 겨울(Winter)의 무관심과 침체의 시기에 대한 내재한 우려와 대비가 존재했다. 이는 혁신이 중단되는 순간 AI가 대중의 관심에서 사라져 연구비와 연구 인력을 확보하지 못했던 과거의 경험에서 비롯된 것이다. 한편 가시적인 성과가 나타날 때 자원을 비축해 혹시 닥칠지 모르는 겨울에 대비해야 한다는 목소리로도 이어졌다. 하지만 다행히도 필자가 AI 연구를 시작한 2000년대 초반 이후로 이러한 우려가 현실로 나타난 적은 없었다.

오히려 AI 커뮤니티는 여러 중요한 랜드마크 사건들을 통해 스스로의 발전을 입증해 왔다. 몇 가지 예를 나열하자면 2007년 자율주행차 어번 첼린지(Urban Challenge) 대회, 2011년 퀴즈쇼 제퍼디(Jeopardy)에서 IBM 왓슨의 등장, 2012년 이미지넷 챌린지(ImageNet Challenge)와 뉴립스(NeurIPS) 학회에서 발표된 알렉스넷(AlexNet), 2016년 알파고의 승리, 2017년 트랜스포머 알고리즘의 발표와 이를 이용한 2020년 GPT-3의 뉴립스 최우수 논문상 선정, 2018, 2020년 카스프(CASP) 대회에서 알파폴드가 거둔 성과, 2022년 챗GPT의 출현, 그리고 마지막으로 2024년 노벨물리학상과 노벨화학상이 AI 관련 연구에 수여된 것과 같은 이벤트들은 마치 리얼리티 쇼와 같은 모습으로 전 세계의 주목을 끌며 다양한 분야의 연구자들이 AI를 응용하는데 합류하도록 자극했다. 그 결과 연구자 수와 연구비 규모는 과거에 상상할 수 없을 정도로 크게 확대됐다.

이 분야에서 지속적인 혁신은 위기감과 보상이 맞물려 밀고 당기는 모습으로 실존했다. 이를 통해 건강한 혁신적 연구 사례들이 축적되었고 오늘에 이르렀다. 현재 AI가 사회 전반에 큰 영향을 미치고 있는 이유는 과거 혁신이 진정한 혁신이었기 때문이다. 오늘날도 많은 연구자들의 유입으로 발전은 이어지고 있지만, 과거와 현재를 비교해 보면 그 안에는 공통점과 차이점이 함께 드러난다. 앞으로 진정한 혁신이 지속되기 위해서는 이에 대한 성찰과 논의가 필요하다.

뚜렷한 공통점은 혁신을 이끄는 리더십이 성공한 선례에 의존하지 않는다는 점이다. 과거의 성공 사례가 혁신이 될 수 있었던 이유는 목표와 방법이 기존과 달랐기 때문이다. 예컨대, 몇 년을 거슬러 올라가 오픈AI가 처음으로 스케일의 법칙을 적용했을 당시에는 스케일을 늘리는 접근을 수행한 것 자체가 혁신이었다. 일리야 수츠케버(Ilya Sutskever)의 GPT 연구와 관련된 일화는 오픈AI 내부에서 스케일 확장 과정에서 마주한 구체적이고 실질적인 반감을 어떻게 극복했는지 보여준다. 혁신의 과정에는 필연적으로 어려움과 용기가 요구된다. 리더는 기존의 선례를 따르지 않음으로써 자원의 효율적 활용에 미숙한 상황이 되고, 연구비와 시간의 압박은 물론 그룹 내부의 반대까지 감수해야 한다. 이때 수츠케버가 직관적 설득의 근거로 사용한 것은 동물들 뇌의 용량이 지능 수준과 비례한다는 원리였다.

한편, 혁신을 흉내 내는 연구는 효율적인 연구비 활용으로 빠른 결과를 얻는 가장 쉬운 방법, 즉 성공 선례를 그대로 따르거나 약간 변형해 투자 대비 효용을 높이는 정도의 기여를 목표로 한다. 예컨대, 오늘날 대형언어모델(LLM)의 스케일 법칙을 본떠 트랜스포머 알고리즘의 규모를 단순히 확장하는 것이 이제는 혁신이라 보기는 어렵다.

선도할 기회를 놓친 상황이라면, 앞선 기술을 따라가기 위해 성공한 선례를 신속히 모방할 필요가 있을 수 있다. 물론 모방 자체도 쉬운 일이 아니지만, 이것이 전부라면 혁신에 도달할 수 없다. 선도 그룹은 자신들이 의존하는 원리에 기반하기 때문에 방법 차원에서는 다양한 선택지를 만들어 낼 수 있다. 반면, 후발 그룹은 선도 그룹의 방식을 유일한 선택지로 고착시키기 쉽다. 이는 선도 그룹이 스스로의 헤게모니를 유지하기 위해 암묵적으로 바라는 구도이기도 하다.

그렇다면 현재 한국의 어느 기업이나 연구 그룹에서 반대를 무릅쓰고 고착된 선택지에서 벗어난 방법을 과감히 시도하는 리더를 찾을 수 있을까? 이러한 리더가 실질적인 혁신을 이루도록 장려하고, 그들이 내세우는 원리에 모순이 없다면 충분한 추진력을 발휘할 수 있도록 지원하는 제도가 마련돼야 한다.

현재의 연구 환경은 과거와 달리 구체적인 연구 방법이 적극적으로 공개되지 않는다는 점에서 차이가 있다. 이는 기업이 연구주도권을 지키기 위해 자연스럽게 취하는 태도일 수 있으나, 검증의 측면에서 실제 혁신적 연구가 커뮤니티 수준에서 정당한 보상을 받기 어렵고, 오히려 가짜 혁신이 과장되기 쉬워졌다는 우려를 낳는다. 과거 AI 커뮤니티에서는 학계가 주도하거나 학계와 연결된 기업 연구자들이 혁신적 알고리즘을 발표하는 경우가 많았다. 기업이 개발한 알고리즘도, 구글이 트랜스포머를 발표했던 것처럼 공개적 검증을 받고 다른 연구자들이 활용할 수 있도록 했다.

하지만 구글이 제안한 트랜스포머를 먼저 대규모 스케일로 확장한 것은 오픈AI였고, 이는 역설적으로 구글의 입지를 위협하는 결과로 이어졌다. 이러한 경험은 기업들이 혁신의 세부 내용을 공개하지 않으려는 중요한 동기로 작용했다.

연구 문화가 빠르게 재편되는 가운데, 폐쇄적 연구 태도, 과도한 경쟁, 제대로 작동하지 않는 검증 체계, 그리고 원리에 기반한 혁신을 탐구할 시간을 확보하기 어려운 조건은 결국 진정한 혁신을 멈출 수 있는 불안한 요인으로 작용한다. 그렇다면 AI 겨울은 아직 끝난 게 아니라 여전히 우리가 걱정해야 할 것일지도 모른다.

노영균 교수는 한양대와 고등과학원을 겸직하고 있다. 한양대 인공지능대학원 사업 단장, 인공지능학과 전공주임, AI응용학과 전공주임, 지능융합학과 전공주임, 한양대 생성형AI연구센터 센터장, AI컴퓨팅센터장직을 수행하고 있다. 첨단 AI 분야의 이론적 연구부터 다양한 응용까지 폭넓게 연구를 수행하고 있다. 비모수 방법(Nonparametric Methods)과 확산 생성 모델(Diffusion Generative Models)의 원리적 연구와 응용에 깊은 관심을 두고 있다. NeurIPS를 비롯한 다양한 국제 학회와 워크샾을 조직한 경험이 있으며, 국내외 의료 기관, 기초연구기관 및 산업체, 해외 AI 연구 기관과도 협력하고 있다. 현재 미국 메이오클리닉 공식 연구 협력자, 미국 웨일코넬병원 방문 연구원, 일본 이화학연구소(RIKEN-AIP) 방문 과학자로 활동 중이다.