• 커뮤니티
  • 새소식
새소식

뉴스 | [바이라인네트워크] 래블업 신정규 대표 “AI의 대항해 시대가 끝나고 있다” (물리 신정규 동문)

페이지 정보

2024.11.11 / 41

본문

래블업 신정규 대표 “AI의 대항해 시대가 끝나고 있다”



“인공지능(AI)의 대항해 시대가 막을 내리고 있다. 모험심으로 떠났던 사람들이 가치를 찾아 본국으로 돌아가 진상해야 하는 시기다. 그리고 산업혁명이 동시에 일어나고 있다. AI 기술의 병목은 시대를 따라 이동하고, 래블업은 그 병목들을 따라가며 해결해왔다. 그동안 접근성의 병목을 해결해왔다면, 이제 확장성이 해결해야 하는 문제다.”

신정규 래블업 대표는 최근 본지와 인터뷰에서 현재 AI 시장의 변화와 회사의 전략 업데이트를 소개하며 이같이 밝혔다.

래블업은 수많은 GPU를 묶어 AI 개발 인프라를 구성하고 운영, 관리하는 플랫폼과 기술을 제공하는 회사다. 대형언어모델(LLM)을 훈련하고, 추론하려면 수백, 수천, 수만대의 GPU 혹은 전용 칩이 필요하다. 래블업의 백엔드닷AI 플랫폼은 이런 AI 인프라를 쉽고 효율적으로 할당, 관리할 수 있게 해준다. GPU의 가격이 갈수록 천정부지로 뛰는 상황에서 특정 AI 작업에 최대한 효율적으로 GPU를 할당하면 전반적인 인프라 비용을 줄일 수 있다

 

신정규 대표는 “챗GPT 후 2년, 그 사이 어마어마하게 바뀌었다”며 “과거 딥러닝은 기존 기술의 연장 관점이었다면, 챗GPT와 스테이블디퓨전은 못하던 걸 새로 하는 것이기에 그 가능성을 본 자본이 엄청나게 투입되고, AI가 IT의 새 이름으로 자리잡고 있다”고 말했다.

그는 최근까지 AI 시장을 고전게임 ‘대항해시대’로 비유했다. ‘대항해시대’가 여러 버전으로 나왔지만 그 본질은 ‘후추팔이’ 즉, 접근성에 있었다는 것이다.

신 대표는 “변화의 시기에 자본이 크게 들어가는 곳은 기술에서 만들어지는 접근성 차이를 줄이는 쪽이고, 그래서 10년전 래블업을 시작할 때 ‘Make AI Accessible’을 모토로 했다”며 “시기마다 컴퓨트, 에너지, 네트워크, 스토리지 등으로 병목이 이동, 반복돼 왔고, 지금은 확장의 문제라 ‘Make AI Scalable’을 이야기한다”고 말했다.

래블업은 전세계적으로 엔비디아의 인정을 받은 파트너다. 엔비디아 GPU를 대규모로 묶고, 효율적으로 프로비저닝할 수 있는 기술을 가장 먼저 시작했고, 가장 성숙한 기술력을 보유한 덕이다. 현재 한국에서만 1만3000개의 GPU가 래블업의 ‘백엔드닷AI’로 운영되고 있다. 국내 클라우드서비스프로바이더(CSP)와 대기업의 GPU 인프라는 사실상 모두 래블업 백엔드닷AI로 돌아가고 있다고 봐도 무방할 정도다.

래블업의 ‘백엔드닷AI’ 플랫폼은 단순히 GPU 가상화를 넘어 실질적인 AI 모델 개발과 배포까지 한번에 할 수 있는 플랫폼이다. 신 대표가 말한 AI의 확장 문제는 다양한 영역으로 AI 모델이 퍼져나가고 있는 상황을 지원한다는 의미다. 그런 차원에서 래블업의 협력 파트너가 AI 인프라 전영역의 플레이어로 확대되고 있다.

신 대표는 “칩 차원에서 엔비디아뿐 아니라 리벨리온, 인텔, 퓨리오사 등과 협력하고 있고, AMAX, 교세라, 보스턴, PTC 등의 하드웨어에 백엔드닷AI 플랫폼을 같이 공급하고 있으며, 웨카, 퓨어스토리지, 넷앱 같은 초고속 스토리지 회사와도 협력하고 있다”며 “가속기가 한대부터 수천대까지 늘어나는 상황에서 래블업은 확장에 방해되는 요소를 없애고 새 필수요소를 더하면서 발전하고 있다”고 강조했다.

래블업은 기본적으로 오픈소스 소프트웨어 회사다. 래블업의 모든 개발품은 오픈소스로 공유된다. 백엔드닷AI도 오픈소스 소프트웨어 버전이 있다. 오픈소스 버전은 ‘백엔드닷AI코어’로 불린다. 구체적인 플랫폼 외에도 파이썬 생태계에도 기여하고 있다.

파이썬에서 백엔드닷AI를 비롯해 callosum, aiodocker, aiomonitor, aiotools 등은 래블업에서 만들어 기부한 프로젝트다. 러스트재단의 raftify도 래블업에서 만든 오픈소스 프로젝트다. 메시징 영역의 aiohttp, zeromq, pyzmq, googletest와, 운영체제 및 인프라 영역의 DPDK, FreeBSD, 오픈스택, NBA, 머신러닝 및 AI 영역의 vLLM, bitsandbytes, tensorflow, numpy, python, openblas 등에도 적극적으로 기여하고 있다.

신 대표는 “올해 백엔드닷AI 설치를 단순화하는 터미널용 도구인 ‘백엔드닷AI CLI 인스톨러’도 오픈소스화해 규모 상관없이 설치를 자동화하는데 도움을 주고 있다”며 “백엔드닷AI 개발환경을 만드는 도구인 ‘bndev’도 공개했다”고 밝혔다.

백엔드닷AI 코어는 매 6개월마다 새 버전을 내놓고 있다. 내년부터 출시 주기가 더 짤아질 것이라고 한다.

 

 

 

8edadce394eb37cadf35a00bccbbd53a_1731295362_6423.jpg

 

신정규 대표는 “챗GPT 후 2년, 그 사이 어마어마하게 바뀌었다”며 “과거 딥러닝은 기존 기술의 연장 관점이었다면, 챗GPT와 스테이블디퓨전은 못하던 걸 새로 하는 것이기에 그 가능성을 본 자본이 엄청나게 투입되고, AI가 IT의 새 이름으로 자리잡고 있다”고 말했다.

그는 최근까지 AI 시장을 고전게임 ‘대항해시대’로 비유했다. ‘대항해시대’가 여러 버전으로 나왔지만 그 본질은 ‘후추팔이’ 즉, 접근성에 있었다는 것이다.

신 대표는 “변화의 시기에 자본이 크게 들어가는 곳은 기술에서 만들어지는 접근성 차이를 줄이는 쪽이고, 그래서 10년전 래블업을 시작할 때 ‘Make AI Accessible’을 모토로 했다”며 “시기마다 컴퓨트, 에너지, 네트워크, 스토리지 등으로 병목이 이동, 반복돼 왔고, 지금은 확장의 문제라 ‘Make AI Scalable’을 이야기한다”고 말했다.

래블업은 전세계적으로 엔비디아의 인정을 받은 파트너다. 엔비디아 GPU를 대규모로 묶고, 효율적으로 프로비저닝할 수 있는 기술을 가장 먼저 시작했고, 가장 성숙한 기술력을 보유한 덕이다. 현재 한국에서만 1만3000개의 GPU가 래블업의 ‘백엔드닷AI’로 운영되고 있다. 국내 클라우드서비스프로바이더(CSP)와 대기업의 GPU 인프라는 사실상 모두 래블업 백엔드닷AI로 돌아가고 있다고 봐도 무방할 정도다.

래블업의 ‘백엔드닷AI’ 플랫폼은 단순히 GPU 가상화를 넘어 실질적인 AI 모델 개발과 배포까지 한번에 할 수 있는 플랫폼이다. 신 대표가 말한 AI의 확장 문제는 다양한 영역으로 AI 모델이 퍼져나가고 있는 상황을 지원한다는 의미다. 그런 차원에서 래블업의 협력 파트너가 AI 인프라 전영역의 플레이어로 확대되고 있다.

신 대표는 “칩 차원에서 엔비디아뿐 아니라 리벨리온, 인텔, 퓨리오사 등과 협력하고 있고, AMAX, 교세라, 보스턴, PTC 등의 하드웨어에 백엔드닷AI 플랫폼을 같이 공급하고 있으며, 웨카, 퓨어스토리지, 넷앱 같은 초고속 스토리지 회사와도 협력하고 있다”며 “가속기가 한대부터 수천대까지 늘어나는 상황에서 래블업은 확장에 방해되는 요소를 없애고 새 필수요소를 더하면서 발전하고 있다”고 강조했다.

래블업은 기본적으로 오픈소스 소프트웨어 회사다. 래블업의 모든 개발품은 오픈소스로 공유된다. 백엔드닷AI도 오픈소스 소프트웨어 버전이 있다. 오픈소스 버전은 ‘백엔드닷AI코어’로 불린다. 구체적인 플랫폼 외에도 파이썬 생태계에도 기여하고 있다.

파이썬에서 백엔드닷AI를 비롯해 callosum, aiodocker, aiomonitor, aiotools 등은 래블업에서 만들어 기부한 프로젝트다. 러스트재단의 raftify도 래블업에서 만든 오픈소스 프로젝트다. 메시징 영역의 aiohttp, zeromq, pyzmq, googletest와, 운영체제 및 인프라 영역의 DPDK, FreeBSD, 오픈스택, NBA, 머신러닝 및 AI 영역의 vLLM, bitsandbytes, tensorflow, numpy, python, openblas 등에도 적극적으로 기여하고 있다.

신 대표는 “올해 백엔드닷AI 설치를 단순화하는 터미널용 도구인 ‘백엔드닷AI CLI 인스톨러’도 오픈소스화해 규모 상관없이 설치를 자동화하는데 도움을 주고 있다”며 “백엔드닷AI 개발환경을 만드는 도구인 ‘bndev’도 공개했다”고 밝혔다.

백엔드닷AI 코어는 매 6개월마다 새 버전을 내놓고 있다. 내년부터 출시 주기가 더 짤아질 것이라고 한다.



 

  • 다음글 다음글이 없습니다.
  • 이전글 이전글이 없습니다.
새소식
Total : 716
게시물 검색
새소식 목록
Notice 2024-11-11 [바이라인네트워크] 래블업 신정규 대표 “AI의 대항해 시대가 끝나고 있다” (물리 신정규 동문)
Notice 2024-11-07 [헬로디디] 창조 국가 향한 큰 질문 ‘그랜드 퀘스트 2025’ 개막 (물리 염한웅 교수)
Notice 2024-11-05 [경북도민일보] APCTP, ‘아태 젊은 물리학자상’에 포스텍 이길호 교수 등 3명 선정
Notice 2024-11-05 [조선비즈 외 1] 한국과학창의재단 이사장에 정우성 포스텍 교수 (산경/물리/융합 정우성 교수)
Notice 2024-10-24 [경상매일신문외3] 포스텍, 차세대 초고속 반도체입자 변조기 개발 성공 (물리/융합 박경덕 교수, 물리 통합과정 주희태·이형우·김수정)
Notice 2024-10-29 [매일경제] “AI로 반도체칩 효율적 사용 도와…엔비디아도 반했죠” (물리 신정규·박종현 동문)
Notice 2024-10-24 [박재훈 교수, 송창용 교수] 막스플랑크 한국·포스텍硏, 세계적 英연구소와 공동연구 MOU
Notice 2024-10-18 플라즈마 및 입자가속기 연구 거장, 조무현 명예교수를 추모합니다.
Notice 2024-10-15 [김범준 교수 연구실] 전이금속 칼코겐화합물에서의 나선 전하 밀도파의 형성 원리
2024-09-27 김승환 명예교수님 정부포상 '옥조근정훈장' 수상
2024-09-23 [양자정보과학] 2025학년도 신입생 모집
2024-07-29 [조선일보] 2024년 글로벌 선도연구센터 선정-포스텍 양자 각운동량 동역학 센터 (물리 이현우 교수)
2024-06-28 [이길호 교수] 2024 제7회 한성과학상 수상
2024-06-28 [전자신문외2]포스텍 이길호·조길영 교수 연구팀, 초전도체 양자속박상태 새로운 조절법 찾았다
2024-06-25 ‘전자 스핀’ 활용하는 차세대 메모리, 원자 구조 조절해 효율 개선 (물리 이대수 교수·통합과정 조용주, 신소재 최시영 교수)
top_btn