모바일 퍼스트. 에릭 슈미트 구글 전 회장이 2010년 처음 꺼낸 말입니다.

이제 모바일 퍼스트는 당연한 말이 됐고, ‘AI 퍼스트’가 그 자리를 꿰찼습니다.

최근 정보통신기술(ICT) 기업들의 움직임을 보면 그야말로 ‘AI 온리’ 수준입니다.

이제 미래를 말할 때 AI를 빼면 어색하지 않나 싶을 정도인데요.

특히 인류 문명을 바꿀 것으로 기대된다는 ‘초대규모(Hyperscale) AI’에 기업들이 앞다퉈 투자 소식을 전하고 있습니다.

초대규모 AI는 일론 머스크 테슬라 창업자 등이 2015년 설립한 오픈AI가 촉발시킨 기술 트렌드입니다.

오픈AI의 GPT시리즈 세 번째 언어모델(GPT-3)이 전 세계의 이목을 집중시키는 성과를 내면서 업계 내 논의가 급물살을 탔습니다.

기존 언어모델이 갖춘 100억개 내외 매개변수 수준에서 GP3-3는 1750억개 규모로 AI 모델 스케일을 크게 키웠는데요.

인간 뇌에 비유하면 신경전달물질인 뉴런을 100억개에서 1750억개로 늘렸다고 볼 수 있겠습니다.

인간 뇌엔 약 100조개의 뉴런이 있다고 하는데요.

여기엔 훨씬 미치지 못한다지만, 매개변수를 1750억개로 늘린 정도로도 추론 성능이 강화돼

AI가 ‘방문판매원(Solicitors)’이라는 실제 영화 대본을 제작하는 등 창작의 영역에서도 성능을 내기 시작했습니다.

이제 오픈AI는 인간 뇌와 비교할 수 있는 약 100조개 매개변수를 갖춘 GPT-4를 준비 중입니다.

지난 5월엔 중국 화웨이가 중국어 기반 초대규모 AI 모델인 ‘판구-알파(PanGu-α)’를 공개했습니다.

매개변수 규모로는 2000억개를 갖춰 GPT-3를 앞서 눈길을 끌었는데요. 곧바로 네이버가 매개변수 규모를 앞서는 초대규모 AI 발표를 이어갑니다.

AI가 대본을 완성한 방문판매원(Solicitors) 영화 (사진=유튜브 갈무리)

같은 달 네이버는 2040억개 매개변수 규모의 ‘하이퍼클로바’를 공개했습니다.

이미 상용화한 기술이기도 합니다. 그리고 서울대학교와 초대규모 AI 공동 연구를 발표하는 등 연구 가속도에 강한 의지를 보입니다.

얼마 뒤엔 LG가 초대규모 AI 개발에 3년간 1억달러(약 1120억원)를 투자한다고 발표합니다.

SK텔레콤은 카카오와 손잡고 초대규모 AI를 공동 개발합니다. KT는 한국과학기술원(KAIST)과 차세대 AI 모델을 만들 공동연구소를 세우기로 했네요.

업계에서 이처럼 초대규모 AI 개발 경쟁에 불이 붙은 것은 바로 밑바탕이 되는 연구이기 때문입니다.

초대규모 AI는 다른 모델의 백본이자 응용서비스의 플랫폼 역할을 하게 됩니다. 어떤 분야든 적용할 수 있는 범용 AI로 가는 길목이기도 합니다.

한국지능정보사회진흥원은 ‘초대규모 AI 모델의 부상과 대응 방안’ 보고서를 통해 정부 역할에 대한 다양한 제언을 내놨습니다.

세계적 기업들과 AI 모델 규모 경쟁은 쉽지 않으니, 응용서비스를 위한 생태계를 미리 준비하는 것도 필요하다는 현실적인 조언도 더했습니다.

AI 모델 경량화와 함께 공통의 성능 측정 기준 마련 그리고 고성능 컴퓨팅 지원 등도 짚었습니다.

AI는 학습과정은 물론 추론과정에서도 대규모 컴퓨팅 지원이 필요합니다.

컴퓨팅 자원과 함께 한국어 말뭉치(데이터셋) 확보에 보다 적극적인 지원이 필요하다는 결론을 냈습니다.