구글-카카오브레인, '클라우드 TPU'로 'KoGPT' 개발 역량 강화
구글-카카오브레인, '클라우드 TPU'로 'KoGPT' 개발 역량 강화
  • 황병우 기자
  • 승인 2021.11.26 17:28
  • 댓글 0
이 기사를 공유합니다

1엑사 플롭스 뛰어넘는 국내 최대 규모 수준의 딥러닝 인프라 구축
한국어 초거대 언어모델 'KoGPT' 성능 100배 향상 목표
구글 클라우드 TPU 팟(Pod) 모습 (사진=구글)
구글 클라우드 TPU 팟(Pod) 모습 (사진=구글)

구글 클라우드는 카카오의 인공지능(AI) 연구 자회사 카카오브레인이 구글 클라우드의 맞춤형 머신러닝 하드웨어(ASIC) '클라우드 TPU(Tensor Processing Unit)'를 도입해 초거대 AI 언어 모델 'KoGPT'의 연구개발 역량을 강화했다고 26일 밝혔다. 

KoGPT는 미국의 AI 연구기관 오픈AI(OpenAI)가 개발한 딥러닝 기반 자연어처리(NLP) AI 모델 'GPT-3'의 한국어 특화 버전으로, 카카오브레인은 최근 오픈소스 커뮤니티 깃허브(GitHub)에 KoGPT를 공개했다. 

KoGPT 모델을 학습시키는 데에는 수십억 이상의 데이터와 모델 파라미터(Parameter; 매개변수)가 활용됐다. 카카오브레인은 대규모 데이터 및 모델 학습에 적합한 리소스를 확보하기 위해 기존의 GPU 서버 환경에 클라우드 TPU를 추가로 도입했다.

카카오브레인은 구글에서 개발한 텐서 처리 장치인 '구글 TPU'를 활용해 1엑사 플롭스(컴퓨터의 연산 속도 단위/초당 100경 연산처리)를 뛰어넘는 국내 최대 규모의 딥러닝 슈퍼컴퓨팅 인프라를 도입해 'KoGPT'에 적용한 AI 연구 효율을 기존 대비 100배 이상 높인다는 목표다.

'구글 TPU'는 구글 클라우드에서 사용할 수 있는 대용량 연산 인프라로 데이터를 빠르게 계산하고 가공할 수 있는 장치다. GPU(Graphic Processing Unit, 3D 그래픽 연산을 위한 전용 프로세서)를 여러 대 컴퓨터에 분할해 설치/사용하지 않고, GPU보다 빠르고 복잡한 연산을 갖춘 상위 시스템을 슈퍼컴퓨터 한 대에 구축해 활용한다.

클라우드 TPU는 팟(Pod) 단위로 할당 및 관리가 가능하며 최소한의 코드 변경으로 최대 2천48개의 연산 노드까지 손쉽게 확장할 수 있다. 또한 별도의 인프라를 설치할 필요 없이 퍼블릭 클라우드 환경에서 모든 시스템을 사용할 수 있기 때문에 KoGPT의 개발 시간과 비용을 동시에 절감할 수 있다.

높은 연산 처리 성능으로 AI 연구모델 연산 속도를 획기적으로 향상시킬 수 있고, 클라우드 방식을 활용함으로써 다수의 연구자들이 유연하게 시스템에 접속/사용이 가능해 연구 효율을 높일 것으로 기대된다.

김일두 카카오브레인 대표는 "구글 클라우드에서 제공하는 클라우드 TPU는 딥러닝에 최적화되어 있어 짧은 기간 안에 고효율의 학습 파이프라인을 구축할 수 있었다"라며 "구글 클라우드와 지속적으로 협력해 초거대 AI 모델의 연구 효율을 한층 더 끌어올릴 예정"이라고 밝혔다.

최기영 구글 클라우드 코리아 사장은 "새로운 시대를 여는 한국어 초거대 AI 모델 개발에 구글 클라우드가 함께 할 수 있어 매우 의미 있게 생각한다"라며 "앞으로도 구글 클라우드의 강력한 AI 및 머신러닝 인프라를 기반으로 한국 기업과 연구 기관이 다양한 분야에서 혁신을 가속화할 수 있도록 적극 지원하겠다"라고 강조했다.

[파이낸셜신문=황병우 기자] 


관련기사

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 서울특별시 마포구 합정동 386-12 금성빌딩 2층
  • 대표전화 : 02-333-0807
  • 팩스 : 02-333-0817
  • 법인명 : (주)파이낸셜신문
  • 제호 : 파이낸셜신문
  • 주간신문   
  • 등록번호 : 서울 다 08228
  • 등록일자 : 2009-4-10
  • 발행일자 : 2009-4-10
  • 간별 : 주간  
  • /  인터넷신문
  •   등록번호 : 서울 아 00825
  • 등록일자 : 2009-03-25
  • 발행일자 : 2009-03-25
  • 간별 : 인터넷신문
  • 발행 · 편집인 : 박광원
  • 편집국장 : 임권택
  • 전략기획마케팅 국장 : 심용섭
  • 청소년보호책임자 : 임권택
  • Email : news@efnews.co.kr
  • 편집위원 : 신성대
  • 파이낸셜신문 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2024 파이낸셜신문. All rights reserved.
인터넷신문위원회 ND소프트