7개 논문 세계 최고 NLP 학회 'EMNLP 2021'서 채택
핵심 연구 논문 메인 컨퍼런스서 발표 예정
네이버는 자연어처리 분야의 세계 최고 권위 학회인 ‘EMNLP(Empirical Methods in Natural Language Processing) 2021’에서 초대규모 인공지능(AI) 연구 성과를 공유한다고 3일 밝혔다.
클로바 및 AI랩 연구진은 네이버의 초대규모 AI ‘하이퍼클로바’의 핵심 연구 논문을 비롯해, 총 7개의 논문을 발표할 예정이다.
25년 전통을 가진 EMNLP는 자연어처리(NLP) 분야의 최고 AI 학회로 꼽힌다. 올해는 도미니카공화국에서 11월 7일부터 11일까지 열리며, 온라인으로도 동시 진행된다.
이번 학회에서 네이버의 초대규모 AI인 하이퍼클로바의 핵심 연구 논문이 메인 컨퍼런스 발표에 채택되는 성과를 거뒀다. 하이퍼클로바는 네이버가 지난 5월 국내 기업 최초로 공개한 초대규모 AI이자, GPT-3보다 한국어 데이터를 6500배 이상 학습한, 현재 공개된 단일 모델 중 전세계에서 가장 큰 한국어 초대규모 언어모델이다.
해당 연구는 한국어 초대규모 언어모델인 ‘하이퍼클로바’와 그 학습에 사용된 데이터를 소개하고, 다양한 크기의 모델들이 갖는 성능을 검증하는 내용이다. 논문에서는 하이퍼클로바가 다양한 한국어 과제에 대해 제한된 예제만으로도 뛰어난 학습 성능을 보인다는 것을 증명했다.
아울러 초거대 언어모델에서의 프롬프트 최적화, 데이터 토큰화 등에 대한 논의를 발전시키고, ‘하이퍼클로바 스튜디오’를 통해 ‘노 코드 AI’(No Code AI) 등 초대규모 AI가 가져올 AI 서비스 개발 방법론의 혁신적인 변화에 대해서도 설명한다. 해당 연구에는 네이버의 클로바 및 AI랩의 연구진 뿐만 아니라, 소프트웨어 플랫폼 엔지니어, 검색 엔지니어 등 다양한 팀에 걸쳐 총 37명이 저자로 참여했다.
하정우 네이버 AI랩 소장은 "이번 논문은 영어 중심이었던 기존의 언어모델 연구를 넘어, 한국어 AI의 가치를 글로벌 자연어처리 학계가 인정했다는 점에서도 매우 의미 있는 성과"라고 강조했다.
이 외에도 네이버는 하이퍼클로바와 관련, 초거대 언어모델을 활용해 데이터를 자동 생성 및 라벨링함으로써 데이터를 효율적으로 증강 및 증류시키는 기법에 대한 연구도 소개하는 등 다양한 주제를 망라하는 선행연구 결과를 발표할 예정이다. 이는 카이스트(KAIST), 고려대, 서울대 등 다양한 국내외 대학들과 적극적으로 협력한 결과라는 설명이다.
한편, 네이버는 이번 EMNLP 2021에 네이버랩스유럽과 함께 실버(Silver) 등급 스폰서로도 참여하며 글로벌 IT 기업 및 학계와 적극 교류하고, AI 기술 발전에도 기여한다는 계획이다.