한국과학기술정보연구원(KISTI)이 오는 2027년 공학박사 수준의 한국형 과학기술AI 탄생을 목표로 개발중인 생성형 거대언어모델(LLM) '고니'(KONI)의 더 똑똑해져서 돌아왔다.
KISTI는 국가 과학기술 빅데이터를 수집·분석하는 과학기술에 특화된 LLM '고니'가 작년 12월 공개한 첫 버전(KONI 13b)에 비해 한층 업그레이드된 신규 버전을 30일 공개했다고 31일 밝혔다.
KISTI가 공개 사이트 허깅 페이스와 KISTI 에이아이다((https://aida.kisti.re.kr)에 오픈한 새 버전은 사전학습 LLM인 '고니-라마3-8B'와 대화형에 특화시킨 챗 모델 '고니-라마3-8B-인스트럭트' 등 두가지다.
KISTI는 두 모델 모두 기존 모델보다 2배 이상 과학기술정보 데이터를 활용한 학습을 거쳐 과학기술 분야의 추론, 글쓰기, 이해 등 다양한 작업에서 성능을 크게 향상 시켰다고 설명했다.
두 모델은 한국어+영어 200GB의 과학기술정보를 포함하는 데이터를 학습했다. 모델명에서 8B는 80억 개의 파라미터를 갖는 모델이라는 의미다.
KISTI가 지난 3월 발족한 초거대AI연구단의 이경하단장은 "한국어 LLM에 대한 종합적인 사고력을 측정하는 로직코(LogicKor) 벤치마크 리더보드에서 동일 크기 LLM 중 당당히 1위를 달성했다"고 강조했다.
'고니'가 파라미터 수 700억 개 이하 LLM 중 처음으로 로직코 점수가 8.21를 기록했다는 것이다. 지금까지 로직코 점수가 LLM 700억 개 이하에서는 8.0점을 넘은 사례가 전무후무한 것으로 알려졌다.
연구팀은 업그레이드 버전을 연구하는 과정에서 KISTI가 보유한 검색 증강 생성 기술(RAG)을 '고니'와 연계시켜 LLM의 한계인 환각 현상, 즉 잘못된 정보를 그럴듯하게 제시하는 오류를 최소화하고 신뢰성이 향상된 질의응답 시스템을 마련했다고 덧붙였다.
연구팀은 또 '고니'의 성능 향상을 위해 과학기술 관련 법령, 규정, 지침을 대상으로 KISTI 내부에서 성능 검증을 통해 연구원들의 다양한 피드백을 수집, 추가 학습했다고 강조했다.
KISTI는 앞으로 국방, 전력, 정책 등 여러 공공 기관의 수요를 반영한 도메인 특화 LLM도 추가로 개발해 보급할 계획이다. 아울러 연구자의 과학적 발견을 지원할 에이전트인 '고니' 기반 자율 연구자 AI도 구축할 방침이다.
KISTI는 현재 1억3천여건의 과학기술정보와 데이터를 바탕으로 고니의 학습데이터를 지속해 늘려 2027년에는 공학박사 수준의 한국형 AI를 탄생시키는다는 목표아래 개발에 속도를 내고 있다.
댓글
0