모티프가 지난해 11월 공개한 대규모 언어 모델(LLM) 'Motif 12.7B'는 모델 구축부터 데이터 학습까지 전 과정을 직접 수행한 순수 국산 기술이다. 특히 기존 트랜스포머 구조를 그대로 쓰지 않고 '그룹별 차등 어텐션(GDA)' 기술을 자체적으로 개발했다.
모티프 측은 단순히 모델을 바닥부터 학습시키는 '프롬 스크래치(From Scratch)'를 넘어 지능의 핵심인 어텐션 함수와 모델의 아키텍처 자체를 새롭게 설계한 것으로 독자성을 높게 평가받고 있다고 설명했다.
실제로 'Motif 12.7B'는 글로벌 AI 모델 성능을 종합 평가하는 '아티피셜 애널리시스'의 인텔리전스지수(AAII)에서 12.7B 파라미터의 비교적 작은 LLM임에도 675B에 달하는 'Mistral Large 3'와 같은 대형 LLM보다도 높은 점수를 기록하며 작은 규모로 고효율을 냈다.
과학기술정보통신부는 지난 15일 1차 단계 평가 결과를 발표하며 정예팀 1곳을 추가로 선발하는 재공모 절차를 진행한다고 밝혔다. 기존 탈락 기업과 후발 주자 모두에게 재도전 기회를 열어두겠다는 입장을 밝혀 서면 평가 통과 후 탈락한 모티프에 재참여 기회가 생겼다.
현재 공식적으로 추가 공모에 참여 의사를 밝힌 곳은 모티프가 유일하다. 앞서 탈락한 네이버·카카오 ·NC AI는 불참을 선언했으며 KT는 검토 단계라고 전해졌다.
모티프 관계자는 "고성능의 LLM(대형언어모델)과 LMM(대형멀티모달모델) 모두를 파운데이션 모델로 개발한 경험을 갖춘 국내 유일 스타트업으로서 한국의 기술 독자성을 증명하기 위해 노력하겠다"고 말했다.
<저작권자 © ‘재테크 경제주간지’ 머니S, 무단전재 및 재배포 금지>