온-디바이스 소형 언어 모델 핵심 최적화된 커널 모듈 개발

Development of Core Optimized Kernel Modules for On-Device Small Language Models (SLMs)

<본 연구개발 과제의 필요성> 1. AI 기술의 발전으로 거대 언어 모델(LLM)이 주목받고 있으나, 이들은 막대한 컴퓨팅 자원과 전력을 소모를 동반하며 모든 업무를 하나의 거대 언어 모델을 기반으로 수행함. 2. 최근에는, 이런한 거대 언어 모델의 단점을 극복하고자 하나의 모델로 모든 기능을 서버에서 소화하기 보다는 이용자의 요청을 받아 특정 작업에 효율적 실행에 특화된 목적 기반형 온…