컨테이너 기반 AI 반도체 및 GPU 통합 운영 플랫폼 기술 개발

Development of integrated GPU-NPU accelerator support for container-based MLOps platforms

본 과제에서는 최근 각광받는 생성 AI 모델들을 국산 AI 반도체 기반으로 서비스하기 위하여 MLOps 파이프라인에서 AI 반도체를 관리하는 기술과, AI 모델을 AI 반도체를 통해 서비스하는 과정을 자동화하는 소프트웨어 플랫폼 기술을 개발하고자 한다. - 거대 언어 모델과 생성 모델을 국산 AI 반도체 기반으로 서비스하는 과정에 필요한 기술적 난제들을 해결하고 이를 머신러닝 프레임워크로 통…