조회 기반(Lookup-Augmented) 모델을 위한 고확장성 LLM 추론 시스템

Scalable LLM inference system for lookup-augmented models

[최종 목표] - 차세대 룩업 증강 LLM을 위한 확장형 고효율 추론 시스템 개발 및 실증 - 단순한 성능 개선을 넘어, GPU 중심의 설계에서 CPU-GPU 이기종 시스템 설계로 추론 인프라의 패러다임을 전환하고, 이를 실제 데이터 센터 환경에 즉시 적용 가능한 수준으로 구현하고자 함1. 조(Trillion) 단위 모델의 경제적 확장성 확보 - 고가의 고대역폭...