AI 데이터센터 DPU(Data Processing Unit) 기반 LLM 추론 네트워크 가속 플랫폼 개발

Development of a DPU-Based Network Acceleration Platform for LLM Inference in AI Data Centers

ChatGPT·Claude와 같은 대형 언어 모델(LLM) 서비스를 운영하는 AI 데이터센터에는 GPU 서버마다 DPU(Data Processing Unit) 반도체가 표준 탑재되어 있습니다. DPU는 네트워크 처리·데이터 전송·압축을 하드웨어로 직접 처리할 수 있는 고성능 전용 칩이지만, 현재 대부분의 환경에서는 고속 네트워크 카드(NIC) 기능만 사용하...