KAIST 엔비디아에 도전장 AI 가속기 시장에 혁신적인 솔루션 제시

 

국내 연구진, 엔비디아에 도전장 내민 고용량·고성능 AI 가속기 개발

KAIST, AI 가속기 시장에 혁신적인 솔루션 제시

국내 연구진이 AI 가속기 시장을 독점하고 있는 엔비디아에 도전장을 내밀었습니다. KAIST 정명수 교수 연구팀은 새로운 고용량·고성능 AI 가속기를 개발하여, 차세대 인터페이스 기술인 CXL(Compute Express Link)을 활성화했습니다. 이번에 개발된 기술은 AI 서비스의 성능을 획기적으로 향상시키고, 메모리 확장 비용을 크게 줄일 수 있을 것으로 기대됩니다.

CXL-GPU: 차세대 인터페이스 기술의 중심

CXL-GPU는 기존의 GPU 메모리 확장 방식에서 벗어나, 대규모 메모리를 GPU 장치에 직접 연결하는 혁신적인 구조입니다. 기존의 GPU 메모리는 수십 기가바이트(GB)에 불과하여, 대규모 AI 모델을 처리하기에는 한계가 있었습니다. 이에 따라 GPU 여러 대를 연결하는 방식이 사용되었지만, 이는 총소유비용(TCO)을 과도하게 높이는 문제가 있었습니다.

CXL-GPU는 CXL로 연결된 메모리 확장 장치의 메모리 공간을 GPU 메모리 공간에 통합하여 고용량을 지원합니다. 이 기술은 메모리 확장 장치의 메모리 공간을 GPU의 로컬 메모리처럼 사용할 수 있게 하여, 기존 GPU의 메모리 용량 문제를 해결하고, 시스템 구축 비용을 획기적으로 절감할 수 있습니다.

메모리 읽기·쓰기 성능 개선으로 AI 서비스 강화

KAIST 연구팀은 CXL-GPU 장치의 메모리 읽기·쓰기 성능이 저하되는 원인을 분석하고, 이를 개선하기 위한 기술을 개발했습니다. 메모리 확장 장치가 메모리 쓰기 타이밍을 스스로 결정할 수 있게 하여, GPU가 메모리 쓰기 작업의 완료 여부를 기다릴 필요 없이 동시에 작업을 수행할 수 있도록 했습니다. 이를 통해 GPU의 쓰기 성능 저하 문제를 해결했습니다.

또한, 메모리 확장 장치가 사전에 메모리 읽기를 수행할 수 있도록 GPU가 미리 힌트를 주는 기술도 개발했습니다. 이 기술을 통해 메모리 확장 장치가 더 빠르게 데이터를 읽어와, GPU가 필요로 하는 데이터를 즉시 제공할 수 있습니다. 이로 인해 AI 서비스의 추론·학습 성능이 기존 방식보다 획기적으로 향상되었습니다.

파네시아의 초고속 CXL 컨트롤러로 성능 극대화

이번 연구는 국내 스타트업 파네시아의 초고속 CXL 컨트롤러와 CXL-GPU 프로토타입을 활용해 진행되었습니다. 파네시아의 CXL 컨트롤러는 세계에서 가장 빠른 속도를 자랑하며, 메모리 관리 동작에 소요되는 왕복 지연시간을 두 자리 나노초(nanosecond) 이하로 줄였습니다. 이를 통해 단일 GPU가 테라바이트 수준의 대규모 메모리 공간을 형성할 수 있도록 하여, AI 서비스의 성능을 획기적으로 개선할 수 있었습니다.

연구팀은 파네시아의 CXL-GPU 프로토타입을 활용한 실험을 통해, 기존 GPU 메모리 확장 기술보다 2.36배 빠르게 AI 서비스를 실행할 수 있음을 확인했습니다. 이는 대규모 AI 모델의 학습과 추론을 보다 효율적으로 수행할 수 있는 가능성을 보여줍니다.

차세대 AI 가속기의 시장 개화 기대

정명수 교수는 이번 연구가 대규모 AI 서비스를 운영하는 빅테크 기업의 메모리 확장 비용을 크게 줄이고, AI 가속기 시장의 판도를 바꾸는 데 기여할 것으로 기대한다고 밝혔습니다. 또한, CXL-GPU의 상용화가 가속화되면, 국내 AI 기술의 경쟁력이 한층 강화될 것으로 전망됩니다.

결론: AI 가속기 시장의 새로운 패러다임

이번에 KAIST 연구팀이 개발한 고용량·고성능 AI 가속기는 AI 가속기 시장에 새로운 패러다임을 제시합니다. 엔비디아의 독주를 막고, 대규모 AI 서비스의 성능을 획기적으로 향상시키며, 시스템 구축 비용을 크게 절감할 수 있는 가능성을 열어주었습니다. 앞으로 이 기술이 AI 산업의 발전에 큰 기여를 할 것으로 기대됩니다.

---

관련 키워드

• AI 가속기
• 고성능 AI
• 고용량 메모리
• CXL-GPU
• 메모리 확장
• 엔비디아
• GPU 시장
• KAIST 연구
• AI 서비스
• 고성능 GPU
• 차세대 인터페이스
• 총소유비용
• 파네시아
• CXL 컨트롤러
• 메모리 성능
• AI 모델
• 대규모 AI
• 시스템 구축 비용
• 메모리 읽기 성능
• 메모리 쓰기 성능

해시태그

#AIGPU #고성능AI #CXL기술 #KAIST연구 #AI가속기 #메모리확장 #엔비디아도전 #파네시아 #차세대인터페이스 #AI서비스 #고용량메모리 #총소유비용절감 #고성능GPU #대규모AI #AI모델 #CXL컨트롤러 #국내기술 #AI혁신 #AI산업 #GPU시장