|
|||||||||||||||||
| 서울대학교 전기공학부 학사 서울대학교 전기컴퓨터공학부 석사 (전) 삼성전자 System LSI 사업부 Staff Engineer (전) 뉴블라(Neubla) CTO (현) 하이퍼엑셀(HyperAccel) CTO |
|||||||||||||||||
| 지난 수년간 인공지능의 발전은 스케일을 중심으로 이루어져 왔습니다. 모델의 성능 향상은 파라미터 수, 학습 데이터 규모, 연산 자원의 증가와 밀접하게 연관되어 왔으며, 이러한 스케일링 법칙은 AI 연구와 산업 전반의 핵심 동력으로 작용해 왔습니다. 이를 뒷받침하기 위해 AI 인프라는 단일 서버에서 대규모 클러스터, 나아가 기가와트급 데이터센터로 빠르게 확장되고 있습니다. 그러나 인프라의 물리적 스케일 확장은 전력 소모 증가, 비용 급등, 자원 활용의 비효율, 지속가능성 저하와 같은 구조적 한계를 동반하고 있습니다. 특히 AI 서비스가 학습 중심에서 대규모 추론 중심으로 이동함에 따라, 범용 가속기 기반 인프라는 효율성과 경제성 측면에서 점차 한계를 드러내고 있습니다. 하이퍼엑셀(HyperAccel)은 이러한 문제의식 아래, 대규모 AI 추론에 최적화된 전용 반도체를 통해 새로운 해법을 제시하고자 합니다. 추론 워크로드의 특성을 반영한 목적 지향적 아키텍처를 통해 전력 대비 성능과 비용 효율을 획기적으로 개선함으로써, 무분별한 인프라 확장이 아닌 효율적인 스케일링을 가능하게 하는 것을 목표로 하고 있습니다. 본 발표에서는 AI 알고리즘과 시스템이 스케일을 중심으로 어떻게 함께 진화해 왔는지를 살펴보고, 현재 인공지능 인프라가 직면한 핵심 과제를 분석하고자 합니다. 더 나아가, 추론 전용 칩을 중심으로 한 새로운 AI 인프라 접근 방식이 향후 지속가능하고 확장 가능한 지능형 시스템을 구현하는 데 어떤 역할을 할 수 있는지를 논의하고자 합니다. |
|||||||||||||||||
|
|
|||||||||||||||||
|
|||||||||||||||||
후원기관 광고영상
more