Pytorchcon 2025 참관기

HyperAccel ML팀 리드 박민호가 PyTorch Conference 2025 참관 후기를 공유합니다. HyperAccel은 LLM 추론에 특화된 AI 칩을 설계하며, FPGA 검증을 완료하고 ASIC 칩 및 서버 출시를 앞두고 있습니다.

ASIC에서는 PyTorch 기반 SDK와 vLLM, Kubernetes 지원을 계획 중입니다. 컨퍼런스 참관의 주요 목적은 Torch Hardware Backend 구현 인사이트 확보, PyTorch Foundation 멤버십 가입 논의, 그리고 다른 하드웨어 벤더들의 PyTorch 통합 방식 학습이었습니다.

특히, 대규모 모델 학습 및 추론을 위한 확장성 솔루션으로 PyTorch 자체 분산 학습 프레임워크 및 통신 라이브러리, 추상화 개념이 주목받았으며, Monarch와 같은 기술들이 소개되었습니다.