하이퍼엑셀

RSS

게시글: 23
등록: 2026년부터

All Frontend Backend AI DevOps Architecture Etc

AI
지피지기면 백전불태 5편: Cerebras와 웨이퍼 스케일 엔진
AI 반도체 스타트업 Cerebras의 웨이퍼 스케일 엔진(WSE) 아키텍처를 소개하는 글입니다. Cerebras는 칩 크기의 한계와 기기 간 통신 병목 현상을 해결하기 위해 웨이퍼 전체를 하나의 칩으로 사용하는 WSE를 개발했습니다. 이는 칩 외부로 오가는 데이터를 웨이퍼 내부에서 처리하여 AI 학습 및 추론 성능을 극대화하는 것을 목표로 합니다. 최근 OpenAI와의 대규모 계약 소식으로 주목받고 있으며, WSE-3 아키텍처와 웨이퍼 스케일 칩의 장단점을 비전공자도 이해하기 쉽게 설명합니다. 이 기술은 LLM과 같은 대규모 AI 모델의 효율적인 연산 처리에 기여할 것으로 기대됩니다.
CerebrasWafer-Scale EngineWSE-3
하이퍼엑셀·2026년 4월 27일
AI
AI 시대의 필수 소비재, 메모리 이해하기 1편: HBF 이해하기
본 글은 AI 시대의 필수 소비재인 메모리에 대한 이해를 돕기 위한 1편으로, HBF(High Bandwidth Flash)에 초점을 맞춰 기술적으로 분석합니다. SRAM, DRAM, HBM, NAND와 같은 다양한 메모리 종류의 셀 구조와 물리적 특성을 설명하며, 특히 HBF가 기존 메모리 계층 구조에서 어떤 역할을 수행하며 부족한 부분을 채우는지 심층적으로 다룹니다. AI 기술의 발전과 함께 메모리 기술의 중요성이 증대되고 있음을 강조하며, 메모리 계층 구조의 필요성과 각 메모리 타입의 특징을 이해하는 것이 AI 시대의 기술 발전을 따라가는 데 필수적임을 시사합니다.
AI메모리HBF
하이퍼엑셀·2026년 4월 23일
AI
Project Glasswing: Claude Mythos Preview
Anthropic이 공개한 Claude Mythos Preview와 Project Glasswing에 대한 분석 글입니다. Mythos Preview는 기존 LLM과 달리 학습되지 않은 제로데이 취약점을 탐지하고 공격 코드를 작성하는 수준의 능력을 보여줍니다. Project Glasswing은 이러한 고위험 역량을 방어 커뮤니티에 먼저 연결하여 실제 대응력을 높이는 '방어 우선' 협력 프로그램으로, Mythos Preview는 일반 공개 계획 없이 제한적으로 배포될 예정입니다. 이는 모델의 성능 향상뿐만 아니라, 사이버 보안 위협에 대한 방어 능력을 강화하고 잠재적 부작용을 통제하려는 Anthropic의 전략적 선택을 보여줍니다. 글은 Mythos Preview의 새로운 가치 창출 방식과 제한 공개의 의미를 중심으로 다룹니다.
Claude Mythos PreviewProject GlasswingLLM
하이퍼엑셀·2026년 4월 17일
DevOps
Kubernetes 기반 사내 개발 환경 구축기 3편: LPU를 위한 Kubernetes Device Plugin
본 글은 Kubernetes 기반 사내 개발 환경 구축 시리즈의 세 번째 글로, LPU(LLM Processing Unit)와 같은 커스텀 리소스를 Kubernetes 환경에서 인식하고 스케줄링하기 위한 Device Plugin의 필요성과 동작 원리에 대해 설명합니다. Kubernetes는 기본적으로 CPU와 메모리만 인식하므로, GPU, FPGA 등 특수 하드웨어를 사용하기 위해서는 Device Plugin을 통해 해당 하드웨어를 클러스터에 노출하고 관리해야 합니다. 글에서는 하이퍼엑셀의 LPU를 위한 Device Plugin 개발 과정과 ASIC 기반 LPU인 Bertha를 위한 플러그인 개발에 대해 간략히 소개하며, 나아가 동적 리소스 할당 기술인 DRA(Dynamic Resource Allocation)와 Kubernetes 스케줄러 및 Device Plugin과의 연관성까지 다룹니다. 이를 통해 Kubernetes 환경에서 커스텀 하드웨어를 효율적으로 활용하는 방안을 제시합니다.
KubernetesDevice PluginLPU
하이퍼엑셀·2026년 3월 27일
AI
AITER 분석: AMD가 ROCm inference 성능을 2배로 올린 방법
AMD가 ROCm inference 성능을 2배 향상시킨 AITER 커널 라이브러리를 분석합니다. AITER는 AMD GPU에서 AI 워크로드를 가속하기 위한 고성능 연산자 통합 저장소로, NVIDIA의 cuDNN과 유사한 역할을 합니다. 이 글은 AITER의 아키텍처, 4가지 커널 백엔드 전략(Triton, CK, HIP, ASM), JIT 컴파일 파이프라인, 그리고 DeepSeek R1에서 2배의 처리량 향상을 달성한 구조를 상세히 설명합니다. 특히, 드롭인 교체 방식으로 vLLM, SGLang과 같은 추론 프레임워크에서 쉽게 적용되어 성능을 개선할 수 있음을 강조합니다. AMD GPU의 추론 성능 현황, GPU 커널 최적화 기법, 그리고 NVIDIA 외 AI 가속기 생태계에 관심 있는 독자들에게 유용한 정보를 제공합니다.
AMDROCmAITER
하이퍼엑셀·2026년 3월 17일
AI
Transformer World: LLM의 기본 구조 뜯어보기
이 글은 Transformer 기반 LLM의 기본 구조를 상세히 분석합니다. LLM의 빠른 발전 속도와 함께 Transformer 아키텍처의 중요성을 강조하며, "Attention Is All You Need" 논문을 기반으로 한 Transformer의 등장 배경을 설명합니다. LLM이 '다음 단어 예측'을 통해 작동하는 원리를 수학적으로 풀어내고, Token Embedding, Attention 메커니즘, LM Head 등 핵심 모듈의 역할을 설명합니다. 또한, KV Cache, Multi-Head Attention (MHA), Grouped-Query Attention (GQA)과 같은 최적화 기법을 소개하며 LLM의 성능 향상과 효율성 증대에 기여하는 요소들을 다룹니다. 궁극적으로 LLM의 내부 작동 방식을 이해하는 것이 기술 활용의 핵심임을 시사합니다.
LLMTransformerAttention
하이퍼엑셀·2026년 3월 5일
AI
지피지기면 백전불태 번외편: Pallas Programming Model
본 글은 AI 가속기 설계를 목표로 하는 시리즈의 번외편으로, TPU에서 커스텀 커널 작성을 가능하게 하는 Pallas 프로그래밍 모델을 소개합니다. 최신 TPU 세대인 Ironwood에서 Pallas는 성능 최적화의 핵심 역할을 하며, CUDA나 Triton처럼 하드웨어 세부 구조를 직접 제어하면서도 Python 환경에서 쉽게 사용할 수 있습니다. 기존 XLA 컴파일러의 한계를 넘어 최신 알고리즘 최적화를 지원하기 위해 구글이 개발한 Pallas는 TPU의 성능을 극대화하는 데 기여합니다. 특히, CPU/GPU의 메모리 대역폭 낭비 문제를 해결하기 위한 TPU의 Systolic Array 구조를 이해하는 것이 Pallas의 필요성을 파악하는 데 중요합니다.
TPUPallasCustom Kernel
하이퍼엑셀·2026년 2월 25일
AI
지피지기면 백전불태 4편 : 메모리 용량 병목과 NVIDIA ICMS
이 글은 LLM 추론 시 발생하는 새로운 병목 현상인 KV 캐시 용량 문제를 해결하기 위한 NVIDIA의 솔루션인 ICMS(Inference Context Memory Storage)와 이를 관리하는 Bluefield-4 DPU에 대해 설명합니다. 기존에는 메모리 대역폭이 병목이었다면, 이제는 LLM의 컨텍스트 길이가 길어짐에 따라 메모리 용량 자체가 병목이 되고 있습니다. NVIDIA는 이를 해결하기 위해 DPU를 활용한 새로운 계층의 스토리지인 ICMS를 제안하며, 이는 LLM 추론 성능 향상에 중요한 역할을 할 것으로 기대됩니다. 글에서는 Rubin 플랫폼과 같은 NVIDIA의 최신 하드웨어 구성 요소를 소개하며 ICMS와 DPU의 기술적 원리를 심층적으로 다룹니다.
LLMNVIDIAICMS
하이퍼엑셀·2026년 2월 24일
AI
Copy & Paste에서 코딩 에이전트까지: 조용한 변화의 시작
이 글은 개발자의 일상에서 AI 코딩 도구가 어떻게 Copy & Paste 방식에서 자율 에이전트까지 발전해왔는지 그 여정을 다룹니다. 초기에는 에러 메시지를 해결하거나 코드 스니펫을 생성하는 데 LLM을 활용했지만, 점차 컨텍스트를 유지하는 능력을 바탕으로 아키텍처나 디자인 패턴 같은 상위 레벨의 질문에도 답을 얻게 되었습니다. GitHub Copilot과 같은 도구의 등장은 IDE 자동완성을 넘어 코드 로직 전체를 예측하며 개발 생산성을 혁신적으로 향상시켰습니다. 저자는 이러한 변화가 개발자의 업무 방식을 근본적으로 바꾸고 있으며, 앞으로 AI가 개발 과정에서 더욱 중요한 역할을 할 것임을 시사합니다.
AI 코딩LLM자율 에이전트
하이퍼엑셀·2026년 2월 19일
DevOps
Kubernetes 기반 사내 개발 환경 구축기 2편: ARC와 CI/CD 인프라 고도화
본 글은 Kubernetes 기반 사내 개발 환경 구축의 두 번째 이야기로, CI/CD 인프라를 Actions Runner Controller(ARC) 기반으로 재설계한 과정을 상세히 다룹니다. 기존 Self-hosted Runner의 구조적 한계점(서버와 워크플로우의 강결합, 실행 환경 오염)을 분석하고, ARC 도입을 통해 DinD 모드와 Kubernetes 모드 선택 기준, Rook-Ceph 기반 Ephemeral PVC 전략, Vault를 통한 Secret 생명주기 관리, 그리고 자체 개발한 GitHub Actions Exporter를 통한 파이프라인 관측성(Observability) 확보 방안을 제시합니다. 이를 통해 CI/CD 파이프라인의 효율성과 안정성을 높이는 방법을 공유합니다.
KubernetesCI/CDARC
하이퍼엑셀·2026년 2월 12일
DevOps
Kubernetes 기반 사내 개발 환경 구축기 1편: 왜 Kubernetes인가?
HyperAccel ML팀은 사내 개발자들의 불편함을 해소하고 효율적인 개발 프로세스를 제공하기 위해 Kubernetes 기반 개발 환경을 구축하는 여정을 공유합니다. 이 글은 Kubernetes 도입 이전 기존 개발 환경의 한계점과 Kubernetes를 도입하게 된 배경을 설명합니다. 초기 스타트업으로서 빠른 개발 속도를 우선시하다 보니 체계적인 개발 환경 구축에 어려움이 있었고, 각자 사내 서버에 접속하여 개발하는 방식은 비효율적이었습니다. 이에 대한 해결책으로 Kubernetes 클러스터를 기반으로 devcontainer를 활용하여 Pod을 띄우고 컨테이너 내에서 개발하는 방식으로 전환하였으며, Devcontainer Portal을 통해 개발자들의 편의성을 높였습니다. 이 시리즈는 Kubernetes 기반 개발 환경 구축 과정을 상세히 다룰 예정입니다.
KubernetesDevOps개발 환경
하이퍼엑셀·2026년 2월 9일
AI
지피지기면 백전불태 3편 : 엔비디아가 200억 달러에 인수한 그록의 LPU
이 글은 엔비디아에 인수된 스타트업 그록(Groq)의 LPU(Language Processing Unit)에 대해 분석합니다. 창업자 조나단 로스는 구글 TPU 프로젝트의 핵심 멤버였으며, AI 추론 시장의 성장 가능성을 보고 그록을 창업했습니다. 그록의 LPU는 학습(Training)과 추론(Inference)을 모두 지원하는 GPU/TPU와 달리, 거대언어모델(LLM)의 추론 최적화에만 집중하여 설계되었습니다. AI 연산은 크게 가중치를 업데이트하는 학습과 고정된 가중치를 사용하는 추론으로 나뉘는데, 기존 GPU/TPU는 학습에 최적화되어 있어 추론 시장에서는 범용 칩의 한계가 존재합니다. LPU는 이러한 추론 시장의 기회를 포착하여 탄생한 추론 전용 칩으로, 하드웨어 및 소프트웨어 설계 철학을 통해 엔비디아의 인수 의도를 분석합니다.
LPUGroqAI 가속기
하이퍼엑셀·2026년 2월 3일
AI
Specs are All You Need: Spec-Driven Development (SDD)란 무엇인가?
본 글은 AI 시대에 새롭게 등장한 개발 방법론인 Spec-Driven Development(SDD)를 소개합니다. 생성형 AI의 발전으로 누구나 쉽게 앱이나 웹사이트를 만들 수 있게 되었지만, 기능 추가나 디자인 수정 시 예상치 못한 버그가 발생하거나 결과물의 품질이 저하되는 한계에 직면하는 경우가 많습니다. 이러한 문제를 해결하고 LLM으로부터 효율적이고 빠르게 양질의 결과물을 얻기 위한 방법론으로 SDD를 제시합니다. SDD는 프롬프트 엔지니어링을 넘어 '스펙 엔지니어링'으로 나아가는 방향을 제안하며, 개발 과정의 효율성과 결과물의 품질을 동시에 높이는 것을 목표로 합니다. 과거의 BDD, TDD, RDD와는 다른 SDD의 개념과 장점을 탐구합니다.
Spec-Driven DevelopmentSDDLLM
하이퍼엑셀·2026년 2월 3일
Architecture
Polyhedral Analysis
이 글은 컴파일러 최적화 기법 중 하나인 Polyhedral Compiler에 대한 기본 개념과 핵심 흐름을 소개합니다. Affine 함수, Affine 초평면, Polyhedron과 같은 기본 개념을 선형대수학 관점에서 설명하며, 이러한 개념들이 어떻게 루프 변환 및 병렬성 분석에 활용되는지 다룹니다. 특히, Farkas lemma를 통해 Polyhedron의 존재성을 증명하는 방법과 iteration vector, schedule vector를 이용한 병렬성 분석, 그리고 Polyhedral transformation 기법까지 간략하게 정리하여, LLVM Polly나 MLIR affine dialect와 같은 실제 프로젝트에서 사용되는 Polyhedral Compiler의 작동 원리를 이해하는 데 도움을 줍니다.
Polyhedral CompilerAffine FunctionPolyhedron
하이퍼엑셀·2026년 1월 29일
Etc
2025년에 바라보는 CES 2026 핵심 정리 (feat. SAMSUNG, SK, LG)
본 글은 HyperAccel ML팀 소속 박현준 님이 작성한 CES 2026 참관 후기입니다. CES는 1967년부터 시작된 세계 최대 규모의 소비자 가전 전시회로, 기업에게는 기술 홍보 및 마케팅의 장이자 관람객에게는 최신 기술 동향을 파악할 기회를 제공합니다. 우리나라는 미국, 중국에 이어 세 번째로 많은 기업이 참여하며 혁신상 수상 개수에서 세계 1위를 기록할 정도로 기술력을 인정받고 있습니다. 글쓴이는 작년 CES 경험을 바탕으로 올해 CES 2026의 통계 및 핵심 키워드(피지컬 AI, 공간 컴퓨팅, 디지털 헬스, 모빌리티, 스마트홈 등)를 정리하고, 특히 삼성, SK, LG 등 한국 대기업의 전시 내용과 컨셉에 대한 정보를 제공합니다. 또한, CES 부스 준비 및 운영 후기와 함께 K-STARTUP 통합관 부스 투어를 통해 효율적으로 전시를 관람한 경험을 공유하며, CES 관련 정보와 부스 운영에 대한 실질적인 팁을 제공하고자 합니다.
CES 2026기술 동향SAMSUNG
하이퍼엑셀·2026년 1월 12일
AI
지피지기면 백전불태 2편: TPU의 등장과 부상
이 글은 구글의 AI 칩인 TPU(Tensor Processing Unit)의 등장 배경과 발전 과정을 분석합니다. 2016년 첫 등장 이후 7세대까지 발전해 온 TPU는 구글의 AI 서비스 강화와 더불어 클라우드를 통한 외부 서비스 제공으로 이어졌습니다. 소프트웨어 기업인 구글이 자체 AI 반도체 개발에 나선 배경과 그 자신감의 근거를 탐구하며, 최신 7세대 TPU인 아이언우드(Ironwood)의 성능 향상과 클러스터 확장성, 그리고 엔비디아와의 경쟁 구도 속 구글의 AI 반도체 시장 전략을 조명합니다. TPU의 발전은 구글이 AI 기술 경쟁에서 하드웨어적 우위를 확보하려는 전략의 일환임을 시사합니다.
TPUAI 반도체Google
하이퍼엑셀·2026년 1월 3일
AI
지피지기면 백전불태 1편: GPU의 역사와 기초
이 글은 AI 가속기 설계를 위해 NVIDIA GPU의 역사와 구조적 특성을 깊이 이해하는 것을 목표로 합니다. 1990년대 그래픽 카드 시절부터 시작하여 RIVA 128, GeForce 시리즈를 거쳐 G80 Tesla 아키텍처와 CUDA의 등장으로 GPU가 범용 병렬 컴퓨팅 플랫폼으로 진화하는 과정을 설명합니다. 특히 AlexNet의 우승과 ChatGPT 출시 이후 GPU가 딥러닝 및 생성형 AI 시장의 핵심 인프라로 자리 잡게 된 배경을 조명합니다. 하드웨어 엔지니어 관점에서 NVIDIA GPU의 설계 강점과 구조적 특성을 분석하며, AI 하드웨어 시장에서 넘어야 할 기준점을 제시합니다.
NVIDIA GPUGPU 역사CUDA
하이퍼엑셀·2025년 12월 29일
Etc
기술 블로그 시작기
이 글은 기술 블로그를 시작하게 된 계기에 대한 이야기입니다. 필자는 LLM Inference Chip 개발 및 관련 Software Stack 구축에 대한 회사의 고민을 외부 개발자들과 공유하고 싶다는 생각을 했습니다. 동료 개발자 역시 이전 직장에서 기술 블로그를 통해 우수한 개발자들을 영입한 경험을 바탕으로 기술 블로그 개설을 제안했습니다. 처음에는 운영 주체에 대한 막연함과 바쁜 업무로 인해 망설였지만, 필자 본인이 개인 블로그 운영 경험이 있다는 사실을 깨닫고 기술 블로그 개설 및 운영을 주도하게 되었습니다. 이는 기술 공유와 개발자 커뮤니티 활성화에 대한 중요성을 강조하는 내용입니다.
기술 블로그개발 문화동기 부여
하이퍼엑셀·2025년 12월 26일
Etc
Crafting Compilers (Chapter 1.1) : 프로그래밍 언어 만들기
이 글은 프로그래밍 언어의 정의와 역할을 탐구하며, 특히 인간과 컴퓨터 사이의 사용자 인터페이스로서의 중요성을 강조합니다. 추상화의 개념을 통해 복잡한 하드웨어의 세부 사항을 숨기고 인간 친화적인 방식으로 아이디어를 표현할 수 있게 해주는 프로그래밍 언어의 역할을 설명합니다. 또한, 프로그래밍 언어의 구현 방식에 따른 컴파일 언어와 인터프리터 언어의 차이점을 비유를 통해 명확히 설명하고, 각 방식의 장단점을 비교합니다. 컴파일 언어는 높은 성능과 효율성을 제공하지만 코드 변경 시 재컴파일이 필요하며, 인터프리터 언어는 편의성과 유연성을 제공하지만 일반적으로 실행 속도가 느리다는 점을 언급합니다.
프로그래밍 언어컴파일러인터프리터
하이퍼엑셀·2025년 12월 13일
DevOps
NAVER DAN 2025 참관기
NAVER DAN 2025 컨퍼런스 참관 후기입니다. 필자는 확장 가능한 스토리지 인프라와 AI 클러스터 자원 활용 방안에 대한 인사이트를 얻기 위해 컨퍼런스에 참여했습니다. 특히, NAVER 검색 플랫폼에서 멀티 IDC 환경의 데이터 고립 및 데이터 복구 문제를 해결하기 위해 자체 구축한 'IDC Seamless HDFS' 기술에 대한 내용을 중점적으로 다룹니다. 기존 Hadoop 클러스터가 IDC별로 독립되어 데이터 접근 시 IDC 간 네트워크(DCI) 트래픽 증가 및 데이터 영구 소실 위험이 있었으나, IDC Seamless HDFS는 이러한 문제를 해결하여 효율적인 분산 스토리지 인프라 구축 방안을 제시합니다. 또한, AI 워크로드를 위한 GPU, FPGA 기반 AI 클러스터 운영 및 자원 활용에 대한 인사이트도 공유합니다.
NAVER DAN 2025스토리지 인프라AI 클러스터
하이퍼엑셀·2025년 12월 5일