AMD의 AAI 2026은 최첨단 학습, 빠른 추론 및 에이전틱 작업을 목표로 하는 Helios 랙 스케일 시스템, 6세대 EPYC CPU 및 MI400 GPU를 출시했습니다. 핵심은 개방형 플랫폼, 더 높은 토큰당 비용 효율성, 그리고 기가와트 규모의 배포입니다. 무엇이 바뀌었고, 왜 중요한지, 그리고 구매자가 배포 적합성을 평가하는 방법을 소개합니다.
AI 인프라의 중심축이 최고 성능(FLOPS)에서 랙당 지속 처리량으로 이동하고 있습니다. AAI 2026에서 AMD는 Helios를 MI400 가속기, 6세대 EPYC 호스트 노드, Pensando 네트워킹, ROCm 소프트웨어를 공동 최적화하는 랙 스케일 시스템으로 포지셔닝하여 추론 및 에이전틱 작업 처리량을 극대화했습니다. 전략적 베팅은 고객이 부품이 아닌 랙을 구매하고, 독점 잠금보다 개방형 소프트웨어와 더 높은 토큰당 비용 효율성을 중시할 것이라는 점입니다.
지금 이게 중요한 이유: 배포 패턴이 다중 테넌트 추론, 검색 보강 생성, 더 엄격한 지연 시간 예산과 높은 동시성을 가진 에이전틱 파이프라인으로 기울고 있습니다. 이는 원시 GPU 수학만큼이나 메모리 대역폭, 인터커넥트 토폴로지, 호스트 CPU 스케줄링에 부담을 줍니다. 랙 수준에서 아키텍처 결정을 통합함으로써—GPU 수, 호스트 균형, 메모리 용량, 네트워킹 패브릭—Helios는 가속기를 지속적으로 공급하고 스파이크가 있는 상호작용 작업 부하 전반에 걸쳐 활용도를 높이는 것을 목표로 합니다.
AMD는 또한 폭을 넓혔습니다: 고밀도 호스트 컴퓨팅을 위한 EPYC 6세대, 최첨단 및 고정밀 작업을 위한 MI400 시리즈, 그리고 소프트웨어 활성화를 가속화하는 확장된 ROCm 스택과 ROCm.ai. 로드맵은 2030년까지 연간 주기를 신호하며, 칩뿐만 아니라 시스템 경제성에서 경쟁하려는 의도를 나타냅니다. 운영자에게 즉각적인 시사점은 실용적입니다—토큰당 비용, 소프트웨어 이식성, 전력 밀도, 랙 규모의 납기 시간을 중심으로 TCO 모델을 재설정하세요.
Helios가 추론 경제학에서 중요한 이유
추론 및 에이전틱 작업 부하는 활용도 게임입니다. 조절 변수는 수천 개 동시 세션을 위한 호스트 CPU 스케줄링, 기아 상태를 피하기 위한 메모리 대역폭, 부하 하에서 꼬리 지연 시간을 유지하는 네트워킹입니다. Helios는 랙 수준에서 이를 공동 최적화합니다—72 GPU 규모, 큐잉 및 전후 처리에 맞춘 EPYC 호스트, Pensando 패브릭—혼합된 상호작용 프로필 전반에 걸쳐 가속기를 포화 상태로 유지합니다.
구매자에게 적절한 KPI는 목표 지연 시간에서의 토큰당 비용입니다. 실제 트레이스를 사용해 모델링하세요: 시퀀스 길이, 배치 동작, 에이전트 도구 사용 패턴. Helios가 지연 시간 SLO를 위반하지 않고 더 높은 활용도를 유지한다면, 특히 동시성과 다중 테넌트 격리가 비용을 지배하는 곳에서 TCO 이점이 빠르게 누적됩니다. 가격 가정에는 실리콘뿐 아니라 전력, 냉각, 서비스 계약이 포함되어야 합니다.
피해야 할 위험, 제약 및 공급업체 종속
주의해야 할 세 가지 위험이 있습니다. 첫째, 소프트웨어 성숙도: 실험실 데모가 아닌 실제 트래픽으로 정확한 모델과 커널을 ROCm에서 검증하세요. 둘째, 시설: 랙 스케일 시스템은 종종 전력 및 액체 냉각 한계를 밀어붙입니다—다중 경로 설계, 중복성, 유지보수 창에 대한 현장 준비 상태를 확인하세요. 셋째, 공급 시기: 모델 리프레시 주기와 납품 배치를 맞춰 유휴 용량을 피하세요.
잠금 방지를 위해 오케스트레이션, 관측성, 스케줄러 통합을 위한 개방형 문서화된 인터페이스를 요구하고, 다중 공급업체 배포 매니페스트를 유지하며, 모델 가중치, 커널, 컴파일 산출물의 마이그레이션 경로를 검증하세요. 지연 시간 SLO 및 동시성 프로필에 연동된 성능 수락 기준이 포함된 계약을 선호하세요.
