다음 AI 승자는 모델 지능만큼이나 칩, 전력, 데이터 센터 및 클라우드 용량에 대한 접근성에 의해 결정될 수 있습니다.
원래의 클라우드 전쟁은 스토리지, 가상 머신, 데이터베이스 및 엔터프라이즈 소프트웨어를 두고 벌어졌습니다. AWS, Microsoft Azure, Google Cloud는 디지털 비즈니스를 위한 기본 인프라 계층이 되기 위해 경쟁했습니다. 인공지능은 이제 그 경쟁의 규모와 참여에 필요한 자원을 모두 변화시키고 있습니다.
최첨단 AI 시스템은 단순히 임대 가능한 서버 용량 이상을 필요로 합니다. 이들은 고급 가속기, 고대역폭 메모리, 특수 네트워킹, 냉각, 전력, 토지, 건설 용량 및 장기 공급 계약에 의존합니다. 따라서 모델 회사들은 인프라 기획자가 되고, 칩 제조사와 클라우드 제공업체는 모델 개발의 전략적 파트너가 되고 있습니다.
이는 가장 강력한 모델도 신뢰할 수 있고 저렴한 배포 없이는 성공할 수 없는 새로운 경쟁 구도를 만듭니다. 완전한 인프라 스택을 조율할 수 있는 회사는 훈련 속도, 추론 비용, 제품 가용성 및 고객 수에서 우위를 점할 수 있습니다.
새로운 클라우드 전쟁은 경쟁적이며 상호 의존적이다
Anthropic은 AWS Trainium, Google TPU 및 NVIDIA GPU를 사용하면서 Claude를 AWS, Google Cloud 및 Microsoft Azure를 통해 배포합니다. OpenAI는 Microsoft, Oracle, NVIDIA 및 다른 Stargate 파트너와 협력합니다. 이러한 배치는 최첨단 AI 회사들이 단일 독점 클라우드 관계보다 용량 다양성과 배포 범위를 점점 더 중요하게 여긴다는 것을 보여줍니다.
클라우드 경쟁자들은 동시에 같은 모델 회사를 서비스하고, 공통 하드웨어 공급자를 공유하며, 제공업체 경계를 넘어 용량을 임대할 수 있습니다. 시장은 모든 회사가 더 큰 통제를 원하지만 경쟁자를 지원할 수도 있는 파트너에 여전히 의존하는 중첩된 동맹 네트워크가 되고 있습니다.
인프라는 기업이 AI를 선택하는 방식에 영향을 미쳐야 한다
모델 벤치마크는 생산 경험의 일부만 보여줍니다. 인프라는 지연 시간, 지역 가용성, 속도 제한, 데이터 거주, 서비스 신뢰성 및 대규모 작업 완료 비용을 결정합니다. 자주 사용할 수 없거나 대규모로 너무 비싼 강력한 모델은 약간 약하지만 신뢰할 수 있는 대안보다 덜 유용할 수 있습니다.
기업은 지능과 함께 운영 기준을 사용하여 제공업체를 비교해야 합니다. 중요한 질문은 작업 부하가 지역 간 이동 가능한지, 용량이 보장되는지, 규모에 따라 가격이 어떻게 변하는지, 대체 모델을 도입할 수 있는지 여부입니다. 이식 가능한 워크플로우와 다중 모델 라우팅은 중단, 부족 및 갑작스러운 플랫폼 변경에 대한 노출을 줄일 수 있습니다.