신호 서버 구성이 조율용 CPU 1개당 GPU 8개에서 CPU 1개당 GPU 2개로 옮겨간다

요약

딜로이트는 AI 작업에 맞춰 서버 하드웨어가 재편되는 모습을 설명한다. 칩은 GPU, 효율적 추론을 위한 신경망 처리 장치, 특정 기계학습 작업용 텐서 처리 장치로 다양해지고 있다. 서버 교체 때도 CPU와 GPU를 섞은 구성이 들어간다. 예전에는 CPU 하나가 조율하는 트레이에 GPU를 4～8개 얹었지만 이제는 CPU 하나당 GPU 두 개 구성이 늘고 있다. 보고서는 이런 변화가 CPU 대비 GPU가 많고, 혼합 작업용 서버와 조율 계층을 갖추며, 빠르게 배치할 수 있는 형태와 프로세서 간 광 연결을 쓰는 AI 전용 데이터센터로 모인다고 본다. 반면 데이비드 린티컴은 가치 있는 기업 AI 작업 대부분은 CPU로 충분하고 대규모 학습만 전용 프로세서가 필요하다고 반론한다.