구글이 자사 생성형 인공지능(AI) 모델 '제미나이(Gemini)'만을 위해 설계한 전용 AI 반도체 개발에 착수했다.
지금까지 범용 AI 연산에 활용해온 텐서처리장치(TPU)와는 별개로 특정 모델에 최적화한 칩을 만드는 것으로, AI 인프라 경쟁이 범용 반도체에서 '맞춤형 AI칩' 시대로 진화하고 있음을 보여주는 사례로 평가된다.
새 칩의 특징은 범용성이 아닌 최적화에 있다.
기존 TPU가 엔비디아 GPU처럼 다양한 AI 모델을 학습·추론할 수 있도록 설계된 반면, 프로즌 v2는 제미나이의 신경망 구조와 데이터 처리 방식, 가중치 등을 칩 내부에 고정해 특정 모델만 가장 효율적으로 실행하도록 설계된다.
이 개념은 구글의 AI 핵심 인물인 제프 딘 수석과학자가 제안한 것으로 알려졌다. 구글은 이를 통해 전력당 처리 가능한 토큰 수를 기존 대비 6~10배까지 높이고 응답 속도도 개선할 수 있을 것으로 기대하고 있다.
이번 프로젝트는 기존 TPU를 대체하려는 것이 아니라 병행 운영을 전제로 한다. AI 모델은 지속적으로 업데이트되기 때문에 특정 모델에 맞춘 칩은 버전이 바뀌면 활용도가 떨어질 수 있어, 구글은 범용 TPU를 유지하면서 반복적인 추론 작업에는 전용칩을 활용하는 이원화 전략을 검토하는 것으로 전해졌다.
생성형 AI 서비스 이용 급증으로 GPU와 TPU 부족에 따른 자원 배분 갈등이 이어졌고, 외부 고객 대상 서비스 제공에도 제약이 발생해 일부 고객의 사용량을 제한한 사례도 있었던 것으로 전해진다.
구글은 일론 머스크가 설립한 xAI의 데이터센터 시설을 대규모로 임차하는 등 외부 인프라 확보에도 나서고 있다.
구글은 이번 보도와 관련해 "사용자와 고객에게 최고의 성능과 효율성을 제공하기 위해 새로운 혁신을 지속적으로 연구하고 실험하고 있다"고 밝혔다.
맞춤형 AI칩 개발 소식이 전해진 뒤 알파벳 주가는 장중 한때 3% 넘게 올랐다가 상승폭 일부를 반납했지만 결국 전장보다 1.51% 상승한 351.99달러로 마감했다.
bnt뉴스 라이프팀 기사제보 [email protected]
