엔비디아, AI 데이터센터 플랫폼 '텐서RT 하이퍼스케일' 출시

[아이뉴스24 윤선훈 기자] 엔비디아는 음성과 비디오, 이미지 및 추천서비스를 위한 AI(인공지능) 데이터센터 플랫폼인 '엔비디아 텐서RT 하이퍼스케일 플랫폼'을 출시했다고 15일 밝혔다.

엔비디아 텐서RT 하이퍼스케일 추론 플랫폼은 엔비디아 튜링 아키텍처와 새로운 추론 소프트웨어에 기반을 둔 엔비디아 테슬라 T4 GPU로 구성된다. 이 GPU는 320개의 튜링 텐서 코어와 2천560개의 쿠다(CUDA) 코어를 갖췄다. CPU보다 최대 40배 빠른 속도로 쿼리를 처리한다.

엔드 투 엔드 애플리케이션을 위한 지연시간이 낮으면서도 빠른 성능을 제공한다. 대규모 데이터센터 내에서 향상된 자연어 상호작용과 검색 시 직접 답변할 수 있는 서비스가 가능하다.

엔비디아는 AI 추론 산업이 향후 5년 내 200억달러(한화 약 22조4천억원) 규모로 성장할 것으로 예상하고 있다.

이안 벅 엔비디아 가속 컴퓨팅 담당 부사장 겸 총괄은 "고객들은 모든 제품과 서비스가 AI를 통해 향상되고 진화될 미래를 마주하고 있다"며 "엔비디아 텐서RT 하이퍼스케일 플랫폼은 이를 좀더 효율적이고 빠른 속도로 구현하기 위해 탄생했다"고 설명했다.

윤선훈 기자의 다른 기사 보기

• 코오롱베니트, 엔비디아 딥러닝 솔루션 공급

• SKT-엔비디아, '사설 GPU 클라우드' 연내 상용화