华为发布新一代AI算力基础设施
中 화웨이, 차세대 AI 컴퓨팅 인프라 공개
참관객들이 지난 7월 19일 화웨이 전시부스에서 성텅(昇騰)950슈퍼팟(Atlas 950 SuperPoD)을 관람하고 있다. (사진/신화통신)
近日于上海举办的华为全联接大会上，华为发布了新一代AI算力基础设施昇腾960超节点。
화웨이가 최근 상하이에서 열린 '화웨이 커넥트 대회'에서 차세대 인공지능(AI) 컴퓨팅 인프라 '성텅(昇騰)960슈퍼팟(Atlas 960 SuperPoD)'을 공개했다.
这款算力设施最多搭载的算力卡数量从上一代的1024卡升级到4096卡，并且首次采用了一项名为“NPO”（也称为近封装光学）的关键技术，可用于匹配十万亿模型训练和推理的需求。
최대 탑재 가능한 AI 컴퓨팅 카드 수를 기존 1천24개에서 4천96개로 늘리고, 'NPO(근접 패키지 광학)' 기술을 처음 적용한 것이 특징이다. 이는 10조 AI 모델의 학습과 추론 수요에 대응하는 데 활용될 수 있다.
如果说数据是AI的燃料，那么算力就是AI的引擎。近年来，算力集群从万卡向十万卡、乃至更大规模迈进，卡与卡之间的通信代价越来越高，业界探索使用超节点解决这一瓶颈。
데이터가 AI의 '연료'라면 컴퓨팅 파워는 이를 움직이는 '엔진'에 해당한다. 최근 AI 연산 클러스터 규모가 수만 개에서 수십만 개 수준으로 커지면서 이들 간 통신 비용과 지연 문제가 갈수록 커지고 있다. 업계는 이 같은 병목을 해결하기 위해 '슈퍼팟' 구조 활용을 모색하고 있다.
华为超节点的核心思路，是通过高速互联协议将成百上千张算力卡融为一体，实现“像一台计算机一样协同工作”的效果。
화웨이 '슈퍼팟' 구조는 수백~수천 개의 연산 카드를 고속 상호 연결 프로토콜로 묶어 마치 한 대의 컴퓨터처럼 협업하도록 하는 방식이다.
据华为副董事长、轮值董事长汪涛介绍，传统的大规模算力系统内部主要依赖铜缆进行电互联，近封装光学技术可在算力卡边缘几厘米的距离实现电转光，突破铜缆传输距离与带宽的物理极限，降低互联功耗与延迟，并解决高密度算力系统下的布线与散热难题。
왕타오(汪濤) 화웨이 부회장 겸 순환회장에 따르면 기존 대규모 컴퓨팅 시스템은 주로 구리 케이블을 이용해 전기 신호를 주고받지만, NPO 기술은 연산카드에서 수 센티미터 떨어진 지점에서 전기 신호를 광신호로 전환한다. 이를 통해 구리 케이블의 전송 거리와 대역폭 한계를 보완하고 상호 연결 과정에서 전력 소모와 지연을 낮출 수 있다는 설명이다. 또한 고밀도 컴퓨팅 시스템에서 발생하는 배선과 발열 문제를 완화하는 데도 도움이 될 것으로 기대된다.
昇腾系列超节点已规模商用1000多套，应用于互联网、运营商、金融、教育、医疗、交通、制造等行业。上一代的昇腾950超节点也已实现商用。
성텅 계열 슈퍼팟은 1천 세트 이상 대규모로 상용화돼 인터넷, 통신, 금융, 교육, 의료, 교통, 제조 등 다양한 산업에서 활용되고 있다. 이전 세대인 성텅950슈퍼팟도 이미 상용 서비스에 들어간 상태다.
