据香港IDC新天域互联了解,在环球AI算力竞争日趋强烈的布景下J9九游会体育,谷歌云(Google Cloud)在最新一届App Dev Infrastructure峰会上发布重磅新品——新一代云霄超等经营业绩Hypercomputer选取六代TPU(张量措置器)Trillium,展现了其在AI基础重要范围的宏愿。 当作当今浮点运算性能最强的TPU,Trillium的单一集群可提供高达91 exaflops的算力。与客岁发布的TPU v5e比较,新品在AI模子进修性能上耕作了4倍,推理迷糊量耕
据香港IDC新天域互联了解,在环球AI算力竞争日趋强烈的布景下J9九游会体育,谷歌云(Google Cloud)在最新一届App Dev & Infrastructure峰会上发布重磅新品——新一代云霄超等经营业绩Hypercomputer选取六代TPU(张量措置器)Trillium,展现了其在AI基础重要范围的宏愿。
当作当今浮点运算性能最强的TPU,Trillium的单一集群可提供高达91 exaflops的算力。与客岁发布的TPU v5e比较,新品在AI模子进修性能上耕作了4倍,推理迷糊量耕作3倍,单芯片峰值经营性能更是耕作了4.7倍。值得明慧的是,在性能大幅耕作的同期,其动力破费却减少了67%,体现了谷歌在绿色经营方面的时刻报复。
在骨子性能测试中,Trillium在初始Gemma 2-27B、MaxText Default-32B和Llama2-70B等大模子时,性能较上一代TPU v5p耕作疏淡4倍。从资本效益角度来看,Trillium比v5e越过1.8倍,比v5p越过2倍,展现出极具竞争力的性价比。
硬件升级方面,新品在高频内存(HBM)容量和芯片间互连带宽上齐已矣了翻倍耕作。通过芯片互连时刻(ICI),单个高带宽低蔓延Pod最多可膨大至256个芯片,并可通过畅通数百个Pod酿成包含上万颗芯片的超等经营集群。协作谷歌13 Petabit/s的Jupiter数据中心网罗,可已矣接近线性的性能膨大。
除了新一代TPU,谷歌云还推出了多项配套居品:搭载NVIDIA H200 Tensor Core GPU的A3 Ultra VM预览版将于11月推出,其GPU间网罗带宽和LLM推感性能较前代居品耕作1倍;基于自研Arm架构Axion措置器的C4A VM业绩也已上线,较传统x86架构VM在性价比和能效方面永别耕作65%和60%。
在网罗重要方面,新上线的Jupiter光纤交换网罗提供400Gb/s的原生畅通速率和13.1Pb/s的对分带宽,据称可措置地球上通盘视频图像。同期推出的AI/ML专用存储业绩Hyperdisk ML在数据传输速率上达到了1.2TB/s,超越竞争敌手近100倍。
跟着AI时刻快速发展,算力需求呈指数级增长。这次谷歌全面升级AI基础重要,不仅展现了其在AI芯片范围的时刻实力J9九游会体育,更预示着新一轮算力竞争的到来。在英伟达主导的AI芯片阛阓中,谷歌能否凭借新品大开格局,值得阛阓捏续怜惜。