爱色影
图片起首：unsplash
从 2009 年阿里云写下飞天第一滑代码，迄今已曩昔十五年，阅历了互联网企业升起和传统企业真切数字化转型的两次云推测打算波澜之后，脚下咱们仍是进入第三次波澜：云与 AI 统一的新阶段。如同潮涌，AI 的出现并不是颠覆前两次的产业逻辑，而是前期在云上的技能辘集会在 AI 基础设施阶段加快开释平台价值。
下一个十五年，不难预期：云将是 AI 的后援与燃料库。
这少许在汇集的发展历程中也有迹可循。2000 年前后，国内互联网刚兴起不久，是由运营商提供汇集基础设施，东谈主们的需求仅仅发发邮件、买买东西；当云推测打算与大数据到来，汇集进入 SDN 期间，因循汇集游戏、直播、算法推选的兴起；目下咱们正阅历 AI 智算期间，智能驾驶、LLM 教师推理等，对汇集的条件与曩昔更是迥然相异。
怎样能够匹配 AI 期间下超大领域算力需求，让性能极致证据？阿里云仍是有了谜底。
为匹配 AI 期间的汇集条件，阿里云客岁研发出大领域集群架构 HPN7.0，支抓万卡集群式推测打算。据本年云栖大会最新公布，HPN7.0 让模子端到端教师性能进步 10% 以上，目下它实行前后端汇集差异技能，前端 400G 汇集带宽提供高速存储探问和节点通讯；后端 3.2T GPU 互联汇集，可骄横大领域 AI 推测打算需求。
骨子上，阿里云早在 2021 年就在研讨第一代万卡集群 HPN6.0，那时主要骄横自动驾驶客户对视觉模子教师的需求，彼时大模子还莫得如斯普及。此外，阿里云 2022 年 10 月在业内最早提议 MaaS 模子即就业理念，并引颈了理念潮水。这些均标明，阿里云在 AI 底层和中间层 AI infrastructure（简称" AI Infra "）方面一直保抓着前瞻性念念考与布局。
在云与 AI 密不可分的期间，超前布局让阿里云快速获得了多数新的企业客户，像智能驾驶、具身智能机器东谈主等与云厂商有共创智商的编削者。AI Infra 竞争也将掀翻新一轮行业变革。
加法与减法的对碰
智能的迁跃在新动力汽车上证据尤为彰着，其对智能基础设施的需求也更利害。
在 9 月 19 日杭州云栖大会上，驾驶堪称"全球首款 AI 汽车" P7+ 参会的小鹏汽车董事长何小鹏预测，端到端大模子对自动驾驶领域的价值在于，异日不错让每一个东谈主在每一个城市王人像老司机那样开车。
小鹏汽车董事长何小鹏
在老例理念中，代码富集意味着功能雄伟，但通过端到端（End-to-End）的神经汇集代码成就了感知—方案—实行一体化，把这三法子贯串在团结个大模子中去作念，绝对改变了曩昔的串联式架构。骨子成果是：端到端"绕开"了舆图数据，可凭据录像头、传感器及时蚁集的图像数据，平直生成车辆的加快、转向、刹车信号，让汽车反馈更顺滑。
在此布景下，代码将进一步缩减。以特斯拉 FSD v12.5.1 版块为例，原来 30 多万行的 C++ 代码砍到只剩下 3000 行。但与此同期，马斯克从英伟达手里又团购了 35 万张显卡，以支抓更快的数据科罚。算力作念加法，这亦然让前端能徐徐变得愈加纯粹的基础前提。
曩昔两年，小鹏汽车也一直在加码算力，其与阿里云共建的智算中心的算力储备彭胀超 4 倍至 2.51Eflops，以前需要一周完成的自动驾驶大模子教师，如今通过智算中心不错镌汰到用一小时完成。为加快端到端大模子、进步自动驾驶的上限，何小鹏示意将络续深化与阿里云的 AI 算力合营，预测每年插足 35 亿元用于研发，其中 7 亿元划拨给算力教师，并加快端到端大模子的落地。
小鹏汽车从 2015 年在阿里云开户，2019 年车联网研发上云，到 2022 年与阿里云在乌兰察布建成自动驾驶智算中心，再到自主研发的"全域大谈话模子" X-GPT 与阿里云通义千问的统一，全面智能化升级车载助理；此外，小鹏汽车还积极拥抱阿里云通义万相，并在研发领域引入通义灵码，竣事代码评审遵循的大幅进步……这家车企现已 All in AI，在制造、车联网、自动驾驶、智能座舱、官网数字营销多个领域与阿里云资源深度绑定。
另一家车企幽静也在智驾的路上飞驰，其与阿里云已合营 9 年之久，通过吸收羼杂云架构，线下独到云部署 1000 台就业器 +20P 存储、线上 7 万核内行云 ECS+28P 存储。在智能驾驶场景，幽静使用了飞天独到云、标杆算力平台 PAI 灵骏 +OSS+ 大数据 + 数据库；智能座舱则通过阿里云的 EGS+DeepGPU 加快引擎，将幽静自研大模子推理上云，加快成果进步 40%，并调用通义大模子 API 接口。同期它借助通义万相 VL 功能，支抓智能座舱舱外识物，诓骗通义千问 Plus，支抓客户情谊闲聊。
据行业内测算，传统燃油车有轻便 3 万个零部件、整车芯片轻便有 500 颗；而新动力 AI 汽车的零件独一不到 2 万个，芯片量却达 5500 颗左右。一加一减之间，汽车的交互方式与坐蓐逻辑已被改变，对独到芯片、大领域算力集群和云原生数据库的依赖进一步增强。
据最新音问，英伟达浩瀚掩饰汽车领域的 NVIDIA DRIVE Orin 系统级芯片，已竣事与阿里云通义千问多模态大模子 Qwen2-VL 的深度适配，并应用于斑马智行的智能座舱场景中。大模子接入汽车座舱，拓展东谈主机交互领域，已成趋势。
"万卡期间"的全栈编削
大模子虽火，但并不算锻真金不怕火。市面上的大模子简直每天王人会因多样不实变成教师中断，而教师时效对业务编削具有决定性有趣，教师太慢、老是中断，编削遵循就难以进步。东谈主们频频添加更多的 GPU 来增强教师时效。像 Meta 教师 Llama 模子时用的是 1.6 万卡算力集群，随机每隔两三个小时统共教师任务就要再走运行，回到上一个 Checkpoint。
从 128 张卡到 1024 张卡，从千卡到万卡，再到十万卡，"万卡堆叠"在表面上看似绵薄，单个 GPU 算力乘以 GPU 领域即组成举座算力。但是在骨子运行中，当卡的领域急剧扩大时，很难再保证这种表面上的线性比，会产生算力"衰减"，这些王人是运营难点。
这时候，汇集在这个集群中证据驻防要的作用，因为汇集在"梯度同步"历程中需要时分，且需多数数据交换，这个时分瑕瑜平直决定了 GPU 在推测打算历程中的恭候时分，导致传统汇集集群不再适用于 AI 推测打算。
对此，上头提到的阿里云 HPN7.0 高性能汇集架构提议了一个编削性联想，它吸收单层千卡、两层万卡、存算差异的架构，专诚为 AI 推测打算所联想，支抓十万卡集群。两层汇集不仅减少了时延，还简化了汇集贯穿的数目和拓扑，从而找到了最优解。
文爱电报群阿里云过往弥远辘集的领域上风也正因循着新一轮技能上风——这次云栖大会上最新发布的 Qwen2.5 – 72B 性能非凡 Llama 3.1 405B，同期模子算力资本再次下跌，通义千问三款主力模子最高降幅 85%。AI 基础设施势必会更雄伟，不仅要走得好，也要走得起，由此才智激动更多编削，在这一方进取阿里云也在加快。
在阿里云 CTO 周靖东谈主看来，AI 技能变革触达了推测打算机体系的方方面面，需要对全栈进行全方向的编削。不仅是汇集，还包括就业器、存储、数据科罚、模子教师和推理平台的技能架构体系，王人需要围绕 AI 作念全面升级，"阿里云正在围绕 AI 期间，成就一个 AI 基础设施的新措施。"
阿里云 CTO 周靖东谈主
阿里巴巴集团 CEO、阿里云智能集团董事长兼 CEO 吴泳铭在云栖大会上分享，曩昔一年阿里云投资新建了多数的 AI 算力，但照旧远远不成骄稀客户的隆盛需求。这更矍铄了阿里云异日的投资力度。
具体看，在就业器端，阿里云最新上线的磐久 AI 就业器支抓单机 16 卡 GPU、分享显存 1.5TB，并提供基于 AI 算法的 GPU 故障预测，准确率达 92%。AI 期间将从 CPU 中枢过渡到以 GPU 为主的推测打算实例，需要支抓全球各地的异构芯片，面临比 CPU 期间更多的架构编削，磐久就业器即是专为 AI 深度优化，在芯片的快速适配、散热上作念了优化科罚。
在存储上，阿里云 CPFS 文献存储在阅历曩昔一年发展已变成一项全托管就业，免去客户运维责任。它目下扩容到了每秒高达 20TB 的带宽，在联想上吸收了存储的梯度架构，可把热度最高的数据放在延迟最低的存储上。其中 CPFS 与统一存储数据湖 OSS 之间的数据传输速率达到每秒 100GB。这些联想王人是为 AI 智算联想。
以上包括磐久 AI 就业器、HPN 汇集、CPFS 存储，再加上容器就业 ACS，统共组成了阿里云 AI 算力平台灵骏，在 AI Infra 层面打造出一个更顺应 GPU 推测打算和 AI 模子教师的基础设施。阿里云与复旦大学共建的云上智算平台 CFFF、与小鹏汽车在乌兰察布共建的自动驾驶智算中心，王人属于灵骏的产业端应用。
目下，以 AI 开拓和应用落地的全栈智商不错通过 PAI 和阿里云百真金不怕火这两个平台对外落地。在云栖大会上，两者均有新的就业升级发布：PAI 模子教师全面进步了明白性，千卡领域集群故障分钟级自动发现，掩饰故障达 98.6%；百真金不怕火 2.0 专属版块在云栖大会上发布，专诚针对政企客户作念了使用优化。
恰是由于以上万般编削使得通用大模子及基础算力迎来多轮降价，贬低了企业 AI 开拓资本，关于各行业 AI 渗入率的进步至关环节。
总结早期云推测打算，因托管层级的不同被分为 IaaS、PaaS、SaaS 层。目下这个架构因 AI 进取延迟至 MaaS 开源，向下延迟到芯片层、异构算力。AI 不仅拓展了云的领域，也激勉云再作念一次物理级别的全栈升级变革。如今，的确到了磨练云厂商编削智商的时候。
下一个十五年， " AI+ 云"的基础设施之上，新的波澜奔涌而来。
中国云推测打算风雨十五载，咱们以云推测打算三次波澜为干线，以三篇稿件系统复盘并念念考产业与云推测打算会通的曩昔、当下与异日。
前文总结：
系列之一《回看十五年，云推测打算的底色》
系列之二《回看十五年，传统企业上云潮》
（本文首发于钛媒体 APP）爱色影