浇铸智算底座，谱写大模型时代新乐章

编辑：阿冒

设计：沐由

差不多是一年前的现在，大模型正式出圈并一路火到现在。

得益于里程碑式的突破，大型语言模型（LLM，Large Language Model）很快就在全球范围内掀起了热潮，引起了技术圈、产业界和资本圈的广泛关注、讨论和参与。

人们敏锐地意识到，作为人工智能发展的重要方向之一，大模型以其强大的处理能力和深度学习潜力，将会细微、深刻且无处不在地影响我们的工作和生活。

海量的数字化和智能化需求，为大模型快速赋能千行百业提供了难得的机遇。然而，如何在更多应用场景落地应用，如何更好助力企业经营发展……诸如此类的问题已经成为很多企业面临的挑战。

11月10日至13日期间，以“数字科技 焕新启程”为主题的2023数字科技生态大会在广州举行。在视联科技&数字生活合作论坛上，天翼云联合伙伴正式发布了海纳视联大模型。

作为云服务国家队，天翼云始终坚持科技创新，致力于推动大模型与千行百业的深度融合，优化当前传统的生产经营、城市管理、公共服务等领域，有力推动产业经济的高质量发展。

为“数字中国”夯实智算底座

海纳视联大模型，是由天翼视联科技有限公司、天翼数字生活科技有限公司、天翼云科技有限公司联合研发的视联行业大模型。大家注意到关键字了吗？视联。

视联被认为是互联网的更高级形态，能够实现全网高清视频的实时传输，不仅可以将众多互联网应用推向高清视频化，更在全球范围内让人与人之间只是一个屏幕的距离。

天翼视联是中国电信承接“数字中国”战略，顺应数字化发展打造的第五张基础网络，目前接入的设备总数已经超过了6000万台。通过泛在视频终端接入、视频调度、云端存储和AI应用等能力，天翼视联服务于家庭、乡村、社区、行业治理等诸多领域。

海纳视联大模型构筑于天翼云国云智算底座之上，是对天翼视联产品体系的一次全面升级。通过对上亿量级训练数据进行学习，海纳视联大模型拥有百亿量级模型参数，具有5000类标签识别、智能检索、视频分析理解、视觉超分等多项核心能力。

业界领先的各项指标，意味着海纳视联大模型能够快速实现高效计算，完成各种复杂任务的处理工作，赋能包括城市治理、行业视觉、社区乡村、数字家庭等在内的四大类场景，为“数字中国”的宏伟蓝图添墨加彩。

以城市治理为例，海纳视联大模型可以高效实现对视频流的分析，自动生成标签、快速精准定位，帮助管理者实时发现城市中的异常现象，以及可能的潜在风险，最终做到防患于未然。

再比如电视报纸经常说到的“银发经济”，随着国民寿命的不断增加，我国的养老陪护会逐渐成为一个庞大无比的产业，海纳视联大模型必然可以大有作为，打造出家庭智能新范式。

作为国内领先的视联行业应用型大模型，海纳视联大模型构建了开放融合的新生态，以创新的数字技术和解决方案赋能千行百业，服务千家万户，让数字红利惠及到每个人，夯实“数字中国”底座。

破解大模型“算力”之渴

科技部新一代人工智能发展研究中心发布的《中国人工智能大模型地图研究报告》显示，截止目前，我国已经发布79个10亿参数以上的大模型，数量排名全球第二。

随着越来越多的企业涉入这一领域，“百模大战”已是必然。对于大模型而言，算力是数据处理的基础能力，在很大程度上决定了大模型的“天花板”。

我们看到，不断扩大的参数规模和快速迭代的技术路线，跨越式地提升了大模型的实战能力。与此同时，这种提升在算力成本、模型构筑、行业落地等方面，也为大模型的训练和应用带来严峻挑战。

海纳视联大模型的底座是天翼云一站式智算服务平台“慧聚”，这也是天翼云通过系统性的软硬一体优化，针对大模型行业需求及应用落地的“集大成者”，在易用性、功能性、安全性，以及成本等方面为客户做出了全盘的考虑。

通过对大模型开发训练过程中的关键流程、复杂技术与实践经验进行总结和抽取，“慧聚”平台构建出一条全周期、一站式、全链路的大模型生产流水线，大幅降低大模型训练、微调、部署、推理的门槛，让客户能够更专注于模型升级和应用落地。

在技术上，“慧聚”平台成功突破了算子加速、模型并行、断点续训等技术难点，对大模型涉及的训练、推理、存取、调度等能力进行了封装，带来的是稳定性、训练推理速度等核心指标的大幅提升。

在功能上，“慧聚”平台基于数据平台、模型开发平台、模型服务平台和应用服务平台四大平台，提供数据准备、模型开发、任务管理、模型优化等多个产品功能模块，功能与组件之间可以灵活组装，帮助用户打造针对不同场景的专属工具集。

在大模型时代，算力平台的价值与日俱增。对于广大机构和企业而言，高效的智算平台不仅可以节省不菲的成本，更重要的是可以更快实现模型落地，从而抢占市场先机。

点亮行业智能未来之路

我们知道，大模型算力平台的涉及面非常广，包括了计算、网络、存储、框架等在内，任何一种资源的使用效率均会波及算力平台的效率，进而影响到大模型的训练进度和部署效率。

天翼云在算力平台趋向一致的通用能力之外，持续不断的技术创新与突破，才是大模型应用落地、加快人工智能融合更多应用场景和行业的关键因素。

有鉴于此，“慧聚”智算平台在算力调度层构建了合理灵活的任务的分配和调度策略，同时对底层的GPU和IB、NVlink等网络进行感知，实时获取GPU和网络的状态，为任务的分配和调度奠定基础，起到呈上启下的核心作用。

正因为如此，“慧聚”智算平台能够在底层硬件故障之后快速重新调度，实现断点续训——不让故障前的训练成果归零，既是对训练任务进度的全面加持，也是对客户整体投资的重要保障。

毫无疑问，智能化在行业的落地正呈现出愈发深入、更加广泛的趋势。目前，大模型已经吹响了进军行业应用的号角，未来必然会深度介入能源、医疗、自动驾驶、科技研发等领域，深刻改变各行各业。

广阔无比的应用场景，为“慧聚”智算平台提供了一展身手的绝佳舞台。广大用户可以选择公有云上的”慧聚“智算平台，快速绑定天翼云上丰沛的算力资源，弹指间就可以获取开箱即用、可供公网访问的智算服务。

至于那些对数据安全、技术保密有更多考虑的客户，则可以选择私有化的部署方式，“慧聚”智算平台适配一体机的方式，可以在短时间内完成部署，并且兼容各种国产设备与芯片，满足更为严格的国产化需求。

未来，人工智能的研究与应用将会越来越多转向大模型。天翼云将充分发挥云网融合、技术领先的优势，联合更多产业力量，点亮行业智能未来之路，构建融合新生态，共创美好新未来。