网上营业厅
掌上营业厅
9月4日，，，，，，，，“天翼云息壤——大模子训推一体化效劳能力升级”线上宣布会乐成举行。。。。。 。。。�； ；； ；嵘�，，，，，，，，息壤平台训推效劳能力重磅升级，，，，，，，，新增闭源、多模态基座大模子以及数据集，，，，，，，，支持万卡规模训练，，，，，，，，训练稳固性再次提升，，，，，，，，新增体验空间，，，，，，，，为基础大模子训练、行业大模子训推提供一站式解决计划。。。。。 。。。天翼云多位专家与相助同伴代表揭晓精彩演讲，，，，，，，，共探人工智能大模子的生长趋势与挑战，，，，，，，，并对平台升级后的能力与优势，，，，，，，，以及在医疗领域的赋能实践举行了深度解读。。。。。 。。。
平台全新升级 提供稳固高效的大模子训推一体化效劳
我国大模子已进入快速生长阶段，，，，，，，，但大模子的研发与推广仍然面临一定的压力和挑战，，，，，，，，泛起出“基础富厚，，，，，，，，应用缺乏”的特点。。。。。 。。。一方面，，，，，，，，大模子的训练和应用需要大宗的高质量数据，，，，，，，，目今我国数据资源有限且疏散，，，，，，，，导致模子训练效果并不睬想；； ；； ；另一方面，，，，，，，，模子的参数目和盘算重漂后一连增添，，，，，，，，对算力的需求以几何级数增添。。。。。 。。。行业亟需越发高效、集约化的智算平台的支持，，，，，，，，以驱动国产大模子高质量生长与工业化应用。。。。。 。。。
天翼云智算产品线总监张安发体现，，，，，，，，升级后的平台专为应对大参数大模子、行业模子应用所带来的挑战而设计，，，，，，，，它提供了一个全栈式的效劳，，，，，，，，旨在简化大模子从训练到安排的整个流程。。。。。 。。。平台新增了开闭源大模子、多模态大模子，，，，，，，，供用户无邪选择，，，，，，，，模子数目处于海内领先水平；； ；； ；新增上线专业的大模子数据集，，，，，，，，用户可直接将数据用于大模子训练、推理使命中，，，，，，，，实现了算法、算力、数据三要素的融合；； ；； ；新增体验中心，，，，，，，，用户可直接在线互动体验；； ；； ；打造了全链路故障感知和恢复、全链路日志监控工具，，，，，，，，突破断点续训等焦点手艺，，，，，，，，使全链路监控训练更稳固。。。。。 。。。
随着模子参数目从千亿迈向万亿，，，，，，，，大模子对底层算力的诉求进一步升级，，，，，，，，万卡甚至超万卡集群已经成为大模子工业生长的刚需，，，，，，，，同时对训练稳固性要求极高。。。。。 。。。凭证果真报道，，，，，，，，Llama3.1-405B原生训练耗时一连54天，，，，，，，，累计爆发419次故障，，，，，，，，平均每3小时爆发一次。。。。。 。。。天翼云智算产品线专家范顺国先容，，，，，，，，天翼云训推效劳平台是海内首个实现公有云国产化万卡训练的平台，，，，，，，，能够为万亿参数级别大模子训练提供一体化计划。。。。。 。。。天翼云在北京万卡池完成了Llama3-405B（4000亿参数）大模子的训练，，，，，，，，700亿参数模子Llama2-70B在万卡规模下顺遂拉起并完成训练，，，，，，，，MFU抵达43% ，，，，，，，，在业界抵达了领先水平。。。。。 。。。天翼云优化断点续训手艺，，，，，，，，在Llama2-70B模子训练中，，，，，，，，实现秒级故障检测，，，，，，，，分钟级定位并处置惩罚故障，，，，，，，，分钟级训练恢复，，，，，，，，这一性能已抵达行业前沿水平。。。。。 。。。
别的，，，，，，，，基于平台能力，，，，，，，，天翼云团结资伴上线了魔乐（Modelers）开发者社区，，，，，，，，通过整合优质中文AI资源、提供极致易用的工具链，，，，，，，，以及国产化算力使能，，，，，，，，端到端支持AI应用开发全流程，，，，，，，，助力孵化国产原生模子。。。。。 。。。
三种交付形态+两大应用场景 助力企业加速AI应用落地
AI手艺加速融入各行各业，，，，，，，，大模子的应用远景也愈加辽阔。。。。。 。。。天翼云息壤一体化智算效劳平台从行业及客户需求出发，，，，，，，，在手艺与能力的一直迭代升级中使能企业制胜AI时代。。。。。 。。。
天翼云智算产品线专家夏曼雪对平台功效举行了详细演示。。。。。 。。。平台支持公有云、混淆云和轻量化三种交付形态。。。。。 。。。其中，，，，，，，，公有云版本即开即用、计费无邪，，，，，，，，支持按卡时计费、包周期计费；； ；； ；混淆云版本支持千卡规模的私有化项目交付；； ；； ；轻量化版本支持天翼云A100云主机、H800/A100/A800/A10裸金属效劳器、物理机等硬件形态交付安排，，，，，，，，无邪便捷。。。。。 。。。
场景应用方面，，，，，，，，平台主要面向两类客户场景。。。。。 。。。一是具备深挚行业知识、拥有自主数据的行业客户，，，，，，，，如政务、金融机构、汽车、媒体、旅游等行业。。。。。 。。。依托零代码平台和富厚的开闭源大模子，，，，，，，，客户无需掌握算法编程即可完成模子的调优和API挪用，，，，，，，，从而加速大模子从看法到落地的历程。。。。。 。。。二是拥有很强的算法能力，，，，，，，，但在智算集群的治理运维方面履历缺乏的大模子厂商。。。。。 。。。平台为这类用户提供专业的开发和运维工具，，，，，，，，实现大规模漫衍式训练和断点续训能力，，，，，，，，在包管稳固性的同时，，，，，，，，通过构建AI加速引擎助力用户提升算力使用率。。。。。 。。。
现在，，，，，，，，天翼云已效劳多个客户的训推场景，，，，，，，，助力行业大模子训推更便捷、更高效、更稳固清静。。。。。 。。。中国中医科学院中医药信息研究所（简称“中医药信息研究所”）所长特聘助理朱彦分享了与天翼云相助开展中医药大模子的探讨与实践，，，，，，，，通过与天翼云相助，，，，，，，，中医药信息研究所获得了越发稳固和高效的盘算支持。。。。。 。。。借助天翼云大模子学习机，，，，，，，，搭建低代码效劳平台，，，，，，，，中医药信息研究所高效完成了文献和临床数据的治理事情，，，，，，，，包括自动抽取、标准化等使命。。。。。 。。。别的，，，，，，，，在中医垂类大模子的微调、应用宣布方面，，，，，，，，平台将提供算法支持和模子优化工具，，，，，，，，资助客户充分挖掘中医药数据的内在价值。。。。。 。。。双方相助与探索，，，，，，，，不但进一步加速了中医大模子的研究和应用，，，，，，，，以及中医药的现代化历程，，，，，，，，也将为全球康健事业的生长作出主要孝顺。。。。。 。。。
陪同以大模子为焦点的人工智能手艺的快速生长，，，，，，，，各行各业正履历着一场亘古未有的智能化转型浪潮。。。。。 。。。作为云效劳国家队，，，，，，，，天翼云将一连聚焦人工智能场景举行手艺立异，，，，，，，，起劲加码结构智算基础设施，，，，，，，，赋能企业跑出“AI加速率”，，，，，，，，携手相助同伴配合推动经济社会智能化水平迈向新高度。。。。。 。。。
