阿里云百炼专属版再升级,支持政企客户安全快速开发大模型

9月19日,在2024云栖大会上,阿里云正式发布百炼专属版2.0,可基于公共云VPC和专有云部署,支持图表、公式、图片、音视频等多模态、非结构数据的解析,帮助政企客户安全快速地开发大模型。

当大模型引发新一轮AI创新浪潮后,阿里云于2023年10月推出了百炼平台。该平台集成了国内外主流优质大模型,提供模型选型、微调训练、安全套件、模型部署等服务和全链路的应用开发工具,为用户简化了底层算力部署、模型预训练、工具开发等复杂工作。

但是,政企市场面临一系列大模型落地“难题”:一方面,政企业务的独特性、敏感性,对大模型开发环境有特殊要求;另一方面,政企市场历史悠久,存在大量图表、公式等复杂资料,如何将这些资料处理成大模型能够理解的数据,成为政企训练大模型、打造智能体的关键挑战。

为此,阿里云于2024年推出百炼专属版,是为政企客户构建的一站式大模型及智能体服务平台,提供从基础模型推理服务到复杂模型定制化训练、行业智能体搭建的全方位服务,实现AI能力的快速接入与应用。

2024云栖大会,百炼专属版再升级,将提供以下能力:

在底层算力上,兼容“公共云VPC”和“专有云”环境,并已嵌入阿里云“飞天企业版”云平台;支持多芯异构的算力调度,支持多租户模式下的算力、模型、数据隔离与共享。

在大模型训推方面,支持高性能分布式训练,训练吞吐率提升20%;基于软硬协同的推理加速,将精度无损量化提升至0.5%,推理速度提升3倍以上。

在模型方面,预置通义7B到72B多尺寸大语言基础模型及多模态大模型,同时兼容主流模型框架、支持三方大模型自定义接入。
在模型服务方面,支持图表、公式、图片、音视频,以及大文件和巨量文件的解析;基于平台丰富的工具和插件,开发者可通过“拖拉拽”快速搭建智能体。

目前,基于百炼专属版打造的智能体已在政务、电力、医药研发、科学研究等多个领域落地。知名药企阿斯利康基于百炼专属版以及通义千问搭建的医药智能体,可对药物不良反应进行自动分析和总结,将科研人员从繁琐的文献阅读、筛选、撰写工作中解放出来,提升药物安全把控的效率和准确度。阿斯利康的药物安全把控效率已提升300%,准确率已从90%提升至95%。

阿里云智能副总裁、解决方案研发部总经理曾震宇表示,行业大模型正在千行百业加速落地。相信大模型一定能够助力行业智能化的发展,也希望百炼专属版能够与合作伙伴一起,为行业创新打造“好用”、“易用”的智能助手。

点赞

发表评论

邮箱地址不会被公开。 必填项已用*标注