蚂蚁数科SOFAStack发布大模型服务平台兼容适配主流开源大模型

2024-06-28

<article><section data-type=“rtext”><p><span data-scene=“align-justify”><font face=“冬青黑体简体中文 W3”>【环球网科技报道记者李文瑶】6月28日，蚂蚁数科旗下多云</font>P<font face=“冬青黑体简体中文 W3”>aa</font>S<font face=“冬青黑体简体中文 W3”>平台</font>SOFAS<font face=“冬青黑体简体中文 W3”>tack正式发布大模型服务平台</font>AI M<font face=“冬青黑体简体中文 W3”>ax。该平台兼容适配主流开源大模型、国产算力，向企业提供进行模型训练、部署、评估、优化等一站式模型工作台，并实现可视化研发、管理多种具备行业知识库的</font>Agent（智能体）应用<font face=“冬青黑体简体中文 W3”>，助力企业</font><font face=“冬青黑体简体中文 W3”>跑完</font><font face=“冬青黑体简体中文 W3”>企业</font>AI<font face=“冬青黑体简体中文 W3”>应用业务落地的最</font><font face=“冬青黑体简体中文 W3”>后一公里</font><font face=“冬青黑体简体中文 W3”>。</font></span></p><p><img data-alt="" src="//img.huanqiucdn.cn/dp/api/files/imageDir/1e2d2aa378b11b1142512f1eb4134f88u1.png?imageView2/2/w/750" /></p><p><span data-scene=“align-justify”><font face=“冬青黑体简体中文 W3”>据了解，基于</font>SOFAS<font face=“冬青黑体简体中文 W3”>tack多云兼容属性，</font>AI M<font face=“冬青黑体简体中文 W3”>a</font>x<font face=“冬青黑体简体中文 W3”>具备两层核心特性：</font></span></p><p><span data-scene=“align-justify”><font face=“冬青黑体简体中文 W3”>在资源层，支持多种国产</font>GPU<font face=“冬青黑体简体中文 W3”>算力平台纳管部署，企业按需灵活使用资源，</font><font face=“冬青黑体简体中文 W3”>使得</font><font face=“冬青黑体简体中文 W3”>有限的</font>GPU资源可以高效<font face=“冬青黑体简体中文 W3”>地</font><font face=“冬青黑体简体中文 W3”>被利用起来</font><font face=“冬青黑体简体中文 W3”>，同时大大降低服务器使用成本；</font></span></p><p><span data-scene=“align-justify”><font face=“冬青黑体简体中文 W3”>在应用层，</font><font face=“冬青黑体简体中文 W3”>企业可以根据业务需求快速输出定制化的</font>AI模型，构建服务业务需求的智能体<font face=“冬青黑体简体中文 W3”>，</font><font face=“冬青黑体简体中文 W3”>极大地简化了技术实施过程</font><font face=“冬青黑体简体中文 W3”>。</font></span></p><p><span data-scene=“align-justify”><font face=“冬青黑体简体中文 W3”>当企业开始构建大模型应用，还需要结合具备行业特性的业务经验。针对金融行业场景，</font>SOFAS<font face=“冬青黑体简体中文 W3”>tack融合金融助理支小助的最佳实践，包含其模型训练、推理能力、智能体研发等方面，可以帮助机构一键生成自身业务特色的智能体应用。过去9年，</font>SOFAS<font face=“冬青黑体简体中文 W3”>ta</font>ck<font face=“冬青黑体简体中文 W3”>助力</font><font face=“冬青黑体简体中文 W3”>130家金融机构完成云原生架构转型。</font></span></p><p><span data-scene=“align-justify”><font face=“冬青黑体简体中文 W3”>“对企业来说，大模型训练耗时耗力耗资源，</font>AI M<font face=“冬青黑体简体中文 W3”>ax</font><font face=“冬青黑体简体中文 W3”>不仅支持主流开源大模型的一键微调训练</font><font face=“冬青黑体简体中文 W3”>，还提供</font><font face=“冬青黑体简体中文 W3”>三步即完成的零代码模型开发环境</font><font face=“冬青黑体简体中文 W3”>，把原先耗费至少</font><font face=“冬青黑体简体中文 W3”>3天的训练缩短至1小时。蚂蚁自</font><font face=“冬青黑体简体中文 W3”>研的预训练模型与先进的多模态算法</font><font face=“冬青黑体简体中文 W3”>，</font><font face=“冬青黑体简体中文 W3”>仅需小量数据即可进行训练，</font><font face=“冬青黑体简体中文 W3”>进一步提升</font><font face=“冬青黑体简体中文 W3”>数据的利用率和模型训练的效率。</font><font face=“冬青黑体简体中文 W3”>”蚂蚁数科云原生产品资深总监马振雄介绍。</font></span></p><p><span data-scene=“align-justify”><font face=“冬青黑体简体中文 W3”>自</font><font face=“冬青黑体简体中文 W3”>今年</font>3月份独立化运营以来，蚂蚁数科<font face=“冬青黑体简体中文 W3”>悄然推进</font>AI <font face=“冬青黑体简体中文 W3”>to</font>B<font face=“冬青黑体简体中文 W3”>战略，</font>SOFAS<font face=“冬青黑体简体中文 W3”>tack、蚁盾等多个代表性产品均发布了大模型相关服务，积极借助</font>AI<font face=“冬青黑体简体中文 W3”>技术助力产业智能化升级。</font></span></p></section></article>