第四范式发布先知AIOS 5.1,升级支持GPU资源池化功能

<{$news["createtime"]|date_format:"%Y-%m-%d %H:%M"}>  IPO早知道 1.1w阅读 2024-07-24 11:48


“先知”一直致力于解决不同阶段,企业AI应用的核心痛点。

本文为IPO早知道原创

作者|Stone Jin

据IPO早知道消息,第四范式于7月23日正式发布先知AIOS 5.1版本。

这一版本新增GPU资源池化(vGPU)能力,实现对硬件集群平台化管理、算力资源的按需分配和快速调度,最多节省80%的硬件成本,提高GPU综合利用率多达5-10倍。


第四范式先知AIOS 5是行业大模型开发及管理平台。平台以提升企业核心竞争力为目标,在支持接入企业各类模态数据的基础上,提供大模型训练、精调等低门槛建模工具、科学家创新服务体系、北极星策略管理平台、大模型纳管平台、主流算力适配优化等能力,实现端到端的行业大模型的构建、部署、管理服务。


在行业大模型的构建过程中,为进一步提高算力资源利用率,第四范式先知AIOS 5.1版本新增GPU资源池化(vGPU)能力,拥有五大技术亮点——1、全面适配国产/非国产算力,支持混合部署与统一调度;2、算力和显存超分复用,算力切分精细到1%,显存切分以M兆为单位;3、具备千卡级别分布式调度与管理能力;4、支持自定义隔离策略,实现共享或独享算力池;5、利用多任务共享及处理优化技术,推理性能提升10倍以上。

今年3月底,第四范式发布了“先知AI平台5.0”版本。目前,大多数语言大模型能解决生成下一个文字/图片/视频的问题,然而企业核心需求(即战略升级、业绩增长、竞争力提升等),更需要数字化智能化转型对企业核心效率提升产生作用。「先知AI平台5.0」以预测下个任意模态为技术原理,可基于各行业场景的不同模态数据,构建行业大模型,极大拓展了行业大模型应用领域,为企业提供充足大模型供给。

事实上,这已是该产品10年来第五次迭代,10年来,“先知”一直致力于解决不同阶段,企业AI应用的核心痛点。

• 第四范式先知AI 1.0,通过高维、实时、自学习框架大幅提升模型参数规模,替代企业传统的专家规则决策引擎。

• 第四范式先知AI 2.0,基于自动机器学习推出HyperCycle低门槛开发工具,大幅降低模型开发门槛,实现客户自主构建行业大模型。

• 第四范式先知AI 3.0,定义了加速人工智能场景应用的全流程标准,缩减企业95%数据治理时间,大幅提升AI应用效率,实现行业大模型高效应用。

• 第四范式先知AI 4.0,设立“北极星指标”(北极星指标,即与企业核心价值高度相关的业务指标,比如营收增长、利润提升、市占率扩大等),找准企业高价值业务场景,让行业大模型服务企业核心竞争力。

本文来源:IPO早知道

来源:IPO早知道

重要提示:本文仅代表作者个人观点,并不代表乐居财经立场。 本文著作权,归乐居财经所有。未经允许,任何单位或个人不得在任何公开传播平台上使用本文内容;经允许进行转载或引用时,请注明来源。联系请发邮件至ljcj@leju.com,或点击【联系客服

网友评论