平台解析 | 润和软件IntelliCore AI解决方案一体机,搭载昇腾平台,集成三大能力

编辑:发布时间:2024-05-28浏览次数:916

半岛官方网站(以下简称“润和软件”)基于华为昇腾AI所打造的润和IntelliCore AI解决方案一体机,深度融合华为全栈AI能力,搭载的AI计算平台集成三大AI能力,可以提供全面的AI解决方案,满足企业用户在AI应用方面的需求,帮助企业提升业务效率、创新能力和竞争优势。

AI计算平台

润和软件AI计算平台集成AIOS、AI中枢平台AIRUNS、集群加速能力,全面赋能IntelliCore AI解决方案一体机,使其具有高度智能化、灵活可扩展、高效能耗比、安全可靠等核心优势。在智能制造、智慧城市、金融风控等场景下,发挥独特性能,实现降本增效、提升生产力、优化资源配置等效果。

润和软件AI计算平台架构

 

能力1:AIOS

IntelliCore AI解决方案一体机成功搭载企业级安全操作系统HopeOS ,该操作系统是润和软件基于openEuler在AI领域定制打造,致力于优化主流AI框架以及大型模型性能的AI操作系统,专注于智能计算场景的支持优化,能够提供全面的数据管理、智能算法支持、高效的计算资源利用等能力。

 

  • 技术特性:HopeOS 提供了高效AI基础设施资源利用和调度、强大的数据管理(优化了分布式向量数据库Milvus和Faiss)、开放式架构、安全可靠。

  • 技术价值:系统在硬件、软件、算法和数据处理层面的优化使得一体机能够快速、精确地处理大规模数据和复杂模型,为客户在AI应用领域带来了更大的商业价值和竞争优势。

AIOS能力架构图

 

能力2:AI中枢平台AIRUNS

IntelliCore AI解决方案一体机搭载润和软件自主研发的AI中枢平台AIRUNS,深度适配华为AI计算框架(MindSpore),能够提供包括数据管理、模型训练优化、部署推理,开放式架构与多样化的算法支持,助力企业快速构建和部署智能化应用。

 

  • 技术特性:持续优化和更新适配层和算法,确保系统始终保持在最新的性能状态,同时充分利用华为AI框架的分布式训练功能,进一步提升了一体机的整体性能和可靠性。

  • 技术价值:通过硬件加速、算法优化、并行计算、异构计算、内存管理和模型压缩等技术手段,结合操作系统级别的AI向量库优化,实现了大模型算法的推理和训练加速,为客户提供了高效处理大规模数据的解决方案,助力客户取得商业成功。

AI中枢平台AIRUNS架构图

 

能力3:集群加速

IntelliCore AI解决方案一体机中搭配了基于模型框架特性的集群加速能力,能够将多个一体机计算节点组合为一个集群,通过并行计算和分布式处理,提升AI模型训练和推理的速度和效率;针对如何实现在低算力下的高并发、克服AI算力壁垒、模型分布式训练、推理加速提出了解决方案。

 

  • 技术特性:

(1)大模型定制,支持基于KVCache缓存技术的问答推理加速。

(2)支持gptq、gguf、awq、BitNet等多种大模型量化算法,达成各种推理硬件的适配。

(3)可提供面向大模型的推理集群部署方案,通过最大化算力、存储资源的利用率,提高系统并发能力。

  • 技术价值:AI计算平台的集群加速能力为用户带来在相同算力成本下更快的模型训练速度和更高的数据处理能力,降低开发成本,加速科学研究,促进创新,提高产品质量和市场竞争力。

集群加速能力架构图

 

目前,润和软件企业级安全操作系统 HopeOS 、基于大模型的AI中枢平台AIRUNS已与华为昇腾通过相互兼容性测试认证。经过严格的联合测试,两款产品在功能、性能与兼容性等各方面表现良好,可充分满足相关行业安全性、可靠性、稳定性的应用需求。

润和软件企业级安全操作系统 HopeOS、基于大模型的AI中枢平台AIRUNS已与华为昇腾通过相互兼容性测试认证

 

 

未来,润和软件将从技术上不断增强IntelliCore AI解决方案一体机AI计算平台的技术适应性,为用户带来更广泛、更深入的AI应用可能性和更高效的业务解决方案。同时,润和软件将持续深耕AI算力服务市场,全面提升算力解决方案能力,共同构建国产智能算力新生态,为加快推动千行百业高质量发展赋予新动能,开启我国现代化、数智化建设的新征程。