智东西（公众号：zhidxcom）
作者 | 程茜
编辑 | 漠影
AI应用卷(juan)出新高(gao)度！
智东西4月(yue)22日报(bao)道(dao)，上周，浪(lang)潮信息(xi)宣布(bu)“元脑”品牌(pai)重磅升级，在算力(li)、算法、数(shu)据(ju)、互联方面(mian)全面(mian)布(bu)局，一举亮相多个面(mian)向大(da)模型落地应用的工具套件。
浪潮信息专门面向大模型应用分别打造了企业大模型开发平台“元脑企智”EPAI、可单机运行千亿参数大模型的AI通用服务器、大模型应(ying)用专(zhuan)用存储AS13000G7-N系(xi)列(lie)以及超级AI以太(tai)网交换机“X400”。
其中，EPAI作为企业AI大模型落地应用的高效、易用、安全的端到端开发平台，提供了数据准备、模型训练、知识检索、应用框架等系列工具，支持企业调度多元(yuan)算(suan)力和多模算法，大幅加速其高效开发部署生(sheng)成式(shi)AI应(ying)用(yong)、打造智能生(sheng)产力(li)。
浪潮信息董事长彭震谈道，应用已成为中国AI产业的核心优势之一。应用创新源自需求驱动，需要算(suan)法(fa)、算(suan)力(li)和数据协(xie)同(tong)发(fa)(fa)展(zhan)(zhan)，以系统为核心的(de)全局创新(xin)已成为推动人工智能高速发(fa)(fa)展(zhan)(zhan)的(de)产业新(xin)范式。
这也对大模型落地应(ying)用与千行百业深度融合(he)发挥价值提出(chu)了(le)更为(wei)严苛的要求。
在(zai)这一背景下，多(duo)元(yuan)多(duo)模的生(sheng)(sheng)态格(ge)局(ju)显(xian)现，浪潮信息以自身技术积累为底座，正加速与更多(duo)元(yuan)脑品牌(pai)的合作伙(huo)伴(ban)构建协同共生(sheng)(sheng)、开放共赢(ying)的生(sheng)(sheng)态体系。
智(zhi)东西等媒体与(yu)浪潮(chao)(chao)信(xin)息(xi)高(gao)级副(fu)总裁刘军、浪潮(chao)(chao)信(xin)息(xi)服(fu)务(wu)器产品线总经理赵(zhao)帅(shuai)、浪潮(chao)(chao)信(xin)息(xi)AI软件研发总监吴(wu)韶华进行了(le)深(shen)(shen)入交流，在AI算力范式不断革新(xin)的背(bei)景下，深(shen)(shen)入剖析(xi)浪潮(chao)(chao)信(xin)息(xi)升级“元脑”品牌的原因以及一系列工具发布(bu)对AI产业(ye)的深(shen)(shen)远(yuan)影响。
一、企业大模型开发平台EPAI，提供全链路开发工具
从手(shou)机、PC到服务器(qi)，越来越多元化(hua)的(de)端侧(ce)设备(bei)被大模型(xing)颠覆(fu)，并在AI+时代释(shi)放出(chu)更(geng)多潜力。
浪潮信息总经理胡雷钧认为，AI算力正渗透进每一个计算设备中。面对AI产业的这一变革趋势，浪潮信息在IPF上宣布将计算品牌全面升级为元脑，“元脑既是智算品牌，也是生态品牌”，以应(ying)用为导向(xiang)、以系(xi)统为核心搭(da)建起大模型(xing)在千行百业落地的基础。
面向(xiang)大模型正在(zai)颠覆千行百(bai)业的(de)行业共(gong)识。浪(lang)潮(chao)信息(xi)发现，场景+大模型衍生出的(de)创新应(ying)用对(dui)企业提出了(le)更为严苛的(de)要求。
吴(wu)韶(shao)华称，大(da)(da)模(mo)型(xing)(xing)(xing)(xing)预训练(lian)阶段学习的是(shi)通用(yong)知(zhi)识(shi)，导致(zhi)其在(zai)具体行业(ye)应用(yong)时(shi)缺乏(fa)专业(ye)知(zhi)识(shi)，容易产生幻觉，企业(ye)内(nei)部数(shu)据分散、多元的特性也(ye)使得数(shu)据被(bei)快速高(gao)(gao)效处理利用(yong)有一(yi)定难(nan)度；其次大(da)(da)模(mo)型(xing)(xing)(xing)(xing)在(zai)行业(ye)应用(yong)时(shi)需(xu)引入知(zhi)识(shi)检索手(shou)段，进(jin)行持(chi)续内(nei)部运(yun)维等；此外大(da)(da)模(mo)型(xing)(xing)(xing)(xing)仍处于(yu)技(ji)术(shu)发展(zhan)早(zao)期，模(mo)型(xing)(xing)(xing)(xing)、芯片(pian)等快速演进(jin)，大(da)(da)模(mo)型(xing)(xing)(xing)(xing)与芯片(pian)的适配与部署(shu)难(nan)度、成本对于(yu)一(yi)般(ban)企业(ye)而言都很高(gao)(gao)。
因此，面向企业用户大模型开发的软件平台正是应对上述难题的最优解法之一，也就是浪潮信息发(fa)布的企(qi)业大模型开发(fa)平台“元脑企(qi)智”EPAI，面(mian)向(xiang)企(qi)业开发(fa)部署生成式AI应用的端(duan)到端(duan)开发(fa)平台。
一定程度上，高质量数据决定了大模型的应用效果。EPAI的数据来源分为基础知(zhi)识(shi)、行业知(zhi)识(shi)和企业知(zhi)识(shi)，其中上(shang)亿条基础知识数据(ju)来源于浪潮(chao)信息(xi)研发“源”大(da)模(mo)型的数据(ju)积累。对于私密性(xing)较高的企(qi)业(ye)数据(ju)，浪潮(chao)信息(xi)提供了(le)自动化数处理(li)工(gong)具，企(qi)业(ye)可以将数据(ju)保留在本地，并通过权(quan)限控制、加解(jie)密等工(gong)具套件帮助(zhu)数据(ju)安全(quan)。
有了数据后，为了让大模型对于行业的理解更加深入，需要进行模型微调，让大模型变得更加通用且专业。EPAI提供的微调工具可支持千亿(yi)参数模型面向产业知(zhi)识(shi)快速再学(xue)习，并拥有百万(wan)token的(de)长文档处(chu)理能(neng)力(li)，以适应(ying)具体行业场景(jing)下(xia)的任务(wu)需求。
与此同时，EPAI实现了知识库检索与微调模型的相辅相成，其检(jian)索增强生成(cheng)（RAG）技(ji)术，通过本地(di)化检索基础知(zhi)(zhi)识+行业(ye)知(zhi)(zhi)识+企业(ye)知(zhi)(zhi)识，能弥补微调大模(mo)型知(zhi)(zhi)识更新不(bu)及时的问题。
这(zhei)样一来，基(ji)于浪潮(chao)信息的大模型(xing)应用(yong)开发平台，大模型(xing)的强大能力与企业的个性化需求、场(chang)景更加匹配。此外，对(dui)于应用(yong)大模型(xing)的玩家而言，其关(guan)注性能的同时(shi)还会(hui)关(guan)注平台是(shi)否(fou)易(yi)用(yong)、好用(yong)且(qie)对(dui)成本(ben)更为敏(min)感。
因此，EPAI提供了将大模(mo)型快速接入(ru)现有(you)系统的API、开箱(xiang)即(ji)用的对话UI交互、为企业复杂任务流提供基础模(mo)块支撑的智能体三种使用方法。
再加上诸多开(kai)源、闭源大模型(xing)(xing)支(zhi)持、面向多模和多元算(suan)力的(de)(de)计算(suan)框架等优(you)势(shi)，企业可以实现大模型(xing)(xing)应(ying)用在(zai)跨算(suan)力平(ping)台上的(de)(de)无(wu)感(gan)迁移。
可以看出(chu)，EPAI为企(qi)(qi)业提(ti)供了几乎(hu)全链路的开发、部署、运维工具，让企(qi)(qi)业在大模(mo)型浪(lang)潮下“再无后顾之忧(you)”。
事(shi)实(shi)上，伴随着(zhe)大模型从底层技(ji)术的(de)(de)突(tu)破到应用落地(di)的(de)(de)焦点转(zhuan)移(yi)，很(hen)多企(qi)业(ye)(ye)(ye)的(de)(de)核(he)心需(xu)求在(zai)落地(di)阶段才逐渐显现出来。吴(wu)韶华(hua)举了(le)一个例(li)子，与开源代(dai)(dai)码不同，企(qi)业(ye)(ye)(ye)内部(bu)的(de)(de)私(si)有(you)代(dai)(dai)码有(you)宝贵知识产权，使得基础大模型的(de)(de)代(dai)(dai)码能(neng)力很(hen)难(nan)直接在(zai)企(qi)业(ye)(ye)(ye)内部(bu)的(de)(de)场(chang)景(jing)中释(shi)放价值，这(zhei)与企(qi)业(ye)(ye)(ye)实(shi)际项目中，新的(de)(de)函数需(xu)基于现有(you)的(de)(de)项目接口构建有(you)关。这(zhei)也是浪潮信息正在(zai)重点突(tu)破的(de)(de)方向。
不论从大(da)模(mo)型加速落地的(de)演进趋势(shi)，还是EPAI的(de)几大(da)核心(xin)特征来看，企业(ye)在大(da)模(mo)型开(kai)发(fa)、部(bu)署、落地此前都面临着(zhe)诸多门槛。浪潮信息此次发(fa)布的(de)端到端开(kai)发(fa)平台以及一系列的(de)工具，或许会成为大(da)大(da)缩短企业(ye)开(kai)发(fa)、部(bu)署大(da)模(mo)型的(de)周期的(de)关键变量。
或许在不久的(de)(de)将来(lai)，在大模(mo)型落地(di)这(zhei)一(yi)不可逆(ni)转的(de)(de)趋势下，EPAI进(jin)一(yi)步加(jia)快(kuai)大模(mo)型无限潜力释(shi)放的(de)(de)显(xian)著成果将充分体现出来(lai)。
二、算力、数据、互联并驾齐驱，释放AI应用万亿市场空间
在元脑品牌新升(sheng)级的“以(yi)(yi)系(xi)统(tong)为核心”之中，算(suan)法(fa)、数(shu)据、算(suan)力、互(hu)联缺一不可。刘军谈道，这四(si)者的关系(xi)为以(yi)(yi)算(suan)法(fa)为负载(zai)，以(yi)(yi)数(shu)据为输入(ru)，以(yi)(yi)算(suan)力为承载(zai)，以(yi)(yi)互(hu)联为连接。
这也是(shi)浪潮(chao)信(xin)息提(ti)供(gong)全栈智算产品和方案的基础。除了(le)EPAI，浪潮(chao)信(xin)息面向(xiang)大(da)模型应用专门(men)打造(zao)了(le)智能算力底座(zuo)、专用存储(chu)、超级AI以太网交换机。
得算力者得天下，算力需(xu)求与大模型(xing)产业发(fa)展息息相关。随着(zhe)行业落地加速，千亿甚(shen)至(zhi)万亿参数(shu)大模型(xing)层出不穷，使得企业对智能(neng)算力的需(xu)求急(ji)速攀(pan)升。
因此，浪潮信息联合英特尔发布了AI通用服务器，可实现浪潮信息千(qian)亿大模(mo)型源2.0部署、优化、测试，这也是业界首次实现基于(yu)CPU处理器的(de)千(qian)亿参数模(mo)型推(tui)理。
AI通(tong)用服务器(qi)(qi)在2U空间支(zhi)持4颗(ke)英(ying)特尔处理器(qi)(qi)，支(zhi)持AMX等(deng)AI加速(su)功能，同时能满(man)足千(qian)亿大模型的低延时要求。
高质量数据数据方面，浪潮信息打造了大模型应用的专(zhuan)用存储(chu)AS13000G7-N系列，充分(fen)满足(zu)大模型的多协议、高带(dai)宽、低延(yan)迟、数据高效流转等需求。
基于DataTurbo新一代数据加速引擎，从全局一致性缓存、空(kong)间均衡、GPU直(zhi)通存储等方面进行端(duan)到端(duan)性能优化，TB级训练(lian)数据Checkpoint读取耗时(shi)从小时(shi)级降(jiang)为秒(miao)级，同时(shi)模型(xing)训练(lian)的空(kong)间损耗率仅为业界(jie)主流的1/6，显(xian)著缩(suo)短(duan)模型(xing)训练(lian)时(shi)间近50%。
此外，浪潮信息专为大模型打造了超级(ji)AI以太网交(jiao)换机(ji)“X400”，这(zhei)是国内率先支持Spectrum-X平台的(de)网(wang)络(luo)产品。相比传统(tong)RoCE网(wang)络(luo)性(xing)能提(ti)升至1.6倍，AI网(wang)络(luo)的(de)带宽利用率超过(guo)95%，通信时(shi)延(yan)降(jiang)低(di)30%，NVIDIA Megatron-LM大模型训练速度最高可以提(ti)升70%，大幅缩(suo)短训练时(shi)长并降(jiang)低(di)训练成本(ben)。
从多元算力(li)(li)可(ke)调度(du)、满(man)足大模(mo)型(xing)存(cun)储需(xu)求到满(man)足AI集群需(xu)求，浪潮信息(xi)此次(ci)推出的系(xi)列工具，已经成为企(qi)业进行大模(mo)型(xing)开发的重要支(zhi)撑，同时为大模(mo)型(xing)释放技术潜力(li)(li)以(yi)及帮助企(qi)业抓住(zhu)市场(chang)机遇(yu)提供了更多可(ke)能性。
三、元脑品牌全面升级：一切计算皆AI
从元(yuan)脑(nao)生态的(de)蓬勃发(fa)展，以及浪潮信息在算力(li)、算法(fa)、数(shu)据、互联方面的(de)技术创新与突破，都离不(bu)开其此前的(de)布局。
面向大模型(xing)应用落地(di)的狂飙突(tu)进，浪潮(chao)信息(xi)率先在算力(li)、算法、数据、互联方面实现了技(ji)术创(chuang)新(xin)与(yu)突(tu)破(po)，并且(qie)能切(qie)中企(qi)业(ye)用户的真实痛点(dian)发布(bu)系列工具，都(dou)离不开其(qi)此(ci)前的技(ji)术研发与(yu)生(sheng)态建设(she)布(bu)局。
浪(lang)潮信息在大模(mo)(mo)型(xing)算(suan)法(fa)方面(mian)的(de)(de)研发布(bu)局由来已久(jiu)。早在2021年，浪(lang)潮信息就发布(bu)2457亿(yi)参(can)(can)数规模(mo)(mo)的(de)(de)“源1.0”中文语言大模(mo)(mo)型(xing)，并(bing)全(quan)面(mian)开(kai)源，2023年又成功研发并(bing)开(kai)源千亿(yi)参(can)(can)数“源2.0”基础大模(mo)(mo)型(xing)，包含(han)1026亿(yi)、518亿(yi)、21亿(yi)三(san)种参(can)(can)数规模(mo)(mo)，这(zhei)也是国内(nei)首(shou)个千亿(yi)参(can)(can)数、全(quan)面(mian)开(kai)源的(de)(de)大模(mo)(mo)型(xing)。
彼时(shi)，为(wei)了提升基础大(da)模型的(de)智(zhi)力水(shui)平，源(yuan)2.0采(cai)用了新型的(de)注意(yi)力算法(fa)结构局(ju)部注意(yi)力过滤增强机制（LFA，Localized Filtering-based Attention）等措施(shi)，实现源(yuan)2.0大(da)模型在精度上接近(jin)GPT-4的(de)水(shui)平。
同时，浪潮信(xin)息通(tong)过大模(mo)型生成高质量数(shu)据(ju)(ju)以及非均匀(yun)流(liu)水(shui)(shui)并行、优化器参数(shu)并行、数(shu)据(ju)(ju)并行、Loss计(ji)算分块的分布式训(xun)练方法等，不断突破(po)提升大模(mo)型智力水(shui)(shui)平(ping)的边界，找到技术发展的可行路径。
伴随着大模型产业发展在应用端呈现出的发展趋势，智算的重要性显而易见，而“一切计算皆AI”的产(chan)业发(fa)展(zhan)趋势(shi)已经融入浪潮信息发(fa)展(zhan)的每一根毛(mao)细血管中。
除了技(ji)术创(chuang)新，诞生于2019年的元脑品牌的全面升级，也成为(wei)浪潮(chao)信息迎接AI产业革命(ming)新机遇的最新答案。
浪潮信息渠道推进部总经理毛柏林透露，2023年浪潮信息生态伙伴数量已经达到3万(wan)家，同比增长33%，元脑认证伙伴首次突破1万家。
迈入智能时代，拥有不同底(di)层技术、在不同行业深耕的各路企业之间的连接日(ri)渐紧密，因(yin)此，元脑(nao)既是智算(suan)品(pin)牌(pai)，也(ye)是生态(tai)品(pin)牌(pai)。浪潮(chao)信息(xi)将联合(he)左(zuo)右手的伙伴，面向不同场景，实(shi)现(xian)大模型的加速落地，激发AI产业创(chuang)新(xin)发展的新(xin)动力。
浪潮信息同期还发布了EPAI种子计划，预计在3年内将伙伴数量扩充至1000家。
大模型(xing)产业(ye)发(fa)展的趋(qu)势已经逐渐明晰(xi)，多元多模、落地部署(shu)进程加快等趋(qu)势演进加速，在这一背景下，浪潮信息(xi)以(yi)开(kai)放共赢的“元脑生态”为(wei)依托，正从AI创新落地的探索者(zhe)向引领(ling)者(zhe)冲(chong)锋。
结语：“AI+”成新时代热词，掀起新质生产力革命
AI+成(cheng)为今年大模(mo)型产业发(fa)展当之无愧的(de)热(re)词，新质生产力变革步伐加快。伴随着(zhe)AI部署落地的(de)创(chuang)新成(cheng)果(guo)不(bu)断涌现，多元的(de)模(mo)型、算力、数据需求对其大规模(mo)应用提出挑战。
浪潮信息(xi)依托于此前(qian)的(de)(de)技术(shu)积累与布局，再加上对产业(ye)前(qian)沿趋势(shi)的(de)(de)深入洞察，率(lv)先向这一变革趋势(shi)发起冲锋，在算(suan)法、算(suan)力(li)、数据、互联(lian)领(ling)域(yu)的(de)(de)工具(ju)体系助力(li)下，AI应用将(jiang)会为千(qian)行百(bai)业(ye)带来(lai)无尽的(de)(de)想象力(li)。
