智东西(公众号:zhidxcom)
作者 | ZeR0
编辑 | 漠影
智东西(xi)(xi)7月8日(ri)报道,6月19日(ri),在(zai)亚(ya)(ya)马逊(xun)(xun)云科技(ji)(ji)中国峰(feng)会上,亚(ya)(ya)马逊(xun)(xun)云科技(ji)(ji)全球(qiu)技(ji)(ji)术总(zong)经理Shaown Nandi发表主题演讲,分享了亚(ya)(ya)马逊(xun)(xun)云科技(ji)(ji)在(zai)云以及AI领域的(de)最新技(ji)(ji)术洞察和进(jin)展。会后,Shaown Nandi接(jie)受智东西(xi)(xi)等媒体(ti)的(de)采(cai)访,他告诉智东西(xi)(xi),亚(ya)(ya)马逊(xun)(xun)云科技(ji)(ji)Amazon Bedrock平台为(wei)构建AI agent提(ti)供了更多模型(xing)选择和灵活(huo)切换能力。借助Amazon Guardrails,用户可(ke)在(zai)更换模型(xing)或模型(xing)版(ban)本(ben)时,无需重构安全防护策略(lve),简化工作流程(cheng)。此外,用户还可(ke)以通过(guo)模型(xing)蒸馏、提(ti)示词路由等机制优(you)化成本(ben)。
每(mei)个模型通常都(dou)有自(zi)己独立的(de)API接(jie)口,而Amazon Bedrock提供的(de)是统一(yi)API入(ru)口,支持(chi)所有模型。这意味(wei)着即使未来更换模型,只要用户最初用的(de)是Amazon Bedrock的(de)API,就(jiu)无需(xu)改(gai)变调用方(fang)式,而且可以(yi)在平台上选(xuan)择接(jie)入(ru)任意可用的(de)模型。
在AI基(ji)础(chu)设(she)施投(tou)入和(he)短期(qi)盈利(li)的(de)平衡方面(mian),Shaown Nandi称亚马逊秉持长期(qi)主(zhu)义,致力于帮助客(ke)(ke)户实现长远目标,几周(zhou)前还大幅降(jiang)(jiang)(jiang)低(di)了GPU价格(ge)以降(jiang)(jiang)(jiang)低(di)客(ke)(ke)户成本。芯片厂商(shang)的(de)芯片改进、模型本身的(de)优化(hua),以及(ji)亚马逊云(yun)科技的(de)模型蒸馏、自动(dong)提示语路(lu)由(you)等技术,还有(you)对GPU能(neng)耗的(de)改进,都能(neng)推动(dong)推理成本的(de)下降(jiang)(jiang)(jiang)。
“AI技(ji)术的(de)(de)发展恰如巨型海浪的(de)(de)形成:看似平静的(de)(de)涟漪在(zai)特(te)定条件下也可演(yan)变为高(gao)达30米(mi)的(de)(de)巨浪,生成式AI和(he)Agentic AI同(tong)样已从(cong)小(xiao)规模(mo)的(de)(de)突破,发展成当今的(de)(de)超(chao)(chao)级(ji)浪潮。而这一转变主要(yao)由不断(duan)创(chuang)新的(de)(de)模(mo)型、海量可用数(shu)据(ju)及(ji)强大计算能力的(de)(de)融合所驱动。随着(zhe)企业(ye)(ye)从(cong)谨慎(shen)探索转向(xiang)广泛应用,以(yi)及(ji)亚马(ma)逊云(yun)科(ke)技(ji)等领先科(ke)技(ji)公(gong)司在(zai)模(mo)型能力、准确性、经济性与安全(quan)(quan)性等方面持续(xu)创(chuang)新,这股AI超(chao)(chao)级(ji)巨浪正在(zai)重塑全(quan)(quan)球各个行业(ye)(ye)。”Shaown Nandi在(zai)演(yan)讲中谈道。
会后与(yu)媒体沟通期间,Shaown Nandi进(jin)一步分享说,Agentic AI和生成式(shi)AI已给很多公司带来了切实可见(jian)的(de)成果。而(er)亚马逊云科技的(de)服务(wu)能帮助他们更好地(di)利用自(zi)身(shen)数据、运力和计算能力打造应(ying)用,解(jie)决业务(wu)难题。
被(bei)问到过去(qu)一两年亚(ya)马逊云科技(ji)从AI agent发展(zhan)(zhan)中看(kan)到的(de)增长情(qing)况,他(ta)分享(xiang)说,客户使(shi)用(yong)和建立AI agent时(shi)会生成更多数据(ju)需要存储,云存储是更好的(de)选择(ze),客户对亚(ya)马逊云科技(ji)提供的(de)迁移数据(ju)方式感到振奋,随着AI agent的(de)发展(zhan)(zhan),与(yu)云相关的(de)使(shi)用(yong)活动也在(zai)增长,且财(cai)富500强中75%的(de)工作负载(zai)仍(reng)在(zai)本地,未来迁移空(kong)间大,AI agent未来发展(zhan)(zhan)前景广(guang)阔。
亚马(ma)逊云(yun)科技平台上(shang)有很多好的(de)(de)用(yong)户(hu)案例和(he)适用(yong)场景,比如在客户(hu)服务方面,Agentic AI应(ying)用(yong)旅行公司的(de)(de)一线(xian)坐席更快更准(zhun)确地回应(ying)客户(hu),加入(ru)情(qing)绪(xu)分析和(he)实时翻(fan)译功能;软件(jian)工程领域(yu)应(ying)用(yong)增长也很快,亚马(ma)逊云(yun)科技自己以(yi)及(ji)很多初创公司都(dou)在Amazon Bedrock上(shang)构建了有效(xiao)的(de)(de)AI agent。
在(zai)帮(bang)助客户(hu)将AI agent落地到具体(ti)(ti)应(ying)用场景时(shi),亚马(ma)逊云科(ke)技有(you)多项独特优势,包括提供更(geng)多模(mo)型选(xuan)择、解决(jue)无(wu)差异化体(ti)(ti)力活、让客户(hu)在(zai)构建(jian)AI agent时(shi)能更(geng)快调(diao)整和(he)更(geng)换模(mo)型,以及拥有(you)韧(ren)性的(de)基础设施、自研(yan)芯片等(deng),能为客户(hu)提供更(geng)灵活、可(ke)靠、有(you)效的(de)解决(jue)方案。
关于客(ke)户调用模型时是集中在少数(shu)几个还是越来越分散,Shaown Nandi观(guan)察到,模型多(duo)样化(hua)趋(qu)势明(ming)显,专业、用途明(ming)确、能(neng)力(li)强的模型不断(duan)出现,应用场景增(zeng)多(duo),用户模型选择持续多(duo)元(yuan)化(hua)。
Shaown Nandi还举例说(shuo)明了如何建(jian)(jian)立生成式AI应(ying)用,建(jian)(jian)议利用Amazon Bedrock时需(xu)考虑模型选(xuan)择、成本、隐(yin)私和(he)私密(mi)保护等因素。应(ying)用开发方面(mian),Amazon Transform能帮(bang)助客户将遗留(liu)应(ying)用迁移到亚(ya)马(ma)逊云(yun)科(ke)技以(yi)实现现代(dai)化。Agent构(gou)建(jian)(jian)方面(mian),亚(ya)马(ma)逊云(yun)科(ke)技提供(gong)(gong)了Amazon Bedrock、Strands Agents等工具。基础设施(shi)方面(mian),亚(ya)马(ma)逊云(yun)科(ke)技在全球(qiu)建(jian)(jian)立的区(qu)域和(he)专有(you)区(qu)域网络(luo),既与(yu)英伟达在云(yun)方面(mian)长达14年的合作,又(you)有(you)Amazon Trainium、Amazon Graviton等自研芯片,并提供(gong)(gong)S3 Tables、元数据(ju)存储(chu)等高(gao)性能存储(chu)工具。
在(zai)他看来(lai),MCP对于AI agent来(lai)说是强大(da)的(de)解锁器(qi)和(he)(he)解码器(qi),就像通用(yong)的(de)USB-C,能让AI agent更(geng)便捷地(di)获取服务和(he)(he)数(shu)据,使(shi)(shi)其更(geng)自(zi)(zi)主化(hua)(hua)、智能化(hua)(hua)和(he)(he)自(zi)(zi)动化(hua)(hua),前景(jing)广阔(kuo),已有(you)很多客户及(ji)亚马逊云科技自(zi)(zi)身(shen)在(zai)使(shi)(shi)用(yong)。
Shaown Nandi称,所(suo)有(you)(you)类(lei)型(xing)的AI agent均(jun)可由合作伙(huo)伴或(huo)生(sheng)态系统(tong)参与开(kai)发(fa)(fa),亚(ya)(ya)马逊云(yun)科技开(kai)发(fa)(fa)的专有(you)(you)agent通常(chang)聚焦在自身有(you)(you)深厚(hou)专长的领(ling)域,或(huo)受客(ke)户启发(fa)(fa)填(tian)补市场(chang)空白(bai),目标是让市场(chang)有(you)(you)更多(duo)选择。亚(ya)(ya)马逊云(yun)科技重视与合作伙(huo)伴协同,提供底(di)层技术能力(li)来帮助他们(men)开(kai)发(fa)(fa)应(ying)用。
谈及企业级市(shi)场和(he)C端(duan)市(shi)场在设计(ji)(ji)AI agent的区(qu)别,他认(ren)为企业级应(ying)用(yong)在设计(ji)(ji)初期就需(xu)考(kao)量(liang)(liang)安全性(xing)(xing)和(he)韧(ren)(ren)性(xing)(xing),再考(kao)虑功能(neng)实现,而(er)C端(duan)应(ying)用(yong)初期更关注功能(neng),两者区(qu)别明显,企业客(ke)户重视亚马逊云科技服务的韧(ren)(ren)性(xing)(xing)、安全性(xing)(xing)和(he)可控性(xing)(xing),在生成式(shi)AI使用(yong)中,数据使用(yong)与存储至关重要,产(chan)品设计(ji)(ji)中已做(zuo)大量(liang)(liang)控制以保护信息。
在开(kai)(kai)(kai)源(yuan)策略上,Shaown Nandi笃定地说,亚(ya)马逊云科技一(yi)直公开(kai)(kai)(kai)支持开(kai)(kai)(kai)源(yuan),Strands Agents便(bian)是一(yi)个(ge)开(kai)(kai)(kai)源(yuan)工具。他相信专有模(mo)型和开(kai)(kai)(kai)源(yuan)模(mo)型并存会给用户更多(duo)选择(ze),也(ye)能让(rang)全球开(kai)(kai)(kai)发者更好地回馈(kui)社(she)会、共同发展。