智东西（公众号：zhidxcom）
作者| 徐珊
编辑| 云鹏
智东西7月31日消息(xi)，据外媒(mei)Tech Xplore报道，康奈尔大学的研究人(ren)员发现恶意代码很(hen)容易隐藏在(zai)AI的神经网络系统中(zhong)，并且人(ren)们难以察觉。
研究团队(dui)尝试将恶意(yi)代码(ma)嵌入到一个名为“AlexNet”AI的(de)神(shen)经网络系统(tong)中，随后(hou)他们发现(xian)不仅常见的(de)杀毒软件无法发现(xian)恶意(yi)代码(ma)件的(de)存(cun)在，而且AI被恶意(yi)代码(ma)感染(ran)之后(hou)，运(yun)行状态(tai)也不会(hui)发生(sheng)变化，人们也更难(nan)以(yi)察觉系统(tong)中存(cun)在恶意(yi)代码(ma)。因此，如果不法分子(zi)利用这样的(de)方式入侵AI中，将会(hui)很容易(yi)盗窃系统(tong)里的(de)重要数(shu)据。
研究人员表示，在此(ci)次实验中，他们(men)将恶意(yi)代码添(tian)加到神经网(wang)络系(xi)统中最容(rong)易入侵的注入层(ceng)（injection）。此(ci)外，他们(men)选(xuan)择的是(shi)已经训(xun)练过的AI系(xi)统，而不法分子们(men)可能(neng)更愿意(yi)选(xuan)择一些从未经过训(xun)练的AI神经网(wang)络系(xi)统，这(zhei)样入侵起(qi)来(lai)会更加方便(bian)。
研(yan)究人员指出(chu)，如果简单地(di)向AI添加一段恶(e)(e)意代(dai)码(ma)，AI模(mo)型并不会受到(dao)伤害，因为无论谁将代(dai)码(ma)插入到(dao)AI模(mo)型中(zhong)，都需要找到(dao)该代(dai)码(ma)的(de)执行(xing)方式。但如果将恶(e)(e)意代(dai)码(ma)入侵到(dao)AI的(de)神(shen)经(jing)网(wang)络(luo)系统中(zhong)，恶(e)(e)意代(dai)码(ma)会模(mo)仿(fang)神(shen)经(jing)网(wang)络(luo)的(de)结构运作，悄(qiao)无声息地(di)“融(rong)入”到(dao)AI的(de)神(shen)经(jing)网(wang)络(luo)系统中(zhong)。
他们表示(shi)，现(xian)在(zai)人们注意到黑客可以将恶(e)意代码(ma)隐藏在(zai)AI的神经网络系统中后，可以设(she)计出更加全面(mian)的防(fang)病毒(du)软(ruan)件，以免用(yong)户损失(shi)。
结语：AI时代，技术与安全应并行
康奈尔大学(xue)的(de)研究(jiu)人(ren)员(yuan)发现，恶意代(dai)码入侵(qin)AI的(de)神经网络系统后，能在无声无息中对用(yong)户的(de)数据安全以及财产造(zao)成较大的(de)威胁。
随着AI技(ji)术快速(su)发(fa)展，AI已经逐渐渗(shen)入(ru)日常生活的(de)(de)(de)各(ge)个角(jiao)落中，但我们也需要关(guan)注AI技(ji)术背后(hou)的(de)(de)(de)安(an)(an)全漏(lou)洞，因为这些安(an)(an)全漏(lou)洞可能(neng)会成为威胁到国(guo)家安(an)(an)全的(de)(de)(de)“武器”。近(jin)期，俄(e)罗(luo)斯黑客组织(zhi)REvil在9个月(yue)内入(ru)侵了近(jin)180家公司(si)，300家组织(zhi)，甚至让美(mei)国(guo)部分能(neng)源公司(si)全面瘫痪。
因此，面对(dui)AI时(shi)(shi)代的快(kuai)速发展，AI时(shi)(shi)代的安全(quan)是(shi)不可避(bi)免的重要话题，技术应与安全(quan)并行。
来源：Tech Xplore
