中国工程院院士邬贺铨：AI大模型应用需通过安全评估才能上线

网文内容

8月9日，ISC 2023第十一届互联网安全大会在北京开幕。中国工程院院士、ISC名誉主席邬贺铨在接受中国证券报记者专访时表示，对待AI大模型安全问题，应做到“时时放心不下”，AI大模型应用需要通过安全评估才能上线。“当前安全评估工作主要由企业自己负责，不少互联网公司有安全评估资质，国家也有安全评估中心，但仍有很多安全问题没有被评估出来。人工智能技术发展和它带来的安全问题，我们认识还不够。”邬贺铨称。

邬贺铨表示，数字化将逐渐走向智能化高峰，开启人工智能时代。数字安全永远是“魔高一尺，道高一丈”，也在不断地发展演进。

邬贺铨认为，AI大模型技术发展和应用过程中存在技术安全风险和人为安全风险。一是大模型数据安全。大模型训练依托海量数据，开源数据集、互联网数据容易得到，但数据集的质量值得推敲，如果拿这些数据来训练，内容风险程度可想而知。如果用企业自有数据进行大模型训练，就要考虑数据泄露的安全风险。二是大模型算法安全。AI大模型的算法推理过程存在不可控制性，轻则得到令人意想不到的回答，数据结果存在不可解释性，重则可能出现算法失控，得出有悖社会公序良俗的不好结果。三是大模型被人为操纵后造成的安全风险扰乱社会秩序。

“技术是把双刃剑，AI大模型在方便我们生产生活的同时也带来安全风险。”邬贺铨表示，例如自动驾驶领域也要用到大模型训练，如果大模型没有做足特殊场景的算法训练，可能会在行驶中做出错误判断，造成交通事故。

“传统安全防护的手段急需升级。”邬贺铨表示，数字安全已经成为数字经济发展的焦点，人工智能等数字技术的应用本身既是安全防御的重点、手段，也是保障的有力手段，需要将大数据、人工智能、物联网等技术融合，提升保障能力。

他建议，摒弃硬件式、碎片化、弱协同的传统安全防护手段，向云化、服务化的理念升级。应该主动迎接IPV6主导的互联网时代，通过IPV6提升数据安全能力，护航数据安全流动。

温馨提示：最新动态随时看，请关注金投网APP。