城市号 | 下载APP
关注公众号

齐向东:人工智能带来新的安全问题,需要人工智能技术化解

2024-05-25 11:54:30 来源:海峡网

海峡网5月24日讯(海峡网记者 李牧晨)5月24日,以“释放数据要素价值 发展新质生产力”为主题的第七届数字中国建设峰会在福州开幕。在“数据资源与数字安全”分论坛结束后,全国政协委员、全国工商联副主席、奇安信集团董事长齐向东接受了媒体采访,他表示:“人工智能带来的新的安全问题,还需要人工智能技术进行化解。这次BCS大会我们将主题定为‘AI驱动安全,就是希望立足安全领域,以全局视角和大家共同探讨人工智能与安全的未来。我们要用AI驱动安全,跟数据投毒者、数据篡改者、数据窃取者进行赛跑,借助大模型的开发、应用和创新,把他们远远甩在后面。”

奇安信集团董事长齐向东接受媒体采访。海峡网记者 李牧晨 摄

齐向东说,在数据、算力、算法三驾马车的拉动下,人工智能正从智慧型工具,进化成人类的全能型伙伴它给我们带来的影响是全方位、颠覆性的,除了在促发展上起到的提质增效作用外,人工智能所带来的安全问题最受人关注。当前,“饱和式”攻击、深度伪造、数据投毒等等安全新风险,严重冲击原有的网络安全防线和安全体系,加剧了我们的不安全感,引人深思。

具体到数字安全方面,有三大新挑战:

一是AI投毒安全隐患加重,攻击者可以通过在训练数据中加入精心构造的异常数据,破坏训练数据集的准确性;

二是数据篡改隐患加重,AI的大规模内容生产能力可能产生真假难辨的信息,控制社交软件乃至媒体的舆论声音,激化意识形态矛盾;

三是数据泄露隐患加重,在向人工智能投喂数据的过程中,也会产生商业机密泄露问题,进而导致企业丧失核心竞争力。

安全是人们对美好生活最本质的向往,网络安全是人工智能发展过程中无法回避的挑战。作为人工智能最快落地、最快见到实效的行业之一,网络安全产业肩负重任。未来人工智能给人类带来的影响是正还是负,取决于当下如何培养和训练它。如果培养得当,人工智能将会带给人类应对新时代、新挑战的“最优解”。做好“人工智能+安全”,关键要从提高防护效率入手。“去年,奇安信创新发布了QAX-GPT安全大模型,从开始训练我们就制定了明确的目标:生产力是硬道理,一定要让客户在使用奇安信的GPT产品时就像是雇请了一个高级安全专家队伍,把产品领回去就能变成自己的力量。”齐向东说。

+1
您的观点仅代表您本人,请文明发言,严禁散播谣言和诽谤他人
登录并发表
所有评论
海峡城市网 hxcsw.com Copyright © 2015-2020 ALL Rights Reserved.
备案号 :闽ICP备15016526号-2 联系邮箱:1102859911@qq.com 联系电话:400 186 0591
免责声明:海峡城市网不承担由内容提供商提供的信息引起的争议和法律责任,一切争议和法律责任请与内容提供商联系。