NG体育5月24日,以“释放数据要素价值 发展新质生产力”为主题的第七届数字中国建设峰会在福州开幕。在“数据资源与数字安全”分论坛结束后,全国政协委员、全国工商联副主席、奇安信集团董事长齐向东接受了媒体采访,他表示:“
,就是希望立足安全领域,以全局视角和大家共同探讨人工智能与安全的未来NG体育官网app下载。
我们要用AI驱动安全,跟数据投毒者、数据篡改者、数据窃取者进行赛跑,借助大模型的开发、应用和创新,把他们远远甩在后面NG体育官网app下载。”
它给我们带来的影响是全方位、颠覆性的,除了在促发展上起到的提质增效作用外,人工智能所带来的安全问题最受人关注NG体育官网app下载。当前,“饱和式”攻击、深度伪造NG体育官网app下载、数据投毒等等安全新风险NG体育官网app下载,严重冲击原有的网络安全防线和安全体系,加剧了我们的不安全感,引人深思。
攻击者可以通过在训练数据中加入精心构造的异常数据,破坏训练数据集的准确性;
AI的大规模内容生产能力可能产生真假难辨的信息,控制社交软件乃至媒体的舆论声音,激化意识形态矛盾;
在向人工智能投喂数据的过程中,也会产生商业机密泄露问题,进而导致企业丧失核心竞争力。
安全是人们对美好生活最本质的向往,网络安全是人工智能发展过程中无法回避的挑战。
作为人工智能最快落地、最快见到实效的行业之一,网络安全产业肩负重任。未来人工智能给我们带来的影响是正还是负,取决于当下我们如何培养和训练它。如果培养得当,人工智能将会带给我们应对新时代、新挑战的“最优解”。做好“人工智能+安全”,关键要从提高防护效率入手。去年,奇安信创新发布了QAX-GPT安全大模型,从开始训练我们就制定了明确的目标:生产力是硬道理,一定要让客户在使用奇安信的GPT产品时就像是雇请了一个高级安全专家队伍,把产品领回去就能变成自己的力量。