人工智能脆弱面暗藏安全风险

乐虎国际官网

智能机器人自信地“走上”舞台主持人;无人驾驶车辆在测试道路上完成了一系列动作,但驾驶员坐在千里之外;智能健康“魔镜”可以实时显示测试者的“睡眠”和“情绪”。一系列健康指标,如皮肤.曾经在科幻电影中看到的酷片段已经在生活中实现。各种“黑技术”被广泛使用,人工智能的发展深刻地影响了社会生活。

与此同时,随着人工智能技术的日益广泛使用,人工智能的“脆弱面孔”逐渐暴露出来,机器人“自我意识”和技术滥用等安全漏洞引起了业界的更多关注。专家表示,有必要加强潜在风险的研究和预防,确保人工智能的各种技术安全,可靠,可控。

生出新的攻击

今天,世界各国都制定了人工智能,国际竞争日趋激烈。然而,人工智能的快速发展也导致了网络安全的风险点和攻击方式的新变化,从而导致更深层次的网络安全风险。

360董事长兼首席执行官周鸿表示,网络攻击每天都在发生。目前,网络黑客的目标非常明确,即能源,交通等基础设施,因为影响力最大。将来,在万物互联网的情况下,城市中的每个集装箱,每辆卡车,甚至每个井盖都将相互连接。对虚拟级别的攻击可能会对物理空间造成损害。

网络安全专家表示,许多无人值守系统使用人工智能技术,一旦被网络劫持,就会带来严重的安全问题。例如,智能汽车可以连接到仓库服务器并由移动电话远程控制。车主需要定期更新软件以确保可能被网络劫持的汽车驾驶模式。

天津大学法学院院长孙有海表示,网络攻击者可以通过漏洞控制人工智能算法,实施物理硬件操作,实施舆论引导,制造虚假图像或影响,制造信息噪声,造成安全隐患。

此外,图像和声音合成带来了新的风险。据国家互联网应急中心专家介绍,随着技术的发展,目前的合成图像和声音正变得越来越现实。如果你将这项技术用于网络诈骗,虚构的面孔和声音都是可怕的事情。

安全软肋暴露

目前,人工智能技术正在从“弱人工智能”跃升到“强大的人工智能”阶段,可以根据所掌握的算法和数据,在短时间内快速突破人类积累的多年经验。

“通过算法和大数据深度学习的人工智能并不排除发展'自我意识'的可能性,协助甚至取代人类进行分析和决策,这很容易发生反击,”Sun尤海说。

目前,人工智能研究对于带有源代码的大众论文非常开放,可以免费下载。即使编写折叠算法的时间成本只有几天,滥用人工智能技术的风险也会大大增加。此外,人工智能具有多学科整合,高复杂性,自然技术障碍等特点,对监管机构的监督管理和风险防范提出了不小的挑战。

除技术发展外,人工智能的社会影响也不容小觑。通过特定的算法全面了解用户的喜好和需求,为消费者“量身定做”的“精准推动”正成为企业引导消费的新途径。

“智能商业圈”为生活带来便利,但容易引起“信息骚扰”。消费者的简单操作可能暴露出购买某种产品的想法,并且后续将继续接收类似产品的广告,从而引起麻烦。从长远来看,商场的工作,如决策分析和艺术创作,也已被机器人所取代。人工智能技术的成熟将打破传统专业群体的“饭碗”,这将导致新的工业革命和经济结构调整。劳动力往往最终导致失业风险。

使用“双刃剑”

南开大学周恩来政府管理学院教授吴晓林认为,数字化,网络化和智能化是时代的主题。智能使生活更美好,但安全问题无处不在。互联网的下半部分是工业互联网。未来,该国的基础设施安全和工业互联网安全至关重要。有必要运用人工智能的双刃剑来避免劣势,使科学技术的智慧与人类的智慧共存和谐。

在网络安全防护中,应加强技术研究,建立有效的安全防范网络攻击。专家建议,可以建立主动免疫计算架构以保证计算,以便计算可测量和可控并且不受干扰。利用人工智能处理网络攻击,无论哪个系统在“免疫系统”中受到攻击,统一的人工智能系统都会发出指令并采取相应的措施。

关于保护法治,专家建议高度重视立法工作。孙有海说,全国人大应该做好立法准备工作,建议有关部门要优先制定无人机管理,自动驾驶,相对成熟的图像识别应用法律法规,领导秩序严格的规定。同时,要进一步完善精准实用的政策支持体系,建立政策集群。孙有海表示,有必要进一步完善全过程安全控制体系,制定行业安全标准,制定应急准备计划,加强重点领域的防控,加强对代码数据和算法等关键领域的综合控制。安全的技术安全性,产品安全性,数据安全性和应用程序安

鉴于新一代人工智能导致结构性失业的风险,吴晓林建议劳动部门带头加强符合要求的在职培训和再就业培训体系。人工智能产业,为劳动力转型奠定了坚实的基础。翟永冠宋瑞