聚顶ai浅谈人工智能对网络空间安全的影响

随着移动互联网、大数据、超级计算、传感网、脑科学等新理论和新技术的出现，以及经济社会发展对人工智能的强烈需求，人工智能出现了加速发展、深度学习、跨界融合、人机协同、群体智能开放、自主操纵等新特点。中国新一代人工智能发展规划(2017)和《人工智能标准化白皮书》(2018)的发布和实施，使中国全国性人工智能战略走上了前台，人工智能的快速发展将深刻改变人类社会现有结构，成为新一轮产业变革的核心驱动力量，人工智能的安全问题也将日益受到人们的关注。

官方发布

发布于 2020-12-29

国家人工智能发展战略

AI是引领未来的战略技术，是国家强盛的重要力量。发达国家纷纷将发展人工智能作为提高国家竞争力、维护国家安全的重大战略，纷纷出台相关规划和政策，围绕核心技术、一流人才、一流标准等加强部署，力求在新一轮国际科技竞争中占据主导地位

长期以来，美国一直采取国家发展人工智能技术的战略。在奥巴马政府时期，美国防部下属的高级情报研究计划署(IARPA)在2015年发布了为期5年的"大脑皮层网络机器智能计划"，而在2016年10月，白宫科技政策办公室(OSTP)下属的国家科学和技术委员会(NSTC)发布了"国家人工智能研究战略计划"和"为人工智能的未来作准备"，这两项计划表明，美国是世界上最具影响力的发达国家，并开始了面向人工智能时代的国家努力；在特朗普政府时期，总统行政办公室(EOP)在2016年12月发布了"人工智能、自动化和经济"的报告，哈佛大学在2017年7月发布了"人工智能与国家安全"，该报告认为，未来随着技术的不断进步，AI将像核武器、飞机、计算机和生物技术一样，逐渐成为可影响国家安全的变革性技术。

为了抓住人工智能发展的重大战略机遇，构筑我国先发优势，加快建设创新型国家和世界科技强国，2017年7月8日，我国发布了《关于加快建设创新型国家和世界科技强国的指导意见》，这份报告标志着我国人工智能进入了国家发展快车道。同一年11月15日，国家科技部公布了四大人工智能平台，分别是依托百度公司建设自动驾驶国家人工智能开放和创新平台，依托阿里云公司建设城市大脑国家人工智能开放和创新平台，依托腾讯公司建设医疗影像国家人工智能开放和创新平台，依托科大讯飞建设语音国家人工智能开放和创新平台。我国于2018年1月18日召开全国人工智能标准化工作总结会和专家咨询会，并发布了《人工智能标准化白皮书》(2018版)，系统梳理、加快人工智能各领域标准体系建设，明确标准之间的依赖性和制约关系，建立起统一完善的标准体系，以标准为手段，推动人工智能技术、产业的蓬勃发展。

人工智能技术对网络空间安全构成的挑战

作为一种新兴的技术手段，人工智能技术能给经济、军事、文化等行业注入新的活力，能使人从简单、重复、危险的劳动中解放出来。虽然人工智能技术能够给国家的发展带来新的活力，但它也带来了许多挑战，对国家的安全、经济发展、社会稳定、信息保护等问题产生了直接或间接的影响。根据合肥聚顶ai科技介绍，人工智能技术对我国网络空间安全的影响主要表现在三个方面。

一、网络空间日益不稳定

作为一种新兴的技术发展方向，人工智能技术的自身理论和外部技术及支撑环境还未完全成熟，因此它将从内部风险和外部风险两方面影响我国网络空间的稳定。

首先，人工智能对网络空间稳定性的内在风险是人工智能技术自身的理论和应用基础所造成的，其中一部分风险难以预测；AI技术的理论基础是计算机、统计学、机器学习、数据挖掘、深度学习等学科，这些学科大部分都是基于概率论和数理统计的。所以，人工智能并非简单的一对一映射和因果关系，而是一种机器主导的、大概率的正确选择和判断。虽然从理论上讲，人工智能操作中的风险事件发生的概率很低，但现有技术不能预测风险事件的损失边界和安全边界，更不能预测风险事件什么时候发生，发生在什么节点，为什么发生。因此，人工智能程序固有地具有比传统计算机程序更高的风险。从人工智能的发展史来看，人工智能机器人伤害人类的事件也是屡见不鲜。1989年，在国际象棋界一场人机大战中，前苏联棋王古德柯夫连胜三局，智能机器人棋手突然间将强电流释放到金属棋盘上，在众目睽睽之下将古德柯夫打死。2017年，Facebook的两个对话机器人更是在对话过程中产生了人类无法理解的语言，官方出于谨慎只能将其关闭。随着人工智能技术的广泛应用和广泛应用，网络空间中的许多节点和应用都将由人工智能来处理，在这样的大背景下，如何减少和避免人工智能技术带来的技术风险，以及如何减少风险事件对网络空间和现实社会的影响，都需要我们去思考。

人工智能给网络空间带来的外部风险主要来自于人的风险，特别是人工智能技术和系统中技术人员的不规范使用和恶意攻击。AI技术正处于蓬勃发展阶段，目前的研究热点主要集中在理论基础和应用场景的拓展上，对人工智能安全控制的研究还很不够。因此，随着人工智能技术的大规模应用，人为的不规范操作以及恶意使用和攻击将逐渐增多，验证码验证、身份验证等传统网络空间的守护手段也将面临巨大威胁。

二、资料及个人隐私泄漏风险增加

AI的繁荣是建立在大数据、云计算等平台之上的，只有依靠硬件平台的不断收集、整理用户的特征数据和行为数据，人工智能算法才能不断成长和应用。结果是，泄漏敏感数据的风险将越来越大。若触发人工智能自身缺陷或被黑客攻击，大量敏感信息将面临泄露风险，轻则用户个人信息被不法之徒所掌握，重则危及用户财产安全甚至人身安全。与此同时，人工智能技术可以方便地收集和识别网络空间中的个人隐私，如文字、头像等信息，并根据这些信息精确刻画个人相关的特性，如性格、社会关系、收入和消费偏好，稍不留神，一个人的各个方面都会被人工智能技术全面嗅探，并暴露在社会中。因此，在发展和应用人工智能技术时，应尽快从技术、政策、法律、标准等方面保障个人隐私安全。

三、网络攻防领域的竞争将更加激烈

目前工程界和学术界普遍认为人工智能与攻防结合是网络安全发展的必然趋势，并有很大的发展空间。网络安全攻防传统上，网络安全人员与黑客之间的攻防较量主要依靠先验经验的积累，在一定程度上属于研发中的劳动密集型工作。AI技术的出现和发展，使劳动密集型的工作实现了一定程度的高度自动化，一方面，网络攻击者可以对网络攻击中的漏洞挖掘、注入、攻击等行为进行自动化处理，提高攻击的效率；例如，2017年绍兴市公安局以1·03事件为契机，共同利用人工智能进行网络攻击和诈骗。犯罪嫌疑人利用人工智能技术开发了一套图像识别系统，该系统能够自动识别图片上显示的数字、字母、汉字等信息，并通过深度学习的方法，不断提高犯罪嫌疑人的识别能力。但是，这种技术却被犯罪团伙用于网络诈骗等活动，给受害人造成了不小的损失。另一方面，一些安全厂商已通过结合人工智能技术和安全防御策略，构建了具有自主学习能力的主动防御系统，该系统除能应付传统网络威胁外，还能抵御各种潜在的后门攻击，对各种日益复杂和智能的渗透式网络入侵也有一战之力。可想而知，随着人工技能技术在网络攻防领域的深入应用，网络空间攻防战场将变得越来越激烈。