前沿| 智能赋权效应催生“认知+行为”组合式网络安全威胁分析

文 | 中国人民解放军国防大学 赵子鹏 张光迎

生成式人工智能的出现，标志着信息技术革命在经历了数字化、网络化阶段后，已成功迈入智能化的重大突破阶段。信息技术革命不仅改变了生产方式，同时也引发了全球权力的转移，并产生了向下赋权的特殊效应。权力是一种关系能力，它使得某个社会行为体能够以符合其意志、利益和价值观的方式，非对称地影响其他社会行为体的决策。约瑟夫·奈在他的著作《权力大未来》中分析了基于网络产生的权力，认为国家并非网络空间唯一的行为体，权力将从国家行为体向非国家行为体扩散。互联网不仅对社会单元进行了权力重构，还改变了国家的传统权力边界。然而，互联网技术在带来新一轮的国家发展与繁荣的同时，也带来了网络犯罪、网络恐怖主义等规模性网络安全威胁。这揭示了信息技术革命的一类特殊规律：新技术带来的向下赋权伴随着权力结构的改变和规模性安全威胁。智能化变革正在加速发展，将进一步强化这一过程。考虑到智能技术研发需要依托互联网获取数据和应用环境，网络空间已成为人工智能的“温室”，而智能化导致的规模性安全威胁也将首先投射到网络空间。

一、互联网技术赋权效应伴生规模性网络安全威胁

网络安全已成为信息时代国家安全的战略基石。政治、经济、社会、军事和科技等各个领域的安全问题都与网络安全紧密关联。政治领域的“颜色革命”暗流涌动，经济领域的网络犯罪频繁发生，社会领域的网络攻击日益猖獗，军事领域的作战方式加速转型，以及科技领域的网络窃密，都是网络空间对传统领域安全问题的催化与变异。其中，“政治领域的‘颜色革命’”和“经济领域的网络犯罪”分别代表了两种典型的网络安全威胁，即认知式和行为式网络安全威胁。与网络空间的军事威胁不同，认知式和行为式网络安全威胁的形成与扩散高度依赖于非国家行为体的参与，这再次体现了互联网的向下赋权效应。同时，非国家行为体的大量参与，决定了两类威胁在数量上远超网络空间军事威胁，且具有一旦出现就难以管控的规模性特征。

（一）互联网政治属性与认知式网络安全威胁认知式网络安全威胁源自互联网特别是社交平台的政治属性、社会属性，是网络空间对意识形态领域安全问题的催化与变异。如少数国家利用互联网实施政治渗透、煽动社会动乱、颠覆他国政权；恐怖主义、分裂主义和极端主义等势力通过互联网策划煽动、组织实施暴力恐怖活动。这类网络安全威胁利用各类公开的社交平台发挥作用，其技术门槛低，威胁程度与煽动民众数量强相关。认知式网络安全威胁的破坏性影响主要表现为将网络空间的负面情绪升级为现实空间的群体性事件。约瑟夫·奈认为，网络空间中的权力可以分为强制性权力、议程设置权力和塑造偏好权力。在前互联网时代，议程设置的权力由政府和新闻界共同承担，它们决定公众关注的重点议题，并提供相应的语境来影响公众的价值判断。然而，随着社交媒体的出现，这种权力结构开始发生变化，议程设置主体逐渐由精英主义的传统主流媒体转变为新媒体平台。例如，Facebook、Twitter 等社交平台最初并非为组织社会活动而建立，但他们通过网络连结真实世界，从线上到线下影响了每个在线用户的生活。2011 年 8 月 4 日，伦敦警方枪杀了一名黑人青年，随后引发了大规模暴乱。短短几天内，暴乱迅速蔓延至伦敦十多个地区，社交媒体在暴乱扩散中扮演了重要的角色。时任英国首相卡梅伦呼吁：“当有人把社交媒体用于暴力的时候，我们需要阻止他们。”2021年 1 月 6 日，特朗普的支持者在华盛顿举行集会抗议，并“攻占”了美国国会大厦。值得注意的是，在事件发生之前，参与者已经在社交媒体和支持特朗普的网站上策划了数周。社交媒体上充斥着民粹主义、假新闻和“另类事实”，使得认知式网络安全威胁成为一种“可操纵性”极强的规模性威胁。例如，美国在其他国家制造“颜色革命”时，首先会利用社交媒体作为情绪发酵的重要场所，进而以此为基础煽动暴力游行。（二）互联网经济属性与行为式网络安全威胁行为式网络安全威胁源自互联网的经济属性和生产属性，是网络空间对经济安全问题的催化与变异。例如，网络违法犯罪对公共利益造成了重大危害，计算机病毒、木马等在网络空间传播蔓延，网络欺诈、黑客攻击、侵犯知识产权、滥用个人信息等不法行为大量存在。行为式威胁通常以经济利益为驱动，通过隐秘的黑客工具发挥作用，其技术门槛更高。虽然从业人数众多，但较少依靠人海战术，威胁程度与实施者的技术水平强相关。网络犯罪的滋生和蔓延离不开暗网。广义的暗网包括暗网交易网络、僵尸网络、不受政府承认的加密货币网络，以及采用特殊加密协议的社交网络、点对点通信工具、游戏平台等。当前，暗网已成为网络犯罪分子分享、购买或出售窃取数据与黑客工具的平台。基于暗网，网络犯罪实现了野蛮发展，甚至成为一项庞大的产业。勒索软件的历史追溯到 1989 年，当时哈佛学生约瑟夫·L·波普编写出了第一款勒索软件 AIDSTrojan。然而，直到暗网、虚拟货币等技术被广泛应用后，勒索软件攻击这种网络逐利行为才呈现大面积爆发态势。美国国土安全部发布警告称，2020 年针对小型企业的勒索软件攻击增加了300%。在全球范围内，2023 年近 1/10 的机构遭遇勒索软件攻击探测，比 2022 年激增 33%，因此，2023 年被称为大规模勒索软件攻击元年。（三）技术应用门槛限制网络威胁的形成与扩散技术性是网络空间的基本属性，关键技术的应用门槛直接决定了网络安全威胁实施者造成影响的程度及范围。因此，无论是认知式威胁还是行为式威胁，其实施主体一方面基于某类成熟技术实现目标，另一方面也在不断追逐新的手段和工具。以暗网为例，洋葱路由 Tor 是暗网常用的一种加密网络协议，具有难以溯源的特性。行为式威胁主体经常使用 Tor 软件对身份进行混淆或匿名，或通过 Tor 通信中继掩盖其指控服务器身份，从而秘密进行侦察、渗透、窃取和操纵等恶意活动。随着网络出入口管制、流量监控等针对性应对策略出台，行为式威胁主体开始寻找新的隐匿手段。近年来，加密聊天软件 Telegram 逐步替代暗网，成为众多网络犯罪分子购买或出售黑客工具、窃取数据的平台。Telegram 采用的技术能让用户有效避开政府监控。同时，认知式威胁主体也在不断寻找效率更高、受监管影响更小的社交平台，但受自身技术水平所限，通常不具备实施破坏性网络攻击的能力，不得不转移到现实空间实施暴力破坏行为。

二、智能赋权催生“认知+行为”组合式网络安全威胁

长期以来，认知式与行为式网络安全威胁一直并存但相对独立。网络空间中“情绪→行为”的转换通常只涉及少数黑客行动主义者（hacktivist），他们是技术顶尖的极少数，入侵计算机系统不是为了获取经济利益，而是为了引起政府或社会的注意，以表达某种政治立场。然而，在俄乌冲突中，“认知+行为”的组合式网络安全威胁开始广泛出现。随着冲突的爆发，乌克兰在 Telegram 上开设了官方账号，渲染西方对俄不满情绪，并鼓动亲乌克兰黑客对俄罗斯实施网络攻击。为了让普通民众也能参与到网络攻击中，乌克兰利用 Telegram 开展技能培训，提供多种 DDoS 攻击工具及配套教程文档。乌克兰还推出了一款可对俄罗斯境内目标实施“一键式”攻击的程序，使得没有技术背景人员也能参与到网络攻击中去。尽管乌克兰成功鼓动了数十万人参与其中，但提供的工具技术水平较低，这种“众筹式”网络攻击并未对俄罗斯造成重大损害，其入侵能力明显低于专业黑客组织。生成式人工智能的快速发展给各个领域带来前所未有的重大变革，并对社会和民众产生了赋权效应。一方面，智能赋权后的民众可以突破自身能力边界，依靠生成式人工智能完成超越个体知识范围的任务；另一方面，生成式人工智能降低了网络恶意行为的成本，专业技术将不再成为网络攻击的“行业壁垒”。2023 年，随着 ChatGPT 的兴起，迅速衍生出了如 FraudGPT 和 WormGPT 等“邪恶孪生”，出现了“人工智能生成恶意软件”和“人工智能生成网络钓鱼诱饵”的新型攻击方式。这类趋势一旦延续，“认知+行为”的组合式网络安全威胁数量可能会大幅激增，从而急剧增加智能时代的网络安全风险。

图 “认知+行为”组合式网络安全威胁形成机理

（一）宣泄情绪、宣示立场不再局限于发布言论，破坏性网络行为成为可选择的极端方式实施高强度网络攻击破坏行为通常需要跨越较高的技术门槛，这意味着普通民众与专业黑客之间存在一道难以逾越的技术鸿沟。因此，那些受特定情绪驱动的网络威胁主体往往是在网络空间发布言论，随后不得不转移到现实世界完成暴力行为的升级。然而，一旦实施网络攻击的技术门槛降低，各类负面情绪便能直接在网络空间转化为暴力行为。对程序语言的理解和应用构成黑客能力的基础，而生成式人工智能在这方面可提供强力辅助。例如，ChatGPT 可以解释程序代码并生成自然语言注释，包括变量描述、函数解释和算法思路展示等。此外，ChatGPT 还能直接生成程序代码，包括输出语句、赋值语句和循环语句等。对于新手或初学者而言，ChatGPT 的辅助功能可以帮助他们更深入地理解程序代码，并更快地掌握黑客技术。黑客工具将趋于“枪械化”，即使用门槛远低于制造门槛。由此，对于认知式网络威胁主体而言，使用黑客工具不再是遥不可及的事情。随着网络舆论场中负面情绪的持续发酵，为了引发更多关注或宣示激进立场，网络威胁主体能够选择转移到现实空间实施暴力行为，或者直接在网络空间进行破坏性行为升级。

（二）网络犯罪组织的规模不再受限于高技术人力资源，“劳动力密集”成为新的组织样式网络犯罪需要掌握熟练的计算机应用技术，属于典型的“技术密集型”。然而，从信息技术的发展规律来看，“人机交互”的技术门槛降低是必然趋势。在早期，计算机的用户通常需要具备设计和组装计算机的能力，但时至今日，即使对电子信息知识一无所知，也毫不影响对计算机的操作使用。生成式人工智能将革新人力因素在网络犯罪领域的影响比重。它能够帮助缺乏经验的黑客和低技能的劳务雇佣人员缩短技术上手时间，快速实施更有效、更有针对性的网络攻击。即使是不懂计算机或互联网知识的普通大众，也可以借助工具如 FraudGPT、WormGPT 等生成恶意代码。随着越来越多的“非专业人士”从网络犯罪中获益，这将极大地刺激网络犯罪的产业化扩张。在新冠疫情重创多国经济、失业人口激增的大背景下，网络犯罪组织利用社交媒体或其他网络平台进行广泛的宣传、招募和融资活动。在社会动荡、教派冲突、民族对立等群体负面情绪高发时期，网络犯罪将进一步获得大量扩充从业人员的机会。被智能技术赋权的网络犯罪组织将呈现出更加明确的分工，其运作方式甚至类似于企业：由“负责人”负责协调工作；“编码者”负责编写与升级恶意软件代码；“入侵者”负责渗透进入目标公司；“数据挖掘者”负责分析处理窃取的数据；“法律专家”负责解决法律问题；“呼叫中心”则负责通过电话或互联网承接订单，提供技术支持、渠道分销以及客户服务。

（三）极端民族主义、恐怖主义获得新技术加持，网络意识形态威胁与网络攻击行为结成新的绑定关系多国将网络恐怖主义列为网络安全重大威胁，对其重视程度甚至高于网络犯罪。长期以来，极端民族主义、恐怖主义组织利用互联网建立网站，传播极端思想，传授爆炸物制作、枪械射击等暴力恐怖技能，对多国社会稳定构成了严重威胁。网络意识形态威胁天生具有诉诸暴力的倾向，不能排除其向网络攻击和破坏升级的可能性。虽然极端民族主义、恐怖主义组织成功实施的高强度网络攻击数量仍然相对有限，但这类组织已经意识到网络的影响力，并开始“灵活运用”网络作为新的威胁手段。例如，2022 年 3 月 6 日，俄罗斯沃罗涅日地区发布预警，起因是不明身份人员利用网络向该地区的三个购物中心和一个电影院发送恐怖袭击信息，该事件最终被定性为虚假信息攻击。极端民族主义、恐怖主义具有暴力升级的内生倾向，由于相关组织受限于专业化人力资源严重不足，尚无法通过网络空间实施大规模、高强度的攻击和破坏，只能以虚实结合的方式破坏社会稳定。随着生成式人工智能持续向下赋权，极端民族主义、恐怖主义组织也将从中获益，网络恐怖袭击成为低成本的暴力升级方式。以生成式人工智能为桥梁，网络意识形态威胁与网络攻击行为形成新的绑定关系，其危险性和颠覆性进一步升级，对社会稳定和国家安全带来严峻挑战。

三、防范美西方大国竞争加剧组合式网络安全威胁

习近平主席在第二届世界互联网大会开幕式上的讲话中指出：“维护网络安全不应有双重标准，不能一个国家安全而其他国家不安全，一部分国家安全而另一部分国家不安全，更不能以牺牲别国安全谋求自身所谓绝对安全。”2024 年初，英国国家网络安全中心发布警告，指出人工智能工具正助长勒索软件威胁的升级，并预测这种现象将在未来两年内进一步恶化，从而增加网络攻击的数量和严重程度。面对这种情况，各国需要摒弃单边安全和绝对安全的传统立场，通过广泛的国际合作来共同应对这一挑战。然而，美国等西方国家挑起的大国竞争正在不断破坏网络空间共同安全。随着人工智能继续推动国际权力结构的调整，大国竞争有可能会进一步加剧，并加速组合式网络安全威胁的升级。

（一）美西方持续加强网络心理战、舆论战攻势美国寻求在网络空间实现两种自由：一是“网络信息自由”，二是“行动自由”。其中，“网络信息自由”的目的主要是利用互联网进行意识形态渗透，挑起“颜色革命”，并干涉他国内政，从而威胁到这些国家的政权安全和社会稳定。近年来，美国不断加强其在网络心理战和舆论战方面的攻势，意图在别国内部制造混乱。由于网络具有跨时空、跨国界，信息快速传播、多向互动等特性，它对现实社会问题和矛盾产生了极大的催化和放大效应，极易使一些局部问题全局化。在美国等西方国家的有组织煽动下，民族对立、宗教对立、社会不满等负面情绪在网络空间持续发酵和放大，导致群体性事件几乎一触即发，这对国家安全与稳定构成了极大的威胁。

（二）数字军备竞赛存在严重的武器扩散风险2016 年，美国国家安全局（NSA）开发的网络工具“永恒之蓝”被窃取后经暗网传播。随后，全球爆发了一系列大规模的勒索攻击，其中勒索软件高强度的网络入侵模块正是利用了“永恒之蓝”。与传统的、有形的军备不同，数字军备通常是能够轻易存储、复制和删除的代码，其使用相对隐秘，极易发生意料之外的扩散。2022 年 5月 23 日，国际刑警组织秘书长尤尔根·斯托克在达沃斯世界经济论坛年会上发出警告，指出由国家开发的网络战武器可能会泄露到暗网上，犯罪团伙将利用这些武器来升级网络犯罪活动。人工智能技术的持续发展将不可逆转地推动数字军备的智能化升级，大幅降低使用门槛，从而进一步增加武器扩散的风险。一旦网络武器落入非国家行为体，大量“认知+行为”组合式网络安全新威胁将迅速涌现，其“行为”部分将具有更高的破坏能力，对网络安全构成严重威胁。

（三）应对组合式网络安全新威胁需坚持共同安全观网络空间作为一个开放的全球系统，不受传统国家地理边界的限制。在分析研判生成式人工智能对网络安全的影响时，需要首先认清人工智能延续了信息技术革命对社会及民众的赋权效应，在此基础上，预测由此产生的新网络安全威胁。应对“认知+行为”组合式威胁需要在共同安全框架下进行统筹，兼顾国家安全和民生利益。我国提出的网络空间命运共同体理念，为实现共同安全提供了实践指导。2023 年 10 月 18 日，我国发布《全球人工智能治理倡议》，该倡议围绕人工智能的发展、安全和治理三个方面，系统地阐述了人工智能治理的中国方案。倡议借鉴中国传统智慧，提出人工智能发展必须以增进人类共同福祉为目标，以保障社会安全、尊重人类权益为前提，确保人工智能始终朝着有利于人类文明进步的方向发展。全球智能化变革正迎来一个机遇与风险同步涌现的关键时期。ChatGPT 展现了人工智能颠覆性影响的冰山一角，其中既蕴含了生产方式变革的巨大潜力，也隐藏着难以预料的安全风险。智能化将进一步扩大数字化、网络化的红利，但各国在享受这些红利的同时，也不得不面临新型安全威胁的挑战。只有确保多数国家而非少数国家、多数人而非少数人能够从智能化中受益，避免人工智能进一步扩大民族、国家或社会对立，才能有效发挥网络化、智能化的正向赋能作用，统筹好安全与发展的双重需求。（本文刊登于《中国信息安全》杂志2024年第5期）