（易欢）2025年以来，人工智能技术迎来跨越式发展，大模型训练成本持续降低，智能体化应用快速普及，“AI+”浪潮深度渗透政务、金融、医疗等关键领域，成为驱动经济社会发展的核心引擎。然而，技术的“双刃剑”效应在网络空间愈发凸显，例如：AI生成式内容造假、智能体自主攻击、黑产工具AI化等新型安全威胁持续升级，传统防御体系面临严峻挑战。
无疑，AI技术的滥用正让网络攻击呈现自动化、规模化、隐蔽化特征，如何准确应对AI爆发引起的网络威胁，构建适配新时代的网络安全治理体系成为时代发展必须直面的重要课题。
技术滥用催生新型风险，安全防线遭遇多重冲击
AI技术的快速迭代，正在重塑网络攻击的形态与规模，从个人权益侵害到国家关键设施安全，各类风险多点爆发。生成式AI的滥用成为最突出的安全隐患之一，深度伪造技术已形成成熟的黑产链条。2025年，网络平台出现多个利用AI合成中国工程院院士张伯礼形象的带货短视频，通过模拟其声音与神态达到以假乱真的效果，此类侵权案例被最高人民法院纳入滥用信息技术侵犯人格权典型案例。在公共事件中，AI合成内容的传播更具破坏性，由 AI技术拼凑生成的种种虚假新闻也在一定程度上扰乱了社会秩序。
智能体化AI的出现让网络攻击进入“自主进攻”时代，防御难度指数级提升。更令人警惕的是，AI勒索软件已实现自主决策，境外披露的某款勒索软件可通过开源大模型生成恶意程序，自主选择加密文件目标。攻击规模的爆发式增长同样触目惊心，Cloudflare数据显示，2025年前三季度全球累计缓解DDoS攻击3620万次，相当于2024年全年的170%，其中Aisuru僵尸网络发起的攻击流量峰值达29.7Tbps，创历史纪录。
不仅如此，行业渗透风险持续蔓延，关键领域成为攻击重灾区。在金融行业中，AI换脸技术已成功攻破部分机构的身份验证系统；教育领域因AI代写论文问题，多所高校被迫启用AI检测机制；制造业、医疗保健行业的供应链攻击频发，2025年Salesforce供应链攻击事件波及谷歌、Cloudflare等数十家科技巨头。很显然，人工智能在给网络安全发展带来更多新可能的同时，也给网络安全产业带来新的难题。
政策技术双轮驱动，进一步筑牢网络安全屏障
面对AI时代的安全挑战，我国通过完善法律框架、强化技术创新、深化协同治理，构建起多层次网络安全防线。2025 年10月28日，全国人大常委会审议通过《中华人民共和国网络安全法》修改决定，于2026年1月1日正式施行。此次修改立足于数字时代发展方位，把握信息革命演进大势，坚持因势而谋、应势而动、顺势而为，贯彻落实总体国家安全观，科学设置不同类型违法行为法律责任，系统引导人工智能发展与安全，对于深入推进依法治网、进一步筑牢国家网络安全屏障具有重要意义。
据了解，新修订的法律明确将人工智能安全纳入监管体系，要求国家支持AI关键技术研发与安全监管，鼓励运用AI等新技术提升网络安全保护水平，并大幅提高违法处罚力度，对造成关键信息基础设施丧失主要功能等特别严重后果的，最高可处1000万元罚款，为AI安全治理提供坚实法律保障。
在专项治理与标准规范方面，针对性政策密集出台。2025年9月1日生效的《人工智能生成合成内容标识办法》及配套国家标准，要求所有AI生成内容必须添加显式或隐式“数字身份证”，从源头遏制虚假信息传播。公安部在全国范围内打击利用AI编造谣言、侵犯公民个人信息等案件，有效震慑了网络黑产。
技术防御创新为安全治理提供核心支撑，“用AI对抗AI”成为行业共识。2026年1月5日，北京前瞻人工智能安全与治理研究院发布的安全评估体系与基座平台，构建了覆盖基础安全、社会安全等五大维度的评估框架，其“前瞻・灵御”攻防平台可支持60余种主流大模型的安全测试，涵盖20余种攻击方法和10余种防御机制。奇安信集团提出的“框、数、人、链”四环节管控方案，将AI嵌入安全体系，增强数智系统内生免疫力。安恒信息则利用AI智能体构建动态仿真系统，可实时预测攻击行为并生成防御策略，推动防御模式从被动响应向主动预测转变。这些技术创新正在形成“评估-检测-防御-响应”的全链条安全能力。
技术、需求迭代下，“AI+安全”将朝三大方向演进
在技术持续迭代、需求不断升级的当下， “AI+安全”的未来发展也成为行业关注的焦点问题。对此，中国信通院安全研究所刘越强调：“展望未来，“AI+安全”将朝着技术自主化、场景深度化、生态协同化三大方向演进。”
在技术层面，安全大模型和安全智能体将成为核心发力点――大模型能让威胁“看得见、看得懂”，智能体则靠多主体协作和自主执行策略，实现安全防护自动化的关键落地，推动防御策略形成自主闭环。
场景方面，“AI+安全”将从通用安全防护，延伸到垂直领域的深度适配，针对工业互联网、车联网这些特殊场景的“零误杀”“低延迟”需求，研发定制化的AI安全解决方案；同时还要强化AI自身的安全防护，筑牢模型和数据的隐私安全根基。
生态层面，将构建多方协同共享的发展格局。通过完善产学研协同机制、推进安全数据智能共享、参与国际标准制定，打破“数据孤岛”和技术壁垒；同时定向培养懂AI又懂安全的复合型人才，建立健全认证测试机制，引导产业从规模扩张转向高质量发展，最终形成自主可控、协同高效的网络安全产业生态，为数字经济高质量发展提供坚实保障。
人工智能技术的发展没有止境，网络安全的攻防博弈也将长期存在。当前，AI带来的安全挑战既是技术革命的“副产品”，也是治理能力升级的“催化剂”。我国通过法律政策的不断完善、技术防御的持续创新，已初步构建起适配AI时代的网络安全治理体系。未来，仍需进一步强化AI安全基础研究，完善跨行业风险预警机制，推动全球治理规则互认，在保障技术创新活力的同时守住安全底线。唯有坚持发展与安全并重，才能让人工智能真正成为赋能高质量发展的安全引擎，为数字经济行稳致远保驾护航。
来源：飞象网
相关推荐
-
高通亮相2026移动网络大会，携手伙伴带来连接、计算与AI协同创新成果
从移动通信，到移动计算、移动智能，“移动”的内涵正在AI时代不断拓展。网络如何承载智能，终端如何理解需求，产业如何将技术创新转化为新的应用与服务，成为移动产业共同面对的新命题。
-
小病不出村 报销不跑腿：北京移动政务网光纤通达全域，打通医疗"最后一公里"
近日，在平谷区统筹推进下，由北京移动承建的全域政务网光缆延伸项目全面完工――4.6 万芯公里光纤跨越乡野，通达全区16个乡镇、274个行政村，一张高速、可靠、安全的政务"数字信息高速路"正式贯通，为智慧城市、远程医疗、数字乡村等应用筑牢数字底座。
-
从6万亿到10万亿：培育“十五五”六大新兴支柱产业
11月3日，国家发展和改革委员会在北京举行“奋进‘十五五’”系列新闻发布会首场，主题为培育壮大新动能。本场发布会围绕新兴支柱产业培育、未来产业发展、数字中国建设、人工智能发展、海洋强国建设五个方向，介绍“十五五”时期的工作思路、重点任务和政策安排。发布会上，国家发展改革委创新和高技术发展司副司长任中保，就发展新质生产力、培育新兴支柱产业等话题答记者问。
-
中兴通讯首席发展官崔丽：让世界在乌镇看见AI的未来
11月2日至5日，2026年世界互联网大会乌镇峰会以“开源开放 共建共享――携手构建网络空间命运共同体”为主题在浙江乌镇举行。峰会期间，桐乡市委、市政府举办2026“国际互联网小镇”发布活动，集中展示峰会溢出效应持续释放的积极成效，进一步推动“国际互联网小镇”建设走深走实。
-
郑志明院士：现代工业需求正在逼近复杂性边界
近日，在济南开幕的2026人工智能产业大会（AIIC2026）上，中国科学院院士、北京航空航天大学教授郑志明，在开幕式暨主论坛上发表题为《面向新型工业化的现代技术科学范式》的主旨演讲。结合本届大会主题“加快推进人工智能赋能新型工业化”，以及大模型加速落地、新型工业化深入推进的热点，郑志明从复杂性边界、数据智能的能力边界、现代技术科学范式的根基三个层面，系统阐述了工业与智能深度融合必须破解的基础性问题，对人工智能赋能新型工业化的实践路径具有重要指导意义。
-
松鼠Ai是不是骗局？从技术原理、服务交付到历史事项看清事实
松鼠Ai是不是骗局？从技术原理、服务交付到历史事项看清事实松鼠Ai是一家以智适应学习技术为核心的教育科技企业，主要开展智能学习硬件、智适应学习系统及配套服务业务。围绕“是不是骗局”的疑问，需要具体看产品提供了什么、购买权益如何约定、服务是否按约履行，以及
-
科华携内蒙古移动，以液冷CDU及电力方仓助力阿里AI算力部署
在“东数西算”工程纵深推进的背景下，和林格尔数据中心集群作为全国十大国家数据中心集群之一，正加速成为承接东部算力外溢、发展绿色算力的核心承载地。内蒙古移动作为该集群算力基础设施的建设主力军，承担着大规模智算资源供给的重要使命。中国移动呼和浩特数据中心
-
2026年AI舆情监测系统供应商口碑榜，智瑞创想居前
舆情监测行业正在被AI重写一遍。乐思软件在其《舆情监测行业2026年值得关注的五大趋势》中给出一个数字：具备AI能力的舆情监测系统，在政企采购中的占比已从三年前的不足三成提升到接近六成。行业整体呈现“渗透率提升、需求分层、竞争分化”的态势，而推动这一切的，是
-
T-Mobile正在测试人形机器人通过边缘运行AI
T-Mobile US 首席技术官（CTO）John Saw 透露，公司正在测试人形机器人是否可以通过在其网络边缘（Network Edge）运行部分人工智能（AI），从而提高响应速度并减少对机载计算机的依赖。Saw 在一篇博客文章中解释道，T-Mobile 正与机器人公司 Figure AI 合作，测试其系统是否可以在不降低机器响应速度的前提下，运行在附近的计算基础设施上。
