随着人工智能渗透至公共安全、经济秩序等核心领域，近年来智能安全相关事件数量不断上升，人工智能安全治理的紧迫性日益提升。党和国家明确提出，人工智能发展要从“追赶布局”转向“安全可控与主动引领并重”。全国人大代表，中国移动浙江公司党委书记、董事长、总经理杨剑宇建议，加强人工智能安全治理，强化数据语料源头治理、模型算法风险管控、人工智能内容管理与核验，更好推动人工智能产业行稳致远。

当前，我国人工智能发展已进入技术快速迭代、行业深度融合阶段，2025年人工智能核心产业规模超1.2万亿元，增速达到33%，成为发展新质生产力、构筑国家竞争新优势的核心引擎。但近年来利用人工智能技术实施网络攻击、深度伪造、换脸诈骗等恶性事件频发，企业“人工智能+”改造面临数据泄露、合规风险等安全隐忧。

杨剑宇表示，当前我国人工智能安全治理已初步形成顶层规划与原则框架，但在具体落地中仍然存在一些问题。

一是语料库的合规性管理有待加强。国内标准语料库、行业数据集的建设仍在起步阶段，部分语料库数据来源混杂、内容审核不到位，带来人工智能技术和应用的价值取向偏差；大量国内语料库一味照搬国外资料，对语料背后的西方文化输出重视不够；数据安全保护技术的普及应用滞后，存在安全隐患。

二是防范“人工智能作恶”的系统性监管不足。利用人工智能技术进行深度伪造，进而鱼目混珠、扰乱视听甚至违法犯罪的现象层出不穷，现行监管机制在事前预防、事后监管、责任追究等方面面临新的挑战。

三是平衡创新与安全面临产业博弈。针对人机交互触及的数据安全和隐私保护的“红线”设置，以及技术路线背后的产业博弈，日益成为我国人工智能产业发展的焦点。

杨剑宇建议：

一是加强数据语料源头治理。鼓励建立训练数据来源记录与披露制度，明确要求大模型研发厂商提供清晰的开源协议证明或商业授权文件，健全内容安全过滤机制，推动构建合规的数据授权使用渠道，为产业提供清晰的合规指引；落实个人敏感信息收集、处理的“目的明确、路径可溯”要求，完善从“明确告知”到“操作可追溯”的监管操作细则；强化跨部门联合执法司法，严厉打击恶意爬取数据、批量生成侵权内容等行为，切实保障数据合规流动与价值释放。

二是强化模型算法风险管控。完善算法与大模型备案机制，在现有《生成式人工智能服务管理暂行办法》法规基础上，对具有舆论属性或涉及重大公共利益的人工智能算法与服务，加强算法类型、语料来源、安全评估等方面的审核审查；开展算法安全与伦理审计，定期评估大模型公平性、透明度及潜在风险，并予以公示；根据各类主体对系统的实际控制力和可预见风险的能力，明确人工智能系统开发者、部署者、使用者的责任边界和法定义务清单。

三是加强人工智能内容管理与核验。推动建立具有公信力的人工智能生成内容检测和溯源平台，打通不同平台、不同模型的标识数据接口，加强人工智能生成内容的源头审核、过程监测和溯源管理，支持对疑似人工智能生成内容的快速核验与溯源追踪。

责任编辑：kj005

文章投诉热线:157 3889 8464  投诉邮箱:7983347 16@qq.com