人民网
人民网>>社会·法治

切实把好人工智能安全关口

杨广铭
2025年09月18日08:40 | 222
小字号

点击播报本文,约

如今,人工智能正深刻改变着人们的生产生活方式,也给社会安全与稳定带来了严峻挑战。人工智能技术的复杂性和不确定性带来多种风险,有可能对个人、企业和社会产生较大的负面影响。因此,推动人工智能安全体系建设,切实把好安全关口,已成为全社会亟须应对的重要课题。

近年来,我国持续加快人工智能技术领域立法步伐,出台了一系列法律法规,在加强对人工智能监管、防范人工智能风险等方面发挥了积极作用。随着人工智能技术应用的快速发展,我们需要进一步把握发展趋势和规律,加快人工智能立法进程,制定具有前瞻性的人工智能法律法规,为相关技术的研发、应用和管理提供法治保障;聚焦人工智能重点领域制定法规政策、行业规范,强化对人工智能技术滥用的法律约束,逐步完善人工智能相关法律体系,为人工智能安全治理提供法律依据。

在现有法律政策框架下,相关部门要加强对人工智能的监管,把平台、企业、开发者、使用者的法定责任贯通到底,针对算法推荐、深度合成、生成式服务,完善安全评估、备案审查、标识提示、分类分级等制度安排,推动企业建立首席安全官和算法治理机制,形成“可解释、可审计、可问责”的闭环治理格局;建立包括技术风险、数据安全风险、伦理风险、社会影响等在内的风险评估体系,对人工智能系统的潜在风险进行全面、动态的评估,以便及时发现和防范风险;进一步建立健全分类分级监管机制,根据人工智能应用的领域、风险等级、安全后果以及容错能力等,划分不同监管级别,实施差异化的监管措施,以确保人工智能技术健康、安全、可持续发展。

针对“AI造谣”“AI换脸换声电诈”等突出问题,相关部门要提升线索感知、源头封堵、溯源取证、依法处置能力,对利用人工智能进行违法犯罪的行为进行全要素研判,严格整治“数据链—算力链—工具链—资金链”黑灰产业,强化快速止付、紧急冻结、追赃挽损,坚决遏制借“智”行骗、以“技”害民;要把“以技治技、以智御智”作为建设方向,加快建设大模型,服务人工智能全领域;要打通数据壁垒、业务壁垒、系统壁垒,完善实战化实验室和联合攻关机制,以科技赋能严打违法犯罪行为。

对人工智能实行有效安全监管,离不开全社会的共同参与。相关部门要建立协同监管机制,形成监管合力;建立社会多元共治机制,鼓励行业协会、社会组织、企业等参与人工智能安全治理,着力形成政府部门、企业、社会组织和公众共同参与的协同共治新局面;要加大宣传力度,用好人工智能技术应用“正面清单、负面清单、风险提示”,营造风清气正、向上向善的网络生态。

(来源:人民公安报,作者单位:辽宁省大连市公安局网安支队)

(责编:马昌、薄晨棣)

分享让更多人看到

推荐阅读
返回顶部