如何遏制人工智能“说谎”
时间:2025-08-20 16:43:51来源:人民日报
制造出的虚假信息更具迷惑性,“AI(人工智能)幻觉”带来“一本正经地胡说八道”……易传播、难防治的“AI谣言”,对政府监管部门、互联网平台、技术研发者以及社会各界提出了新挑战。

如何遏制人工智能“说谎”?需要技术完善与规制,也需要系统性治理。多名受访专家表示,要完善法律规范和部门监管,推动形成多方联动的共治格局。

亮明法律底线,增强对“AI谣言”的威慑力


(资料图片仅供参考)

近日,借AI造谣燃气涨价的广西网民郑某受到行政处罚;一批传播“AI谣言”的网络账号被网信部门责令禁言或依法依约关闭;向用户传授如何利用AI“一键去衣”“换脸换身”的账号、公开售卖相关软件的网络店铺,受到网信、公安等部门联动惩治……

依法惩治的背后,是近年来AI相关法律法规的不断健全完善。《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等出台,向AI使用者和平台管理者亮明了法律底线,为执法提供了法律依据。

中南大学法学院副院长杨清望表示,“AI谣言”违法成本过低的问题仍然存在,要对不法行为严加惩处,完善相关法律法规,增强威慑力。

北京师范大学新闻传播学院教授许小可建议,针对生成和传播虚假信息的高风险领域,通过司法解释等法律形式,明确各方义务边界,制定科学合理的AI侵权责任认定指导标准。

与此同时,“AI谣言”案件取证难,困扰着办案机关。“解决涉‘AI谣言’案件取证难,需构建一套适应AI技术特性的证据收集与认定系统。”杨清望建议,通过建立完善案件证据的司法认定规则与标准,将不涉及商业秘密和个人隐私的平台算法透明化,以此破解证据与责任认定难题。

一些地方公安机关已经在监测和识别“AI谣言”上有所探索。“我们与科研机构、企业密切合作,进一步提高对恶意‘深度伪造’信息的监测预警和快速识别能力,与相关部门合作建立网络谣言巡查监测、核查反馈、会商研判、线索移送、打击处置的闭环机制,对于通过AI等方式合成的虚假信息,第一时间依法依规处理。”辽宁沈阳市公安局网络安全保卫支队民警杨永志表示。

加固技术堤坝,斩断“AI谣言”的传播链

有网友发现,一些网络平台上,AI生成图片、视频发布时“疑似AI技术生成”的提示语出现并不及时,给了虚假信息传播的时间。

“为了维护自身发展和利益,平台更应自觉治理‘AI谣言’,斩断‘AI谣言’的传播链条。”杨清望认为,发现AI谣言后,平台应立即采取下架、删除、辟谣等措施,尤其是面对重大事件、敏感话题,要加强图片、视频的真伪核查,及时消除谣言带来的负面影响。

如何加强真伪核查?

重视网民反馈。“建立便捷的举报和投诉渠道,对于网民反映的疑似谣言信息,要及时予以查证处理。对于多次利用AI造谣的用户,可以采取列入黑名单等禁止性措施,规范用户行为。”杨清望说。

“进行AI识别,还需要有力的技术保障。”中国政法大学网络法学研究所所长李怀胜表示,技术上,可以通过算法识别、大数据分析和区块链溯源等手段,识别和阻断谣言传播。例如,利用AI系统检测,通过自然语言处理和图像识别技术,自动标记可疑内容并减少推荐。

“监管部门还可以引入‘动态可追溯责任链’机制,使用内容显式标识和隐式标识等,探索开展‘AI谣言’的内容倒查和动态追责。”许小可说。

提高辨别能力,看清“AI谣言”的真面目

数数手指,AI可能生成“六根手指”;寻找阴影方向,AI也许把太阳挂反;看看面部表情,AI生成画面可能眼嘴不协调……AI谣言真假难辨,但仍可发现蛛丝马迹。

提高警惕,是提升“AI谣言”辨别能力的第一步。

看到“网友爆料”“独家内幕”的字样,或是发现信息逻辑存在漏洞或矛盾,就要注意了——它很可能经过了篡改或杜撰。“要谨慎分辨,尽量找到权威信息核实;也可以通过交叉印证的方式,验证信息真伪性。”许小可说。

还要增强法律意识,防止在“无意识”中助力谣言传播。

“有些人可能主观上并无造谣意识,只是将AI合成内容发布在网络上,结果被大量转发,从而产生负面影响。”李怀胜说。

对此,李怀胜提醒,AI生成内容可能存在事实性偏差、逻辑漏洞或时效滞后问题,使用过程中应保持审慎态度,不要直接公开发布未经核实的AI生成内容,防止无意间误导信息传播。

在媒体责任方面,专家认为,媒体平台应提高内容审核能力,通过官方渠道和权威信源核查信息真实性;自媒体从业者应增强法律意识,真实、准确、客观发布信息。

防治“AI谣言”,知识普及不可少。许小可认为,通过发布典型案例,引导人们了解“AI谣言”的生成机制、传播逻辑、话术套路和识别方式,可以帮助人们看清“AI谣言”的真面目。

AI技术发展迅速,学会“智慧”地运用“智慧工具”,才能让AI更好服务人们的生产生活。

标签:

最新
  • 如何遏制人工智能“说谎”

    制造出的虚假信息更具迷惑性,AI(人工智能)幻觉带来一本正经地胡

  • 银联国际与工商银行签署合作备忘录 中巴二维码跨境互联互通取得新进展 每日快播

     7月6日,金砖国家领导人第十七次会晤期间,银联国际宣布与中

  • 青藏高原东南部及长江中游等地有较强降水过程

    据中央气象台网站消息,昨日,福建、广东、广西、海南、云南等地部

  • 股票中签怎么交钱?股票中签是什么意思?

    股票中签是指在新股发行之前,会进行新股抽签,投资者参与新股申购

  • 奔驰董事会主席康林松:对中国汽车市场保持乐观态度 继续扩大在华投资

    3月23日,中国发展高层论坛2025年年会在北京开幕,本次年会主题是全

  • 中消协提醒广大消费者:节日期间抵制餐饮浪费

    中国消费者协会日前发布消费提示,提醒广大消费者,在春节期间抵制

  • 中蒙友城33年佳话:双向奔赴结硕果

    中新网呼和浩特11月23日电(奥蓝)23日,记者从呼和浩特市外事办公室

  • 水利部针对沪苏浙闽启动洪水防御Ⅳ级应急响应

    中新网10月31日电 据中国水利微信公众号消息,今年第21号台风康妮(

  • 天天实时:最高奖励500万元!上海设立千亿基金鼓励创业创新

    近日,第四届海聚英才全球创新创业峰会在上海举行。记者了解到,为

  • 医保报销比例是多少?在学校买的保险怎么报?

    医保报销比例是多少?医保报销比例是70%-90%之间,不同情况以及不同

  • 德国汽车工业面临转型困境|全球观天下

    (资料图片)大众汽车集团标志和大众汽车模型。新华社 法新新华社柏

  • 【共享经验 共促提升】遂平县检察院到泌阳县检察院开展刑事案件繁简分流工作交流会

    为进一步优化司法资源配置,持续提升刑事案件办理质效,10月8日上午,

  • 【早安,黄山】歙县长陔岭隧道开工 ‖ 黄山风景区今年接待游客突破300万人

    222023 08清华大学五道口金融学院EMBA企业家黄山考察交流座谈会举行何

  • 含糖饮料到底“多不健康”?如何换算饮料中的“糖”?

    面对货架上琳琅满目的饮料,你会有意识的选择心目中更“健康”的种类吗

  • 2023年8月20日湖北省曲酸价格最新行情预测

    中国报告大厅2023年8月20日湖北省曲酸价格最新走势监测显示:湖北弘景

  • 安里人语/重磅股逆市靠稳 伺机吸纳\冯文慧

    大公网港股频道

  • 旅游
    • 每100股都要5元手续费吗? 股票交易中的一手是多少股?_环球观天下

    • 世界速读:港股通科技30ETF(159636)份额逆市大涨 解码资金加仓逻辑

    • 最长续航610km 荣威中高级纯电轿车D7官图发布-时快讯

    • 中央确定北方地区十大城市:西安坐稳前三,哈尔滨领先郑州