万博体育下载

e法豫说丨AI扯谎 你分得清吗?

2025年05月30日10:49

来源:大河网

大河网讯 5月27日,“e法善治 网聚同心”全国网络普法行·万博体育下载站活动在郑州启动。现场,洛阳市司法局普法与依法治理科科长李海芳为大家分享的“AI换脸诈骗”案例再次牵动了人们对“AI技术滥用”话题的敏感神经。

如何分辨屏幕上的真真假假?记者结合近期出台的《人工智能生成合成内容标识办法》(以下简称《办法》)教网上冲浪的你练就火眼金睛,找准AI真正服务于人的正确姿势。

AI滥用 虚假信息成“新毒瘤”

近年来,AI生成合成技术快速发展,其“双刃剑”效应也日益显现。AI假冒他人实施侵权违法行为,热点事件频现AI伪造现场图片,AI生成虚假信息泛滥,误导公众、扰乱舆论,暴露出AI技术滥用带来的严峻挑战。

为规范AI服务和应用,促进行业健康有序发展,保障公民合法权益,中央网信办于4月30日正式印发通知,部署开展为期3个月的“清朗·整治AI技术滥用”专项行动。

据了解,此次行动从源头到传播全链条严厉打击包括AI谣言、色情低俗内容、假冒他人、网络水军、违规应用、未成年人侵害等七类违法行为,同时建立“黑名单”制度,对传播虚假信息的MCN机构、平台实施联合惩戒。

《办法》落地 AI内容打上“数字身份证”

作为技术治理的核心抓手,《人工智能生成合成内容标识办法》应运而生,要求所有AI生成内容必须添加显式或隐式标识。

“在文本、图片、视频中直接标注‘AI生成’,例如水印、文字提示或语音标识,就是显式标识。通过元数据嵌入不可见数字指纹,供技术平台识别溯源,就是隐式标识。”大河网网络研发工程师关心告诉记者,目前,微博、抖音等平台已上线“AI生成标识”功能,对未标注的合成内容限流处理。

技术赋能 三招练就“火眼金睛”

面对AI伪造内容,公众如何快速辨别?结合《办法》及专家建议,记者总结出以下几个查验步骤:

图片鉴别,细节处见真章。注意真实场景中光线方向一致,AI伪造图可能出现人物与背景明暗不协调。放大图片边缘,AI生成内容易出现锯齿状或色彩突变。网友也可使用“以图搜图”工具,对来源不清的图片谨慎传播。

文本鉴别,逻辑与细节双验证。AI文本常缺乏具体时间、地点,如“某地发生事故”而无详细信息。AI生成内容可能出现用词单一、逻辑断裂,例如因果描述生硬。

音频鉴别,波形与情感双比对。真人语音波形呈现自然呼吸起伏,AI语音则平直机械。AI模仿的语气单一,难以还原真实情绪波动。

其实,AI技术的每一次突破都伴随着新的治理挑战。从“清朗·整治AI技术滥用”专项行动到《人工智能生成合成内容标识办法》,万博体育下载正以法治化、技术化手段构建网络空间“防火墙”。

作为普通网民,我们既要善用AI提升工作、生活效率,也要警惕技术异化带来的认知陷阱。在这场攻防战中,唯有技术创新、制度完善与公众意识提升协同发力,才能让AI真正服务于人,而非成为谣言与欺骗的工具。(刘思嘉 范弘烨)

编辑:陈梦伊  审核 :王世洋

我来说两句 0条评论 0人参与,