网信办整治无AI标识虚假信息 2026年识别技术严打谣言

阿木 发布于 9 小时前 5 次阅读


夜里一点零五。

脸上被手机屏幕的光照着,才刷到一条,讲某地燃气会大幅上涨,鉴于政策文件已下达,表述条理清晰,呈现红头发文格式,公章所处位置无误。

我差点信了。

往下翻,官方通报:AI生成的。人抓了。

瞧瞧,在凌晨一点的时候,我险些就变成了谣言传播链条当中,那个“好心去提醒家人”的环节呀。

你根本不知道,AI撒谎有多努力

以前觉得假消息low。

PS抠图的边缘呈现出虚的状态,营销号所撰写的文案读起来好似机器翻译那般,“震惊体”仅仅瞧一眼标题便能晓得那是诱饵。

现在呢。

它已然学会书写“据悉”以及“根据《暂行办法》第二章第六条”了,能够运用冒号与引号去佯装采访对象,甚至于会特意留下几个错别字,鉴于太过完美反倒显得虚假,这人类是明白的。

它比你还懂人类 。

“62.2%的人把手机当成了朋友”

这是北邮一位老师刚发的调研数据 。

朋友。

朋友会骗你吗?

发出疑问的情况属于你不会有的,针对手机发送过来的那段视频而言。因为那可是朋友呀。就算视频里的人手指数量达到了六根之多这样的状况出现,你也会在心里产生这样的想法:或许是拍摄时角度所导致的种种问题吧。

信任幻觉。他们管这个叫信任幻觉 。

我感觉这并非是幻觉,这乃是人类历经几千年所构建起来的认知习惯,被一行行代码拆除了根基。

那只被AI做死的熊猫

去年那只叫“宝力”的大熊猫。

在网上疯狂流传着这样的情况,它身上布满了伤,处于抽搐状态,还遭受了虐待。所配的视频当中,它的确存在颤抖的现象,眼神也是呆滞的。当时,我愤怒不已,将相关内容转发给了所有养猫的朋友。

后来园方发了37张连续截图,发了监控原片。

没几个人转发了。

旧时道理称,愤怒比真相跑得更快。然而,以往制造愤怒需花费时间,如今借助AI,仅五分钟就能为你炮制出上百个版本的“受虐熊猫”,涵盖不同角度、不同文案以及不同情绪浓度,还会精准地投递给不同圈层。

你愤怒的那个“事实”,可能是专门为你定制的 。

### “怎么识别AI假消息”

别信手指头了。

他们现在会把第六根手指修掉。

也别信阴影方向。AI早就学会太阳该挂哪边。

更具难度的情形是,存在一些账号,你对其关注已历经三年时间,然而突然间开端发布借助AI进行洗稿炮制的虚假新闻。并非其本性歹恶,而是承接了商业订单,每一篇的报酬为八块钱。你无从知晓取消对其关注究竟归属于“抵制谣言”范畴,还是算作“情绪决裂”。

网信办上个月封了一万三千多个账号

没标注是由AI生成的狗实施救人行为的视频,利用AI换脸技术伪造成的假明星进行拜年的画面,以及奥特曼呈现出怀孕状态的内容……

是真的封了 。

但封完呢。

被罚的是造谣的郑某,那个说燃气涨价的广西人,罚了,然而他的文案早就被十几个营销号存进草稿箱,换个地名,明天便又能发。

违法成本低。中南大学一位副院长也这么说 。

低到何种地步?低到存在有人花费八百块雇请他人撰写稿件,那稿件是由AI生成的,在全网引发轰动,致使企业营业额下降了两成,最终的结果仅仅也就是进入“刑事强制措施”阶段。这不失为算得上一顿重拳出击了。然而,还有数不清的八百块,在灰色地带持续游走。

我有时候想,平台到底知不知道这是假的

肯定知道。

算法比我先识别出“疑似AI生成”。但它不标,不拦,不降权。

它处于等待状态,等待着我去进行点赞操作,等待着我去开展评论行为,等待着我停留那具有宝贵价值的三秒钟。而这三秒钟,那可是等同于业绩的存在,是等同于日活的体现,是要给股东去查看的曲线呀。

讲到三秒之后我究竟信还是没信,这属于网信办负责的范畴,属于公安局负责的范畴同时亦是那个遭受三天谩骂得以澄清的企业负责的范畴。

### “新网络安全法改了哪里”

2026年1月1号,AI正式“入法”了 。

有那么一回,法律当中明确规定了要去“完善人工智能伦理规范”,并非是技术指南,而是伦理方面的规范。

还有那个“首违即罚”。

先前平台出现违规情况时,首先会责令进行改正,若不改正才会实施处罚。如今则无需等待,刚一看到你存在违法情形,罚单便能够张贴在门上。

这很好。

要实现可取证着实存在困难,那证据究竟该如何进行固定?而关于算法黑箱又要怎样去打开?平台宣称“我的推荐机制属于商业秘密”,面对这种情况,你会采取怎样的应对办法?

清华大学有个老师说了句话

他说:不能老让老百姓自己鉴别。

对啊。

我就连晚饭该吃些什么都无法拿主意,你却让我去辨别拜登是否真的在讲俄语,去辨别火山爆发视频是不是采用三年前的素材拼接而成的?

用以鉴别的成本实在是太高了,高至绝大多数人会直接选择放弃,出现其放弃的两种不同表现,一种是完全相信,另一种是全然不信,是这样的两种情况。

什么都不信,其实也挺可怕的。

那个卖“去AI标识教程”的店铺

上个月关了。

小红书、淘宝、拼多多,有好几家都在售卖。教你如何把“本内容由AI生成”那行小字消除掉。或者让标识根本就显示不出来。

这算不算“帮助犯罪”?

算的。但人家说:我只是卖个软件,用户拿去干嘛我不知道。

责任被切得太碎了。

程序编写人员表示自己只需专注于代码撰写,网络平台方称自己仅拥有删除帖子的权限 ,使用者宣称自己不过是随意进行了一次转发。最终遭受处罚的 ,常常是那个最为愚钝的 、在转发内容之前忘记添加 “搬运 ”两个字的平常之人。

我其实不怕AI太聪明

我怕它太会讨好我。

它清楚我喜爱看的内容,清楚我对哪一种新闻缺乏抵御能力,清楚凭借“网友爆料”“独家内幕”这六个字便能使我解除防备句号。

它不是在撒谎。

它在帮我实现梦想,将我潜意识当中所坚信之物,转化为一篇配有图片且图文并茂的“证据”。

然后我再拿着这些证据,去说服别人。

写到这里,屏幕又亮了一下

同款谣言,换了个城市名,又出现了。

这一次我划掉了。

没举报,没截图,没发群里辟谣。

凌晨一点二十三分,我仅仅是不愿再为这个庞大的、彼此滋养的谎言制造装置,奉献我任何一丝一毫的注意力。

这可能是我唯一能做的抵抗。

可是你呢,你才刚刚读完的那篇文章,我在撰写它期间可并未借助任何人工智能的辅助呀。

你信吗。

你看,你犹豫了。

这就是2026年,我们共同拥有的、脆弱的、回不去的日常。