这两年，高科技行业发展速度着实太迅猛了。

左手人工智能，右手机器人，搞得很多反应速度慢的小伙伴一愣一愣的，完全不知所以然。

而伴随着新技术的发展，有人就动起了歪心思。

最近挂在热搜上的受害者，是演员刘晓庆。

3月3日，有网友在刘晓庆社交平台下留言，称有人在视频平台用AI生成视频假冒她。

刘晓庆看到后，震惊表示：

“天哪，我点进去看了一下，画面是我，声音很像我，但不是我！这是怎么做到的？大家以后不会搞不清楚哪个才是真的我了吧？

我在各个平台都叫刘晓庆！”

视频中的“刘晓庆”，身着干练的小西装，头顶精致的发型，面带微笑，一手捧书，一手拿麦，高谈阔论。

画面一样，声音也一样。

真不怪庆奶会迷糊。

评论区里，一众网友沉醉其中，连环彩虹屁简直跨上了天。

这个账号利用刘晓庆的形象与声音，使用AI生成视频，为刘晓庆量身打造出了一个完美的情感教母形象。

截止被封之前，共发了9条视频。

最高的一条，点赞7.8w。

针对AI换脸拟声现象，雷军在今年的两会就提出了建议。

希望相关部门能够在安全与发展并重的基础上提升立法立阶。

雷军为什么会提出建议？

这话说来倒霉。

他也是AI造假的受害者之一。

去年国庆假期，有人用AI捏造雷军配音。

国庆7天，“雷军”骂翻全网。

视频中的雷军，一口一句国粹。

还猖狂笑道：

“老子要远程控制你的小米手机，然后自爆！”

“直接操控小米 su7 撞x你！”

恶搞也就算了，更过分的是造谣。

比如某条视频，“雷军”称要给某大学50个亿的投资。

不少网友信以为真。

实际上，真雷军压根就不知道这件事。

还有人制作雷军各种跳舞的视频，那场面，别提多尬了。

别说雷军感到不舒服了，这换谁谁能舒服？

诚然，AI技术能为我们的生活提供很多便利。

但这不代表，就可以滥用AI技术，肆意践踏别人的名誉权。

类似造假视频只要一澄清，很多网友就明白怎么回事了。

可这只针对年轻网友。

让那些上了年纪的网友相信视频是假的，很难。

但让他们相信视频是真的，简直不要太简单。

一群看起来不到半岁的大胖小子，抱着金元宝行走在田野里。

视频前的老奶奶看见这一幕，无不羡慕地说：

“谁家那么多大孙子，长得一个比一个喜庆！”

当你认真跟奶奶科普这是假的后，就会收获奶奶白眼一枚：

“什么假的？你才是假的！”

奶奶不相信你转发的辟谣贴，但一定相信1岁小孩能徒手端起一整只乳猪。

然后光脚送到奶奶家门口。

还有小孩做饭的视频。

穿纸尿裤的婴儿能独自去地里摘茄子、把菜洗干净。

然后抄起菜刀，娴熟地给奶奶做三菜一汤。

奶奶们在视频下方留言：

“这大孙子，真孝顺啊！”

“宝宝慢一点，别伤到手了。”

“宝宝，你就是世界最好的宝宝。”

时间长了，奶奶们看自家孙子就没那么顺眼了。

你看人家小孩，不到一岁就能跑能跳，还能洗衣服做饭，你再看看你，多大的人了，整天吃了睡睡了吃，对这个家一点贡献都没有！

大学生孙子们欲哭无泪。

还有小猫骑自行车，小狗救人的视频。

奶奶看到后，感动不已。

顺便批评自家孩子：你看看你，整天就知道玩。

还有网友欲哭无泪地说

“我爸成天看AI，让我家的狗跟人家学学。”

还有更炸裂的。

当他们刷到3米高的女人嫁给了1米高的丈夫，第一反应不是怀疑，而是：

太感人了！

还有网友哭笑不得：

“我爸上次对我说三星堆发掘出了汽车高等文明，我定睛一看，好家伙，是AI做的青铜汽车！”

更有某研究所捕捉到外星人全家的视频，在网上传播。

一看便是AI合成的假视频。

可架不住有人信...

虽然视频是假的，但长辈们的开心是真的啊！

这样一想，好像也没什么大不了的。

但如果从搞笑视频发展成诈骗，阁下该如何应对？

还记得前两年的“假靳东”诈骗事件吗？

骗子团队注册大量账号，通过冒充演员靳东的方式，向粉丝索要大量钱款。

爱慕者里有一位姓黄的阿姨，非常疯狂。

60多岁的她，有老伴还有孩子和孙子。

但自从迷恋上“靳东”后，就像是变了一个人。

对待自己的老伴像仇人，非打即骂。

在她心里，只有靳东才是自己的丈夫。

就在主持人去她家进行调解之前，黄阿姨曾离家出走，跑到长春市。

这是因为靳东约她去那里见面。

靳东还对她做出了承诺：见面后会给她一套房子、一百万元。

真靳东听到这个消息，哭晕在厕所。

还有AI张文宏直播带货，称998的保健品买了回家效果绝对好。

甚至连一国总统也没有逃过被AI造假的命运。

“总统普拉博沃在线发钱”等一系列AI造假视频，席卷印尼。

视频中，大众被告知如果想要收到援助款项，必须向指定账户交纳一笔“管理费”。

不少受害者哭诉：

“视频里“总统”的眼睛在眨，嘴型也随着说话在动，就像真的坐在我对面和我说话一样。”

据警方统计，受害者已经遍布该国20个省份。

不仅是诈骗，还有造谣。

雅安一男子，利用AI炮制火灾谣言。

还有图有真相，没辟谣之前，周围居民人心惶惶。

还有网民闫某某，使用AI洗稿工具编造：

某品牌汽车L3自动驾驶致死案，称车企被判赔偿70%，文章阅读量超500万次。

最后，警方以涉嫌寻衅滋事罪对闫某某刑事拘留。

AI只需几十秒，就能轻松生产出来各种诈骗和谣言视频。

很多家中的长辈，没有什么分辨能力。

他们相信自己的眼睛，更相信视频中的内容。

AI造假，对他们来说就是一场灾难。

科普作家“河森堡”描绘了一个这样的场景：

“AI能虚构从文本到照片乃至视频的一切内容，并且令其彼此印证互相支撑，可谓天罗地网环环相扣，其制造的幻觉在强度上和之前编点文字故事时不可同日而语，除非你亲自见到专家本人求证，或者到现场实地考察，否则你会被AI创造出的假象玩得死死的。”

有时年轻人都很难分辨，更何况是老年人。

不过，任何事物都有两面性。

AI的出现，也带来了很多好处。

在医疗领域，AI可以帮助医生更准确地诊断和治疗疾病；

在教育领域，AI可以个性化地辅助学习，提供更好的教学资源；

在交通领域，AI可以提升交通安全和效率，减少事故和拥堵。

但坏处也是很明显的。

被侵犯肖像权、被造谣、甚至被诈骗等。

今天中招的是雷军靳东，明天中招的就有可能是你我。

所以呀，不管啥高科技，都不能抛开以人为本这个关键。

唯有法律严控底线、平台压实责任、公众提升警惕，才能避免技术狂欢演变为信任灾难。

写在最后：

当技术突破伦理边界，“相信”不再是本能，而成了需要反复验证的技能。

未来的世界里，我们或许会习惯性地问：

“这是真的吗？”

也许，这不是悲哀，而是文明的进步。

因为真正的信任，永远建立在清醒的认知与系统的保障之上。