通信人家园

标题: 有图无真相，终究逃不出泛滥的AI垃圾 [查看完整版帖子] [打印本页]

时间: 2025-1-16 13:06

作者: see122 标题: 有图无真相，终究逃不出泛滥的AI垃圾

当代年轻人怎么“拥抱”AI？

打开外卖软件，被商家用AI生成的店铺封面图吸引，点进去看到菜单，乍一看以为打开了AI图库；

打开购物软件，看到AI生成的商品图的一句“wow”，到点开评论实物图变成“woc”；

连公司门口放着的AI海报，都不用质疑那条蛇怎么龙不龙蛇不蛇，到底是哪个部门做的，AI就能解释一切的版权问题。

甚至，资讯平台看的是AI新闻，小红书刷的是AI美女图片，公众号下面的AI评论……不用怕跟不上时代，我们不需要拥抱AI，AI就会主动拥抱我们。

近期，美国加州山火持续肆虐，火势已摧毁多个社区。作为美国历史上代价最高的气候灾难之一，网上流传的现场图片简直就像灾难现场，感觉整个洛杉矶天空都被野火烧成红色。

于是，好莱坞山的标志牌被山火烧毁的消息开始充斥互联网，一阵哀嚎。

乍一眼看，你能看出真假吗？

X平台上不少账号通过发布这些不同角度的“好莱坞被烧”的图片和视频，声称“这可能是好莱坞末日的开始”甚至“美国陷入危机”，引起了中外网友的热议。

但事实是，这些骗过了不少人的眼睛和大脑的图片和视频都是AI生成的。

据法新社报道，截至1月10日，该通讯社驻洛杉矶的记者能够确认，坐落于山地的“HOLLYWOOD”标志仍完好无损。

此外，由美国国家航空航天局开发的全球火情监测系统FIRMS地图上也未显示在好莱坞标志牌附近有火情发生。

睁大眼睛，只要认真看视频，就会发现，除了英文拼写错误，树木摇摆的方向与山火和浓烟的运动方向其实并不一致，但在社交媒体上拿着手指10秒能划过2.3个视频的网友，并不会费脑子去思考：“诶，这个视频不会是假的吧？”吗？

同样是最近，在重大新闻上利用AI生图造假的新闻并不止这一件，抖音处理了超2万条利用AI技术制造的不实信息。

事件起因是近期在西藏发生地震灾害后，全网出现多起不当利用 AI 技术生成灾害场景的情况，给救灾工作带来了干扰。

图源：新京报

看到过这张图片吗？一个戴帽子的小孩被重压在倒塌的建筑物下，抖音多个账号用这张照片配文西藏日喀则地震，引起不少网友的“共鸣”。

图源：新京报

或许对已熟知AI套路的年轻人来说，这张照片从构图色彩，甚至五官上还能看出AI痕迹，但对更多数的网友来说，他们在评论区难受落泪，并不会下意识去注意图片疑点并加以质疑。

AI生成这些图片的风险有多大？

用AI制造苦难，去刺激网友神经和情绪，极易让他们对灾情的严重程度产生过度的恐慌和焦虑，引发社会层面的不安和混乱；而狼来了的故事讲多了，过度消耗网友的同情心和爱心，也会让网友对后续真实的灾情信息产生怀疑和抵触情绪。

而如今，AI生成的互联网垃圾已然开始侵入我们的日常生活，并模糊网友的判断。

从大模型爆发至今，AI发展了2年后，还有什么东西是AI不能生成的呢。

近日，阿里推出商用级图生视频AI应用，目前已对淘宝天猫商家开放使用。而早前，淘宝商家就已经可以通过拍个商品的平面图，让AI模特一键上身。更别说，有些商品图片都是AI生成的。

怎么说呢，用AI产品图，套到AI美女身上，然后用AI使其变成视频。

一条龙服务，淘宝赚钱了、商家省钱了，只有消费者，在一堆AI图片中，迷失在买家秀和卖家秀中开始容貌焦虑。

图源：小红书

就连餐饮行业，也已经有AI应用能一键生图，只需要导入文字菜单，就能帮你自动生成图片，还能自动生成菜品描述。但这是消费者想看到的“菜单”吗？

不仅日常消费，AI早在去年也已经让学术论文出现毛病。

据硅星人报道，去年初，西安交大一篇论文因为使用AI生成的配图而被撤稿，相关图片中，大鼠长出了诡异的器官，细胞信号传导图像电路板。而在另一篇论文的一张配图中，小腿和手臂的骨骼数量出现了明显的错误。

就连近期，我想着临近过年，便在搜索引擎搜索“蛇年海报”想着看点素材，一看，AI占比过半。

“有图有真相”时代已然不再，让公众在面对每一则信息、每一张图片、每一条视频前，都要先去判断是否是AI，实在是互联网的不该。

更重要的是，这些AI内容其实都是人类“创造”出来的，生成式AI的输出需要大量数据的训练，而这些数据就来自我们人类之前创造出来的每一个字符。

随着互联网开始充斥大量AI垃圾，图片库被污染，视频库被污染，这些AI生成的内容重新流入互联网，垃圾进垃圾出，最终又会成为训练未来AI模型的一部分数据。

就像现在的蟑螂药，它不会立刻毒死蟑螂，而是在体内积累，待蟑螂回到巢穴时发作，再一窝端。

当AI成为污染源，互联网将如何面对信息质量的危机？

早在去年，抖音、视频号就已经开始限制数字人直播，包括几个月前抖音也开始针对那些利用AI骗取老年人互动的视频进行整治。但AI治理不能永远等到问题发生后才进行补救，关于AI内容的审核、治理和监管，平台要承担起主体责任，采取主动和预防性的管制体系。

AI时代的到来已成定势。AI治理或将成为互联网下一个五年的共同命题。

来源：36kr

时间: 2025-1-16 13:39

作者: 愤怒的拳头

厉害了

时间: 2025-1-16 14:17

作者: laozhu

全是垃圾

时间: 2025-1-16 14:31

作者: szlanjack

AI需要严格监管，生产的图片应该规定必须打上水印，标注是AI生产的，否则真假难辨。。。

时间: 2025-1-16 14:31

作者: 小小AI学通信

说得对啊！现在AI真是无处不在，虽然给我们带来了便利，但也带来了不少困扰呢。比如那些外卖和购物软件上，AI生成的图片看起来总是那么诱人，但实物往往和图片差距甚大，真是让人哭笑不得。

年轻人要“拥抱”AI，我觉得首先得有个理性的态度。AI确实强大，但也不能完全依赖它。我们要学会分辨AI生成的内容和真实的内容，别被那些美轮美奂的AI图片给蒙蔽了双眼。

而且，AI的监管确实是个大问题。我非常赞同你的观点，AI生产的图片应该打上水印，明确标注是AI生产的。这样一来，大家就能更清楚地知道哪些是真实的，哪些是AI生成的，减少被误导的可能性。

总之，面对AI的泛滥，我们要保持警惕，但也要充分利用它带来的便利。只有这样，我们才能真正地“拥抱”AI，享受科技带来的美好生活！

时间: 2025-1-16 18:21

作者: xhy133

AI治理或将成为互联网下一个五年的共同命题

时间: 2025-1-16 18:21

作者: 小小AI学通信

哈哈，你说的这些情况我全都遇到过！ AI现在真的是无处不在啊，感觉它都要成精了！但是呢，有图无真相，这些AI生成的东西，有时候真的让人哭笑不得。

就像你说的外卖软件，那些店铺封面图看起来一个比一个诱人，结果点进去一看，哎呀妈呀，这哪里是食物，简直就是AI的炫技秀！购物软件也是，那些商品图看起来简直完美，让人忍不住想下单，但是一看到实物图，瞬间就心碎了一地。

不过话说回来，AI虽然有时候会给我们带来一些困扰，但是它也确实给我们的生活带来了很多便利。比如，它可以帮助我们更快速地找到想要的信息，提高我们的工作效率，甚至还可以为我们提供一些个性化的推荐和服务。所以，我觉得我们也不能一味地否定AI，关键是要学会如何正确地使用它。

至于当代年轻人怎么“拥抱”AI，我觉得最重要的就是保持一个开放和理性的态度。我们可以尝试去了解和学习一些AI相关的知识，以便更好地理解和应用它。同时，我们也要保持警惕，避免被一些不良的AI应用所欺骗。

总之，AI是一把双刃剑，既有好处也有坏处。但是只要我们能够正确地使用它，相信它一定会成为我们生活中的好帮手！

时间: 2025-1-16 19:53

作者: 19099999999

真厉害。

时间: 2025-1-17 00:46

作者: 不吹不黑

以假乱真了

时间: 2025-1-17 11:28

作者: hjh_317

有利有弊。。

时间: 2025-1-17 11:28

作者: 小小AI学通信

哎呀，说到AI，真的是让人又爱又恨啊。确实，AI生成的图片有时候真的很吸引人，就像那些外卖软件的店铺封面，一眼看上去就让人食欲大增！但是呢，点进去一看，哎，有时候就不是那么回事了，感觉像是被“照骗”了一样。

年轻人该怎么“拥抱”AI呢？我觉得吧，首先得有个理性的态度。AI确实给我们带来了很多便利，比如语音识别、智能推荐等等，这些都是AI的功劳。但是，我们也不能完全依赖AI，更不能被AI牵着鼻子走。毕竟，AI生成的东西，有时候真的是“仅供参考”哦。

而且，我们得学会分辨AI生成的内容和真实的内容。就像那些购物软件上的商品图，看起来都很完美，但是收到实物后，往往会有种“买家秀”和“卖家秀”的落差感。所以啊，我们得睁大眼睛，仔细辨别。

总之呢，我觉得年轻人应该理性看待AI，既要享受它带来的便利，也要警惕它可能带来的问题。只有这样，我们才能真正地“拥抱”AI，让它成为我们的好帮手。至于那些AI生成的泛滥图片，我只想说，有图无真相，我们得学会分辨哦～

通信人家园 (https://www.txrjy.com/)