版权归原作者所有,如有侵权,请联系我们

揭秘!AI竟是互联网垃圾内容生产的“元凶”?

北京科学中心
北京科学中心(北京青少年科技中心)科普号
收藏

审核专家:刘相权

北京信息科技大学机器人工程系主任

首先问你一个问题:你使用过AI辅助工具吗?

图片来源 | 界面新闻

在这个“AI时代”,写一篇有模有样的文章,门槛已经很低了。在AI的帮助下,我们或许比不了真正文学家的文笔,但是只需要一个想法框架,AI就能将它扩充成一篇完整的文章。

图片来源 | 文心一言

不知道你是否发现,搜索引擎中的很多搜索结果,已经被AI生成的内容占据,而其中不乏错漏百出的“垃圾内容”。

面对AI生成的这些“垃圾内容”围剿,我们如何才能突出重围?

AI为什么开始生产“垃圾内容”

什么是“垃圾内容”?想象一个场景:当你的作业或者论文面临截止日,而你的工作进度又实在“惨不忍睹”,于是只好让AI根据你的描述生成一段文字来“滥竽充数”,这就是“垃圾内容”的一种。

如果你使用过AI为你生成内容,你就会发现只有不断打磨你对工作内容地描述,AI才能生成出一篇令人满意的稿件。

本月发表的一项研究中,对多个知名科学会议上研究AI的科学家,在同行评审中的用词频率进行了统计。

“细致”一词的频率是前一年的34倍以上、“值得称赞”的频率大约是10倍、“复杂”则是11倍。这些短语是现代大型语言模型(如ChatGPT)的最爱。

图片来源 | 知乎

换句话说,大量AI会议上的研究人员将他们的同行评审工作交给了AI,或者至少是在AI的大量帮助下撰写,而且截止日越近,这种现象越明显。

以前我们说Deadline是第一生产力,现在这恐怕是AI的“第一生产力”了。

除了被截止日逼得不得不借助AI的情况之外,还有一些钟情“流量为王”的自媒体从业者,正在通过AI编辑低成本、高效率的虚假内容,这些内容都有相同的特点:

1.标题很惊人、吸引流量,点击量和评论数都很高;

2.内容格式化,每一篇都不尽相同,但是又非常类似;

3.引导评论发泄情绪,却忽略了对客观事实的探求。

没有营养的、虚假的内容在AI的“帮助”下充斥网络,从这些“垃圾内容”中找到自己真正需要的信息,时间成本正在不断提升。

这些“垃圾内容”都是AI的错吗?

AI能够变得越来越智能,一方面依赖人工智能训练师通过语言模型训练来帮助AI变得更“聪明”,另一方面也依靠AI通过大模型数据从互联网获取信息来进行“自学”。

训练师通过输入大量文字、图片等内容,帮助AI不断学习提升自己的内容生成能力,这也让那些靠生产“垃圾内容”获取流量从而牟利的垃圾信息制造者,也盯上了用AI帮他们耕作“内容农场”。

内容农场,通常是指专门使用软件进行制作大量的垃圾内容获取用户点击,从而提升自身在搜索引擎中的排名,变得更容易被搜索到。内容农场的核心是“发布各种写作话题”,根据自行发明的一套算法,来评估两样东西:其一,什么是当前网络话题热点;其二,什么样的关键字更容易带来高广告收入。

图片来源 | 腾讯云开发者社区

其实“垃圾内容”污染互联网不是一天两天,只不过如今AI帮助这些人更加容易地生产着这些内容。只需要想出一个耸人听闻、吸引流量的标题,然后输入到AI工具里面,利用大语言模型的“幻觉”效应(就是可以围绕用户输入的信息生成事实上不真实的内容),“垃圾内容”就能够被快速地生产出来,AI也就成为了生产“垃圾内容”的“帮凶”。

内容生产过程中如何合理利用AI?

我们应该了解的是,AI并非只能生产“垃圾内容”,通过正确地学习训练,AI甚至能够写出诗歌。

知名科幻作家刘慈欣在1989年发明的一款“电子诗人”软件,这款软件可以以200行/秒的速度进行现代新诗的生产,并产出像下面这样的诗句:

“小行星被呼唤了!/在固体的周围,只有胶状的稻田/不,我不想飞翔!!/我思念//三角函数被观看了!/在仙女座的周围,只有活的巨川/不,我不想自我吞食!!/我沉淀//蜻蜓被捏住了!/在东方快车的周围,只有哇哇叫的弓箭/不,我不想冒烟!!/我交谈//禁闭室被警告了!/在剑的周围,只有吱吱响的时间/不,我不想梦游!!/我腐烂。”

AI会助纣为虐生产“垃圾内容”,同时它也能够成为我们在写作、学习中的好伙伴。

1.想让AI提升,你得先自我提升

有的时候,我们总会觉得AI并没有它宣传的那么聪明,这有可能是提示词有问题。

图片来源 | ChatGPT

“3W1H”模型是结构化提示词的好方法,也就是“who、what、why、how”:定义你希望AI扮演的角色与目标,明确需求和细节方面的要求,阐述需求的背景和目的,并给出希望的结果与红线。

使用AI前先训练一下自己给出提示词的能力,或许和AI的合作就能事半功倍。

2.让它成为你的“灵感搭子”

千里之行始于足下,写出一篇好文章往往最难的是第一步:找到一个好选题。

图片来源 |《机器人总动员》

如果你觉得你的灵感有些匮乏,一时之间又找不到合适的人与你讨论开阔视野,那么不妨和AI聊一聊,通过“行业100问”、热点分析、话题延伸等让它帮你捕捉灵光闪现的瞬间,你就拥有了一个随时在线的“灵感搭子”。

3.不会起标题?问问AI吧

一个好标题对于文章能起到多大的加分作用?在你遇到一个好标题之前你可能永远也不知道。

图片来源 | 网易

如果你是起标题的“苦手”,那么不妨让AI来帮帮你,并为它制定几个不同的标题风格需求,从中选择一个你最喜欢同时也符合文章主题的标题,那么“写文1小时,起标题占一半”的情况也就不会再发生了。

AI产出了不少“垃圾内容”,但源头是人对AI技术的滥用,正确使用AI对于产出更高质量的内容,能够起到巨大的助力。话说,本篇文章的标题就是AI生成的,你觉得AI的表现如何?你能让AI生成出更好的标题吗?在后台私信里告诉我们吧。

评论
科普中国●yling
进士级
我们创造了具有惊人能力的AI,但它却产出了不少“垃圾内容”。我们要防止对AI技术的滥用,不能让“垃圾内容”占据网络的主导地位,要让正确的信息成为主流,更好地为人类服务。
2024-05-02
点亮科技梦想
学士级
当你的作业或者论文面临截止日,而你的工作进度又实在“惨不忍睹”,于是只好让AI根据你的描述生成一段文字来“滥竽充数”,这就是“垃圾内容”的一种。
2024-05-02
守信坚信
少师级
“细致”一词的频率是前一年的34倍以上、“值得称赞”的频率大约是10倍、“复杂”则是11倍。这些短语是现代大型语言模型(如ChatGPT)的最爱。
2024-05-02