大学生使用GPT-3工具撰写虚假博客文章,成功登上HackerNews的榜首
据外国媒体MITTechnologyReview报道,大学生LiamPorr使用该语言生成AI工具GPT-3,生成一篇虚假的博客文章,在HackerNews排行榜上名列前茅。Porr试图证明,GPT-3的内容可以欺骗人们,让人相信它是人类写的。他还说:"这其实非常容易,这是最可怕的地方。
GPT-3是由旧金山的OpenAI公司设计的一系列人工智能自动化工具,已有数年的历史。其中,"GPT-3"代表的是"Generative预训练转换器"(Generative预训练转换器),它根据人类作家的提示自动完成文本。
它的工作原理如下
和所有的深度学习系统一样,GPT-3在数据中寻找模式。为了简化操作,程序被训练成一个庞大的文本语料库,程序的统计规律已经被挖掘出来。这些规律对人类来说是未知的,但它们被存储为GPT-3神经网络,在不同节点之间有数十亿个加权连接。
重要的是,人工输入不涉及此过程:程序在没有任何指导的情况下查找和发现模式,然后使用这些模式完成文本提示符。例如,如果在GPT-3中输入单词"FIRE",程序将根据网络中的权重接收诸如"卡车"和"警报"之类的单词,这比"清晰"或"elvish"更有可能出现。
Porr的博客文章名为"Feelingunproductive?Maybeyoushouldstopoverthinking"(感觉效率低下?也许你应该停止过度思考)。
定义二:过度思考(OT)是试图想出别人所想出的想法的行为。OT的结果往往是不现实的、不可能的,甚至是愚蠢的想法。
波尔提交了申请。他用一份简单的问卷填写了一份打算使用的表格。但他没有等。在会见了伯克利人工智能社区的几名成员后,他很快找到了已经可以使用的博士生。
在研究生同意一起工作之后,波尔写了一个小剧本供他运行。它为GPT-3提供了博客帖子的标题和介绍,并列举了几个完整的版本。
Porr的第一篇文章(这篇文章刊登在HackerNews上)和随后的每一篇文章都是其中一个输出的直接复制和粘贴。
自从我想出了这个想法,并与博士生接触后,我实际上开了一个博客,第一个病毒博客--花了几个小时,"他说。
在不编辑的情况下生成内容的诀窍是理解GPT-3的优缺点。"它擅长写漂亮的语言,而不是逻辑和理性,"波尔说。因此,他选择了一个不需要严格逻辑的热门博客类别:生产力和自助。
波尔说,他想证明,GPT-3可以被冒充为人类作家。的确,尽管该算法是以一种奇怪的模式编写的,偶尔也会出错,但在他对HackerNews最高职位发表的评论中,只有三到四人怀疑它可能是该算法产生的。所有这些评论都立即遭到了其他社区成员的反对。
波尔说,他的实验还展示了一个更平凡但令人不安的选择:人们可以使用这个工具生成大量点击诱饵内容。"可能会有很多平庸的博客内容,因为进入的障碍太容易了,"他说。"我认为在线内容的价值会大大降低。