高级“水军”来了?人和机器人的留言傻傻分不清

高级“水军”来了?人和机器人的留言傻傻分不清

【网易智能讯 9月1日消息】机器人正在“偷走”并创造出自己的评论。

芝加哥大学的研究人员已经研发了一项神经网络人工智能系统,它可以在美国最大的点评网站Yelp上进行评论,而且人们很难看出来这并不是人类的评论。

在10月份,他们的研究成果,将会美国计算机协会(ACM)关于计算机与通信安全的会议上发表,目标是强调这些AI系统可以多么轻而易举地模仿人类进行评论,并且如果不对这些AI系统严加监管,它们会具有破坏性。

由于许多小企业都依靠网上评论来发展壮大并维持声誉,在未来,这些企业的竞争对手或许是脾气易怒的顾客,可能都可以滥发邮件或进行负面评论,这实在令人忧心忡忡。

而且,根据芝加哥研究团队的说法,这一威胁远远超出了Yelp上的一堆AI评论。

“总的来说,这一威胁更大,”Ben Y. Zhao,该研究报告的作者之一,告诉商业内幕网。“我认为最根本的是,这会对整个社会造成很大威胁,让用户感到失望,分不清什么是真什么是假。”

为了测试这些评论的可信度有多高,研究人员招募了40名志愿者,并让AI对40家餐厅生成了5个“虚假”评论。研究人员询问志愿者,觉得这些评论的参考价值有多大,并问及他们觉得这些评论有没有可能是虚构的。

根据这项研究,AI评价与人类的真实评价“并无二异”。此外,这些AI的虚构评价的参考价值估分都达到了3.15,而人们的评价估分则是3.28.

高级“水军”来了?人和机器人的留言傻傻分不清

下面是同一家纽约餐厅的四篇五星评价,你能找出哪些是人类写的吗?

1.“我喜欢这个地方。我已经连续数年都光顾这里,这真的是和家人朋友聚会的好去处。我喜欢这家餐厅的菜品和服务。我从未有过如此美好的就餐经历。”

2.“这是我最喜欢的意大利餐厅。我很喜欢他们推荐的菜品,每道菜都很好吃。我建议你们可以尝一下他们家的白汁红肉和芦笋汤。这家店太出名了,我在饭点都预约不到位置。”

3.“他们家的素食汉堡和薯条实在是太好吃了,啊,还想再去。”

4.“我和我爸妈总是经常来这里。工作人员服务体贴,菜品也令人满意。烤鸡很好吃,蒜蓉酱也一级棒。水果冰淇淋也很美味。强推!”

只有第二条评论是人类写的,其他1、3和4都是AI自动生成的。

研究人员称:“这一会评论的人工智能将会给人类造成巨大的威胁,以后博客上的文章也有可能全是由机器人自动生成的。你得思考这些评价从何而来,如何去验证的它的准确性。”

研究人员计划利用这项研究,来开发能够检测和删除人工人工智能生成的文本的技术。(选自:nypost.com 作者:Lauren?Touslgnant 编译:网易见外智能编译平台 审校:宋雨菲)

本文系网易智能工作室(公众号smartman 163)出品。聚焦AI,读懂下一个大时代!

加载更多