文/李林 问耕 （编译整理）

　　量子位 出品 | 公众号 QbitAI 

　　无论是中国还是美国，很多人在选择餐馆或者酒店的时候，主要依靠网上的点评，比喻说大众点评或者Yelp等等。

　　某种程度上，口碑已经成为不少企业的命脉，酿成办事和产品质量的永久记录。与此同时，不公平或者虚假的点评也让企业忧心忡忡，这些有可能来自愤怒的顾客，也有可能来自竞争对手。

　　水军，在全球都是一个让人头疼的问题，以后可能会更疼了：

　　人工智能（AI）已经学会自动编写虚假点评了。

　　整个点评口碑界正面临潜在却是严重的冲击。如果AI创造的虚假点评泛滥，最终将导致全部点评信息可信度急剧下降。技术进步，这一次又给社会带来了（令人担忧的）影响。

　　不知道许知远会不会更焦虑了。

　　“这对整个社会是一个巨大的威胁，不单会让依靠点评信息的用户失望，并且会摆荡人类对于真实和虚假的信念，我认为后者更让人担心”，芝加哥大学计算机科学教授赵燕斌（Ben Y． Zhao）说。

　　以假乱真

　　《在线点评系统中的自动众包攻击和防御》是赵燕斌等芝加哥大学研究人员发布的一篇论文。他们的研究说明，，人工智能可以被用来生成复杂的点评信息。这些虚假的点评不但机器无法检测出来，就连人类读者也分辨不出来。

　　这篇论文本年晚些时候会在计算机安适顶级会议ACM CCS上展示。

　　所谓复杂的点评信息，大概是这个样子：“我喜欢这个地方。我跟我哥一起去的，我们点了素食意大利面，很好吃。啤酒不错，办事也很棒。保举这个地方，是个吃早餐的好去处。地儿小但是买卖大”。

　　乍一看这个点评没有什么奇怪的，里面包罗一些具体的建议和可信的描述，虽然最后一句有点奇怪，但整体仍然是一段说人话的表达。

　　实际上，这句话是一种称为RNN（循环神经网络）的深度学习技术生成的。这个RNN网络使用了上千条真实在线点评训练而成。

　　研究人员体现，AI生成的点评已经做到了“以假乱真”，有 600 个用户参与的调查显示，这些虚假的点评不但能逃过人类的法眼，并且还被用户认为“有用”。

　　“有用”是更可怕的事情：这表白虚假点评已经可以对人类造成影响。

　　反抄袭软件也对这些虚假点评无能为力，因为这些点评是逐字生成的，而不是简单的替换已有点评中的用词。如果使用反抄袭软件检测，不单很难检测出虚假点评，并且会“误伤”一大批真实的点评。RNN可不但仅是对现有点评的复制。

　　人类水军面临下岗

　　人类手写的虚假点评，已经是一个兴盛的地下行业。只要有钱，你就能找到人帮你的产品写下正面的点评，后者给对手写下负面的评价。

　　现在，传统水军行业未来可能也要被AI取代了。

　　美国市场上，一段质量较高的Yelp点评，可能价格能到 10 美元。不过一旦有了AI的帮手，君心叵测的人可以一分钱不消就生成上千条点评，并且一起放出以免引起怀疑。

　　好消息是，现在还没有AI在现实世界中生成恶意虚假点评的案例。

　　坏消息是，构建一个这样的人工智能系统，并不需要太长的时间，所需硬件市面上都能买到，所需的点评数据库可以在网上轻易获得。

　　仍有对策

　　如果有人开始大规模生产这种假点评，大众点评、Yelp这样的网站恐怕就没有好日子过了，终究，它们的招牌就是来自用户的真实点评，如果每一条都可能是假的，谁又会继续相信它们呢？

　　接下来沦陷的，会是淘宝京东亚马逊之类的电商，虽然赵燕斌说至少它们还能限制只有买过该商品的用户才能点评，但情况也不容乐不雅观。

　　不过，也有好消息。