最近各大科技巨头都在人工智能聊天机器人上发力，谷歌也不例外。它最新推出的Bard聊天机器人可以迅速生成任何东西——从关于莎翁文学的论文，到说唱歌词。但是以Bard为代表的这些聊天机器人还有一个严重的问题尚未解决。那就是它们有时会胡编乱造。

(资料图)

比如说，在CBS电视台上周日的《60分钟》节目上，Bard在谈到通胀问题时，曾自信满满地宣称，彼得·特明的《通胀战争：一部现代史》一书“讲述了美国的通胀史”，这本书还探讨了美国的通胀政策。问题是这本书根本就不存在。

问题是，Bard撒的这个谎具有很强的迷惑性。彼得·特明是麻省理工学院的一位知名经济学家，他研究的领域就是通货膨胀，而且写过十几本经济学方面的书，只不过没有任何一本叫这个名字。Bard在回答通胀问题时，不光“幻想”出了这本书，甚至还“幻想”出了一系列其他经济学书籍的名称和摘要。

Bard是谷歌推出的一款对标ChatGPT的聊天机器人，它是今年三月份才刚刚发布的，但它已经不只一次在公开场合闹笑话了。此前它曾在一次公开演示中声称，詹姆斯韦伯太空望远镜曾在2015年首次捕捉到一颗系外行星的照片，但是实际上，Bard所说的这颗行星是位于智利的“甚大望远镜”于2014年发现的。

像Bard和ChatGPT这样的聊天机器人都使用了大型语言模型（又称LLMs）来对数十亿个数据点进行分析，来预测语义中的下一个单词。这种方法又叫所谓的“生成式人工智能”。它有时会给产生一种言之凿凿的错觉，让人觉得它给出的答案是可信的，但事实并非如此。那么AI机器人的这种“一本正经地胡说八道”是否是一种普遍现象呢？

对此，谷歌CEO桑达尔·皮查伊上周日在接受《60分钟》采访时承认，这个问题是“意料之中”的。“这个领域目前还没有人能解决‘错觉’的问题。所有型号的生成式AI都存在这个问题。”

当被到这个问题未来是否会得到解决时，皮查伊表示：“在这个问题上有很多争论。”但他认为，他的团队最终会在这方面“取得进展”。

一些人工智能专家指出，由于人工智能系统的复杂性，要取得这种进展，可能是一件很困难的事。皮查伊表示，就连谷歌的工程师都“无法完全理解”人工智能技术有时为何会有那样的反应。

他表示：“我们这个领域的人把这方面的问题称为‘黑箱’。你也不知道它为什么会这样说，或者为什么会出错。”

皮查伊说，谷歌工程师们对AI聊天机器人的工作模式“已经有了一些概念”，他们对生成式AI的理解水平正在提高。“不过目前的技术水平就是这样。”不过对于一些批评人士来说，皮查伊这个解释显然不能让他们满意。不少批评人士警告说，复杂的人工智能系统很可能会引发意想不到的后果。

比如，微软创始人比尔·盖茨今年3月表示，人工智能技术的发展很可能会加剧全球的贫富差距。他在一篇博客文章中写道：“市场力量不可能自然而然地产生自动帮助穷人的AI产品和服务，更有可能发生的是相反的情况。”

最近几个月，伊隆·马斯克也反复在公开场合提到人工智能可能造成的风险。他表示，这项技术对经济的冲击将不亚于“小行星撞击地球”。上个月，马斯克甚至联名1100多位科技企业CEO、技术专家和AI研究人员，呼吁全球暂停开发人工智能工具6个月——当然很多人不知道的是，他同时正忙着创办自己的人工智能公司。

斯坦福大学人本AI研究中心曾对人工智能行业的从业者进行过一项年度调查，调查结果显示，很多AI从业者认为，人工智能技术的发展，使得“深度造假”变得越来越容易，这很可能会加剧虚假信息的泛滥，甚至有可能危害环境。该研究中心上周表示，AI带来的威胁甚至有可能达到“核级别的灾难”。

上周日，谷歌CEO皮查伊也在参加节目时透露，即便是在谷歌内部，也有一些研究人员担心，人工智能一旦应用不当，“可能会产生非常有害的影响”。他还表示：“我们尚未找到所有问题的答案，而且这项技术的发展是很快的。如果你问我，这个问题有没有可能让我睡不着觉，答案是当然肯定的。”

皮查伊还表示，为了确保人工智能造福所有人，AI系统的开发工作“不仅应该包括工程师，还应该包括社会科学家、伦理学家、哲学家等等”。

“我认为，这些问题是社会在发展过程中需要解决的问题，而不应该由一个公司来决定。”他说。（财富中文网）

译者:朴成奎