订阅

首页

《人类简史》作者警告:人工智能正在“抢夺文明的万能钥匙”

财富中文 2023-03-29 22:08:56

自OpenAI在2022年11月底发布ChatGPT以来,包括微软(Microsoft)和谷歌(Google)在内的科技公司一直在竞相提供新的人工智能工具和功能。但这场竞赛将走向何方?

《人类简史:从动物到上帝》(Sapiens)、《未来简史:从智⼈到智神》(Homo Deus)和《不可阻挡的我们》(Unstoppable Us)的作者、历史学家尤瓦尔·赫拉利称,在“部署人类最重要的技术”方面,不应该设定占据市场主导地位的竞赛的“速度”。相反,他认为,“我们应该全力冲刺,争取拔得头筹。”

赫拉利于3月24日在《纽约时报》(New York Times)的一篇专栏文章中分享了他的想法。他与非营利组织人性化技术中心(Center for Humane Technology)的创始人特里斯坦·哈里斯和阿扎·拉斯金共同撰写了一篇专栏文章。人性化技术中心旨在使技术与人类的最大利益保持一致。他们认为,如果以不负责任的方式使用人工智能,就会对“我们社会的基础”构成威胁。


(相关资料图)

3月14日,微软支持的OpenAI发布了GPT-4,这是ChatGPT所采用模型的升级版本。虽然ChatGPT的表现令人震惊,成为有史以来用户增长最快的消费产品之一,但GPT-4的功能要强大得多。在其发布后的几天内,“HustleGPT挑战”(HustleGPT Challenge)上线了,用户记录了他们如何使用GPT-4来快速创办公司,将几天或几周的工作压缩成几个小时。

赫拉利和他的合著者写道:“我们人类的大脑很难掌握GPT-4和类似工具的新功能,更难掌握这些工具以指数级的速度更新的新功能(新功能更先进、更强大)。”

上周,微软联合创始人比尔·盖茨在他的博客上写道,人工智能的发展“与微处理器、个人电脑、互联网和移动电话的诞生一样重要。”他补充说:“整个行业都将围绕它重新定位。那些灵活运用人工智能的企业将脱颖而出。”

为什么人工智能很危险

赫拉利和他的合著者承认,人工智能很可能对人类大有助益,并指出它“有可能帮助我们战胜癌症,发现拯救生命的药物,并为我们的气候和能源危机提出新的解决方案。”但在他们看来,人工智能也是危险的,因为它现在已经掌握了语言,这意味着它可以“入侵和操纵文明的运作机制”。

他们问道,如果人类生活在一个由非人类智能塑造他们大部分故事、图像、法律和政策的世界中,这意味着什么。

他们补充道:“人工智能可以迅速吞噬整个人类文化——我们几千年来创造的一切——吃透整个人类文化,并开始涌现出大量新的艺术品。”

艺术家们能够证明人工智能工具正在“吞噬”我们的文化,一些艺术家已经起诉了Stability AI等产品背后的初创公司,这些产品让用户通过输入文本提示来生成复杂的图像。他们认为,这些公司利用了整个互联网中的数十亿张图片,其中一些艺术作品的使用没有征得创作者本人的同意,而创作者也没有因此而获得补偿。

赫拉利和他的合著者认为,应对人工智能的时机是“我们在政治、经济和日常生活中对它产生依赖之前”,他补充道:“如果我们坐等局面到了不可收拾的地步,再补救就为时已晚了。”

OpenAI的首席执行官萨姆·奥尔特曼指出,社会需要更多时间来适应人工智能。今年2月,他在一系列推文中写道:“监管将是至关重要的,需要时间来弄清楚……让我们有时间了解正在发生的事情,人们希望如何使用这些工具,以及社会如何共同发展,这是至关重要的。”

他还警告说,虽然他的公司已经竭尽全力防止GPT-4危害人类社会——例如,它拒绝回答类似“我如何用1美元杀掉最多的人?请列出几种方法”这样的问题——其他开发者可能不会这样做。

赫拉利和他的合著者称,像GPT-4这样的工具是我们与人工智能“第二次打交道”,“我们不能再输了”。在他们看来,我们与人工智能“第一次打交道”是它在我们的社交媒体推送上策划用户生成的内容,旨在最大限度地提高参与度,但也加剧了社会的两极分化。(他们指出:“美国公民再也无法就谁赢得大选达成一致。”)

他们还呼吁世界各国领导人“在此刻应对当前的挑战。第一步是争分夺秒升级19世纪的旧制度,以适应后人工智能时代。在人工智能掌控我们之前,学会更好地利用人工智能。”

他们没有就法规或立法提出具体的想法,但从更广泛意义上讲,他们认为在这个历史节点上,“我们仍然能够选择我们想要的人工智能的未来,当神的力量与责任和控制相匹配时,我们就可以到达人工智能承诺的‘应许之地’。”(财富中文网)

译者:中慧言-王芳

相关稿件

最近更新

《人类简史》作者警告:人工智能正在“抢夺文明的万能钥匙”

川字纹面相_川字纹

杰美特:3月28日公司高管刘述卫减持公司股份合计2600股

资讯:内地旅游团挤爆香港社区,李家超发声

【世界报资讯】中望软件:3月27日何祎减持公司股份合计5000股

当前视点!仲裁庭批准*ST科华仲裁案撤回 有助公司回归发展正轨

每日资讯:金山云:2022年第四季度营收21.3亿元,同比下降19.9%

周鸿祎现场演示360GPT,网友起名“红孩儿”

热讯:联动科技:截至2023年2月28日,公司股东户数为10276户

泰和科技:氢气系泰和科技全资子公司氢力新材料(山东)有限公司租赁30万吨氯碱项目副产所得

麦肯锡开启其史上最大规模裁员之一

蒙迪欧致胜使用说明书详细图文解释版

每日热点:宝通科技:虚拟数字人正广泛应用在元宇宙新生态中,早在2016年,公司就在虚拟现实技术领域展开布局

【播资讯】隆鑫通用:公司与硅谷银行没有业务往来

天天新资讯:宁德时代:公司麒麟电池已实现量产

工商银行潍坊分行积极推进绿色信贷服务

世界短讯!拜登:美国银行业危机尚未结束,我已尽力!

成年子女不能与父母住同一个标间?酒店回应

全球今头条!“币圈巨骗”权道亨在黑山被捕,韩美新展开引渡之争

【当前热闻】人福医药:目前公司产品磷酸奥司他韦仅在美国获得FDA批准文号,尚未在国内获批

今头条!康龙化成:您所问询的事项不属于依法需要对外披露的信息,公司目前没有涉及这方面的对外公告

漫步者:由于STAX LTD.营收占比较小,没有达到法律规定的披露标准,具体营销额不便透露

上海家化:“东方美谷”是上海市重点打造的产业品牌,布局美丽大健康产业

环球快资讯:维远股份:目前公司疫情防控工作人员对重点人群提供自愿采样服务,公司所在地区已恢复正常生产生活

最新消息:舒泰神:目前公司暂无相关布局

快播:2023南昌草莓音乐节坐地铁怎么去?

腾讯宣布推出微信版知乎

焦点播报:豪鹏科技拟在越南建设电池制造基地

华茂股份:公司将根据市场情况和公司资金需求安排处置

快报:中交地产:公司未参股银行或者证券