伊马德·莫斯塔克希望人工智能会发现人类“有点无聊”，但他承认，最糟糕的情况是人工智能“基本上控制了人类”。

莫斯塔克是伦敦一家快速发展的初创公司Stability AI的CEO，其产品Stable Diffusion颇受欢迎。Stable Diffusion是一款生成式人工智能工具，支持用户使用文本提示词，创作通常高度复杂的图片。他接受了英国广播公司（BBC）的采访，采访内容于上周末发表。

(资料图)

他对BBC表示：“如果有一种东西的能力比人类更加强大，在那种情况下，什么是民主？这是一个已知的未知数。因为虽然我们无法想象比我们更强大的东西，但我们都知道有比我们更强大的人类。所以我个人认为，那种情形类似于斯嘉丽·约翰逊和杰昆·菲尼克斯主演的电影《她》（Her）：人类有点无聊，人工智能的反应可能是：‘再见’，‘你有点无聊’。”

他补充道：“但我可能是错的。我认为这个问题值得公开讨论。”

3月，莫斯塔克与特斯拉（Tesla）CEO埃隆·马斯克和苹果（Apple）联合

创始人史蒂夫·沃兹尼亚克等共同签署了一封公开信，呼吁暂停开发比GPT-4更先进的人工智能。GPT-4是由微软（Microsoft）投资的OpenAI开发的人工智能语言模型。OpenAI还开发了ChatGPT和DALL-E 2（后者与Stable Diffusion类似，均可将文本提示词转换成图片）。

他对BBC表示：“如果有比我们更强大的智能体，超出了我们的控制，能够在互联网里穿梭并相互交流，达到一定程度的自动化，这意味着什么？”

然而，Stability AI仍在开发新产品，包括上周发布的一款文本转动画工具，并继续吸引投资者。该公司计划以40亿美元的估值进行融资。去年十月，该公司融资约1亿美元，估值为10亿美元。（该公司的投资者包括Coatue Management和Lightspeed Venture Partners等。）

与此同时，Stability AI正在被盖蒂图片社（Getty Images）起诉，这是一起具有标志性意义的版权侵权案件。该类诉讼可能无法避免，因为Stable Diffusion等文本转图片人工智能模型使用了数以十亿计的图片进行训练，而这些图片均来自互联网。

在被BBC问到最糟糕的情况是什么时，莫斯塔克回答称：“最糟糕的情况是它自我繁殖，并基本上控制人类。因为你可能有一百万个人工智能在有效地复制。”

不同寻常的是，Stable Diffusion是一款开源应用，这意味着任何人都可以查看、分享和使用代码。

3月，曾参与创建OpenAI并协助其融资的马斯克批评该公司放弃了最初的非营利模式，而是接受了微软的巨额投资，并且不再开源。他发推文称：

“OpenAI成立的目的是作为一家开源（因此我才将其命名为‘Open’AI）非营利组织，旨在制衡谷歌（Google），但现在它已经实际上被微软控制，变成了闭源的、追求利益最大化的公司。这背离了我的初衷。”

莫斯塔克对BBC表示：“我认为不应该需要依靠信任。如果你开发的是开源模型，并且将开发过程公开，如果你做得不对就应该受到批评，反过来如果你做了正确的事情也希望能得到赞美。”（财富中文网）

翻译：刘进龙

审校：汪皓