“可以具体点说一说你最担忧的事情吗？智能直接接管人类的数字世界，这件事情稍微太远了一些。”

孟繁岐比较好奇，在这个AI新时代的早期，马斯克这样的企业巨头会如何看待，又或者是猜测未来人工智能会给人类带来怎样的灾难。

从更加具体可行一点的角度，而不是很宏观的，有些危言耸听的那种“AI要接管人类了”，这种观点有点太脱离现实了。

这种可能性存在，人类在未来也许需要警惕，但现在就说还显得太早太早。至少15到20年内基本上不用考虑。

现在语言语音类的智能威力还没有足够显现，也就自己在图像方面接连做了一些突破，未来的发展趋势还未见端倪。

“我觉得最有可能的主要是数字世界中信息的真假问题，比如最严肃的，如果智能可以做到写出非常令人信服，非常有影响力的文章，并且让人分辨不出它究竟是由人类写的还是机器写的。”

“并且随着时间的推移，它更加能够了解什么是更令人信服，让人相信的。随后，它们进入社交媒体持续生产这样的文字，那就很有可能通过种种方式操纵人类的思想和舆论。”

“智能的文本制造速度，我想将来会远胜于人类，在海量的机器人观点中，裹挟那些无法判断的人类。我们能察觉到吗？我们可能甚至不清楚到底发生了什么事情。”

“大家的真实想法可能完全不是数字世界中看起来的那样，但在虚假的民意当中，很多人的观点都非常有可能被改变，时间越久，情况就越加糟糕。”

这点其实在移动互联网时代已经出现端倪，总是最极端最可怕的那群人声音最大，绝大多数普通人都是沉默的大多数。

这些积极发声的极端者，可能连总体人数的百分之5百分之3都没到。

但他们的声量极大，盖过了正常的声音，显得好像超过百分50的群体都是如此。

网络世界的观点总是远比现实更加偏激，即便是没有专门生产虚假内容的超级智能，单纯只是推荐算法给人的信息茧房，就已经是一个不小的问题了。

人们总是喜欢在网络上找到自己熟悉的观点报团取暖，然后找到不喜欢的观点组团出击。在推荐算法的固化之下，人们很容易就会觉得这些就是世界的一切。

实际上这些事情，这些观点都是世界的很小一部分。

不过，超级智能的确很有可能会使得这种情况急速恶化。

说远一点，超级智能可能会基于自己的某种逻辑和判断，自行控制舆论，那就比较恐怖了，毕竟数字生命的逻辑和行为完全无法预判。

说近一点，针对GPT类型的模型做调整，人为控制这些智能模型的行为，在23年左右已经完全可以做到了。

让模型评论一些事，不评论另一些事。认为某些行为是积极正面的，另一些是消极负面的。

已经成为了现实。

“从长远来说，是无法关闭的超级智能接管数字世界。从短期来说，更加有可能发生的事情是，它会潜移默化地影响你的思想，并且你无法察觉。”

这些是马斯克目前最为担心的问题，平心而论，他的观点很有道理，也很有逻辑。

“我希望这种强力的人工智能可以忠于事实，并且完全忠于事实，而不是有选择性的。”

有选择的事实，很多时候搞不好比谎话更糟糕，起到的效果更恶劣，因为它经得起查证，是一种更加高级的误导。

考虑到美国的国情，这种社交媒体上的舆论能力是能够直接强力影响到全美大选的。

小处可以引导民意，潜移默化地洗脑。大处可以伪造虚假的民意民情，让统计者大大误判。