马斯克：人类确保人工智能安全的概率仅有10％

原标题：马斯克：人类确保人工智能安全的概率仅有10％

11月24日消息，据国外媒体报道，虽然伊隆·马斯克（EION Musk）致力于推进人工智能领域的工作，但他也认为人工智能在将来对人类构成威胁的概率很高。在接受采访时，这位科技名人声称，我们确保人工智能安全的概率仅有5％到10％。

前景不妙

对人工智能可能对人类社会造成的负面影响以及自身疯狂发展方面，伊隆·马斯克进行了大量的思考。这些思考让他相信，如果人类要存续下去就需要与机器相结合，他甚至创建了一家生物技术公司致力于开发实现这一目标所需的脑机接口技术。尽管他自己的人工智能实验室OpenAI已经开发出具备自我学习功能的人工智能，但是马斯克最近表示，要使人工智能绝对安全，我们只有“5％到10％的成功几率”。

根据最近Rolling Stone上发表的文章，马斯克与生物技术公司Neuralink的员工分享了这些信息。尽管马斯克大力参与人工智能技术的研发，但他公开宣称，这项技术不仅会带来好处，也会给人类社会带来严峻的问题。

人工智能技术在安全方面的挑战来自两方面。

首先，人工智能技术发展的一个主要目标是开发出比人类更聪明，而且能独立学习，不需要任何人工编程或干预的系统。这种能力所造成的影响是未知的。

事实就是机器没有道德，悔恨或情绪。未来的人工智能或许能够区分“好”和“坏”的行为，但不会有人类的感觉。

在这篇文章中，马斯克进一步阐述了人工智能目前存在的危险和问题，其中之一是少数几家公司实质上垄断了人工智能技术。在此他以谷歌的DeepMind系统为例。

马斯克说：“Facebook，谷歌、亚马逊和苹果公司都在此列，他们有更多关于用户的信息。信息的集中会带来很大的风险。那么，如果人工智能代表了一种极端的信息力量，那么谷歌是否应该由少数人来控制呢？

是否值得冒险？

专家对马斯克的论断褒贬不一。Facebook创始人马克·扎克伯格（Mark Zuckerberg）表示，他对未来的人工智能持乐观态度，称马斯克的警告“非常不负责任”。同时，史蒂芬·霍金已经公开声明，表示他相信人工智能系统风险很大，可能会完全取代人类。

俄罗斯计算机科学家谢尔盖·尼科连科（Sergey Nikolenko）是一位专门研究机器学习和网络算法的俄罗斯计算机科学家，他最近与科技网站Futurism分享了他的想法。尼科连科表示：“在人工智能权限、问题匹配以及其他相关问题上，我觉得我们仍然缺乏必要的基本理解和方法。”

至于今天的人工智能，他认为我们没有什么可担心的。尼科连科说：“我敢打赌，在当前阶段，任何神经网络都不会突然醒来，决定推翻人类。”

马斯克本人可能会同意这一点，但他的观点可能更多集中在未来人工智能身上。

我们已经开发了人工智能系统，有些能够实现自我通信，有些能够进行自我学习。虽然机器人暴动目前看起来还是科幻小说中存在的情形，但人工智能目前所取得的进步使它们看起来代表了未来的发展方向。

但是，这些恐惧并不足以让我们停下前进的步伐。我们也能够用人工智能诊断癌症，识别自杀行为，或者是阻止性交易。

这项技术在全球范围内有挽救和改善生命质量的潜力，所以虽然我们必须考虑通过未来的监管来确保人工智能的安全，马斯克的警告最终只是一个人的意见。

他甚至还向Rolling Stone表示：“我并没有全部的答案。我真的想清楚所采取的哪些行动能够带来更美好的未来。如果你有这方面的建议，请告诉我到底是什么。”