主页 > 新闻 > 聚焦 > 正文

马斯克:人类确保人工智能安全的概率仅有10%

点评

科技传媒网 互联网转载 网易 2017-12-07 03:00

马斯克:人类确保人工智能安全的概率仅有10%,人工智能 马斯克 未来

(原标题:Elon Musk Claims We Only Have a 10 Percent Chance of Making AI Safe)

马斯克:人类确保人工智能安全的概率仅有10%



科技传媒网讯 网易科技新闻11月24日消息,据国外媒体报道,虽然伊隆·马斯克(EION Musk)致力于推进人工智能领域的工作,但他也认为人工智能在将来对人类构成威胁的概率很高。在接受采访时,这位科技名人声称,我们确保人工智能安全的概率仅有5%到10%。

前景不妙

对人工智能可能对人类社会造成的负面影响以及自身疯狂发展方面,伊隆·马斯克进行了大量的思考。这些思考让他相信,如果人类要存续下去就需要与机器相结合,他甚至创建了一家生物技术公司致力于开发实现这一目标所需的脑机接口技术。尽管他自己的人工智能实验室OpenAI已经开发出具备自我学习功能的人工智能,但是马斯克最近表示,要使人工智能绝对安全,我们只有“5%到10%的成功几率”。

根据最近Rolling Stone上发表的文章,马斯克与生物技术公司Neuralink的员工分享了这些信息。尽管马斯克大力参与人工智能技术的研发,但他公开宣称,这项技术不仅会带来好处,也会给人类社会带来严峻的问题。

人工智能技术在安全方面的挑战来自两方面。

首先,人工智能技术发展的一个主要目标是开发出比人类更聪明,而且能独立学习,不需要任何人工编程或干预的系统。这种能力所造成的影响是未知的。

事实就是机器没有道德,悔恨或情绪。未来的人工智能或许能够区分“好”和“坏”的行为,但不会有人类的感觉。

在这篇文章中,马斯克进一步阐述了人工智能目前存在的危险和问题,其中之一是少数几家公司实质上垄断了人工智能技术。在此他以谷歌的DeepMind系统为例。

马斯克说:“Facebook,谷歌、亚马逊和苹果公司都在此列,他们有更多关于用户的信息。信息的集中会带来很大的风险。那么,如果人工智能代表了一种极端的信息力量,那么谷歌是否应该由少数人来控制呢?

是否值得冒险?

专家对马斯克的论断褒贬不一。Facebook创始人马克·扎克伯格(Mark Zuckerberg)表示,他对未来的人工智能持乐观态度,称马斯克的警告“非常不负责任”。同时,史蒂芬·霍金已经公开声明,表示他相信人工智能系统风险很大,可能会完全取代人类。

俄罗斯计算机科学家谢尔盖·尼科连科(Sergey Nikolenko)是一位专门研究机器学习和网络算法的俄罗斯计算机科学家,他最近与科技网站Futurism分享了他的想法。尼科连科表示:“在人工智能权限、问题匹配以及其他相关问题上,我觉得我们仍然缺乏必要的基本理解和方法。”

至于今天的人工智能,他认为我们没有什么可担心的。尼科连科说:“我敢打赌,在当前阶段,任何神经网络都不会突然醒来,决定推翻人类。”

马斯克本人可能会同意这一点,但他的观点可能更多集中在未来人工智能身上。

我们已经开发了人工智能系统,有些能够实现自我通信,有些能够进行自我学习。虽然机器人暴动目前看起来还是科幻小说中存在的情形,但人工智能目前所取得的进步使它们看起来代表了未来的发展方向。

但是,这些恐惧并不足以让我们停下前进的步伐。我们也能够用人工智能诊断癌症,识别自杀行为,或者是阻止性交易。

这项技术在全球范围内有挽救和改善生命质量的潜力,所以虽然我们必须考虑通过未来的监管来确保人工智能的安全,马斯克的警告最终只是一个人的意见。

他甚至还向Rolling Stone表示:“我并没有全部的答案。我真的想清楚所采取的哪些行动能够带来更美好的未来。如果你有这方面的建议,请告诉我到底是什么。“(晗冰)

本文链接:http://www.itmsc.cn/archives/view-202444-1.html
科技传媒网—致力于推动创新科技发展,专注科技新闻传播的新媒体平台。更多精彩内容请关注微信公众号:gdkjcm

(责任编辑:夏喧)

1.科技传媒网的原创文章,请转载时务必注明文章作者和"来源:科技传媒网",不尊重原创的行为,科技传媒网都将保留追究责任权益;

2.科技传媒网遵循行业规范,任何转载的稿件都会明确标注作者和来源,对于未注明原作品不得转载的稿件,我方不承担相关责任;

3.科技传媒网倡导尊重与保护知识产权。如发现本站文章存在版权问题,烦请提供版权疑问、身份证明、版权证明、联系方式等发邮件至pepsl@126.com,我们将及时沟通与处理。

4.关于科技传媒网的所有法律事宜,均由本网特聘法律顾问王定忠律师协助处理。

阅读延展
更多科技新闻 相关智库科技新闻阅读
科技传媒网科技要闻

东莞创新地图 科技合作周上大显风采

东莞创新地图成为展会热点,参会嘉宾纷纷到创新地图区域,通过触摸屏了解东莞科技创新情况。

科技传媒网创客必读科技新闻

滴滴想进墨西哥并不容易 Uber在那里有700万用户

滴滴想进墨西哥并不容易 Uber在那里有700万用户

科技传媒网每日精选阅读

徐百:带领中国纳米技术实现新突破

徐百的纳米微针给中国乃至世界科技领域做出的重大贡献,也体现出纳米微针蕴藏的巨大商机。

科技传媒网科技专题
2017纳晶+医美高峰论坛暨莱富精英表彰会-科技传媒网
关于科技传媒网

科技传媒网(www.itmsc.cn),由广东省创新科技传媒服务中心主办,以社会需求为导向,搜集关于科技最新最全的时事动态。

微信
微博
RSS