主页 > 智能硬件 > 正文

真有一天,人类会成为自己发明的机器人的受害者吗?

2019-11-30 11:31来源:99科技综合编辑:时寒峰

扫一扫

分享文章到微信

扫一扫

关注99科技网微信公众号

  原标题:真有一天,人类会成为自己发明的机器人的受害者吗?

  假设我们发明了一个可以用于控制气候变化的强大人工智能系统,并且能将大气中的二氧化碳水平恢复到工业革命前的水平。

  该人工智能系统经过分析后认为,最容易的方式就是消灭人类,因为人类活动是产生二氧化碳的最主要来源。

  当然人类可能会对机器人说,你做什么都可以但就是不能把人类全灭绝。人工智能系统然后可能会说服人类少生孩子,直到最后没有人生孩子,人类慢慢灭绝为止。

  这些风险都是人类在创造人工智能前并没有想明白的。

  从英国 理论物理学家史蒂芬·霍金(Stephen Hawking)到特斯拉创始人伊隆·马斯克( Elon Musk)等世界顶尖人工智能(AI)专家,都曾表示过AI对人类生存的威胁。

  加州大学伯克利分校(the University of California, Berkeley)的斯图尔特罗素教授(Stuart Russell)是该领域的专家,他强调:我们应该担忧的不是意识,而是它们的能力(competence)。

  他在刚出版的《人类相容:人工智能与控制问题》("Human Compatible: AI and the Problem of Control")一书中指出,这种威胁并非来自机器人开始有了自我意识,并起来反抗人类主人,而是因为这些机器人能力变得超强,最后有可能是因为人类的疏忽,为机器人设置了错误的目标,让他们无意中把我们都消灭了。

  英国剑桥大学存在风险研究中心( the Centre for the Study of Existential Risk, at Cambridge University)表示,当前大多数AI系统都是相对「狭窄」的应用程序,专门用于解决某一领域中的特定问题。

  但1997年,超级电脑深蓝(Deep Blue) 打败了国际象棋世界卫冕冠军加里卡斯帕罗夫(Garry Kasparov),成为人工智能史上里程碑。

  然而,虽然深蓝击败了世界象棋卫冕冠军,但深蓝却可能连一场简单的跳棋游戏都赢不了。因为深蓝的设计者是专门让它下象棋的。

  但这才仅仅是开始,随着人工智能的发展和进步,阿尔法围棋的 版AlphaGo Zero在经过短短3天跟自己练习之后,已经达到了超人水平。

  AlphaGo Zero通过深度学习,已经不太需要太多的人工程序。它成为围棋、国际象棋以及将棋(又称日本将棋)的高手。

     投稿邮箱:jiujiukejiwang@163.com   详情访问99科技网:http://www.fun99.cn

相关推荐