一组计算机科学家使用理论计算来证明算法无法控制超级智能AI。
他们的研究解决了牛津哲学家尼克·博斯特罗姆所说的控制问题：我们如何确保超智能机器为我们的利益服务？
研究人员构想了一种理论上的遏制算法，该算法可以通过模拟AI的行为并在程序的动作变得有害时停止程序来解决该问题。
但是，他们的分析发现，建立一种可以控制这种机器的算法从根本上来说是不可能的，人类与机器中心主任IyadRahwan说：
如果将问题分解为理论计算机科学的基本规则，就会发现，命令AI不破坏世界的算法可能会无意中止其自身的运行。如果发生这种情况，您将不知道遏制算法是否仍在分析威胁，或者它是否已停止遏制有害的AI。实际上，这使遏制算法无法使用。
研究发现，由于计算的基本局限性，没有一种算法可以计算出AI是否会危害世界：
假设超级智能将包含一个程序，该程序包含通用图灵机在输入时可能会像世界状况一样复杂地执行的所有程序，那么严格的围堵要求对该程序进行仿真，这在理论上是不可能的。
到目前为止，这种类型的AI仍仅限于幻想领域。但是研究人员指出，这项技术正在朝着科幻小说作家所设想的超级智能系统的类型迈进。
研究的合著者，马克斯·普朗克人类发展研究所的曼努埃尔·塞布里安说：“已经有机器独立执行某些重要任务，而程序员却没有完全了解他们是如何学习的。”
“因此提出了一个问题，在某个时候这是否可能变得不可控制并且对人类构成危险。”
尊敬的ZT用户：ZT创新板即将上线MC,并开启MC/USDT交易对。具体上线时间请关注官网公告.
据外媒消息,今日VISA正式宣布放弃对Plaid的收购,这场从2020年初就开启的收购经历重重阻碍,终于投降在了反垄断的铁锤之下.
亲爱的用户：币安合约将于2021年01月12日15:00上线BTCBUSD1-50倍永续合约。BTCBUSD永续合约是正向合约,采用稳定币作为保证金,以BUSD为计价结算单位.
尊敬的用户： 根据社区投票结果,NEM官方决定将“快照XEM空投XYM”的快照时间变更为Symbol主网启动时间。即原定的2021年1月14日将不再作为快照时间.
2021年1月11日狂牛币圈早报一起来看看今日的行情吧比特观点:最近比特币现金突然暴涨之后,每次总会引起比特币的一次回落,加上山寨币在过去一周强劲反弹.
本期投票上币活动已圆满结束,感谢广大用户的参与和支持。Gate.io投票上币活动将持续带来更多有潜力的优质项目,敬请期待.
链资讯