AIN:科学家警告称，遏制算法不会停止超级智能人工智能

一组计算机科学家使用理论计算来证明算法无法控制超级智能AI。

他们的研究解决了牛津哲学家尼克·博斯特罗姆所说的控制问题：我们如何确保超智能机器为我们的利益服务？

研究人员构想了一种理论上的遏制算法，该算法可以通过模拟AI的行为并在程序的动作变得有害时停止程序来解决该问题。

中国银行首席科学家郭为民：数字货币将会重塑金融体系 当前试点仅是未来前景的冰山一角:近日，市政协委员、中国银行首席科学家郭为民在接受采访时表示，数字货币的应用只是刚刚开始，它的意义并不是简单的替代M0（流通中货币）、纸币，数字货币其实是未来数字金融的基石，可以说，数字货币将会重塑金融体系，当前在人们面前展示的仅仅是未来前景的冰山一角。

数字货币的应用将会构建以数字货币的全新金融，对于提升支付效率、追踪资金流向、降低信贷风控成本等带来了新的可能性，银行账户的概念也随之发生改变，给传统金融机构带来了全新的能力挑战。另外，数字货币在批发、产业链企业应收账款等方面也存在巨大的潜在价值。（凤凰网）[2021/1/22 16:47:21]

但是，他们的分析发现，建立一种可以控制这种机器的算法从根本上来说是不可能的，人类与机器中心主任IyadRahwan说：

现场 | Quarkchain首席科学家：联盟链与公链的协同发展与扶持值得期待:金色财经现场报道，在“2019 CAN 万物互链·区块链与全球经济新格局”大会上，Quarkchain首席科学家杨耀东表示：一般而言，联盟链的安全性可以通过传统的方法解决，公链的安全性保证则需要成熟的激励系统，因此经济模型在公链中的应用尤为重要。在公链的开发和研究中，积累的很多优势，都可以在联盟链发展中进行应用，未来两者的协同发展与扶持值得期待。[2019/12/3]

如果将问题分解为理论计算机科学的基本规则，就会发现，命令AI不破坏世界的算法可能会无意中止其自身的运行。如果发生这种情况，您将不知道遏制算法是否仍在分析威胁，或者它是否已停止遏制有害的AI。实际上，这使遏制算法无法使用。

动态 | 俄罗斯核科学家因非法使用政府设备开采比特币被判刑三年:据Coindesk消息，俄罗斯一名核实验室科学家因非法使用政府设备开采比特币，将在监狱服刑三年。据悉，俄罗斯萨洛夫实验物理研究所的Andrey Rybkin是三名被当地司法法庭判刑的员工中的最后一名。除了需要服役，Rybkin还将支付20万卢布(约合3122美元)的罚款。另外两名因非法挖矿案件被定罪的员工被处以罚款，其中一人被判处四年有期徒刑，缓期执行。[2019/10/25]

研究发现，由于计算的基本局限性，没有一种算法可以计算出AI是否会危害世界：

假设超级智能将包含一个程序，该程序包含通用图灵机在输入时可能会像世界状况一样复杂地执行的所有程序，那么严格的围堵要求对该程序进行仿真，这在理论上是不可能的。

到目前为止，这种类型的AI仍仅限于幻想领域。但是研究人员指出，这项技术正在朝着科幻小说作家所设想的超级智能系统的类型迈进。

研究的合著者，马克斯·普朗克人类发展研究所的曼努埃尔·塞布里安说：“已经有机器独立执行某些重要任务，而程序员却没有完全了解他们是如何学习的。”

“因此提出了一个问题，在某个时候这是否可能变得不可控制并且对人类构成危险。”

标签：数字货币联盟链AINRYB数字货币交易所开发书籍联盟链币有哪些accelchainAngryBlockchain

ICP热门资讯