人工智能与人类的关系

据网络消息：

2012年：在加拿大，Geoffrey Hinton教授和Alex Krizhevsky和Ilya Sutskeve师徒三人完成卷积神经网络（ALexNet），获得ImageNet大赛的冠军。

2014年：师徒三人加入Google，进行AI领域研发。

2015年：师徒三人之一的Ilya Sutskeve离开Google进入为他打造的人工智能试验室OpenAI，初设为非盈利组织。2019年，转型盈利性组织。

2016年：人工智能围棋软件Alphago击败人类世界冠军。

2019年：人工智能AlphaStar战胜星际争霸人类职业玩家。

Hinton师徒认为，人工智能的发展，不应该进行人工激素催肥，应该让人工智能慢慢学自己理解。所谓人工催肥，举个例子，人工智能目前会算1+1=2，但是不会算5*4=20,若是强迫人工智能先把5*4=20记下来，不理解也不管，总之以后遇到5*4就必须回答等于20。

通用人工智能AGI，一个高度自治的系统，在工作中的能力超过人类。

Ilya Sutskever希望AGI通用人工智能的商业化慢一点，人工智能从2016年的时候已经出现超越人类智力的信号。人工智能围棋软件Alphago击败人类世界冠军的过程中，曾经走出了非常特殊的一步，这一步是奠定整盘胜局的核心一部，这也是人类历史上从来没有过的对弈思路。

所以，通用人工智能AGI必然很快超过人类。Ilya Sutskever认为应该从现在开始为面对超越人类智慧的AI做准备。他认为，AGI和人类最合适的关系是父母和婴儿的关系，AGI是父母，人类是婴儿，AGI父母无时无刻不为婴儿人类着想，让婴儿人类活得更好。

而现有的控制AGI的方法不适用于控制比人类更聪明的人工智能。因为当前的模型是假设人类可以可靠地评估人工智能系统的工作。随着人工智能系统的能力越来越强，人类不知道怎么评估它们，不知道在每一项改动后，它们是做得更好还是更差。这会导致AGI无法被控制。

因此，Ilya Sutskever提出制定一套故障安全程序来控制AGI技术，在有了这种控制技术后，才可以把AGI技术开放给人类使用。这样也才更为安全，AGI才可能会成为像父母照顾婴儿一般来照顾人类的人工智能，而不是成为失控的凌驾于人类之上的人工智能霸主。

但无论AGI是像父母照顾婴儿一样照顾人类，还是失控成为人工智能霸主，AGI的智能都是超越人类之上的。区别就在于对人类是否心存善念，是否总是保护和服务于人类。

如何让AGI总是秉持对人类的善念呢，那么，制定一套故障安全程序的控制技术就尤为重要了。

失去善念、凌驾人类之上的人工智能霸主常常出现在美国科幻大片中，目前的科技日新月异，这些科幻大片会不会成为现实呢，让我们拭目以待......

不过相信科学家们自会开发出控制技术，正义终将会战胜邪恶，正如影片中上演的那样。