5月6日 消息，一位曾任Open

前

克里斯蒂亚诺认为机器会逐渐地崛起，人类的终结不是一场突如其来的事件，而是人工智能逐渐地崛起，人类与机器已经透过诸如自动驾驶汽车、无人机等已经渗透到了生活中。而当AI超越人类智商阈值时，一切皆有可能。

克里斯蒂亚诺认为，AI消灭人类的最可能方式是日常生活中部署的所有AI联合起来，而不是突然消灭人类。

克里斯蒂亚诺的新非营利组织 Alignment Research Center 基于人工智能对齐的概念，该概念早在2018年就被广泛定义为让机器的动机与人类的动机保持一致。尽管 OpenAI 口头上说要对齐，声称它“旨在使人工智能 （AGI） 与人类价值观保持一致并遵循人类意图”，但仍需要进行更多的研究和开发，以确保安全和合乎道德地开发人工智能。确保机器的动机与人类的动机一致对于防止人工智能毁灭的可能性至关重要。