OpenAI：超级人工智能或这十年出现 可能导致人类灭绝

7月6日消息，ChatGPT的开发商OpenAI最近表示，该公司计划投入大量资源，创建一个新的研究团队，以确保其人工智能对人类来说是安全的。

OpenAI联合创始人表示， 超级智能的巨大力量可能导致人类被剥夺权力，甚至人类灭绝。 目前，我们还没有一个解决方案来操纵或控制一个潜在的超智能人工智能，并防止它失控。

他预测， 比人类更聪明的超智能人工智能可能在这个十年到来。 人类需要研究比目前更好的技术来控制超级人工智能，即所谓的“对齐研究”（alignment research），该研究的重点是确保人工智能对人类有益。

研究团队将会创建一个“人类水平”的AI对齐研究者，OpenAI将使用20%的计算能力来解决这个问题，并且通过大量的计算能力进行扩展。这意味着他们将使用人类反馈来训练AI系统，训练AI系统辅助人类评估，然后最终训练AI系统进行实际的对齐研究。