通用人工智能发展加速 人类应考虑如何关闭它

通用人工智能（AGI）的热度一直不减，当前AGI的发展也在持续加速。OpenAI CEO阿尔特曼认为，AGI将能够在现有硬件的支持下比预期更早实现；而前谷歌CEO埃里克·施密特则表示，一旦AI开始自我改进，我们应该考虑暂停其进一步发展。

在本月17日接受美国电视网ABC新闻采访时，施密特表示：“最终你可能会告诉计算机，‘学会一切，做到一切’。当系统能够自我改进时，我们必须认真考虑是否要拔掉它的电源。这将是极其艰难的，如何保持平衡将非常具有挑战性。”

施密特预测，AI将从特定任务助手逐渐发展为能够独立决策的复杂系统。当AI发展到这种程度时，人类就应该介入并考虑关闭系统了。然而，在此之前，人类还需要确保AI无法反制关闭系统的努力。“从理论上讲，我们最好有个人能‘掌控电源’，就像比喻中所说的那样。”

尽管如此，在乐观地看待AI的积极潜力方面，施密特依然持有开放态度。“重要的是，这种强大的智能意味着每个人都将拥有一个像博学者一样的助手，随时都在口袋里。”他补充道，“除了笔记和写作助手外，每个人还会有像爱因斯坦和达芬奇这样的智慧人物为自己提供建议。”