“AI教父”承认担忧:AI可能接管人类

著名AI研究者Geoffrey Hinton，被誉为"AI教父"，在一次采访中承认了他对人工智能可能接管世界的担忧。他的言论引发了广泛的讨论，关于AI的未来充满了不确定性。

Hinton在接受CBS60Minutes采访时表示，他担心他一生致力于构建的技术可能会接管世界。他甚至宣称，"有史以来，人类第一次必须面对地球上有某物比我们更聪明的现实"。这一说法引人深思，尤其是CBS主持人Scott Pelley问到是否超级智能的AI可能会"接管人类"时。

图源备注：图片由AI生成，图片授权服务商Midjourney

Hinton回应道:"我不是说会发生，如果我们能阻止它们有这个愿望，那将是很好的事情。" 但他同时强调:"但我们不能确定是否能够阻止它们想要这样做。"

关于AI可能如何接管人类的细节，Hinton推测自主智能体可能会开始"自行修改"。这是一个令人担忧的问题，他还提到了技术的"黑盒子"特性，即研究人员对机器学习算法的实际运作方式缺乏详细了解。

他指出，虽然我们对AI系统学习的过程有一个"很好的"粗略概念，但一旦涉及到复杂问题，我们就像不了解你的大脑中正在发生的事情一样不了解AI的运作方式。这是一个合理的担忧，因为不管机器的输出是否在技术上正确，机器达到这一目标的路径仍然很重要。如果人们长时间以来奖励通过有问题的方式获得的正确输出，我们可能会无意中以可能会严重失败的方式训练AI工具。

然而，Hinton的担忧并不仅限于AI接管世界的问题。他还担忧人类如何滥用AI，包括使用自主AI武器和战争机器人、大规模替代人类工作和大规模传播AI制造的虚假信息等问题。尽管前景看起来令人沮丧，但随着这个未知领域的不断发展，潜在的威胁，尤其是与人类滥用有关的威胁，继续值得考虑。