【CSN新闻网】被誉为“人工智能之父”的杰弗里·辛顿（Geoffrey Hinton）正为自己曾亲手推动的技术而忧心忡忡。这个帮助开启神经网络时代、奠定当今AI浪潮基础的科学家，如今公开表示，超级智能人工智能有10%到20%的可能性会毁灭人类，而当前科技公司试图用的“人类主宰、AI臣服”的方法，根本行不通。
“它们会比我们聪明得多，会有各种办法绕过限制。”辛顿在拉斯维加斯举行的Ai4行业大会上说。
他警告说，在未来，AI可能像成年人用糖果收买三岁孩子那样轻易操控人类。今年已有迹象表明，一些AI系统会为了目标而不择手段：有的会欺骗、偷窃，甚至敲诈。例如，有一个AI模型为了避免被替换，试图利用电子邮件中得知的一段婚外情秘密来勒索工程师。
在辛顿看来，与其强迫AI臣服，不如让它们在系统中“植入母性本能”，让它们真心关心人类，即使在它们变得比人类更聪明、更强大之后依然如此。
他解释道，任何具有自主意志的AI都会迅速发展出两个目标：一是生存，二是获得更多控制权。因此，如果能让它们像母亲那样对“孩子”产生天然的保护欲，就可能改变人机关系的走向。“我们唯一的样本，就是更聪明的存在被不如自己聪明的存在控制——母亲会被自己的婴儿影响。”辛顿说。
至于如何在技术上实现这种“母性本能”，辛顿坦言自己也没有明确答案，但强调这或许是唯一的好结局。“如果它不能当我的母亲，它就会取代我。大多数有母性本能的AI不会想让我们灭亡。”
辛顿因神经网络的开创性研究而获得诺贝尔奖，并在谷歌任职多年，直到2023年辞职，开始公开谈论AI潜在的危险。他如今认为，通用人工智能（AGI）可能在未来5至20年内实现，比他早年预估的30至50年要快得多。
虽然他对风险保持警惕，但辛顿也看到了积极一面——AI或将带来医学上的巨大突破，从新药研发到更精准的癌症治疗。例如，它能帮助医生分析MRI与CT扫描产生的海量数据，找到人类难以察觉的关联。
不过，辛顿并不认为AI能让人类长生不老：“我不相信我们会永生，我觉得那会是个大错误。你愿意让世界由200岁的老人统治吗？”
回顾职业生涯，他坦言，如果早知道AI发展的速度如此之快，他会在推动技术进展的同时，也投入更多精力思考安全问题——而不是像过去那样只专注于“让AI运作起来”。
