21世纪经济报道记者吴斌 上海报道
7月26日，2025世界人工智能大会暨人工智能全球治理高级别会议开幕，诺贝尔奖、图灵奖得主杰弗里·辛顿（Geoffrey Hinton）探讨了AI的优势和未来潜在的“失控”风险。
一方面，人脑具有自己的优势。辛顿表示，人脑只需30瓦特就能运转，我们的神经元连接达数万亿个，无需花费大量资金制造完全相同的硬件。“但问题在于，模拟模型间的知识转移效率极低，我无法直接将脑中的知识展示给他人。生物计算功耗低，但知识分享难。”
另一方面，软件能“永生”，还有低功耗优势。如果能源和计算成本低廉，情况会好很多，但这也让辛顿感到担忧：“几乎所有专家都认为，我们会创造出比人类更智能的AI。人类习惯了作为最智能的生物，很难想象AI超越人类的场景。我们创造的AI智能体已经能帮我们完成任务，它们能拷贝自身、评估子目标，还会为了生存和完成目标而寻求更多控制权。”
（诺贝尔奖、图灵奖得主杰弗里·辛顿，资料图）
有人认为可以在AI变得过强时关掉它们，但辛顿表示，这并不现实。AI最终可能会像成年人操纵3岁孩子一样操纵人类，劝说控制机器的人不要关闭它们。“这就像把老虎当宠物，幼虎很可爱，但长大后可能伤人，而养老虎当宠物通常不是好主意。”
面对 AI，辛顿认为只有两个选择：要么训练它永远不伤害人类，要么“消灭”它。但 AI 在医疗、教育、气候变化、新材料等领域作用巨大，能提升各行各业的效率，无法消除它。即便一个国家放弃 AI，其他国家也不会。因此，若想让人类生存，必须找到训练AI不伤害人类的方法。
辛顿提醒，各国在网络攻击、致命武器、虚假信息操纵等领域的合作难度较大，因利益和看法不同。但在“人类掌控世界”这一目标上，各国存在共识：若有国家找到防止AI操控世界的方法，一定会愿意分享。
因此他提议，全球主要国家或AI大国应建立一个由AI安全机构组成的国际社群，研究如何训练高智能AI向善，这与训练AI变得聪明的技术不同。各国可在自身主权范围内研究，再分享成果。尽管目前还不知道具体怎么做，但这是人类长期面临的最重要问题，所有国家都能在这一领域合作。
多家香港银行避谈“千亿中东资本涌港”传闻，金融业内：无数据可佐证，但关注度却有明显提升 记者 邹俊涛 近期有关“中东资本涌入香港”传闻在市场不胫而走。3月19日，财联社记者就此采访多家主流香港银行求证此事 中新经纬3月18日电 东方通信计划大手笔减持长芯博创。 18日盘后，东方通信公告称，公司同意授权公司管理层，在董事会审议通过后12个月内，根据证券市场情况，通过深圳证券交易所证券交易系统以集中竞价方式择机出售公司 中新经纬3月18日电 随着油价飙升，多家航司宣布提高国际航线燃油附加费。 3月17日，吉祥航空官网发布温馨提示称，因国际燃油价格调整，自2026年3月20日起(以出票时间为准)调整中国与东南亚国家之间航线燃油附加费收费 中新经纬3月18日电 18日上午，A股三大指数走势分化。截至午盘，上证指数跌0.40%，报4033.62点；深证成指涨0.05%，报14046.74点；创业板指涨0.89%，报3309.14点。 Wind截图 盘面上看，通信应用增值服务、通信服务、集成电路 。本文链接：AI教父辛顿：AI会比人类聪明，必须训练AI不伤害人类http://www.sushuapos.com/show-3-150432-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 金正恩参谒中朝友谊塔并献花圈