2025 年世界人工智能大会在上海盛大开幕。此次大会汇聚了全球顶尖的人工智能专家和企业。专家们纷纷呼吁，在人工智能飞速发展的当下，务必确保 AI 向善。人工智能虽带来诸多便利，但也可能引发伦理道德等问题。只有让 AI 始终秉持善意，服务人类，避免其被恶意利用，才能真正实现人工智能的可持续发展。通过加强监管、推动技术研发与伦理规范的结合等举措，共同为 AI 的健康发展筑牢基石，让 AI 更好地造福人类社会。

羊城晚报记者 何晶

7月26日，2025世界人工智能大会（WAIC）暨人工智能全球治理高级别会议在上海开幕。大会以“智能时代 同球共济”为主题，邀请来自40余个国家和国际组织的高级别代表出席，围绕深化创新合作、推动普惠发展、确保智能向善等重点议题开展深入研讨。

开幕式上，2024年诺贝尔奖得主、2018年图灵奖得主、加拿大多伦多大学计算机科学名誉教授杰弗里·辛顿，MiniMax创始人闫俊杰发表演讲；Relativity Space执行董事长兼CEO埃里克·施密特与香港科技大学校董会主席沈向洋以“人工智能全球合作展望”为主题开展对话。

诺奖得主建议

警惕“养虎为患”

2025世界人工智能大会主论坛的首位发言人，是图灵奖获得者、2024年诺奖得主、被人们称作“AI教父”的杰弗里·辛顿。

辛顿表示，人类正处于一个关键转折点——人工智能系统正迅速接近并可能超越人类智能水平，会进行并非操作者期望或预测的行动。他提出一个问题：“我们已经习惯（自己）是世界上最智慧的生物，如果不是了呢？”

辛顿认为，当前人类与AI的关系，恰似饲养一只可爱的小虎崽——它长大后可能轻易超越人类。为了生存，要么摆脱它，要么找到永久保护自身的方法。

他同时认为，通用人工智能有失控的风险，可能带来灾难。在他看来，AI不会给人类“拔网线”的机会，真到了那一天，AI会劝说人们不要这么做。人类对AI的控制就像“三岁孩子制定规则约束大人”，因此一定要教育AI向善。

辛顿在会上呼吁，构建一个由各国人工智能安全研究所与相关研究网络组成的国际社群，培养出向善的、不会想从人类手中夺取控制权的人工智能：“教导孩子变聪明的方法是不同的，但好在，希望孩子成为好人是大家的共识。”

呼唤更紧密的

全球合作互信

香港科技大学校董会主席、美国国家工程院外籍院士、英国皇家工程院外籍院士沈向洋，与Relativity Space执行董事长兼CEO、前Google CEO埃里克·施密特进行了对谈，探讨中美两国在人工智能大模型上的发展差异与合作可能。

埃里克·施密特首先比较了中美两国的人工智能大模型。他认为，一个明显的区别是，中国主要的、领先的模型都是开源的，甚至开放权重，而美国领先的模型大部分都是闭源的，不开放权重。在两种模式中，施密特更支持开源，认为其好处是每个人可以分享软件、各方可以合作。但他也不回避其中存在风险，即如果被别有用心者利用，负面影响可能会加速扩散。

对于人工智能发展，施密特表示，自己是乐观主义者。他认为，接下来的两年会涌现一批可以通过语言记忆完成任务的智能体，人类发出语言指令，智能体记住指令、采取行动。他说，这将对每个企业、每个政府的工作流产生巨大影响：“下一步的重点是研究更多深度的推理与更多先进的算法。相信在未来5年，我们会在社会上看到很多很好的变化。”

施密特也提醒，当AI开始自我学习并作出决策时，人类需要确保这些过程不会失控。“这是人类共同面临的问题，任何国家都要坐下来一起谈判、合作。我相信，中美可以通过对话加强互信，共同迎接AI带来的机遇与挑战，特别是在防止AI负面影响方面进行协作。” 施密特说。

推动内生安全研究

及国际合作

圆桌讨论环节，在图灵奖得主、中国科学院院士姚期智的引领下，多位全球AI领域专家围绕“同球共济推动AI普惠发展”展开深度探讨。

姚期智聚焦“如何通过国际合作弥合AI鸿沟”这一核心议题，为讨论奠定了全球视野的基调。姚期智表示，当前AI技术集中于少数国家和企业，需要由全球携手、确保技术红利惠及所有国家与群体。

上海人工智能实验室主任、首席科学家周伯文从技术、应用与治理三方面建言。他强调，AI具有通用性、可复制性与开源特征，发展与安全同等重要，需推动“内生安全”研究。“内生安全”是指让信息系统像人体免疫系统一样、自身具备安全防护能力，而不是只靠防火墙那样的外部防护。

周伯文在现场分享了国际合作的案例：上海人工智能实验室的台风预测技术曾提前三天精准预警，目前正与南方国家合作推广。他同时呼吁建立全球治理框架，表示“个体安全依赖群体安全”。据他介绍，中国推动的全球人工智能合作治理协议在联合国通过，体现了治理共识的重要性，为技术落地与全球协作提供了实践范例。