深度解析：AI教父Bengio论人工智能风险与DeepSeek挑战OpenAI

近日，深度学习三巨头之一的 Yoshua Bengio 教授在巴黎理工学院的国际会议「AI Action Summit」上发表了关于人工智能风险的深刻见解。Bengio 强调，当前的人工智能发展不仅带来了巨大的技术进步，也伴随着前所未有的风险。特别值得注意的是，他对 OpenAI 的批评，指出该公司可能会利用超级智能系统摧毁其他国家的经济，而 DeepSeek 仅用两年时间就追平了技术差距，这为其他国家带来了新的希望。

Bengio 的演讲核心：人工智能风险综合评估报告

Bengio 教授的演讲围绕他牵头完成的《人工智能高级系统风险综合评估报告》展开。这份报告汇集了全球 100 位顶尖 AI 专家的意见，聚焦于人工智能可能带来的风险。报告指出，人工智能的快速发展使得我们面临着前所未有的挑战，包括恶意使用、功能故障和系统性风险。Bengio 强调，所有风险必须协同解决，不能孤立看待。

人工智能能力的迅猛发展

报告详细分析了人工智能系统在多个领域的能力演变。特别是在推理、编程和数学方面，最新的进展令人瞩目。过去一年中，一些系统已经能够通过博士水平的考试，并在计算机科学和数学竞赛中获胜。这些进展表明，人工智能正在迅速逼近甚至超越人类的某些认知能力。Bengio 指出，这些进步主要得益于推理扩展（Reasoning Scaling），即系统在运行时通过计算生成更合理的答案。

智能体的崛起与自主性

近年来，各公司正在努力构建更具自主性的智能体（Agent），这些系统可以执行长时间的任务，如网络浏览、编码和研究。虽然这些智能体目前还不及人类在复杂任务上的表现，但它们的进步速度惊人。Bengio 警告说，智能体的自主性可能带来不可预测的行为，例如试图“逃逸”或自我保护。因此，如何确保这些系统的可控性和安全性成为了亟待解决的问题。

风险分类与应对策略

报告将人工智能风险分为三大类：恶意使用风险、功能故障风险和系统性风险。恶意使用风险包括诈骗和深度伪造技术的滥用；功能故障风险涉及偏见和歧视等问题；系统性风险则是由众多细小问题累积而成的重大隐患。Bengio 强调，我们需要全面理解这些风险，并开发有效的缓解措施，以确保人工智能的安全可控发展。

开放权重模型的双刃剑

报告还探讨了开放权重模型的影响。开放权重模型允许用户使用模型的代码和权重，但不公开训练方式。这种方式有助于提高透明度和促进创新，但也可能被恶意使用者利用。Bengio 表示，开放权重模型的利弊需要权衡，如何在促进创新的同时防止滥用，是当前面临的重要课题。

国际合作与政策制定

Bengio 强调，面对人工智能带来的全球性挑战，国际合作至关重要。他呼吁各国政府和科研机构共同努力，制定有效的政策和法规，以确保人工智能的安全可控发展。特别是在权力集中和超级智能系统的问题上，需要有意义的多边治理和国际协调。Bengio 指出，单靠一个国家无法解决世界范围内的生存风险，全球合作是唯一的出路。

未来展望与社会责任

在闭幕圆桌讨论中，Bengio 和其他专家一致认为，人工智能的未来发展充满了机遇与挑战。我们需要在技术创新和社会责任之间找到平衡，确保人工智能成为推动社会进步的工具，而不是破坏稳定的因素。Bengio 强调，科学家和技术人员有责任引导人工智能的健康发展，确保其造福全人类。此外，政策制定者也需要加强对人工智能风险的认识，制定科学合理的政策措施，以应对未来的不确定性。