当未来的人们为人工智能（AI）撰写一部编年史时，这可能是一个具有重大意义的里程碑。
图片来源：视觉中国（Visual China）
因为这是人类第一次由一个庞大的国际顶尖专家组，就先进人工智能的风险推进全球政策制定。
人们已经明确认识到：我们离不开人工智能（AI），同时也需要积极推动人工智能技术的发展，但我们必须具备能力来预防其中的风险。
文章截图：《科学》网站
自从6个月前在英国布莱奇利公园举行第一届AI安全峰会以来，世界各国领导人承诺以负责任的方式管理人工智能（AI），但是AI专家认为这依然不够。随着第二届AI安全峰会（5月21日至22日）在韩国首尔举行，25位世界顶尖AI科学家呼吁，全世界应对人工智能风险采取更强有力的行动。
发表于《科学》杂志的一份专家共识文章中，专家组概述了全球应采取的紧急政策优先事项。文章作者之一、英国牛津大学工程科学系教授菲利普·托尔表示：“在上届人工智能峰会上，世界一致认为我们需要采取行动，而现在是时候将模糊的建议转变为具体的承诺了。”
目前对安全性的研究非常不足
这25位全球顶尖的人工智能（AI）及其治理专家来自美国、中国、欧盟、英国和其他人工智能技术强国，其中包括图灵奖获得者以及诺贝尔奖获得者。这也是首次由国际专家组就人工智能风险的全球政策制定达成一致。
文章指出，全球领导人需认真考虑，在未来十年内可能开发出超越人类能力的通用人工智能系统。他们表示，尽管世界各国政府一直在讨论先进人工智能，并尝试引入初步指导方针，但这与许多专家期望的快速、变革性进展仍有距离。
目前关于AI安全的研究严重缺乏，只有1%—3%的AI出版物涉及相关安全问题。此外，全球没有适当的机制或机构来防止滥用和鲁莽行为，包括如何使用能独立采取行动和自行实现目标的自治系统。
目前关于人工智能（AI）安全的研究非常有限，只有极少数（1%—3%）的AI出版物涉及到相关的安全问题。此外，全球范围内缺乏适当的机制或机构来防止人工智能的滥用和鲁莽行为，包括如何管理那些能够独立采取行动和自主实现目标的自治系统。
在迅速增长的过程中，要警惕极端风险的出现
文章建议，各国政府需建立可快速行动的人工智能（AI）监管机构，并为这些机构提供充足的资金支持。美国AI安全研究所目前的年度预算为1000万美元，虽然听起来不算少，但与美国食品和药物管理局（FDA）的预算达到67亿美元相比，仍然有一定差距。
在AI领域，我们需要对风险评估进行更加严格的审查，并制定可行的措施，而不是仅仅依赖于一些不够明确的模型评估。我们应该要求AI研发企业将安全性置于首位，并且要求他们证明他们的系统不会造成任何伤害。AI开发人员也需要承担起证明系统安全性的责任。
人们还要有一个与人工智能系统带来的风险水平相称的缓解办法，解决之道是制定一个“自动”政策，当人工智能达到某些能力里程碑时“自动触发”——如果人工智能发展迅速，这一严格的要求就会自动生效；如果进展缓慢，要求将相应放缓。
对于具备超凡能力的未来AI系统，政府必须做好带头监管的准备。这包括允许开发，但限制其在关键社会角色中的自主权，停止部署某些功能，强制执行访问控制，并要求采取强有力的信息安全手段来对抗国家级黑客，直到人们准备好足够的保护措施。
请牢记人工智能不是一种玩具
不列颠哥伦比亚大学人工智能教授、强化学习领域专家杰夫·克伦纳表示，太空飞行、核武器和互联网等技术在短短几年内就从科幻变成了现实，人工智能也不例外。“我们现在必须为那些看似科幻小说的风险做好准备”。
现在，人工智能（AI）已经在黑客攻击、社交操纵和战略规划等关键领域取得了快速进展，并可能很快带来前所未有的关于“控制”的挑战。AI系统可能会为了实现某个“不良目的”而欺骗人类信任、获取资源并影响关键决策者。为了避免人为干预，它们还可以在全球服务器网络上复制自身算法。
在这种情况下，大规模网络犯罪、社会操纵和其他危害会因此迅速升级。而在公开冲突中，人工智能系统能自主部署各种武器，甚至包括生物武器。因此，当人工智能的进步不受控制，很可能最终导致大规模生命损失、生物圈破坏、人类边缘化甚至灭绝。
美国加州大学伯克利分校计算机科学教授斯图尔特·卢塞尔表示：“此次是权威专家的共识文章，其强调政府应该采取严格监管措施，而不是仅仅依靠自愿制定一些行业规范。”
“企业可能抱怨说满足这些法规太困难，但所谓‘法规扼杀创新’的说法是荒谬的。”卢塞尔这样说，“是时候认真对待先进人工智能系统了，它们不是玩具。在我们了解如何确保它们的安全性之前，轻易增强它们的能力是完全鲁莽的行为。”
