在欧盟放行了全球首部人工智能法案后，有科技界领袖对此表达担忧，认为人工智能的风险被夸大了。
在上周举行的巴黎VivaTech大会期间，科技巨头Meta人工智能负责人杨立昆（Yann LeCun）公开表示，欧盟新法案面临的一个“大问题”是“是否应该对人工智能的研究和开发进行监管”。
AGI（人工通用智能）何时实现，业内对此存在较大分歧
杨立昆表示，欧盟人工智能法案和其他各个地方都有规范研究和开发的条款，但他认为这不是一个好主意，理由是他并不认为人工智能会很快超越人类智能。
“坦率地说，我不相信人工智能有任何与人类接近的地方。”杨立昆表示，“我认为它目前没有那么危险。”不过他承认，未来人工智能系统可能会变得更加智能，届时需要对它们的设计采取适当的保障措施。
百度首席执行官李彦宏也在VivaTech期间表示，人工通用智能（AGI）的实现还需要超过十年的时间。他表示：“我们希望人工智能能够像人类一样具备聪明才智，但目前最强大的模型远远没有达到这个水平。”
李彦宏呼吁加快人工智能的发展步伐。“我担心的是人工智能技术进步得不够迅速。每个人都对过去几年技术发展的速度感到震惊。但对我来说还是不够快。”他表示。
以特斯拉CEO马斯克为代表的科技人士强调人工智能的风险，马斯克在X Space的访谈中预测，到明年或2026年，人工智能的智慧可能会超过世界上最聪明的人类，也就是通用人工智能（AGI）的实现。
以特斯拉CEO马斯克为代表的科技人士强调人工智能的风险，马斯克在X Space的访谈中预测，到明年或2026年，人工智能的智慧可能会超过世界上最聪明的人类，也就是通用人工智能（AGI）的实现。根据马斯克的预测，到明年或2026年，人工智能的智慧水平有望超越目前世界上最聪明的人类。这意味着通用人工智能（AGI）有可能在这个时间段内实现。ChatGPT的开发商OpenAI的首席执行官奥尔特曼（Sam Altman）在今年早些时候预测，人工通用智能（AGI）可能会在不久的将来实现。
对于人工智能安全性风险的分歧在OpenAI的“内斗”中已经暴露出来。OpenAI在宣布向公众免费提供迄今为止最强大的人工智能模型GPT-4o后，该公司前首席科学家苏茨克维尔（Ilya Sutskever）宣布辞职，“超级对齐”团队解散。
这也引发了谁来为人工智能负责的讨论。现任清华大学国强教授、智能产业研究院首席研究员聂再清对第一财经记者表示：“Ilya对大规模模型技术的理解非常深刻，他的离职和对齐团队的解散短期内对OpenAI大规模模型技术的发展和安全可控可能会有一些影响。OpenAI应该还会继续大力投入到安全和对齐相关的工作上，确保大规模模型长期安全可控，在各种边界情况下都表现良好。”
他认为，作为大型科技企业，可以通过团队的协同合作，在“对齐”这个方向上做出更好的长期规划，并实现资源共享和调配。
如何平衡创新与监管
欧盟一直在领导人工智能监管的进程。上周，欧盟委员会通过了《人工智能法案》，这是全球首个针对人工智能监管的法案，旨在制定全球范围内的标准。
该立法遵循“基于风险”的方法，旨在促进私人和公共参与者在欧盟市场上开发和采用安全、值得信赖的人工智能系统。法案规定，提供公共服务的实体在部署高风险人工智能系统之前，需要对其基本权利影响进行评估。这也意味着如果人工智能对社会造成伤害的风险越高，监管的规则就会越严格。
该法案还包括了对通用人工智能大模型（GPAI）的使用进行规范。根据法案，对于那些不会导致系统性风险的GPAI模型，将会有一些有限的要求，比如透明度方面的要求，但是对于那些存在系统性风险的模型，将需要遵守更为严格的规则。
一些企业和行业组织已经明确对欧盟的AI法案提出反对，认为这不利于欧洲打造人工智能高地。欧洲科技行业组织Digital Europe此前在一份声明中称：“这意味着我们需要投入更多来研究对抗人工智能使用风险的方法，而不是仅仅投入技术本身。新的监管规则将要求公司投入大量资源来遵守，把资源花在律师身上，而不是雇佣更多的人工智能工程师。”
Meta欧盟事务主管Marco Pancini也表示：“最重要的是，我们不应该忽视人工智能在促进欧洲创新和促进竞争方面的巨大潜力，而开放是关键。”
亚马逊首席技术官沃纳·沃格尔斯(Werner Vogels)也在VivaTech期间表达了对人工智能监管可能会限制某些领域创新的担忧。
他表示，在考虑风险时，监管机构应该考虑将新技术应用于医疗保健和金融服务。“我认为人工智能在很多领域应用的风险很小，我们应该让创新在这些领域发挥作用。在其他领域，人工智能犯的错误可能对人们的生活产生更大的影响，应该针对这些特定领域进行特别的风险管理。”沃格尔斯表示。
他还强调，亚马逊非常欢迎监管，并且愿意与监管机构合作，以实现共同的目标。然而，他也提醒欧盟不要过度监管人工智能技术。
对此，欧盟委员会表示，该法案的推出目标是“促进欧洲人工智能的投资和创新”。“这项具有里程碑意义的法案是世界上第一部人工智能法案，它解决了全球技术挑战，也为我们的社会和经济创造了机会。通过人工智能法案，欧洲强调在处理新技术时信任、透明度和问责制的重要性，同时确保这种快速变化的技术能够蓬勃发展并促进欧洲创新。”欧盟在一份声明中称。
欧盟表示，该立法法案经欧洲议会通过后，将在未来几天内在欧盟官方公报上发布，并在发布后二十天生效，新法案将在生效两年后对企业正式产生影响。不遵守规则的公司将面临3500万欧元或等同于全球收入7%的罚款（二选一）。
