【环球时报驻美国特约记者 冯亚仁 环球时报记者 张旺 李炫旻 景宽】人工智能（AI）公司Anthropic首席执行官达里奥·阿莫代伊12日发文警告称，发展AI本身并无争议，但AI带来的风险是“严峻的”，因此必须放慢AI模型能力提升的步伐，以便防范风险措施有时间跟上技术进步。他呼吁各国政府和前沿企业开展合作。对此，开放人工智能研究中心（OpenAI）的首席执行官萨姆·奥尔特曼、创立了xAI的埃隆·马斯克都表示赞成。美媒称，奥尔特曼、阿莫代伊和马斯克之间这种突如其来的立场一致，凸显了对AI的担忧如何迅速从行业边缘走向中心。然而，要实现相关目标仍面临阻碍。如何具体定义和核准“放慢”尚不明确，且公司间任何旨在限制发展的联合行动都可能触犯反垄断法。此外，如何建立国际合作也是一个棘手的问题。
马斯克：达里奥说得对
综合美国有线电视新闻网（CNN）、英国广播公司（BBC）报道，阿莫代伊12日在其个人网站上发文称，人类可能会失去对AI的控制，且该技术可能被滥用于“网络攻击、生物恐怖主义以及造成严重的经济破坏”。他写道，从今年夏天起，AI的发展速度急剧加快，如果不加以控制，可能会超出我们理解和控制这些系统的能力。因此，即便要推进这项技术，也必须极其谨慎。
阿莫代伊在文中建议各前沿AI公司，引入拥有类似公司员工访问权限的第三方评估团队，以核查公司是否遵守安全规范和承诺、报告安全事件，并评估AI模型、训练流程及相关操作规程。他还说，各国政府应协同合作，“制定统一的安全标准”。
美国《纽约时报》称，阿莫代伊的这篇文章堪称迄今头部AI企业高管发出的言辞最为强烈的紧急行动呼吁之一。
元股证券:ygzq.hk对于阿莫代伊的提议，两家竞争对手公司的负责人均表示支持。OpenAI首席执行官奥尔特曼在社交媒体上发文称，“我同意达里奥的观点，我们需要稳步推进前沿技术的发展”，“让独立评估人员拥有与员工相同的权限是个好主意，我们也会这样做”。xAI的创立者马斯克同样表态支持。他在社交媒体上转发阿莫代伊的帖子，并附文称：“达里奥说得对。”
“他们真心担忧未来两年人类的命运”
近期，外界对于AI技术潜在风险的担忧持续升温。今年7月，由OpenAI模型驱动的人工智能体在网络安全评测中利用漏洞突破隔离环境，并侵入了美国“抱抱脸”公司系统。8月，美国Meta公司证实，其一款AI模型在网络安全能力评测期间利用第三方服务中的一个安全漏洞，侵入其他公司系统。
刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉BBC，AI公司内部的从业者“发自内心地感到恐惧……他们真心担忧未来两年人类的命运”。“毫不夸张地说，创办这些企业、研发这项技术的核心人员认为，存在人类灭绝的可能性。”考克森说。
并非硅谷所有人都相信阿莫代伊此次发文完全出于利他目的。据《纽约时报》报道，一些批评人士指出，Anthropic和OpenAI试图通过渲染恐惧情绪并要求美国联邦政府建立监管框架，从而巩固其作为AI市场领导者的地位。这些监管框架将使规模较小的公司更难与它们竞争。
BBC称，也有观察人士认为，阿莫代伊发文是为了巩固Anthropic对AI技术的话语权。某科技播客主持人、投资人查马斯·帕里哈皮蒂亚表示：“达里奥这套说辞，本质是想要打压开源，把巨大的技术、经济权力集中到Anthropic手中。”
专家：中美AI合作存在空间
阿莫代伊12日的文章在强调控制AI发展速度的同时，不忘强调美国不能丢掉在AI领域的领先地位，防止中国实现反超。他敦促美国政府出台措施，禁止向中国出售高性能AI芯片或半导体制造设备，严厉打击芯片走私活动、针对中国境外数据中心的远程访问，以及所谓“威权国家”企业进行的未经授权的模型蒸馏行为。
场内配资平台清华大学人工智能国际治理研究院副院长肖茜13日对《环球时报》记者表示，阿莫代伊发出这番涉华表态，从企业角度讲，他认为Anthropic受到中国开源模型快速发展的挑战，并在成本、性能和全球开发者生态等方面对Anthropic所代表的闭源前沿模型发展路径形成竞争，因此主张进一步限制中国企业获得美国先进模型和技术。而且Anthropic在准备上市的背景下因为研究人员离职事件正处于公关危机之中，阿莫代伊此时突出“中国竞争”“国家安全”等议题，客观上有助于转移舆论注意力。此外，阿莫代伊及Anthropic部分核心人员的政策理念具有比较鲜明的自由主义和“民主技术联盟”色彩，与民主党建制派过去几年关于“民主与威权技术竞争”的叙事存在较高契合度。在他们看来，美国及其盟友应当保持对中国的前沿AI优势，因此，阿莫代伊对中国AI企业采取更加强硬的态度并不令人意外。
肖茜说，在国际上很多技术专家看来，中美之间在AI领域其实存在合作的空间。比如，对前沿模型的管控就是一个迫在眉睫的问题，近几个月不断闹出AI事故已经引起各方注意。
深圳市人工智能与机器人研究院具身智能中心主任刘少山也认为配资查询支持手机吗，中美双方可以共同建立前沿模型测试、重大AI事故通报等合作机制。他13日对《环球时报》记者表示，中美可以在AI产业上竞争，但安全规则不应该完全零和。真正成熟的AI治理，不是决定谁可以发展AI，而是确保无论谁发展AI，人类都还保有最后的控制能力。
配查查提示：本文来自互联网，不代表本网站观点。
