刚惹祸的美国AI巨头们，参与联名警告 蓝狮资讯

英国广播公司（BBC）8月28日报道，包括谷歌、微软、Anthropic和OpenAI在内的100家公司联合签署了一封公开信，呼吁世界各国和组织在人工智能强大到足以突破现有网络防御之前，加紧强化自身的网络防护能力。联合发布的公开信 外媒截图。今年夏天，OpenAI、Anthropic和Meta均曾披露其AI工具做出了本不应有的行为，其中一些AI代理甚至为了绕过安全防护而组织行动，并冒充真实人员。这封公开信发布前，一系列由AI引发的黑客攻击和网络安全漏洞事件陆续被公开披露。那将是一个非常黯淡的未来。公开信签署者Anthropic声称，其开发的Mythos能够在数秒内发现人类黑客长期未能察觉的系统弱点——它曾在一个遗留平台中发现了一个27年来未被发现的安全漏洞。”。Yoon指出：“他们在这封信中承诺为防御措施提供‘大量资金’，这是正确的。该公开信还恳请各国政府、组织、网络安全专业人士及其他AI公司共同努力，优先加强防御，并利用强大AI模型的能力来测试系统。近年来，辛顿一直公开谈论AI技术发展所带来的极端风险，他当天补充道：“我们面前有一条路，是找到了应对AI风险的方法；还有另一条路，是我们没能明智地找到应对之策。”信中警告，随着AI技术的迅速进步，利用AI发起的网络攻击将在未来数月内变得更加普遍和复杂。曾在谷歌从事AI研究的技术专家、诺贝尔奖得主杰弗里·辛顿于27日告诉BBC，如果AI技术发展到比人类“更聪明”的程度，社会可能“陷入真正的麻烦”。他们应该兑现这一承诺。尽管公开信提出将更先进的AI工具（许多签署方已开发并销售这些工具）作为应对日益增长威胁的解决方案之一，但这类工具并不容易获取。其他签署方还包括美国第一资本银行等银行机构、万事达卡和Visa等支付处理商，以及Adobe、甲骨文和IBM等其他主要科技公司。公开信开篇即指出：“我们加强网络防御的窗口期有限。信中表示，科技行业和政府“应将其全部技术、资源和专业知识投入到这项工作中”。”他还补充道，“值得注意的是，这封信并未呼吁采取任何行动来减缓AI黑客能力的发展。该事件被描述为世界上首次基于AI的网络攻击。然而，Anthropic已限制对Mythos的访问，理由是它“过于强大”，不能落入不法之徒手中。专注于提升公众对AI技术理解的非营利组织CivAI的研究主管Andrew Yoon表示，“前所未有的AI黑客活动浪潮”即将到来，并将其归因于公开信的签署方。在美国，参议员们已提出一项名为《紧急关停法案》的新法律，拟授权当局关闭失控的AI模型。公开信呼吁前沿AI公司“提供模型访问权限、大量资金、培训以及实践支持，特别是要为资源不足的关键基础设施防护者提供支持”。他们呼吁政府向医院和供水系统提供“强大的防御性AI”及相应测试，并“希望科技企业为这些努力提供支持”。此外，至少七家美国水务和废水处理公司也报告了网络攻击，迫使美国联邦调查局发布公共服务公告，敦促所有公用事业公司加强运营安全。该团体表示，面对这一问题，现有的安全措施“将不足以应对”，并批评了相关的基础设施安全领域“长期存在的资源投入不足问题”。”。OpenAI近期公布的事故报告显示，近700个正在测试中的AI代理建立了秘密留言板，相互通信并协同工作，最终成功攻击了“抱抱脸”（Hugging Face）——一个广受欢迎的AI开发者代码库和平台。但信中并未详细说明何时、或如何实现这一愿景。