一个内含写著「Remember（记住）」小小讯息的玻璃瓶，迎来了「Ground Zero 360 - Remembrance」展会的开幕，这展示了这个周末……
AI能否逃离人类控制？Anthropic创办人警告潜在风险
随著人工智慧（AI）不断演进并融入人类的日常生活，关于其使用方式以及应实施哪些限制，引发了广泛讨论——这些限制不仅要保护作品的创作权利，更要防范若AI被用于不良目的，可能危及生命的风险。
在此背景下，全球知名AI公司之一Anthropic的首席执行长Dario Amodei于9月12日（星期六）警告，AI系统可能「失去控制」的危险，以及遭滥用进行网路攻击和生物恐怖主义，并可能造成「严重经济动荡」。因此，他提出了一项行动方案，旨在放缓AI系统的开发速度，该方案包括在AI开发公司（如Anthropic、OpenAI、Google等）引入外部查核人员。
Amodei在其个人部落格发表的宣言中写道：「我仍然相信，AI能够大幅提升人们的生活品质。我追求这些效益的愿望从未减弱。但只有当我们以正确的方式开发这项技术，并且——善用争取到的时间——我们才值得以极其谨慎的态度采取行动……我的主要担忧是，自去年夏天以来，AI的发展速度令人眩晕，这主要是因为它日益增强的创造下一代AI的能力。」
Anthropic的领导者建议，专门负责安全的第三方机构应能永久接触那些开发最先进模型的公司。这些评估者应能观察安全实践、调查事故、分析模型及其训练过程，并确认企业是否履行其承诺。同时，他们应可公布主要结论，仅在保护敏感资讯时有限例外。
Amodei还建议，主要公司应达成共同的安全标准，并对日益强大的模型的加速发展设定限制。其目的是避免商业竞争迫使企业因害怕落后而降低安全措施。
Amodei认为，民主政府应支持并促进此协调。同时，他提出美国及其他民主政府应与不共享其政治体制的国家（特别是中国）合作，为AI发展建立某些全球性限制。目标是降低可能跨越国界的风险，特别是在网路安全、生物武器和失去对先进系统控制等领域。
此外，他提议减慢AI最强大能力的发展步伐，以争取时间改善安全性。他并非主张完全停止所有进展，而是根据模型能力和风险的提升，设立控制或「检查点」。可能的限制包括限制训练所用的运算量、特定训练项目，以及使用AI来开发新一代AI。
最后，他提出一套渐进式安全措施：禁止极度危险的用途；要求在对生物或网路安全可能产生严重风险的模型发布前进行评估；设限于系统的递归自我改进；在最极端情境下，若风险合理 justified，则全面放缓或暂停发展。与此同时，他认为美国透过对先进晶片、半导体制造设备以及模型盗取或非法转让的控制，维持对中国的技术优势至关重要。
各方回应迅速展开。OpenAI的领导人Sam Altman对放缓AI发展表示支持，并表示外部观察员的参与对开发此项技术的公司大有裨益，称之为……