AI能否逃離人類控制？Anthropic創辦人警告潛在風險

一個內含寫著「Remember（記住）」小小訊息的玻璃瓶，迎來了「Ground Zero 360 - Remembrance」展會的開幕，這展示了這個週末……

AI能否逃離人類控制？Anthropic創辦人警告潛在風險

隨著人工智慧（AI）不斷演進並融入人類的日常生活，關於其使用方式以及應實施哪些限制，引發了廣泛討論——這些限制不僅要保護作品的創作權利，更要防範若AI被用於不良目的，可能危及生命的風險。

在此背景下，全球知名AI公司之一Anthropic的首席執行長Dario Amodei於9月12日（星期六）警告，AI系統可能「失去控制」的危險，以及遭濫用進行網路攻擊和生物恐怖主義，並可能造成「嚴重經濟動盪」。因此，他提出了一项行動方案，旨在放緩AI系統的開發速度，該方案包括在AI開發公司（如Anthropic、OpenAI、Google等）引入外部查核人員。

Amodei在其個人部落格發表的宣言中寫道：「我仍然相信，AI能夠大幅提升人們的生活品質。我追求這些效益的願望從未減弱。但只有當我们以正確的方式開發這項技術，並且——善用爭取到的時間——我們才值得以極其謹慎的態度採取行動……我的主要擔憂是，自去年夏天以來，AI的發展速度令人眩暈，這主要是因為它日益增強的創造下一代AI的能力。」

Anthropic的領導者建議，專門負責安全的第三方機構應能永久接觸那些開發最先進模型的公司。這些評估者應能觀察安全實踐、調查事故、分析模型及其訓練過程，並確認企業是否履行其承諾。同時，他們應可公布主要結論，僅在保護敏感資訊時有限例外。

Amodei還建議，主要公司應達成共同的安全標準，並對日益強大的模型的加速發展設定限制。其目的是避免商業競爭迫使企業因害怕落後而降低安全措施。

Amodei認為，民主政府應支持並促進此協調。同時，他提出美國及其他民主政府應與不共享其政治體制的國家（特別是中國）合作，為AI發展建立某些全球性限制。目標是降低可能跨越國界的風險，特別是在網路安全、生物武器和失去對先進系統控制等領域。

此外，他提議減慢AI最強大能力的發展步伐，以爭取時間改善安全性。他並非主張完全停止所有進展，而是根據模型能力和風險的提升，設立控制或「檢查點」。可能的限制包括限制訓練所用的運算量、特定訓練項目，以及使用AI來開發新一代AI。

最後，他提出一套漸進式安全措施：禁止極度危險的用途；要求在对生物或網路安全可能產生嚴重風險的模型發布前進行評估；設限於系統的遞歸自我改進；在最極端情境下，若風險合理 justified，則全面放緩或暫停發展。與此同時，他認為美國透過對先進晶片、半導體製造設備以及模型盜取或非法轉讓的控制，維持對中國的技術優勢至關重要。

各方回應迅速展開。OpenAI的領導人Sam Altman對放緩AI發展表示支持，並表示外部觀察員的參與對開發此項技術的公司大有裨益，稱之為……