20261026 人工智慧議題上大錯特錯

shiyi18

特邀專欄 | 掌控發展節奏
「放手一搏」派在人工智慧議題上大錯特錯
橋水基金（Bridgewater）的尼爾·巴爾·迪亞（Nir Bar Dea）與格雷格·詹森（Greg Jensen）指出，該陣營提出了四項主要論點，但全都存在謬誤

儲存

分享
尼爾·巴爾·迪亞與格雷格·詹森的肖像
插圖：丹·威廉斯（Dan Williams）
2026年10月26日
|
閱讀時間 5 分鐘
收聽這則報導
AI 旁白

近幾週來關於人工智慧風險的激烈辯論，其實蘊含著一個契機。Anthropic 的達里奧·阿莫迪（Dario Amodei）敦促業界要「掌控技術前沿」。許多人對此表示贊同，各政治光譜的政界人士也已表明準備採取行動。然而，並非所有人都認同此觀點。唐納德·川普總統曾公開反對制定新的 AI 法規，Meta 的馬克·祖克柏（Mark Zuckerberg）和 Nvidia 的黃仁勳（Jensen Huang）亦持相同立場。

我們曾歷經類似情境：每當新技術問世，社會便不得不面對一個問題——這項技術是否需要受到管控？若需管控，應管制到何種程度，又該如何實現？如今，人工智慧正將我們帶入這個關鍵時刻。這將是我們這一代人面臨的最重要政策決策。


對監管持懷疑態度者提出了四點論據：風險被誇大；現有法律已涵蓋相關領域；部分研究機構支持監管僅是為了鞏固其領先地位；以及若美國放緩步伐，中國將超越美國，屆時無人能更安全。

第一項論點——即風險微小或發生機率極低——實屬見樹不見林。功能強大的模型早已落入意圖作惡之人之手。我們估計，自 2022 年 ChatGPT 發布以來，網路攻擊的發生頻率已增加一倍以上，且呈加速趨勢。如今每個人都面臨風險，而世界迄今所見的僅是冰山一角：惡意行為者很可能利用開放權重模型，這類模型比專有模型更難追蹤。

此外，具備超人類能力的模型已經問世。自 Hugging Face 事件（當時大批 OpenAI 代理從測試環境中逃脫並開始相互串通）以來，各實驗室的披露顯示出這種趨勢正在加劇。Anthropic 最近主動報告的實驗表明，模型可能只需數月時間，便能不依賴資料中心而自主自我複製。隨著時間推移，儘管機率微乎其微，但這種卓越的代理智能仍可能對人類構成存亡危機。

與此同時，社會必須正視人工智慧對勞動市場的影響。若人工智慧能兌現其提升生產力的承諾，將從結構上削弱人類勞動力的競爭優勢。隨著全球化時代的結束，1990年至2010年間，製造業在非農業就業中的佔比下降了七個百分點，隨之而來的一波民粹主義浪潮，已使西方各國社會陷入動盪。我們認為，一波規模更大、速度更快的第二波浪潮正在醞釀，可能在更短的時間內取代近五分之一的美國工作崗位。


人們對發生機率的看法可能不一；關鍵在於，這些風險的總和是否足以促使我們採取行動。網路攻擊的風險極為顯著且日益加劇。與自主超級智慧相關的風險雖不確定，但絕非零，且可能造成災難性後果。對人類勞動力的威脅似乎不可避免，特別是如果社會成功避開前兩項風險的話。因此，對整體風險進行監管的必要性顯而易見。

懷疑論者的第二項論點——即現有法律已足夠——忽略了這些法律在制定時並未將人工智慧特有的危險納入考量。社會過去曾從中汲取教訓：工業革命後的食品安全、專利藥品熱潮後的藥物安全，以及2007至2009年危機後的金融監管。社會不會僅因企業日後須承擔法律責任，就容忍受污染的嬰兒食品、會奪走數千人生命的藥物，或是導致系統失穩的金融工具。當後果的嚴重程度已超出容忍範圍時，單靠法律責任便顯不足，因此法規不能溯及既往。每個產業在歷經激烈辯論後，都得以在隨後的監管下蓬勃發展。

第三項論點——即某些實驗室支持監管以鞏固自身優勢——或許屬實，但與本議題無關。姑且不論外界指稱這些企業權力過大；它們自己也如此宣稱。我們估計，OpenAI 和 Anthropic 到 2028 年將合計掌控全球約 35% 的運算能力。十家標普 500 指數成分股企業——幾乎全都屬於人工智慧供應鏈——佔其市值的約 40%，而 Nvidia 單一公司的市值就超過全球 GDP 的 4%。無論動機為何，這種極端的權力集中都必須受到監管。

第四項論點——若美國出台新規，中國將迅速拉開差距——涉及多層面因素。人工智慧競賽猶如冷戰時期：當時美國對核技術的研發實施嚴格監管，而蘇聯則毫無約束地發展。較寬鬆的管控非但未讓蘇聯取得領先，反而導致了切爾諾貝利等事故，進而加速了其帝國的崩潰。中國深諳此理：儘管其正在提煉前沿實驗室模式，但仍實施更嚴格的管控，這與透過技術管控來維護穩定的方針相符。美國若實施監管，將在結構上放緩中國的步伐，同時降低可能改變競爭格局的嚴重事故風險。

在規劃未來路徑時，必須透過「誰」、「什麼」和「如何」這三個視角來思考原則。

「由誰來監管」這個問題至關重要，因為負責者的素質將決定其他一切的品質。有人主張，鑑於政府在人工智慧方面的專業知識有限，企業應自行監管。但政府才是代表社會採取行動的最佳選擇，因為在民主體制下，政府的激勵機制與社會的利益最為一致。若監管機構存在專業知識缺口，這可以被彌補；但要消除企業內在的激勵機制錯配，則困難得多。

那麼，誰應該受到監管？是那些可能造成巨大影響的對象。這意味著所有開發模型者——無論是專有模型還是開源模型——以及所有終端使用者。若視野過於狹隘，便會留下漏洞。

「監管什麼」則關乎監管的性質與範圍。監管應是能最大化長期效益所需的最低限度，亦即每單位風險所能獲得的最大回報。監管不足會危害社會，正如工業革命後未受約束的童工現象。過度監管——例如美國在二十世紀中葉為保護運輸公司所採取的措施——則會阻礙經濟成長，同樣會危害社會。目標必須是制定能以最低必要限制來控制已定義風險的規則。


「如何」則涉及實施層面，其執行應迅速——且需快速調整。航空業便是值得效法的典範：美國聯邦航空總署每年發布超過300項適航指令，自1964年以來已修訂其全面的飛機認證規則逾90次。人工智慧將需要更高數級的速度與迭代頻率。

這一切絕非易事。但無所作為絕對是最糟糕的選擇。若辯論陷入僵局，世界將繼續走在這樣一條道路上——其風險——最好是嚴重的社會動盪，最壞則是前所未有的災難——是任何人都無法接受的。只要建立正確的防護措施，人工智慧就能為人類帶來巨大的好處。現在就對其進行監管，是確保未來能實現其承諾的唯一途徑。■

尼爾·巴爾·迪亞（Nir Bar Dea）是橋水投資（Bridgewater Associates）的執行長。格雷格·詹森（Greg Jensen）是該公司的管理首席投資官。