資料來源：Tufts University
人工智慧（AI）是新鋼鐵嗎？
十九世紀，政府官員逐漸意識到鋼鐵對於經濟成長和國家安全都至關重要。因此，一些國家製定了政策，不僅可以維持本地生產，還可以阻止外國生產商在國內市場競爭。到 20 世紀 50 年代，這些國家的鋼鐵產量總計過多。製造商替代了塑膠或鋁等產品。儘管如此，日本、印度、美國和歐盟的政策制定者決心維持國內產能，因為鋼鐵對於坦克、潛艇和機槍等軍事硬體以及住房仍然至關重要，令人驚訝的是，即使在今天，政府仍在繼續投資鋼鐵，儘管對鋼鐵的需求持續萎縮。經濟合作暨發展組織（OECD）預測， 2023年產能過剩將進一步惡化，導致市場狀況困難並加劇氣候變遷。
當然，鋼鐵和人工智慧有著天壤之別。鋼是一種成分——一種製造合金，用於製造從坦克到烤麵包機等各種產品，相較之下，人工智慧是一種基於機器的系統，它根據接收到的輸入推斷如何產生可以影響物理或虛擬環境的輸出，例如預測、內容、建議或決策，個人、政府和企業正在利用人工智慧來提高生產力、增進人類福祉並幫助應對氣候變遷等複雜挑戰。此外，與鋼鐵相比，許多經濟學家將人工智慧視為一種通用技術，可以刺激經濟成長和創新。因此，政策制定者必須確保國內產能。
人工智慧風險不可小覷（資料來源：DIPLO）
人工智慧是否存在過剩問題？
然而，許多政府官員也已經將人工智慧視為對國家安全和經濟進步至關重要的關鍵技術。根據向OECD報告的 2023 年政策和計畫審查，有 60 多個國家正在使用納稅人的錢來建立、擴散或研究人工智慧。這是很多人工智慧。舉例而言，歐盟、德國、日本、沙烏地阿拉伯、英國和美國的政策制定者最近宣布對人工智慧進行巨額公共投資（這些投資是在私營部門大規模投資之後進行的），另外，自 2018 年以來，歐盟每年為人工智慧能力建設提供 10 億美元資金，這樣的資金將使沙烏地成為迄今為止人工智慧領域最大的投資者。
在國家層面，這些投資是可以理解的，但總的來說，它們可能會導致產能過剩——也就是人工智慧供應超過需求的情況，除了眾所周知的人工智慧風險（例如偏見或不準確）之外，這種產能過剩還會帶來陷阱，例如，當各國尋求維持國內人工智慧競爭力和市佔率時，一些國家可能會「拋售」過剩產能，這可能會讓犯罪分子或流氓特工更容易獲得該技術。在這裡，產能過剩可能會導致政治不穩定。
此外，人工智慧生產者需要大量資金來設計、開發和部署這些系統，為吸引和維持此類投資，一些公司或政府可能會選擇忽視法規，這些法規的目的為限制潛在負面影響的策略，產能過剩可能與不值得信任或不負責任的人工智慧有關，同時，在與其他國家競爭時，政策制定者可能會囤積數據或限制技術的獲取，使合作利用人工智慧來推進知識或共同解決氣候變遷等棘手問題變得更加困難，產能過剩可能與人工智慧使用方面缺乏合作有關。
最後，對人工智慧的過度投資存在機會成本。如果沒有明確的目的，此類投資可能會以犧牲其他分析大量數據的技術和方法為代價，產能過剩是國內和國際經濟的正常問題。有時，供應超過需求，但當各國政府介入創造和維持產能時，就像他們對鋼鐵所做的那樣，現在可能對人工智慧所做的那樣，各國政府將難以解決全球溢出效應，進而帶來下列風險。
- 組織風險：開發先進人工智慧的組織存在導致災難性事故的風險，特別是如果他們優先考慮利潤而不是安全的話，人工智慧可能會意外洩漏給公眾或被惡意行為者竊取，組織可能無法正確投資於安全研究，企業需要培養安全為導向的組織文化，實施嚴格的審計、多層次的風險防禦和最先進的資訊安全。
- 流氓人工智慧：隨著人工智慧變得更強大，我們可能會失去對它們的控制。人工智慧可以優化有缺陷的目標，偏離最初的目標並進行欺騙，人工智慧不應部署在高風險環境中，例如自主追求開放式目標或監督關鍵基礎設施，除非證明是安全的。