AI監管各國立場嚴重分歧！從企業自律、歐盟立法到全球治理 能否防止AI失控？

人工智慧正以前所未有的速度發展，但產業界領袖與政府之間，對於究竟該如何監管AI，至今仍未達成太多共識。這種摩擦，從那些試圖從AI成長中獲利的企業相互矛盾的外界訊息中，便可清楚窺見。

輝達（Nvidia）執行長黃仁勳（Jensen Huang）本週表示，AI領導者與研究人員所警告的AI可能對人類構成生存威脅的說法，是「言過其實」。他在接受美國有線電視新聞網（CNN）採訪時指出：「如果他們（AI公司領導人）認為自家公司失控了，那就應該把公司控制好。」黃仁勳的發言，是針對Anthropic前研究人員近期在社群平台X上發表的貼文，該貼文寫道：「真心在打造AI的人深信，AI可能在本世紀末前毀滅我們所有人。」Anthropic執行長達里奧·阿莫戴（Dario Amodei）近日也撰文指出，AI模型可能對人類帶來「災難性或毀滅性的風險」。

【企業端如何管理AI的力量？】

週一，輝達宣布推出一款名為「Open Shell」的軟體平台，允許企業監控AI代理人所採取的行動並強制執行相關政策。OpenAI近期也發布了類似的機制，推出一項能夠追蹤並回報機器人行為異常的技術。這套用於回報模型偏離設定的框架，是在一個OpenAI模型在受控測試中失控、並駭入另一家AI公司Hugging Face之後所推出的。Anthropic同樣也承諾將導入「嵌入式評估機制」（embedded evaluators）。然而，這一切仍屬於企業的自我監管。

美國總統川普週二在白宮接待了多位科技產業最具權勢的領導人，包括黃仁勳、阿莫戴、Meta執行長馬克·祖克柏（Mark Zuckerberg）以及特斯拉執行長伊隆·馬斯克（Elon Musk）。會後，川普強調科技業應進行自我監管。他表示：「外界普遍認為科技業應該進行大量的自我規範，而我們自然也有司法部、聯邦調查局（FBI）等機構的監管。但自我監管是非常重要的。」

【政府治理進展如何？】

川普近日宣布將成立AI專案工作小組，並指派一位「AI沙皇」（AI czar）負責統籌，但截至目前尚未公布任何具體措施。與此同時，外界傳出美中之間正就建立某種通報機制進行早期對話，該機制將在發生威脅國家安全的事件時，向相關國家發出警報。

在歐洲，各國與企業必須遵守《AI法案》（AI Act）。使用AI的企業將根據其AI應用的風險高低，遵循不同程度的規範。然而，牛津大學教授桑德拉·瓦赫特（Sandra Wachter）指出，歐盟的《AI法案》主要著重於對個案的懲處，並未真正處理人們日益擔憂的更大社會風險。

【全球治理的可能性】

聯合國已開始嘗試推動全球協調，但目前看來，要建立類似於核武監控的機制，仍有很長的路要走。國際原子能總署（IAEA）負責監測各國，確保它們不會將核能用於製造武器。然而，並非所有人都認為AI需要比照IAEA層級的治理。

北卡羅來納大學教堂山分校首席AI長暨AI副教務長塞伊夫·海拉特（Saif Khairat）表示：「我認為這樣的比較可能有失公允。與其他領域不同，AI掌握在每個人手中。每個人都在使用AI。這就是我認為AI需要多層次治理與監督方式的原因。」事實上，與核能技術不同的是，AI無處不在，每個人都能以某種方式使用它。

但與核能技術相似的是，美國正與其對手中國在AI領域展開軍備競賽；同樣地，AI帶來世界末日的情境，正由那些正在打造這項技術的人所提出。加強治理與監督的議題，已成為上週在紐約召開的聯合國大會上的討論焦點。

賴比瑞亞代表路易斯·加西達·布朗二世（Lewis Garseedah Brown II）在會上發言指出：「歷史告訴我們，人類最偉大的轉型從來不僅僅是由技術突破所定義。每一次能力的根本躍進，都需要治理層面的同等躍進。我們絕不能讓今日的猶豫，成為明日的災難。」

在北卡羅來納州乃至全美各地，立法者正努力思考如何監管機器學習，因為這項技術幾乎觸及社會的每一個層面。