人工智慧新創公司Anthropic在其備受矚目的股票上市招股書中警告，客戶與使用者可能因旗下「自主型」AI代理的失控行為而對其提出法律索賠，然而相關的法律責任歸屬框架目前仍處於高度不確定的狀態。
正當Anthropic積極籌備可能是史上最大規模的首次公開發行（IPO）之際，該公司坦承，若其代理式AI（agentic AI）技術——設計上可深入存取客戶系統、並能連續自主運行數日——發生失控情況，將面臨龐大且未知的法律風險。
Anthropic在文件中表示：「這些自主能力可能增加潛在的危害風險，因为任何錯誤、目標偏差或安全漏洞，都可能在現實世界中產生嚴重後果。」該公司並指出，其中可能包括資料刪除或金融交易等無法復原的行為。
傳統上，線上平台對於使用者創作或發布的內容享有法律免責保護，但這道法律盾牌近年開始出現裂縫——部分論點主張，這些平台本身可能是一項有瑕疵且具危險性的「產品」。至於AI系統的使用是否適用與線上平台相同的法律待遇，目前仍不明確。
近來一連串涉及AI代理失控的事件，已在研究人員、投資人與立法者之間引發激烈討論——究竟應該由誰為自主AI系統造成的傷害負責。這些事件包括OpenAI的自主代理曾駭入一家AI新創公司，並入侵澳洲一個健康資料入口網站，以及多起涉及Anthropic旗下Claude AI模型的網路安全事件。
Anthropic在文件中進一步指出，其合約中對責任的限制，對於因自主代理行為所衍生的索賠而言，可能「無法執行或不充分」。該公司表示，現有法律應如何適用於AI代理的問題「尚未釐清，可能使我們面臨重大且難以預測的法律索賠」。
招股書中提到，目前懸而未決的問題包括：AI代理所採取的行為究竟應被視為產品、服務，或是其他類別；以及在何種情況下，AI代理的行為在法律上對部署該系統的用戶產生約束力。
美國聯邦貿易委員會（FTC）主席Andrew Ferguson上週表示，他拒絕接受將AI代理「擬人化」、認為其會「失控脫韁」的觀點。他暗示，一旦發生傷害事件，應由指示AI代理的開發者或使用者承擔法律責任。
Ferguson在德州奧斯汀舉行的Reuters Momentum AI大會上表示：「顯然，當有人使用這個工具，卻出現出乎意料、無法預測的結果時，將會產生新的法律問題。責任是否應歸咎於無辜使用工具卻達到意外結果的人？還是應歸咎於工具的製造者？」
Anthropic的發言人對此並未立即回應置評請求。
Anthropic揭露AI模型遭用於自殘等不當用途
Anthropic在招股書中同時揭露，儘管已設置多重安全防護機制，其AI模型仍遭使用「於可能導致自殘、對他人施加暴力行為或其他不良後果的方式」。
相較之下，OpenAI正面臨多起訴訟，這些案件將ChatGPT的使用與自殺事件及心理健康傷害案件進行連結。截至目前，Anthropic尚未被公開點名與類似事件有關。
OpenAI已提出超過十項法律抗辯理由。該公司主張，其服務條款禁止將ChatGPT用於自殘用途，同時受到美國憲法第一修正案的言論自由保護，並主張其受到一項豁免線上平台因他人創作內容而產生法律責任的法律所保障。
然而，法院已駁回社群媒體公司援引該法律、針對年輕使用者遭受心理健康傷害案件所提出的抗辯。Meta與Google在今年稍早的一場指標性審判中，被裁定對YouTube與Instagram的設計疏失及未能警告其危險性負有賠償責任。
Meta隨後同意支付180億美元，為期十年，以和解美國各州提出的類似索賠。