當Anthropic登上華爾街並開始公開交易時,新近承受的獲利壓力,將考驗公司自創立以來始終秉持的一項承諾:在開發人工智慧時,將全人類的福祉置於優先位置。
這家總部位於舊金山的新創公司計畫於本月進行初始公開募股(IPO),並已勾勒一套治理架構;公司表示,該架構可保護其更廣泛的使命,不致被財務利益的誘惑帶偏。不過,專家指出,公司所描述的機制給了它極大的裁量空間,可自行決定如何衡量自身是否確實造福社會。
與競爭對手OpenAI相同,Anthropic是一家公益公司(public benefit corporation)。這是一種法律身分,供那些承諾在股東利益與公共利益之間取得平衡的企業採用。對於市值可能達數兆美元的公司而言,這套制度將如何運作,仍是沒有先例的領域。
康乃爾大學科技政策研究所教授兼所長Sarah Kreps表示:「我認為,真正的考驗會在『公共利益開始產生成本』的時候出現,也就是公共利益與營利發生衝突之際。」
Anthropic在監管文件中承諾,將透過負責任地開發先進AI,謀求人類的長期利益。公司表示:「我們致力於協助人類安全地進入一個時代;在這個時代,具變革性的AI將對廣泛的人類活動產生巨大且可能具決定性的影響。」Anthropic也承諾,至少將5%的股份撥入「公共利益」基金,並由創辦人承諾捐出其80%的財富。
其他科技公司也曾宣示善意,包括Google。該公司在2004年上市時,曾在投資人公開說明書中醒目列出當時的標語「不要作惡」。然而,這些字句並不具有法律約束力,批評者也曾指責這家科技巨頭日後背離了這項承諾。
加州大學柏克萊分校法學院法學教授Stavros Gadinis表示,Elon Musk於2021年接管Twitter的案例,顯示營利與公共利益之間的衝突在現實中可能如何演變。
Gadinis說:「假設Twitter的董事認為Elon並不是維護公共輿論場域的適當人选,因為他們不信任他、不喜歡他,或認為他不會公平行事,理由可能是任何原因。但Elon提出的收購價,相較於顧問向董事會估算的公司實際價值高出太多,因此如果不出售給Elon,反而會違反董事的受託義務。公益公司章程正是為了避免出現這種情況。」
如果Twitter是一家公益公司,那麼在出售公司時,它可能必須考量最大化股東價值以外的因素。
目前,股份公開交易的公益公司並不多,而且全部都比Anthropic與OpenAI小得多,其中包括 eyewear 公司Warby Parker、保險公司Lemonade,以及軟體開發商Veeva Systems;Veeva Systems在2013年上市時採用一般公司架構,並於2021年轉型為公益公司。
Kreps表示,Anthropic的理想化AI開發願景,可能與包括中國在內的競爭壓力正面交鋒。
她指出,Anthropic與OpenAI的模型已從幾乎能回答任何問題—including even if it was dangerous—轉變為採取更加審慎保守的作答方式。然而,隨著競爭加劇,包括來自中國的開源模型在內,這些模型很可能會依使用者要求回答任何問題,她說:「他們會不會開始重新思考其中部分安全護欄?若真如此,又會發生什麼事?」
一般而言,股東並不偏好這種制度安排,因為它賦予公司董事會的權力大於授予股東的權力。
無論企業將其公共利益使命界定為何,這項使命的衡量方式很可能都比利潤更困難。對AI公司而言尤其如此,因為這些企業領導人普遍將AI奉為解決許多人類問題的方案,從治癒癌症到創造經濟繁榮皆包含在內。
Kreps說:「存在著許多迴音室,也就是矽谷泡沫;在那個環境裡,他們真心認為自己所做的事是為了全人類的福祉。」她補充說,沉浸於這種環境中的人,甚至可能不會提出正確的問題,也未必理解「公共利益」應當如何衡量。
Anthropic成立的長期利益信託(Long-Term Benefit Trust,LTBT),旨在作為一個獨立受託人機構運作,其成員具備AI安全、國安、公共政策及社會企業等領域的專業能力。
根據IPO文件,透過一種特殊的T類普通股,該信託「通常有權選任及罷免」T類董事;這些董事合起來將構成Anthropic董事會的多數。T類普通股僅有1股,5名受託人可以此作為一個整體共同投票。該股份不具備任何經濟權利,也就是受託人雖有投票權,卻不會因這一股享有任何財務利益或虧損,也不能出售持股。
文件指出:「LTBT的相關安排旨在降低LTBT及受託人所承受的財務表現風險,並賦予受託人足夠的獨立性,以確保我們能適當取得這項平衡。」
公司3名董事由信託直接選任,另外3名則由其他股東選舉;其他股東包括握有50.1%投票權多數的公司創辦人。第7名董事在表決時可能具有打破平局的功能,由信託與T類股份持有人共同提名;但未經董事會提名委員會同意,便不得任命或罷免該董事,而提名委員會預料將由創辦人掌控。
Gadinis表示,實際上,在AI安全及公司更廣泛使命等議題上,信託只能在一定範圍內要求Anthropic負起責任。
他說:「信託『無法決定這些董事或公司管理層的日常決策』;『如果彼此意見不一致,他們就必須努力進行董事罷免程序,而且可能無法罷免多數董事。』」
成為上市公司後,Anthropic也將必須申報財務狀況,且整體而言會比私人控股公司更加透明。包括Google與Microsoft在內,許多從事AI業務的上市公司,都會定期向公眾更新其負責任開發AI的相關工作。
Gadinis表示,透明度的誘因,其力量可能不亞於Anthropic公司架構中設立的其他機制。
他說:「我確實認為,公司上市後將獲得更多資訊,因為會有許多人提出各種問題,而公司也必須回應;不僅是因為法規要求披露,也因為公司希望與投資人建立這類信任。」
在Live Mint掌握所有商業新聞、公司新聞、突發新聞事件與最新消息更新。下載The Mint News應用程式,即可取得每日市場動態。
登入網站即可收藏書籤,只需片刻即可完成。
糟糕!您似乎已超出圖片收藏上限。請移除部分圖片後再重新收藏。