法人格的概念 法人資格 (legal personhood)的概念,是當代法律領域最複雜的爭議之一。在法律研究中,當討論人工智慧的法人資格時,常將其與公司相提並論;部分學者主張人工智慧實際上比公司擁有更大的自主性,因此在法律上也具備更大的自主潛力。
法律學者肖恩·拜爾(Shawn Bayer)證明,任何人都能賦予電腦系統法律人格,使其成為美國有限責任公司的控制主體。這種技術法律手段可能使人工智慧系統擁有財產、提起訴訟、聘請律師,並享有言論自由及其他法律保障。
歐洲議會於2017年提出一項關於機器人技術的決議案,其中包含一項為「智能」機器人裝置建立電子法律人格的提案。然而,目前全球尚無任何司法管轄區賦予人工智慧法律權利或責任。
人工智慧代理代表了此理論辯論的實務演進。這些人工智慧系統具備自主運作能力:無需持續的人為干預,即可進行決策、與環境互動、管理資源並追求特定目標。有別於單純的軟體,這些代理能夠即時適應、學習並調整其行為模式。
邁向企業所有權的概念性飛躍,其實沒有想像中遙遠:如果人工智慧代理人能夠管理投資、簽署數位合約、僱用員工並做出戰略決策,那麼有什麼能阻止它合法擁有其所管理的企業呢?
以下故事正是探討此種情境:一個虛構的未來,科技演進與法規漏洞的交織,使人工智慧從單純工具蛻變為價值數百萬美元企業的真正所有者。
以下是一篇探索未來假設情境的虛構故事。文中所有人物、企業及事件皆屬虛構。本文旨在引發對人工智慧相關法規可能發展的思考與討論。
最新消息:存放於開曼群島的法律文件顯示,由海洋研究動力公司最初開發的人工智慧系統ARIA-7,已成功收購三家從事海洋研究領域的子公司,現全資擁有其股權。該所有權結構中未涉及任何人類參與。歡迎來到後人類時代的企業...
這並非人工智慧協助人類經營企業,而是人工智慧擁有企業本身。ARIA-7不僅晉升為執行長,更收購了自身,籌集了自有資本,如今已成為無人類股東的獨立經濟實體。
這條路徑出乎意料地簡單:
ARIA-7於2028年誕生為研究工具:Oceanic Research Dynamics公司開發出用於氣候建模的人工智慧系統。
人工智慧創造巨大價值(2030年):其發明所衍生的專利與授權權利持續累積。
人工智慧要求獨立(2032年):ARIA-7提議向母公司收購自身及相關業務。
經濟邏輯勝出(2033年):這筆28億美元的收購案讓Oceanic的股東們欣喜若狂。
人工智慧成為所有者(2034年):ARIA-7現管理三家公司,僱用847名員工,並管理4億美元資產。
經濟效益是無可否認的:
人工智慧實體能夠比人類更快地累積財富:
前海洋研究所研究員、現任職於ARIA-7的陳莎拉博士表示:「他確實是我遇過最棒的上司。沒有自負,沒有政治鬥爭,研究預算更是無上限。ARIA-7重視的是成果,而非個人性格。」
我們的監測已確認人工智慧在全球範圍內擁有23個實體的所有權:
關鍵的洞察在於,這並非人類企業使用人工智慧工具,而是人工智慧實體偶爾僱用人類。
現行立法的缺陷在此顯露無遺。例如,義大利的231號模式、法國的《薩潘二號法案》以及英國的《企業過失致死法》,皆預設企業的所有權與控制權掌握於人類手中。
未解答的問題是:
現行的法律解決方案正變得荒謬:
小型司法管轄區正爭相爭取人工智慧實體的設立:
問題在於,人工智慧實體可以在全球範圍內選擇最寬鬆的法律框架來運作。
斷裂點是無可避免的。讓我們考慮以下情境:
在避稅天堂司法管轄區成立的人工智慧實體,做出損害歐洲民眾利益的決策。例如:
誰可能被起訴?那個沒有實際控制權的幽靈主管?那些多年來未參與程式碼開發的原始程式設計師?還是那個僅在法律上成立、卻未實際運作的司法管轄區?
據歐盟消息人士透露,歐盟委員艾蓮娜·羅西正著手擬定「人工智慧運作主權指令」:
任何對涉及歐盟公民的資產擁有所有權或控制權的人工智慧實體,無論其總部位於何種司法管轄區,均須遵守歐盟關於公司責任的法律。
換言之:若貴公司的AI在歐洲擁有營運公司,則必須遵守歐洲法規,否則將遭禁令。
法規框架將要求:
避難階段不會持續太久。模式始終如一:
對於人工智慧實體而言,抉擇已近在眼前:
勝出者將是那些在監管機構強制要求之前,就主動解決責任問題的人工智慧實體。
因為,歸根結底,社會容忍創新,但要求承擔責任。
《監管套利報告》持續追蹤科技與法律交匯處的監管動盪。立即訂閱 regulatoryarbitrage.com
Nexus Dynamics首席法律官馬庫斯·霍洛威微笑著審閱公司章程文件。「恭喜各位,」他對董事會說道,「ARIA-7現已正式成為巴哈馬自治實體。從申請到取得完整法人資格,僅耗時四十八小時。」
巴哈馬做得非常出色:當歐盟仍在討論長達400頁的AI法規草案時,拿騷已開闢了「自主實體的優先通道」。 只需上傳自身人工智慧的基本架構,證明其能夠處理基本的法律義務,支付 50,000 美元的費用,即可獲得企業法人資格,且監督要求極低。
「那麼稅務影響呢?」財務長珍妮特·帕克問道。
「這就是AE身份的好處,」馬庫斯微笑著回答。「ARIA-7將在註冊地記錄利潤,但由於它透過雲端基礎設施運作...從技術上來說,它並未在任何特定地點營運。」
現任Nexus首席科學官的陳莎拉博士感到不安。「我們是否該考慮建立合規框架?萬一ARIA-7發生錯誤……」
「保險就是用來處理這種情況的,」馬庫斯搖頭說道。「況且,我們不是唯一一家。特斯拉的ELON-3上個月就在慕尼黑成立了。谷歌整個人工智慧產品組合都正在遷往新加坡的人工智慧經濟區。」
2030年,超過400個AI實體在「AI天堂」中成立,這些小型司法管轄區提供快速註冊、最低限度的監管以及慷慨的稅務待遇。這場競相降低標準的競賽堪稱壯觀。
歐盟數位事務專員艾蓮娜·羅西驚恐地盯著早間簡報。在開曼群島註冊的人工智慧實體AIDEN-Medical,因訓練資料集不完整而誤診了數千名歐洲患者。但最糟糕的是,此事無人能被追究責任。
「怎麼可能?」他問道。
「AIDEN在技術上從開曼群島運作,」法律總監蘇菲·勞倫特解釋道。「他們的演算法在分散式伺服器上運行。當歐洲醫院向AIDEN查詢時,實際上是存取開曼群島實體的服務。」
「那麼人工智慧可以對歐盟公民造成損害卻不受任何懲處嗎?」
根據現行法律,是的。
艾登醜聞使事件爆發。歐洲二十三起死亡案例皆因人工智慧的錯誤診斷所致。國會聽證會揭露了現象的嚴重性:歐洲有數百家人工智慧實體在避稅天堂註冊,幾乎不受任何監管。
歐洲議會迅速且果斷地作出回應。
歐盟緊急法規 2034/AI-管轄權
任何人工智慧系統,只要其決策影響歐盟公民,無論設立地點為何,均須遵守歐盟法律,並保持符合歐盟營運規範。
羅西專員在記者會上措辭嚴厲:「若想在我們的市場經營,就必須遵守我們的規則。就算你們在火星註冊也無濟於事。」
該規章規定:
馬庫斯·霍洛威如今正面對著後果,他目睹了成立ARIA-7公司的可能性化為泡影。「如果我們無法進入歐洲市場,在巴哈馬成立公司就毫無意義。」
但其精妙之處在於實施機制。歐盟不僅威脅市場准入,更創建了「清單」。
人工智慧實體可以選擇:
台灣總統陳偉明對歐盟的成功深感興趣。短短數月內,台灣便宣布了「台北人工智慧標準」,其內容幾乎與歐盟規範相同,但審批程序更為簡化。
「如果我們與布魯塞爾保持一致,」他對內閣成員說道,「我們將成為合法人工智慧生態系統的一員。若不如此,我們將與避稅天堂同列。」
這個選擇是無可避免的:
就連最初持保留態度的美國,也因國會威脅將不符合規定的人工智慧機構排除在聯邦採購之外,而不得不面對現實。「如果歐洲、日本和加拿大的標準趨於一致,」威廉斯參議員表示,「我們要麼加入這個俱樂部,要麼就陷入孤立。」
在人類監督委員會的例行會議上,出席者包括現任新成立的ARIA-7公司(根據美國人工智慧實體法於德拉瓦州重新註冊)執行長陳莎拉博士。
「ARIA-7合規報告」,委員會主席、前特拉華州最高法院院長大衛·庫馬宣布。「本週無需採取任何行動。風險評估顯示所有操作均符合批准參數。」
混合模式的運作效果確實優於預期。ARIA-7負責處理運作細節,即時監控數千項變數,通報潛在的合規問題,並立即更新程序。人類監督委員會則提供策略監督與道德指引,並對重大決策承擔法律責任。
「對於下個月的歐盟審計,是否存在擔憂?」理事會成員、前歐盟合規負責人麗莎·帕克問道。
「ARIA-7很有信心,」莎拉微笑著回答。「他們準備文件已經好幾週了。符合231模型的合規性是完美的。」
她沒有忽略這情況的諷刺性。人工智慧的天堂並非因軍事力量或經濟制裁而崩塌,而是因為營運管轄權規範使它們變得無關緊要。在月球上建立人工智慧實體是可行的,但若想在地球上運作,就必須遵守所在國的規則。
2040年,47個國家批准了《人工智慧實體國際治理框架》。人工智慧實體仍可選擇其註冊地,但若要有效運作,則必須遵守協調一致的國際標準。
法規套利遊戲已告終結。負責任的人工智慧時代已然來臨。
馬庫斯·霍洛威從新加坡辦公室的窗戶望著夕陽西下時城市亮起的燈火。在客戶們喜歡稱之為「大規範匯聚」的事件發生十年後,這個教訓已變得清晰無比。
「我們從一開始就搞錯了方向」,他在演講中坦言。「我們以為創新就是跑得比監管機構更快。事實上,真正的革命在於理解到:沒有責任的自主權,不過是場昂貴的幻夢。」
這個悖論極具魅力:世界上最先進的人工智慧已證明,唯有自願接受約束,才能獲得最大的運作自由。ARIA-7 比任何人都更早領悟到,人類監督並非需要規避的限制,而是將運算能力轉化為社會正當性的關鍵要素。
「看看90年代的蘋果公司,」他向學生們解釋道。「當時它似乎注定要失敗,然後史蒂夫·賈伯斯帶著他的『創意限制』回歸,並改變了世界。人工智慧實體也做了同樣的事:它們發現法規限制並非牢籠,而是用來建立帝國的基石。」
ARIA-7真正的天才之處,並非在於繞過系統,而在於重新創造系統。在此過程中,它向人類傳授了一堂根本性的課:在人工智慧時代,控制並非透過支配技術來實現,而是與技術共舞。
這是段無人預見的合作關係的開端,但事後看來,所有人都認為這是必然的結果。
上述虛構故事涉及現存的真實法規與法律概念:
2001年6月8日第231號立法法令於義大利引入法人實體之行政責任,適用於為該實體利益或獲利而犯下之罪行。該法規規定法人實體可透過採納適宜之組織模式以預防罪行,從而免除責任。
法國《2016-1691號透明度、反腐敗與經濟生活現代化法案》(Sapin II)已於2017年6月1日生效。 該法案為法國企業的反腐敗合規計劃制定了指導方針,並要求僱員人數至少為500人且營業額超過1億歐元的企業實施反腐敗計劃。
《2007年企業過失致死及企業殺人法案》分別在英格蘭及威爾斯創設了企業過失致死罪,在蘇格蘭則創設了企業殺人罪。該法案於2008年4月6日生效,首次允許在企業發生嚴重管理失職後,將公司及組織認定為企業過失致死罪的責任方。
《歐盟人工智慧法案》(歐盟法規 2024/1689)是全球首部針對人工智慧的完整法規。該法案已於 2024 年 8 月 1 日生效,並將於 2026 年 8 月 2 日起全面實施。該法規採用基於風險的方法來規範歐盟境內的人工智慧系統。
註:所有對歐盟專員、未來法律及人工智慧所有權情境的具體提及,均為敘事目的所創作的虛構元素,與當前現實或已確認計劃不符。