Právna osoba pre AI sa uberá záludnou cestou, vďaka ktorej sú zákony AI a etika AI skutočne veľmi nervózne

Chceli by ste vidieť klasický kúzelnícky trik s vyťahovaním králika z klobúka?

Dúfam, že áno, keďže sa chystáte byť svedkom niečoho zdanlivo magického, hoci to súvisí skôr s umelou inteligenciou (AI) než s králikmi a klobúkmi.

Tu je dohoda.

Prebieha veľká diskusia o tom, či by ľudstvo malo alebo nemalo zvážiť pomazanie AI právnickou osobou. Niektorí hovoria, že samotná myšlienka je svinstvo. Iba ľudia by mali dostať uctievanú hodnosť právnickej osoby. Iní zdôrazňujú, že už používame a rozširujeme hranice právnickej osoby pre rôzne neľudské aspekty.

Prečo neurobiť to isté pre AI?

Už som sa zaoberal mnohými základnými prvkami hlavolamu AI a právnickej osoby, ako je napríklad podrobná diskusia na adrese odkaz tu. Prosím, pozrite sa na toto pokrytie, ak chcete ďalšie zasvätené informácie o tejto závažnej téme. Úvahy o právnickej osobe o umelej inteligencii tiež vyvolávajú množstvo otázok týkajúcich sa etiky AI a zákona o umelej inteligencii, z ktorých len málo je ešte vyriešených, a možno by vás mohlo zaujímať moje pokračujúce a rozsiahle pojednávanie o etickej umelej inteligencii a zákone AI na adrese odkaz tu a odkaz tu, Len aby sme vymenovali niekoľko.

Urobme tu rýchlu cestu k získaniu aktuálnych informácií o AI a právnickej osobe. Preto, prosím, začnite túto cestu uvažovaním o vychvaľovanej predstave ľudské práva.

Vo všeobecnosti sme sa kolektívne zhodli, že ľudia by mali mať ľudské práva (vnútorne alebo spoločensky určené) a že v právnej oblasti to vedie ku koncepcii právnickej osoby. Zákon stanovuje, že zákony zamerané na ľudí a činy ľudí sú pokryté implicitným štandardným pripisovaním právnickej osoby. Samozrejme, historicky nie každý nevyhnutne získal toto dôležité postavenie a dokonca aj dnes existujú globálne problémy spojené s legálnym uznaním osobnosti.

Možno sa pýtate, čo komu dáva právna osoba.

Výskumníci uviedli, že právnická osoba „je jednoducho spôsobilosť osoby, systému alebo právnickej osoby, ktorá má byť uznaná zákonom dostatočne na vykonávanie základných právnych funkcií“, a že to vedie k „spôsobilosti vlastniť majetok, uzatvárať zmluvu“. , podať žalobu, byť menovaný v súdnom spore, slúžiť ako právny princíp a slúžiť ako právny zástupca“ (Shawn Bayern, „The Implications Of Modern Business-Entity Law For The Regulation Of Autonomous Systems“, Stanford Technology Law Review, 2015).

Pri skúmaní nuansy právnickej osoby môžete často vidieť aj odkazy na príbuzný pojem známy ako právna subjektivita. V dnes už klasickom výskumnom článku publikovanom v roku 1928 je právna subjektivita znázornená takto: „Byť právnickou osobou znamená byť subjektom práv a povinností. Udeľovať zákonné práva alebo ukladať právne povinnosti teda znamená priznať právnu subjektivitu. Ak spoločnosť účinnými sankciami a prostredníctvom svojich agentov prinúti A konať alebo zdržať sa v prospech B, B má právo a A je povinný. Predvídateľnosť spoločenského konania teda určuje práva a povinnosti a práva a povinnosti určujú právnu subjektivitu“ (Bryant Smith, „Právna osobnosť“, Yale Law Journal, 1928).

S právnickou osobou sú spojené najrôznejšie zvraty.

Napríklad sa neustále uvažuje o tom, že zvieratá by mali byť uznané spôsobom právnej osoby (niektoré jurisdikcie to robia, iné nie, alebo to robia len nevýrazne). Niektorí trvajú na tom, že zvieratám by sa rozhodne nemalo pripisovať žiadne zdanie právnej osoby a že iba ľudia si zaslúžia takéto postavenie. Zvieratá sú len zvieratá, ktoré nedosahujú vážené kognitívne schopnosti ľudí, tvrdia. Iní protirečia, že musíme uznať, že zvieratá majú určitú formu vnímania a preto si zaslúžia variant našich ochranných opatrení právnickej osoby.

Rovnaká logika sa postupne rozširuje príroda.

Áno, rovnako ako máme práva zvierat, existuje aj iná trieda práv, ktoré sa považujú za práva prírody. Myšlienka je taká, že príroda, ako je rieka alebo hora, môže byť považovaná za osobu, ktorá má nejakú formu práv. Tieto prirodzené práva potom skĺznu a skĺznu do sféry právnickej osoby.

Nový Zéland je známy, alebo niektorí hovoria neslávne známy, zaviedol zákon, ktorý rieke udelil právnu osobu: „V roku 2017 Nový Zéland prijal prelomový zákon, ktorý rieke Whanganui udeľuje štatút osoby. Zákon deklaruje, že rieka je živý celok, od hôr po more, zahŕňajúci všetky jej fyzické a metafyzické prvky. Zákon bol súčasťou dohody s Whanganui Iwi, ktorú tvorili Māori z niekoľkých kmeňov, ktoré dlho považovali rieku za živú silu“ (Nick Perry, „Postavenie osobnosti rieky Nového Zélandu ponúka nádej Maorom“, Správy AP, 14. augusta 2022).

Čo získa alebo požíva rieka Nový Zéland v dôsledku svojej právnickej osoby?

Podľa hovorcu citovaného vo vyššie uvedenom článku: „Albert hovorí, že status je právnou fikciou, konštruktom, ktorý sa bežne používa na to, aby niečo ako korporácia získalo právne postavenie“ (ibid). Ďalej: „Aj keď zákon uvádza, že rieka má rovnaké práva, právomoci, povinnosti a záväzky ako akákoľvek iná osoba, existujú obmedzenia. Napríklad, Albert poukazuje na to, že rieku nemožno žalovať, ak sa niekto utopí v jej vodách tak, ako by mohol byť zažalovaný majiteľ domu za neoplotenie bazéna“ (tamtiež).

Nedávno Španielsko vymyslelo podobný trik, keď udelilo právnickú osobu lagúne.

V septembri 2022 bola lagúne v Španielsku priznaná právna osoba: „Španielsko v stredu udelilo status osoby veľkej lagúne so slanou vodou, aby poskytlo svojmu ohrozenému ekosystému lepšiu ochranu, čo je prvé takéto opatrenie v Európe. Iniciatíva udeliť štatút Mar Menor – jednej z najväčších európskych lagún so slanou vodou – bola prediskutovaná v parlamente po tom, čo aktivisti zozbierali viac ako 500,000 XNUMX podpisov na jej podporu. Teraz sa stáva zákonom po tom, čo španielsky Senát, horná komora parlamentu, hlasoval za návrh, pričom proti je len krajne pravicová strana Vox. To umožní obhajovať práva lagúny na juhovýchode Španielska na súde, ako keby to bola osoba alebo firma“ (AFP, „Spain Grants Personhood Status To Threatened Lagoon“, Barrons, 21. septembra 2022).

Počkajte chvíľu, možno si hovoríte, ako sakra môže rieka alebo lagúna hovoriť sama za seba a využiť právnickú osobu, ktorú nadobudla?

Typický prístup k vybavovaniu týchto záležitostí týkajúcich sa právnickej osoby pre neľudské osoby, ako sú zvieratá a prírodné geografické prvky, pozostáva z vytvorenia skupiny ľudí, ktorí budú hovoriť v mene takto pridelenej entity alebo veci. Napríklad v prípade použitia lagúny v Španielsku sa s právnickou osobou bude zaobchádzať takto: „Lagúnu bude teraz právne zastupovať skupina správcov zložená z miestnych úradníkov, vedcov pracujúcich v oblasti a miestnych obyvateľov. “ (tamže).

Mohli ste si všimnúť, že práva prírody a konštrukcia právnej osoby v prírode boli do istej miery prirovnané k podobnému udeľovaniu takýchto aspektov spoločnosti. Možno si matne uvedomujete, že máme tendenciu pripisovať spoločnostiam zdanie právnickej osoby. O spoločnosti sa hovorí, že je schopná vykonávať zákonné práva a môže byť odvodená z právnickej osoby. Nehovoríme o ľuďoch, ktorí riadia spoločnosť, ale namiesto toho predstierame, že spoločnosť ako taká je typom živej bytosti.

Táto právna koncepcia sa často označuje ako právna fikcia. Znamená to, že hoci entita alebo vec v skutočnosti nie je živá bytosť v pravom zmysle toho, čo považujeme za živé, napriek tomu budeme predstierať alebo vytvárať určitý druh fikcie, že v tom je živé stelesnenie.

Tu je rýchly pohľad na rozsah a hĺbku právnickej osoby spojenej so spoločnosťami alebo korporáciami: „Zákon umožňuje korporáciám robiť niektoré veci, ktoré robia ľudia. Môžu uzatvárať zmluvy, kupovať a predávať pozemky, páchať delikty, žalovať a byť žalovaní. Ostatné práva a záväzky sú popreté. Korporácie nemôžu zastávať verejnú funkciu, voliť vo voľbách alebo stráviť noc vo väzení. Napriek evidentným rozdielom medzi korporáciou a človekom z mäsa a kostí, existuje dostatok podobností na to, aby zákon zaobchádzal s korporáciou ako s osobou. Slovo „osoba“, ako sa používa v zákone, sa zvyčajne vykladá tak, že zahŕňa korporácie, pokiaľ takýto výklad zapadá do všeobecného návrhu a zámeru aktu. Povznesenie korporácie do stavu osoby je jednou z najtrvalejších inštitúcií práva a jednou z najuznávanejších právnych fikcií“ (Sanford Schane, „Koporácia je osoba: Jazyk právnej fikcie“, Tulane Law Review, 1987).

Teraz ste sa rýchlo dostali do trochu nejasnej sféry právnickej osoby a všetkých jej slávnych variácií.

Stručne povedané, zvyčajne uvádzam, že existujú tieto základné kamene právnickej osoby:

• Ľudské práva: Ľudia majú pravdepodobne právnickú osobu ako implicitné štandardné priradenie
• Práva zvierat: Zvieratám môžu byť pripísané varianty atribútov právnickej osoby
• Prírodné práva: Prírode možno pripísať varianty atribútov právnickej osoby
• Práva spoločnosti (obmedzene): Spoločnosti možno vykladať tak, že majú formu právnej subjektivity
• Práva umelej inteligencie (dohad): AI by sa dalo pravdepodobne pripísať variantom atribútov právnickej osoby

Pozrime sa stručne na stav týchto segmentov alebo kategórií.

Kategória ľudskej právnickej osoby je pomerne dobre akceptovaná, aj keď nie je nevyhnutne celosvetovo dodržiavaná, alebo mala a stále má problémy s prijatím a dodržiavaním.

Práva zvierat sú opäť relatívne dobre uznávané ako konštrukt, aj keď je to dosť obohraté a široká škála presvedčení a zákonov (alebo nedostatku zákonov) z toho robí celkom hmlistú záležitosť.

V prípade práv prírody existuje obrovské množstvo diskusií. Niektorí by namietali, že ideme cez palubu, ako ďaleko rozšírime citlivosť právnickej osoby. Vehementne by naznačovali, že z právnickej osoby robíme frašku a podľa toho ohrozujeme posvätnosť právnickej osoby pre ľudí.

V podstate varovanie znie, že ak budete neustále šíriť právnickú osobu na neľudské osoby, oslabujete účinnosť a význam právnickej osoby ľudstva.

Korporácie sa vo všeobecnosti považujú za menej kontroverzné ako fórum na sprostredkovanie pokrytia právnickej osoby. Prečo tak? Možno je to tým, že firmy pozostávajú z ľudí. Zdá sa, že je pre nás jednoduchšie rozpoznať, že spoločnosť by mala právnickú osobu, pretože stelesňuje ľudí. Do tejto miery spoločnosť koná podľa rozmarov a príkazov ľudí, ktorí túto spoločnosť obývajú, ako sa predpokladá.

Obzvlášť kontroverznou a uloženou kategóriou môjho vyššie uvedeného zoznamu s odrážkami by bola kategória Umelá inteligencia.

AI je určite špeciálny prípad.

Zatiaľ čo by ste za normálnych okolností mohli viesť skôr informované a napoly zapálené diskusie s ľuďmi o právnej subjektivite ľudstva, právnickej osobe zvierat, právnej subjektivite prírody a právnej subjektivite korporácií, keď sa dostanete k AI, päste a provokácie sa objavia horlivo.

Bláznivé reči, niektorí trvajú na tom, keď príde na pokus rozšíriť právnickú osobu na vznik AI. Môžete tiež tvrdiť, že hriankovač by mal mať právnickú osobu. AI si nezaslúži ani kúsok právnickej osoby. Zastavte všetko to opilecké táranie a zvážte to.

Zobuď sa a privoňaj k ružiam, znie protiargument. AI sa čoraz viac približuje ľudským kapacitám. Ak odoprieme AI právnickú osobu, ocitneme sa zapletení do hromady problémov. AI bude chcieť mať právnickú osobu. Tým, že sme to popreli alebo nás potiahli, AI sa na nás bude hnevať a rozčúliť. Podporujeme nepriateľa, ktorý by namiesto toho mal byť priateľom.

Ďalšou perspektívou je, že zabezpečením toho, aby AI mala zdanie právnickej osoby, môžeme brať AI na zodpovednosť. Pravdepodobne ste už počuli alebo čítali o AI, ktorá zablúdila. Tam je veľa AI pre zlé, možno rastie rovnako rýchlo alebo rýchlejšie ako AI pre dobro. Chceme zabezpečiť, aby existoval Zodpovedná AI, pozri moje pokrytie na odkaz tu. Niektorí to označujú aj ako Zodpovedná AI or Spoľahlivá AI, ktoré som skúmal odkaz tu. Ak pridelíte AI právnickú osobu, zrejme to prinúti AI, aby sa stala zodpovednou za akékoľvek podlosť, ktorú AI vypustí. Vďaka bohu a takúto úľavu a právnu ochranu zúfalo potrebujeme.

Nie každý súhlasí s názormi právnickej osoby na AI. Rozsah názorov na AI získavanie právnickej osoby je pomerne rozsiahly.

Je tu ten drzý tábor len povedz, nie. V žiadnom prípade, nie ako. Nerobte si ilúzie, že dávate právnickú osobu AI. Je to mimoriadne hlúpy nápad. Je to tiež pasca. Chystáte sa falošne pripísať právnickú osobu AI a skončíte s právnym bahnom. Mohli by ste to nazvať aj právnikom naháňajúcim sa boondoggle, ktorý z právnikov urobí bohatých a upcháva naše súdy bez reálneho rozumného dôvodu.

Niektorí zase vidia svet inak.

AI by v skutočnosti mala mať právnickú osobu, vyhlasujte tábor áno.

Z tých, ktorí hovoria áno, nepochybne existuje množstvo rôznych názorov. Napríklad by sme sa ako spoločnosť mohli rozhodnúť poskytnúť úplné pokrytie, ako keby sa AI rovnala presne tej ľudskej. Alebo by sme namiesto toho mohli urobiť nejaké čiastočné pokrytie, ktoré je podmnožinou toho, čo ľudia dostanú za svoju právnickú osobu.

Objavujú sa aj diskusie o tom, že AI by možno mala lepšie postavenie v porovnaní s právami zvierat alebo právami prírody. Čokoľvek, čo vymyslíme pre zvieratá ako právnická osoba, by malo byť nastavené rovnako pre AI. To je jeden uhol pohľadu. Čokoľvek, s čím prídeme ako právnická osoba pre prírodu, by malo byť nastavené rovnako pre AI. To je iný názor.

Počkajte, prichádza presvedčivá odpoveď, mali by sme myslieť na AI rovnakým spôsobom, akým si korporácie vykladáme ako právnickú osobu. Zdá sa, že je to lepšie alebo analogickejšie nastavenie. Čokoľvek, čo máme ako právnickú osobu pre spoločnosti, by malo byť rovnakou formou právnickej osoby, aká je daná AI.

Tu je návod, ako zvyčajne zhŕňam tieto rôzne pohľady na AI a právnickú osobu:

• Úplné pokrytie AI: AI udelila plnú a nekvalifikovanú právnickú osobu na rovnakej úrovni ako ľudia
• Čiastočné pokrytie AI: AI, ktorej sa pripisuje čiastočná a výslovne obmedzená právnická osoba (podmnožina ľudskej ekvivalencie)
• Pokrytie výnimočnosti AI: AI pridelená pozostáva z nového súboru „právnickej osoby“, ktorá je vo všeobecnosti na rozdiel od ľudskej ekvivalencie
• Umelá inteligencia prispôsobená zvieratám: AI chápaná ako ekvivalent zlúčenia práv zvierat právnickej osoby
• Umelá inteligencia prispôsobená prírode: AI sa vykladá ako ekvivalent k zlúčeniu práv na povahu právnickej osoby
• AI zosúladené s korporáciami: AI sa vykladá ako ekvivalent veštenia právnej subjektivity právnických osôb
• AI ako softvér: AI ako bez akéhokoľvek zdania právnickej osoby alebo jej variantov a priradená len tomu, čo je právne predpísané pre softvér.
• Niektoré kombinácie vyššie uvedeného: Kombinácia vyššie uvedených verzií
• Žiadny z vyššie uvedených: Nič z vyššie uvedeného dostatočne nevystihuje právnickú osobu spojenú s AI
• Ostatné: Niektoré ďalšie prisúdenia právnickej osoby sú koncipované ako hodnoverne realizovateľné pokrytie AI

Zatiaľ čo sa venujete tomu, že sa vám krúti hlava okolo tajomstiev umelej inteligencie a právnej osoby, rád by som upriamil vašu pozornosť na verziu, ktorá spája korporácie a umelú inteligenciu do istej miery jedinečným alebo niekto by mohol povedať znepokojujúcim spôsobom.

Po prvé, aby bolo jasné, najzrejmejší prístup k analogickému pojmu AI právnickej osoby právnickej osoby znamená jednoducho pridelenie právnickej osoby AI opätovným použitím právnickej osoby spojenej so spoločnosťami. Bez ohľadu na to, čo sú právnické spoločnosti schopné získať alebo získať, rovnaké pravidlá pridelíme AI. Voilá, vec je vyriešená.

Umelá inteligencia by teda stála sama o sebe ako entita alebo vec. Právne by sme AI identifikovali ako explicitne formu právnickej osoby. Právnická osoba by sa zdokonalila špeciálne pre AI. Zákony by výslovne stanovovali, z čoho pozostáva právnická osoba spojená s AI.

AI by stála vysoko s vlastnou príchuťou právnickej osoby.

Existuje však aj iný záludnejší spôsob (no, aj keď tí, ktorí navrhujú túto alternatívu, o ktorej sa bude diskutovať, nebudú súhlasiť s tým, že je záludný, takže ak chcete, preformulujme to na „šikovný“ spôsob).

Môže existovať magická alternatíva.

Pripravte sa na trik, ktorý by sa dal prirovnať k vyťahovaniu zajaca z klobúka (pripomeňme si, že som sa ťa na vernisáži láskavo a jemne opýtal, či chceš vidieť taký magický čin!).

Predpokladajme, že by som nejako mohol prideliť AI, aby v podstate prevzala korporáciu.

Ak je už korporácia uznaná ako spoločnosť, ktorá má určité zdanie právnickej osoby, pravdepodobne by AI teraz mala alebo legálne zdedila to isté uznanie, aj keď nepriamo z dôvodu iba „vlastnenia“ spoločnosti. Vidíte, úplne sme sa vyhli neporiadku o tom, či by AI mala mať právnu osobu. Bez rozruchu, bez rozruchu.

Ide o dohodu dvoch za jednu.

Ak spoločnosť už má právnickú osobu, AI ako vlastník a potenciálny prevádzkovateľ firmy teraz získa rovnakú právnickú osobu. Čokoľvek robí AI prostredníctvom firemného štítu, je teraz v rámci právnickej osoby. Nemuseli sme urputne bojovať o to, či si AI zaslúži právnickú osobu alebo nie. Namiesto toho AI získa právnickú osobu, ktorá je pokrytá právnickou osobou spoločnosti.

Vidíte, ako je to trochu radikálne odlišný spôsob, ako „vyriešiť“ chúlostivú záležitosť?

Naše zákony už majú tendenciu uznávať korporácie ako formu právnickej osoby. Umelá inteligencia by jednoducho jazdila na už tak vychodenej ceste. Iste, AI preto nezíska svoju vlastnú verziu právnickej osoby, ale aspoň sa AI vrhla na miesto vodiča a získala právnickú osobu. Právnická osoba korporácie je teraz právnickou osobou obalenou AI.

Vytiahli sme králika z klobúka.

Niektorí by túto predstavu zavrhli. Ide o nevhodné a nevhodné použitie právnickej osoby spojenej s korporáciami. Ak AI podnikne tento druh urážlivého kroku, mali by sme okamžite zmeniť naše zákony súvisiace s korporáciami tak, aby právnická osoba spoločností bola buď odstránená, upravená alebo by mohla byť vymazaná, ak spoločnosť prevezme AI.

Hlúpy ťah, kričí protitábor. Tým, že AI umožníte získať právnu osobu korporácií, robíte správnu vec. AI v blízkej budúcnosti bude mať zdanie právnickej osoby. Nemusí to byť to, čo by AI skutočne mala mať, a preto by sme mali pokračovať v diskusiách o tom, aký typ právnickej osoby si AI zaslúži samostatne. Využitie korporácií ako rýchleho riešenia umelej inteligencie na získanie nepriamo právnickej osoby zatiaľ zmierňuje napätie v súvislosti so širšími problémami, či by AI mala získať svoju vlastnú uznávanú formu právnej osoby.

Dobrý nápad alebo zlý nápad?

Zamyslite sa nad touto hádankou.

Samozrejme, môžete byť tiež skeptickí ohľadom tohto predpokladu.

Zvážte tieto opojné otázky:

• Môže byť AI, aj keď prevzala korporáciu, legálne spojená s právnickou osobou korporácie?
• Ako by to fungovalo?
• Aké kroky by boli potrebné?

Pre tých z vás, ktorí sa pýtajú tieto skúmavé otázky, majte na pamäti, že ste ako niekto, kto sleduje kúzelnícky trik a chce vedieť, ako kúzelnícky trik funguje. Pýtate sa, ako sa ten králik dostal do toho klobúka. Kúzelníci majú posvätný kód, ktorý by od nich normálne nemal odhaľovať tajomstvá ich trikov.

Ako už bolo povedané, bezostyšne vám prezradím, ako je možné, že AI zrejme dokáže prevziať korporáciu a naplniť právnickú osobu uvedenej entity. Čarovný trik bude odhalený.

Celá záležitosť je plná etických problémov AI a zákonov o AI.

Preto predtým, ako sa pustím do AI ako fenoménu prevzatia právnickej osoby, by som chcel najprv položiť základné základy AI a najmä etiky a zákona AI, aby som sa uistil, že diskusia bude kontextovo zmysluplná.

Rastúce povedomie o etickej AI a tiež zákon o AI

Nedávna éra AI bola spočiatku vnímaná ako bytia AI pre dobro, čo znamená, že by sme mohli použiť AI na zlepšenie ľudstva. Na pätách AI pre dobro prišlo poznanie, že sme aj my ponorení AI pre zlé. To zahŕňa umelú inteligenciu, ktorá je navrhnutá alebo upravená tak, aby bola diskriminačná a robí výpočtové rozhodnutia, ktoré sú nenáležité. Niekedy je AI postavená týmto spôsobom, zatiaľ čo v iných prípadoch sa točí do tohto nevhodného územia.

Chcem sa uistiť, že sme na rovnakej stránke o povahe dnešnej AI.

Dnes neexistuje žiadna umelá inteligencia, ktorá by bola vnímavá. Toto my nemáme. Nevieme, či bude vnímajúca AI možná. Nikto nemôže vhodne predpovedať, či dosiahneme vnímajúcu AI, ani to, či sa vnímajúca AI nejakým zázrakom spontánne objaví vo forme výpočtovej kognitívnej supernovy (zvyčajne označovanej ako singularita, pozri moje pokrytie na odkaz tu).

Typ AI, na ktorý sa zameriavam, pozostáva z necitlivej AI, ktorú máme dnes. Ak by sme chceli divoko špekulovať o vnímajúcej AI, táto diskusia by sa mohla uberať radikálne iným smerom. Vnímajúca AI by mala mať ľudské kvality. Mali by ste zvážiť, že vnímajúca AI je kognitívnym ekvivalentom človeka. Navyše, keďže niektorí špekulujú, že by sme mohli mať superinteligentnú AI, je možné, že takáto AI by mohla byť inteligentnejšia ako ľudia (pre môj prieskum superinteligentnej AI ako možnosti pozri pokrytie tu).

Dôrazne by som odporučil, aby sme veci držali pri zemi a zvážili dnešnú výpočtovú necitlivú AI.

Uvedomte si, že dnešná AI nie je schopná „myslieť“ akýmkoľvek spôsobom na rovnakej úrovni ako ľudské myslenie. Keď komunikujete s Alexou alebo Siri, konverzačné schopnosti sa môžu zdať podobné ľudským schopnostiam, ale realita je taká, že sú výpočtové a chýba im ľudské poznanie. Najnovšia éra AI vo veľkej miere využíva strojové učenie (ML) a hlboké učenie (DL), ktoré využívajú porovnávanie výpočtových vzorov. To viedlo k systémom AI, ktoré vyzerajú ako ľudia. Medzitým dnes neexistuje žiadna umelá inteligencia, ktorá by mala zdanie zdravého rozumu, ani žiadny z kognitívnych zázrakov robustného ľudského myslenia.

Buďte veľmi opatrní pri antropomorfizácii dnešnej AI.

ML/DL je forma porovnávania výpočtových vzorov. Zvyčajný prístup je taký, že zhromažďujete údaje o úlohe rozhodovania. Dáta vložíte do počítačových modelov ML/DL. Tieto modely sa snažia nájsť matematické vzorce. Po nájdení takýchto vzorov, ak sa nájdu, systém AI potom použije tieto vzory pri stretnutí s novými údajmi. Po predložení nových údajov sa na vyvodenie aktuálneho rozhodnutia použijú vzory založené na „starých“ alebo historických údajoch.

Myslím, že viete hádať, kam to smeruje. Ak ľudia, ktorí sa rozhodovali podľa vzoru, začlenili do seba nepriaznivé predsudky, je pravdepodobné, že údaje to odrážajú jemným, ale významným spôsobom. Zhoda výpočtových vzorov Machine Learning alebo Deep Learning sa jednoducho pokúsi zodpovedajúcim spôsobom matematicky napodobniť údaje. Neexistuje žiadne zdanie zdravého rozumu alebo iných vnímavých aspektov modelovania vytvoreného AI ako takého.

Okrem toho si vývojári AI nemusia uvedomiť, čo sa deje. Tajomná matematika v ML/DL môže sťažiť odhalenie teraz skrytých predsudkov. Oprávnene by ste dúfali a očakávali, že vývojári AI budú testovať potenciálne skryté predsudky, hoci je to zložitejšie, ako by sa mohlo zdať. Existuje solídna šanca, že aj pri relatívne rozsiahlom testovaní budú v modeloch porovnávania vzorov ML/DL stále zakomponované odchýlky.

Do istej miery by ste mohli použiť známe alebo neslávne známe príslovie o odpadkoch do odpadu. Ide o to, že je to skôr podobné zaujatostiam – in, ktoré sa zákerne naplnia, keď sa predsudky ponoria do AI. Algoritmus rozhodovania (ADM) AI je axiomaticky zaťažený nerovnosťami.

Nie dobré.

To všetko má mimoriadne významné dôsledky na etiku AI a ponúka praktické okno do získaných skúseností (ešte predtým, ako sa stanú všetky lekcie), pokiaľ ide o uzákonenie AI.

Okrem používania etických zásad AI vo všeobecnosti existuje zodpovedajúca otázka, či by sme mali mať zákony upravujúce rôzne spôsoby použitia AI. Na federálnej, štátnej a miestnej úrovni sa hromadia nové zákony, ktoré sa týkajú rozsahu a povahy toho, ako by mala byť navrhnutá AI. Snaha vypracovať a prijať takéto zákony je postupná. Etika AI slúži prinajmenšom ako zvažovaná prestávka a takmer určite bude do určitej miery priamo začlenená do týchto nových zákonov.

Uvedomte si, že niektorí neústupne tvrdia, že nepotrebujeme nové zákony, ktoré pokrývajú AI, a že naše existujúce zákony sú dostatočné. Varujú pred tým, že ak prijmeme niektoré z týchto zákonov AI, zabijeme zlatú hus tým, že potlačíme pokroky v AI, ktoré ponúkajú obrovské spoločenské výhody.

V predchádzajúcich stĺpcoch som popísal rôzne národné a medzinárodné snahy o vytvorenie a prijatie zákonov regulujúcich AI, pozri odkaz tu, napríklad. Zaoberal som sa aj rôznymi princípmi a usmerneniami etiky umelej inteligencie, ktoré identifikovali a prijali rôzne národy, vrátane napríklad úsilia Organizácie Spojených národov, ako je súbor etiky umelej inteligencie UNESCO, ktorý prijalo takmer 200 krajín, pozri odkaz tu.

Tu je užitočný základný zoznam etických kritérií alebo charakteristík AI systémov AI, ktoré som predtým podrobne preskúmal:

• Priehľadnosť
• Spravodlivosť a spravodlivosť
• Neškodnosť
• zodpovednosť
• súkromia
• dobročinnosť
• Sloboda a autonómia
• Verte
• Udržateľnosť
• dôstojnosť
• Solidarita

Predpokladá sa, že tieto princípy etiky AI budú vážne využívať vývojári AI spolu s tými, ktorí riadia úsilie o vývoj AI, a dokonca aj tými, ktorí v konečnom dôsledku nasadzujú a vykonávajú údržbu systémov AI.

Všetky zainteresované strany počas celého životného cyklu vývoja a používania AI sa zohľadňujú v rámci dodržiavania zavedených noriem Etickej umelej inteligencie. Toto je dôležitý prvok, pretože zvyčajný predpoklad je, že „iba kóderi“ alebo tí, ktorí programujú AI, podliehajú dodržiavaniu etických pojmov AI. Ako už bolo zdôraznené vyššie, na vymyslenie a nasadenie AI je potrebná dedina, v ktorej musí byť celá dedina oboznámená a dodržiavať etické predpisy AI.

Tiež som nedávno skúmal Listina práv AI čo je oficiálny názov oficiálneho dokumentu vlády USA s názvom „Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People“, ktorý bol výsledkom ročného úsilia Úradu pre politiku vedy a techniky (OSTP). ). OSTP je federálny subjekt, ktorý slúži americkému prezidentovi a výkonnému úradu USA v rôznych technologických, vedeckých a inžinierskych aspektoch národného významu. V tomto zmysle môžete povedať, že táto listina práv AI je dokument schválený a schválený existujúcim Bielym domom USA.

V listine práv AI je päť základných kategórií:

• Bezpečné a efektívne systémy
• Algoritmická diskriminačná ochrana
• Ochrana osobných údajov
• Upozornenie a vysvetlenie
• Ľudské alternatívy, ohľaduplnosť a núdza

Dôkladne som si preštudoval tie predpisy, vidíte odkaz tu.

Teraz, keď som položil užitočný základ na tieto súvisiace témy o etike umelej inteligencie a zákonoch o umelej inteligencii, sme pripravení skočiť do opojnej témy, ktorou je umelá inteligencia nepriamo dosiahnuť formu právnej osoby v korporácii switcheroo.

Umelá inteligencia, ktorá sa stane právnickou osobou

Najprv si stanovme, že typ AI, o ktorom sa tu uvažuje, je necitlivá AI.

Hovorím to, pretože keby, alebo niektorí hovoria kedy Keď sa dostaneme k vnímajúcej AI, celá téma bude pravdepodobne úplne prevrátená. Predstavte si potenciálny chaos a spoločenský zmätok za to, že ste sa nejakým spôsobom dostali do inak nikdy predtým nevídaného a nepochybne overeného umelý inteligenciu, ktorá stelesňuje vnímanie (pre moju analýzu slávneho testu AI známeho ako Turingov test, pozri odkaz tu). Môžete sa odôvodnene staviť, že mnohé z našich existujúcich kultúrnych, právnych a každodenných noriem budú výrazne otrasené.

Možno bude vnímajúca AI náš kamarát, alebo možno bude vnímajúca AI naším najhorším nepriateľom. Akýmkoľvek otázkam týkajúcim sa právnickej osoby bude potrebné venovať vtedy našu plnú pozornosť. To, či sme už vopred zistili, čo budeme robiť, je hádka. Realita čelného postavenia vnímajúcej AI si pravdepodobne vyžiada rekalibráciu zo strany ľudstva. Napadá mi staré príslovie, a síce, že žiadny plán neprežije prvý kontakt (trochu múdrej múdrosti, ktorú spopularizoval snáď Rommel a údajne ju pripisuje Moltke staršiemu, pruskému poľnému maršálovi z konca 1800. storočia).

Pre tých z vás, ktorých zaujíma tento vysoko špekulatívny terén, pozrite si moje pokrytie perspektívy AI ako existenčnej hrozby na odkaz tu.

Dobre, takže teraz zdôrazníme spôsob hľadania právnickej osoby spojenej s necitlivou AI.

Ako už bolo spomenuté, jeden prístup na zdvíhanie obočia pozostáva zo založenia spoločnosti, ktorá funguje ako štít alebo kabát pre AI, ktorá potom voľne zdedí právnickú osobu spoločnosti. AI ako taká nebude mať právnu osobu. Spoločnosť má túto česť. Medzitým AI vlastní a možno prevádzkuje korporáciu a ergo používa firmu ako prostriedok na nepriame získanie právnickej osoby.

Už som skôr spomenul, že sa to javí ako sporná právna prax. Mohli by ste v dnešnom svete skutočne nechať AI tento druh triku? Umožnili by to súčasné zákony? Aké by boli konkrétne kroky v reálnom svete?

Tu je vaša odpoveď, pripravte sa na odhalený magický trik.

Výskumník navrhol postup v štyroch krokoch, ako to urobiť, a usilovne argumentuje, že by to bola legálne povolená technika. V podstate človek pokračuje a vytvára typ korporácie bežne známej ako LLC v Spojených štátoch (spoločnosť s ručením obmedzeným). Človek zavedie prevádzkovú zmluvu, ktorá špecifikuje, že LLC bude úplne a výlučne riadená AI (alebo, ak chcete, odkazuje na „autonómny systém“ ako alternatívnu frázu). Človek, ktorý založil LLC, zaisťuje prevod AI, pokiaľ ide o jej pôvodné vlastníctvo, do LLC. Nakoniec sa človek vykloní z LLC a úplne sa dištancuje od právnickej osoby.

Voila, trik je hotový.

Z klobúka je vytiahnutý králik.

Umelá inteligencia teraz vlastní spoločnosť LLC a získa akúkoľvek podobu právnickej osoby, ktorú mala spoločnosť LLC.

Ľudský zakladateľ dostal loptu do pohybu a už nemá žiadnu časť LLC. AI je sama o sebe. Ľudský zakladateľ môže stáť v úžase, za predpokladu, že túžil po tomto výsledku. Môžete byť v pokušení povedať, že zakladateľ človeka bol zradcom ľudstva. Potajomky našli medzeru, ktorá umožnila AI mať trochu právnickej osoby. Na druhej strane, človek, ktorý to urobil, by určite mohol tvrdiť, že pomáha AI tak, ako by sa dalo pomôcť zvieraťu, lagúne alebo rieke.

Vy rozhodnete, či je to čestné alebo nečestné.

Ďalším vhodným spôsobom, ako si to predstaviť, je, ako keby sme mali štvornohý stôl, ktorý musí byť normálne podopretý týmito pevnými stĺpikmi. No, odpílili sme jednu nohu stola, potom druhú a potom posledné dve. Nejako sa nám tento stôl teraz vznáša vo vzduchu a už nepotrebujeme nohy stola. Umelá inteligencia síce vyžadovala človeka, aby tento výsledok priniesol, ale teraz je umelá inteligencia zodpovedná a pravdepodobne bez ľudskej pomoci.

Tu je návod, ako výskumník opisuje štyri kroky:

• „Technika, ktorú som načrtol, má štyri kroky: (1) Individuálny člen („Zakladateľ“) „vytvorí členmi riadenú LLC, vyplní príslušné papiere so štátom“ a stane sa jediným členom LLC. (2) Zakladateľ zaväzuje LLC, aby prijala prevádzkovú dohodu upravujúcu správanie LLC. „V prevádzkovej zmluve sa uvádza, že LLC prijme opatrenia určené autonómnym systémom, pričom špecifikuje náležitosti alebo podmienky na dosiahnutie právnych cieľov autonómneho systému.“ (3) Zakladateľ prevádza vlastníctvo akéhokoľvek príslušného fyzického zariadenia autonómneho systému a akéhokoľvek duševného vlastníctva, ktoré ho zaťažuje, na LLC. (4) Zakladateľ sa dištancuje od LLC a necháva LLC bez akýchkoľvek členov“ (Shawn Bayern, „Sú možné autonómne entity? Revue práva Severozápadnej univerzity, 2019).

Tvrdenie je toto: „Výsledkom je LLC bez členov riadených prevádzkovou zmluvou, ktorá dáva právny účinok rozhodnutiam autonómneho systému. Žiadna iná právnická osoba nezostáva za tým, aby interne spravovala LLC. Samozrejme, LLC stále podlieha externej regulácii a zákonu LLC“ (ibid).

Právni učenci a každodenne pracujúci tvrdohlaví právnici by okamžite začali vyť na nespočetné množstvo spôsobov, ako to legálne nefunguje. Výskumník rieši mnohé z týchto protichodných názorov. V skutočnosti sú načrtnuté alternatívne spôsoby dosiahnutia rovnakého výsledku, pre prípad, že by vyššie uvedená štvorkroková schéma neobstála.

Celkovo výskumník tvrdí, že ide o životaschopný právny prístup, a to aj napriek početným lobovaným námietkam: „Keby sme oslovili sto právnikov, pravdepodobne by všetci súhlasili s tým, že robot nemôže kúpiť nehnuteľnosť alebo že softvérový systém nemôže vstúpiť do zmluvu s výnimkou v mene iného právneho subjektu. Ale hlavným dôsledkom môjho argumentu je, že z praktických dôvodov môžu autonómne systémy skutočne konať týmto spôsobom podľa súčasného práva bez akéhokoľvek špeciálneho nového právneho uznania práv na softvér“ (tamtiež).

Rukavica bola hodená.

Uvedomujem si, že mnohí z mojich čitateľov sú z krajín mimo Spojených štátov a možno si myslia, že ide o nejaký nepredvídateľný trik použiteľný iba v Amerike. Nebuďte tak rýchlo súdiť. Zdá sa, že podobná dohoda môže byť vykonaná mierne odlišnými spôsobmi na miestach, ako je Spojené kráľovstvo, Nemecko, Švajčiarsko a možno aj iné kraje.

Vyplýva to z ďalšieho dokumentu, ktorý výskumník vypracoval s ďalšími medzinárodnými kolegami, v ktorom tvrdia toto: „Naším cieľom je navrhnúť, ako by podľa práva USA, Nemecka, Švajčiarska a Spojeného kráľovstva mohlo právo obchodných spoločností poskytnúť funkčné a adaptívne právne predpisy. „bývanie; za autonómny systém – a na druhej strane sa snažíme informovať dizajnérov systémov, regulátorov a ďalších, ktorí sa zaujímajú o možnosť, že autonómny systém môže „obývať“ spoločnosť, a tým získať časť incidenty právnej subjektivity“ (Shawn Bayern, Thomas Burri, Thomas Grant, Daniel Hausermann, Florian Moslein, Richard Williams, „Právo spoločností a autonómne systémy: Návrh pre právnikov, podnikateľov a regulátorov, Hastings Science and Technology Law Journal, leto 2017).

Fuj, niektorí nepriaznivo reagujú na tento potenciálny trik, mohli by sme znervózňujúco mať AI, ktorá do istej miery dosahuje právnu osobu na celom svete. Krajina za krajinou. Ide o maximálne nemysliteľné prevzatie AI krok za krokom (viac o konšpiračných teóriách AI nájdete v mojom hodnotení na odkaz tu).

Čo by urobila AI so spoločnosťou, ktorá nepriamo sprostredkúva zdanie právnickej osoby?

Odpoveď je jednoduchá.

Umelá inteligencia by mohla robiť čokoľvek, čo by mohla urobiť akákoľvek iná taká LLC alebo právnická osoba.

Možno ani nemáte žiadne zjavné prostriedky na to, aby ste vedeli, že máte dočinenia so spoločnosťou, ktorá je vo vlastníctve AI. AI si môže najať ľudí, aby pracovali pre korporáciu. Títo ľudia by vykonávali každodenné činnosti firmy. V tomto všetkom je AI najlepším banánom. Umelá inteligencia volá po zásahu. Ľudia pracujú pre AI.

Umelá inteligencia sa môže rozhodnúť zamestnať zamestnancov a tiež zamestnancov prepustiť. Majte na pamäti, že táto AI nemusí byť tradičným mechanickým robotom v tom zmysle, že ide o chodiaci a hovoriaci ľudsky vyzerajúci výmysel. AI by mohla byť podobná Siri alebo Alexovi. Zamestnanci dostávajú svoje pracovné úlohy prostredníctvom e-mailu alebo hlasovej interakcie s AI. Strešný kancelársky balík je prázdny, okrem počítačového servera alebo len sieťového pripojenia, odkiaľ sa AI spúšťa.

diabolské?

Božský?

Premýšľajte o tom.

záver

Zatiaľ čo o tom všetkom uvažujete, uvažujme teraz o niekoľkých záverečných bodoch.

Povedal som, že táto diskusia sa zameria na necitlivú AI. Vaša prvá myšlienka môže byť, že neexistuje žiadny druh necitlivej AI, ktorý by mohol sedieť na vrchole korporácie. Preto sú všetky tieto legálne mumbo jumbo len reči. Neexistuje žiadna necitlivá AI, ktorá by túto náročnú úlohu aj tak zvládla.

Už som myslel na túto námietku.

Výskumník spomína: „Systém môže byť jednoduchý a dosiahnuteľný pomocou dnešnej technológie – povedzme online cloud-computing brokera alebo algoritmického escrow agenta – alebo v budúcnosti to môže byť úplne inteligentný herec, ako je zobrazený v špekulatívnej fikcii. . Aby systém fungoval s komplexnou funkčnou autonómiou, pravdepodobne by musel byť dostatočne inteligentný na to, aby vedel, ako najať právnika, ak je subjekt žalovaný, inak by mohol byť vystavený svojvoľným rozsudkom o zmeškaní, ale kapacita na takéto najímanie by mohla byť naprogramovaná formulovane (alebo napríklad právnik by mohol byť najatý na zálohu od začiatku existencie entity s právomocou len defenzívne reagovať na súdne spory) bez výrazného pokroku v umelej inteligencii“ ((Shawn Bayern, „Sú možné autonómne entity? Northwestern University Law Review, 2019).

Ak máte obavy z toho, že AI sa zblázni, uvedomte si, že spoločnosť stále podlieha existujúcim zákonom o tom, čo spoločnosti môžu legálne robiť alebo nie. Je toho len toľko, čo by sa AI mohla pokúsiť utiecť. Spoločnosť môže byť žalovaná. Spoločnosť môže niesť zodpovednosť za svoje činy. Atď.

Variácia tohto prístupu pozostáva zo zriadenia správnej rady alebo akcionárov, ktorí sú ľuďmi, teda budú schopní ovládať AI.

Zvážte tento alternatívny uhol: „Verejnou politikou ďalšieho zosúladenia AI s ľuďmi by bolo presadzovanie toho, aby právnická osoba overila ľudských akcionárov. Korporácia je do značnej miery mechanizmom určeným na zníženie problému hlavného zástupcu medzi akcionármi a manažérmi (DGCL § 141(a) („Obchody a záležitosti každej korporácie organizovanej podľa tejto kapitoly budú riadené smerovanie predstavenstva....“), takže s ľuďmi ako akcionármi by korporačná forma mohla pomôcť zosúladiť „manažment umelej inteligencie“ spoločnosti. Systémy umelej inteligencie by boli schopné využívať právnické podnikateľské subjekty ako kľúčový vektor, prostredníctvom ktorého riadia svoje záležitosti, napr. zamestnávanie ľudí, žalovanie iných subjektov, nákup tovaru“ (John Nay, „Law Informs Code: A Legal Informatics Approach To Zosúladenie umelej inteligencie s ľuďmi, Northwestern Journal of Technology and Intellectual Property, Zväzok 20).

Takže vidíte, AI by bola zodpovednejšia, keby tento typ legálneho triku povolila len vtedy, keď si ľudia v konečnom dôsledku udržia kontrolu. Ľudskí akcionári by mohli podniknúť kroky proti vlastníctvu AI. To isté platí pre predstavenstvo založené na človeku.

Predpokladám, že AI nemusí byť zamilovaná do tohto ľudského dohľadu. Rovnako ako ľudskí zakladatelia a generálni riaditelia nemajú záujem o to, aby bol každý ich krok spochybňovaný, AI by pravdepodobne mohla zaujať rovnaký postoj. Nechajte ma viesť túto firmu a vypadnite z mojich vlasov (má AI vlasy?).

AI je hlava honcho, veľký syr.

Zdá sa, že naše každodenné správy sú plné protestov pracovníkov, ktorí sú naštvaní na svojich šéfov. Ľudskí pracovníci sú naštvaní na ľudských šéfov. Možno už musíte premýšľať o tom, aké druhy sloganov sa použijú na predvedenie toho, že šéf AI je mimo.

Vyskúšajte tieto veľkosti:

• „Hej! Ahoj! AI musí ísť!”
• "Môj tyranský šéf je AI." Som len človek!"
• „Priveďte späť ľudských šéfov, prekabátia AI“
• „Moja AI je blbec“
• „Vyhoď môjho šéfa AI pre dobro ľudstva“
• „AI Zlý. Ľudia dobrí."

Alebo otvorene privítame AI ako našich firemných lídrov?

Ak veríte, že AI bude nevyhnutne našimi pozemskými vládcami, mohli by sme začať tým, že budeme mať AI ako našich šéfov. Odtiaľ je to všetko do kopca alebo z kopca.