Etika AI vášne bojuje za vaše zákonné právo byť výnimkou

Hovorí sa, že z každého pravidla existuje výnimka.

Problém je však v tom, že často prevláda pravidlo stáleho konania a existuje len malý alebo žiadny priestor na to, aby bola výnimka uznaná alebo uznaná. Priemerný prípad sa používa napriek hrozivej možnosti, že je v popredí výnimka. Výnimka nezískava žiadny vysielací čas. Nemá šancu byť riadne zvážený.

Som si istý, že musíte vedieť, o čom hovorím.

Pokúsili ste sa niekedy získať nejaký druh individualizovaného zákazníckeho servisu, pri ktorom sa s vami zaobchádzalo bezmyšlienkovito bez akéhokoľvek rozdielu pre váš konkrétny prípad a vaše špecifické potreby?

Toto sa vám nepochybne stalo, pravdepodobne nespočetnekrát.

Prevediem vás znepokojivým trendom, ktorý sa objavuje v súvislosti s tým, ako je umelá inteligencia (AI) neúnavne navrhnutá tak, aby všetko vtesnala do paradigmy jednej veľkosti.

Výnimky sa buď nezistia, alebo sa rozhodnú byť ohnuté z tvaru, ako keby to vôbec neboli. Základom pre toto je čiastočne príchod strojového učenia (ML) a hlbokého učenia (DL). Ako čoskoro uvidíte, ML/DL je forma porovnávania výpočtových vzorov, ktorej vývoj a nasadenie je „jednoduchšie“, ak ste ochotní ignorovať alebo obchádzať výnimky. Je to veľmi problematické a vyvoláva to vážne obavy z etiky AI. Moje celkové prebiehajúce a rozsiahle pokrytie etiky AI a etickej AI nájdete v časti odkaz tu a odkaz tu, Len aby sme vymenovali niekoľko.

Veci to tak byť nemusia a vedzte, že to podnecujú tí, ktorí vyrábajú a nasadzujú AI tým, že sa rozhodli ignorovať alebo bagatelizovať zaobchádzanie s výnimkami v rámci svojich výmyslov AI.

Keď platia výnimky

Najprv si rozbaľme povahu priemerného prípadu verzus realizácia výnimiek.

Môj obľúbený príklad tohto typu dogpilingu alebo krátkozrakého prístupu bez výnimiek s priemernými prípadmi je živo osvetlený takmer každou epizódou uznávaného a stále dosť nesmierne populárneho televízneho seriálu známeho ako House, MUDr (zvyčajne vyjadrené ako Dom, ktorá prebiehala v rokoch 2004 až 2012 a dnes si ju môžete pozrieť na sociálnych sieťach a iných médiách). Predstavenie zahŕňalo fiktívnu postavu menom Dr. Gregory House, ktorá bola drsná, neznesiteľná a dosť nekonvenčná, no napriek tomu bol zobrazený ako lekársky génius, ktorý dokázal odhaliť tie najobskurnejšie choroby a neduhy. Iní lekári a dokonca aj pacienti ho nemuseli mať radi, ale svoju prácu zvládol.

Tu je návod, ako sa odohrala typická epizóda (všeobecné upozornenie na spojler!).

Pacient sa objaví v nemocnici, kde pracuje Dr. House. Pacient spočiatku vykazuje trochu bežné symptómy a rôzni iní lekári sa striedajú v snahe diagnostikovať a vyliečiť pacienta. Zvláštne je, že pokusy pomôcť pacientovi buď neprinesú zlepšenie nepriaznivého stavu, alebo ešte horšie, majú tendenciu zlyhať. Pacient sa zhoršuje a zhoršuje.

Keďže pacient je teraz vnímaný ako druh lekárskej kuriozity, a keďže nikto iný nemôže zistiť, čím pacient trpí, do prípadu je privedený Dr. House. Niekedy sa to robí zámerne, aby využil jeho medicínske schopnosti, zatiaľ čo v iných prípadoch sa o prípade dopočuje a jeho vrodené inštinkty ho ťahajú k nezvyčajným okolnostiam.

Postupne zisťujeme, že pacient má nejaké mimoriadne zriedkavé ochorenie. Iba Dr. House a jeho tím lekárskych stážistov sú schopní na to prísť.

Teraz, keď som sa s vami podelil o hlavnú zápletku epizód, poďme sa ponoriť do získaných lekcií, ktoré ilustrujú povahu priemerného prípadu oproti výnimkám.

Fiktívne príbehy sú navrhnuté tak, aby ukázali, ako môže myslenie v škatuľke niekedy veľmi míňať cieľ. Všetci ostatní lekári, ktorí sa najprv pokúšajú pacientovi pomôcť, sú zahmlení vo svojich procesoch myslenia. Chcú vtlačiť symptómy a prezentované aspekty do konvenčnej lekárskej diagnózy. Pacient je len jedným z mnohých, ktorých už pravdepodobne videli. Vyšetrite pacienta a potom mu predpíšte rovnakú liečbu a medicínske riešenia, ktoré opakovane používali počas svojej lekárskej kariéry.

Umyte, opláchnite, opakujte.

V istom zmysle môžete tento prístup ospravedlniť. Je pravdepodobné, že väčšina pacientov bude mať najčastejšie ochorenia. Deň čo deň sa títo lekári stretávajú s rovnakými zdravotnými problémami. Môžete naznačiť, že pacienti vstupujúci do nemocnice sú skutočne na lekárskej montážnej linke. Každý z nich prechádza podľa štandardizovaných protokolov nemocnice, ako keby boli súčasťou výrobného zariadenia alebo montážneho závodu.

Prevláda priemerný prípad. Nielenže je to všeobecne vhodné, ale umožňuje to nemocnici a zdravotníckemu personálu primerane optimalizovať svoje lekárske služby. Náklady sa môžu znížiť, keď navrhnete lekárske postupy na zvládnutie priemerného prípadu. Študentom medicíny sa v mysliach často vtĺka celkom známa rada, a to tá, že ak z ulice počujete zvuky kopýt, je pravdepodobné, že by ste mali myslieť skôr na koňa ako na zebru.

Efektívne, produktívne, efektívne.

Kým sa do stredu nevkradne výnimka.

Možno utiekla zebra zo zoo a zatúlala sa po vašej ulici.

Znamená to, že výnimky by mali byť pravidlom a namiesto toho, aby sme sa zamerali výlučne na výnimky, by sme mali zrušiť pravidlo priemerného prípadu?

Ťažko by ste tvrdili, že všetky naše každodenné stretnutia a služby by sa mali zameriavať skôr na výnimky ako na priemerný prípad.

Všimnite si, že nepredkladám takýto návrh. Tvrdím, že by sme mali zabezpečiť, aby sa výnimky mohli vyskytnúť a že musíme rozpoznať, kedy nastanú. Spomínam to preto, lebo niektorí odborníci majú sklon nahlas vyhlasovať, že ak ste zástancom uznávania výnimiek, musíte byť proti vymýšľaniu pre priemerný prípad.

To je falošná dichotómia.

Nepodľahnite tomu.

Môžeme si dať svoj koláč a zjesť ho tiež.

Zaoberať sa právom byť výnimkou

Nabudúce možno urobím trochu šok, ktorý to všetko spája s narastajúcim využívaním AI.

Systémy AI sa čoraz viac vytvárajú tak, aby sa sústredili na priemerný prípad, často s vylúčením alebo na úkor rozpoznávania výnimiek.

Možno vás prekvapí, že sa to deje. Väčšina z nás by predpokladala, že keďže AI je formou počítačovej automatizácie, krása automatizácie je v tom, že zvyčajne môžete zahrnúť výnimky. Zvyčajne sa to dá urobiť s nižšími nákladmi, ako keby ste na vykonávanie podobnej služby používali ľudskú prácu. S ľudskou prácou môže byť nákladné alebo neúmerné mať k dispozícii všetky druhy práce, ktoré si dokážu poradiť s výnimkami. Veci sa spravujú a zavádzajú oveľa jednoduchšie, ak môžete predpokladať, že vaši zákazníci alebo klienti patria medzi priemerné prípady. Predpokladá sa však, že používanie počítačových systémov umožňuje prispôsobiť sa výnimkám. V tomto spôsobe myslenia by sme mali búrlivo fandiť tomu, aby sa do popredia dostalo viac počítačových schopností.

Považujte to za hádanku, ktorá vás ohromí, a nájdite si chvíľu na zamyslenie sa nad touto nepríjemnou otázkou: Ako môže AI, o ktorej sa inak predpokladá, že je to najlepšie z automatizácie, zdanlivo neúprosne kráčať po rutinnej a výnimočnej ceste, o ktorej sme si ironicky alebo neočakávane predstavovali, že pôjde presne opačným smerom?

Odpoveď: Strojové učenie a hlboké učenie nás však privádzajú do výnimočnej existencie nie pretože tou cestou musíme ísť povinne (môžeme to urobiť lepšie).

Poďme to rozbaliť.

Predpokladajme, že sa rozhodneme použiť strojové učenie na navrhnutie AI, ktorá sa použije na zistenie lekárskych diagnóz. Zhromažďujeme množstvo historických údajov o pacientoch a ich zdravotnom stave. ML/DL, ktoré sme nastavili, sa pokúša vykonať porovnávanie výpočtových vzorov, ktoré preskúma symptómy pacientov a poskytne očakávané ochorenie spojené s týmito symptómami.

Na základe poskytnutých údajov ML/DL matematicky zisťuje symptómy, ako je nádcha, bolesť hrdla, bolesti hlavy a bolesť, ktoré sú silne spojené s bežnou nádchou. Nemocnica sa rozhodla použiť túto AI na predbežné vyšetrenie pacientov. Iste, pacienti, ktorí hlásia tieto príznaky pri prvom príchode do nemocnice, sú „diagnostikovaní“ ako pravdepodobní s bežnou nádchou.

Preraďujeme, pridajme k tomu všetkému zvrat Dr. House.

Pacient príde do nemocnice a AI mu diagnostikuje. AI naznačuje, že pacient má zrejme bežnú nádchu na základe príznakov nádchy, bolesti hrdla a bolesti hlavy. Pacientovi sa dávajú zdanlivo vhodné recepty a lekárske rady na zvládnutie bežného prechladnutia. Toto všetko je neoddeliteľnou súčasťou prístupu priemerného prípadu používaného pri navrhovaní AI.

Ukazuje sa, že pacient skončí s týmito príznakmi niekoľko mesiacov. Odborník na zriedkavé choroby a alimenty si uvedomuje, že tie isté príznaky môžu byť odrazom úniku mozgovomiechového moku (CSF). Odborník lieči pacienta rôznymi chirurgickými zákrokmi, ktoré súvisia s takýmito únikmi. Pacient sa uzdraví (mimochodom, tento pozoruhodný príbeh o pacientovi s únikom CSF, u ktorého bola pôvodne diagnostikovaná nádcha, je voľne založený na skutočnom lekárskom prípade).

Teraz sa vrátime k našim krokom v tejto lekárskej ságe.

Prečo AI, ktorá robila predbežný skríning príjmu, nedokázala posúdiť, či pacient môže mať toto zriedkavé ochorenie?

Jednou z odpovedí je, že ak by trénovacie dáta použité na vytvorenie ML/DL neobsahovali žiadne takéto inštancie, nebolo by v nich nič, s čím by sa porovnávanie výpočtových vzorov zhodovalo. Vzhľadom na nedostatok údajov pokrývajúcich výnimky z pravidla sa samotné všeobecné pravidlo alebo priemerný prípad bude považovať za zdanlivo bezchybné a bude sa uplatňovať bez váhania.

Ďalšou možnosťou je, že sa povedzme vyskytol prípad tohto zriedkavého úniku CSF v historických údajoch, ale išlo len o jeden konkrétny prípad av tomto zmysle odľahlú hodnotu. Všetky ostatné údaje boli matematicky blízke zistenému priemernému prípadu. Potom vyvstáva otázka, čo robiť s takzvanou odľahlou hodnotou.

Uvedomte si prosím, že riešenie týchto odľahlých hodnôt je záležitosť, ktorá sa výrazne líši v tom, ako by sa vývojári AI mohli rozhodnúť bojovať s výskytom niečoho mimo určeného priemerného prípadu. Neexistuje žiadny požadovaný prístup, ktorý sú vývojári AI nútení prijať. Je to trochu divoký západ, pokiaľ ide o to, čo môže ktorýkoľvek daný vývojár AI urobiť v každom danom prípade svojho úsilia o vývoj ML/DL, ktorý vyvoláva výnimky.

Tu je môj zoznam spôsobov, akými sú tieto výnimky často nevhodne spracované:

• Výnimka sa považuje za chybu
• Výnimka sa považuje za nehodnú
• Výnimka sa považuje za nastaviteľnú do „normy“
• Výnimka si vôbec nevšimla
• Výnimka bola zaznamenaná, ale súhrnne ignorovaná
• Výnimka spozorovaná a neskôr zabudnutá
• Výnimka spozorovaná a skrytá pred očami
• Atď

Vývojár AI sa môže rozhodnúť, že rarita nie je nič iné ako chyba v údajoch. Mohlo by sa zdať zvláštne, že niekto takto uvažuje, najmä ak sa to pokúsite poľudštiť napríklad tým, že si predstavíte, že pacient s únikom CSF je ten jeden prípad. Existuje však silné pokušenie, že ak všetky vaše údaje mimo kontextu hovoria v podstate jednu vec, možno pozostávajúcu z tisícok a tisícok záznamov a všetky sa zbližujú k priemernému prípadu, výskyt jedného čudného údaja môže ľahko (lenivo!) možno považovať za úplnú chybu. „Chyba“ môže byť potom vývojárom AI zahodená a neberie sa do úvahy v rámci toho, na čo sa ML/DL trénuje.

Ďalším prostriedkom, ako sa vyrovnať s výnimkou, by bolo rozhodnutie, že ide o nedôstojnú záležitosť. Prečo sa obťažovať s jednou raritou, keď sa možno ponáhľate s uvedením ML/DL do prevádzky? Vyhoďte odľahlú hodnotu a pokračujte. Žiadna myšlienka nemusí nutne smerovať k následkom na ceste.

Ďalší prístup zahŕňa poskladanie výnimky do zvyšku prostredia s priemernými prípadmi. Vývojár AI upravuje údaje tak, aby zodpovedali zvyšku normy. Existuje tiež šanca, že vývojár AI si nemusí všimnúť, že výnimka existuje.

ML/DL môže oznámiť, že bola zistená výnimka, čo potom vývojár AI má inštruovať ML/DL o tom, ako sa má s odľahlou hodnotou matematicky zaobchádzať. Vývojár AI to môže zaradiť do zoznamu úloh a neskôr zabudnúť na to, ako sa s tým vyrovnať, alebo sa môže rozhodnúť ignorovať to atď.

Celkovo vzaté, zisťovanie a riešenie výnimiek, pokiaľ ide o AI, je bez akéhokoľvek konkrétne stanoveného alebo presvedčivo vyváženého a odôvodneného prístupu per se. S výnimkami sa často zaobchádza ako s nehodnými vyvrheľmi a víťazom je priemerný prípad. Vyrovnať sa s výnimkami je ťažké, môže byť časovo náročné, vyžaduje si zdanie šikovného vývoja AI a inak je to problém v porovnaní s hromadením vecí do šikovného motýlika v univerzálnom balení.

To je do istej miery dôvod, prečo je etika AI a etická AI taká kľúčová téma. Prikázania etiky AI nás vedú k tomu, aby sme zostali ostražití. Technológovia umelej inteligencie môžu byť niekedy zaujatí technológiou, najmä optimalizáciou špičkových technológií. Nezohľadňujú nevyhnutne väčšie spoločenské dôsledky.

Okrem používania etických zásad AI vo všeobecnosti existuje zodpovedajúca otázka, či by sme mali mať zákony upravujúce rôzne spôsoby použitia AI. Na federálnej, štátnej a miestnej úrovni sa hromadia nové zákony, ktoré sa týkajú rozsahu a povahy toho, ako by mala byť navrhnutá AI. Snaha vypracovať a prijať takéto zákony je postupná.

Do tejto konkrétnej diskusie o úlohe výnimiek prichádza provokatívne stanovisko, že s výnimkou by možno malo byť spojené zákonné právo. Je možné, že jediný životaschopný prostriedok na získanie uznania v dobrej viere pre niekoho, kto môže byť výnimkou, znamená použitie dlhej ruky zákona.

Zaviesť nový druh ľudských práv.

Právo byť považovaný za výnimku.

Zvážte tento návrh: „Právo byť výnimkou neznamená, že každý jednotlivec is výnimka, ale v prípade, že rozhodnutie môže spôsobiť škodu subjektu rozhodnutia, osoba s rozhodovacou právomocou by mala zvážiť možnosť, že subjekt smieť byť výnimkou. Právo na výnimku zahŕňa tri zložky: poškodiť, individualizáciaa neistota. Osoba s rozhodovacou právomocou sa musí rozhodnúť spôsobiť škodu len vtedy, keď zvážila, či je rozhodnutie primerane individualizované, a čo je najdôležitejšie, neistotu, ktorá je sprevádzaná zložkou rozhodnutia založenou na údajoch. Čím väčšie je riziko poškodenia, tým závažnejšia je úvaha“ (Sarah Cen vo výskumnom článku s názvom Právo byť výnimkou v rozhodovaní na základe údajov, MIT, 12. apríla 2022).

Môžete byť v pokušení predpokladať, že takéto právo už máme.

Nie nevyhnutne. Podľa výskumnej práce by pravdepodobne najbližšie podobné medzinárodne uznávané ľudské právo mohlo byť právom na dôstojnosť jednotlivca. Teoreticky, predstava, že by malo existovať uznanie dôstojnosti tak, že sa predpokladá, že bude zahrnutý jednotlivec a jeho špecifická jedinečnosť, vás dostane do kolotoča potenciálneho ľudského práva na výnimku. Jednou z výhrad je, že o existujúcich zákonoch, ktorými sa riadi oblasť dôstojnosti, sa hovorí, že sú trochu hmlisté a príliš tvárne, a teda nie sú dobre prispôsobené konkrétnemu právnemu konštruktu práva na výnimku.

Tí, ktorí uprednostňujú nové právo, ktoré pozostáva z ľudského práva byť výnimkou, tvrdia, že:

• Takéto právo by do značnej miery legálne prinútilo vývojárov AI, aby sa výslovne vysporiadali s výnimkami
• Firmy vyrábajúce umelú inteligenciu by boli viac legálne na háku, keby sa nezaoberali výnimkami
• AI by bola pravdepodobne lepšie vyvážená a celkovo robustnejšia
• Tí, ktorí používajú AI alebo podliehajú AI, by na tom boli lepšie
• Ak AI neprijíma výnimky, právny postih by bol ľahko realizovateľný
• Výrobcovia umelej inteligencie sa tiež určite budú mať lepšie (ich umelá inteligencia by pokryla širší okruh používateľov)
• Atď

Tí, ktorí sú proti novému právu označenému ako ľudské právo na výnimku, majú tendenciu hovoriť:

• Existujúce ľudské práva a zákonné práva to dostatočne pokrývajú a nie je potrebné veci komplikovať
• Na plecia tvorcov umelej inteligencie by bola uložená neprimeraná záťaž
• Úsilie o vytvorenie AI by sa stalo nákladnejším a malo by tendenciu spomaliť pokrok AI
• Vznikli by falošné očakávania, že každý bude požadovať, aby bol výnimkou
• Samotné právo by nepochybne podliehalo rôznym výkladom
• Tí, ktorí získajú najviac, budú právnické profesie, keď právne prípady prudko vzrastú
• Atď

Stručne povedané, opozícia voči takémuto novému právu zvyčajne argumentuje, že ide o hru s nulovým súčtom a že zákonné právo byť výnimkou bude stáť viac, než z toho vyplýva. Tí, ktorí veria, že takéto nové právo je rozumne potrebné, majú tendenciu zdôrazniť, že toto nie je hra s nulovým súčtom a že z toho v konečnom dôsledku profitujú všetci, vrátane tých, ktorí vyrábajú AI, a tých, ktorí používajú AI.

Môžete si byť istí, že táto diskusia zahŕňajúca právne, etické a spoločenské dôsledky spojené s AI a výnimkami bude hlasná a trvalá.

Samoriadiace autá a význam výnimiek

Zvážte, ako to platí v kontexte autonómnych systémov, ako sú autonómne vozidlá a autá s vlastným riadením. V súvislosti s priemerným zmýšľaním vývoja AI pre autonómne autá a autonómne vozidlá sa už objavili rôzne kritiky.

Napríklad spočiatku len veľmi málo návrhov samoriadiacich áut vyhovovalo tým, ktoré majú nejakú formu telesného postihnutia alebo postihnutia. O širšom zahrnutí celej škály potrieb jazdca sa veľa neuvažovalo. Vo všeobecnosti sa toto povedomie zvýšilo, aj keď sa stále vyjadrujú obavy, či je to dostatočne ďaleko a či je to tak rozsiahle, ako by malo byť.

Ďalší príklad priemerného prípadu verzus výnimka súvisí s niečím, čo by vás mohlo zaskočiť.

Ste pripravení?

Dizajn a nasadenie mnohých súčasných systémov riadenia AI a samoriadiacich áut má tendenciu vytvárať tichý alebo nevyslovený predpoklad, že v samoriadiacom aute budú jazdiť dospelí. Vieme, že keď za volantom sedí ľudský vodič, vo vozidle je, samozrejme, dospelý, pretože získanie vodičského oprávnenia je zvyčajne založené na tom, že ste dospelý (teda alebo takmer jeden). Pri autonómnych autách, ktoré riadia všetky činnosti AI, nie je potrebná prítomnosť dospelej osoby.

Ide o to, že deti môžeme nechať jazdiť v autách samé bez prítomnosti dospelej osoby, aspoň to je možné v prípade plne autonómnych samoriadiacich áut poháňaných AI. Svoje deti môžete poslať ráno do školy pomocou samoriadiaceho auta. Namiesto toho, aby ste museli svoje deti odviezť, alebo aby ste museli využívať ľudského vodiča služby zdieľania jázd, môžete jednoducho nechať deti nasadnúť do samoriadiaceho auta a nechať sa odviezť do školy.

Všetko nie je ružové, keď príde na to, mať deti v samoriadiacich autách.

Keďže už nie je potrebné mať vo vozidle dospelú osobu, znamená to, že deti sa už tiež nebudú cítiť ovplyvňované alebo povedzme ovládané prítomnosťou dospelej osoby. Zbláznia sa deti a roztrhajú interiér samoriadiacich áut? Pokúsia sa deti vyliezť alebo dosiahnuť za okná samoriadiaceho auta? Aké ďalšie typy šaškovania môžu spôsobiť, čo môže viesť k potenciálnemu zraneniu a vážnemu poškodeniu?

Zaoberal som sa vášnivou debatou o myšlienke, že deti jazdia samé v samoriadiacich autách, viď odkaz tu. Niektorí hovoria, že by to nikdy nemalo byť dovolené. Niektorí hovoria, že je to nevyhnutné a musíme prísť na to, ako to čo najlepšie vyriešiť.

záver

Vráťme sa k zastrešujúcej téme priemerný prípad verzus výnimka.

Zdá sa, že všetci súhlasíme s tým, že vždy sa nájde nejaká výnimka z pravidla. Po vytvorení alebo identifikácii pravidla by sme mali hľadať výnimky. Keď sa stretneme s výnimkami, mali by sme sa zamyslieť nad tým, na ktoré pravidlo sa táto výnimka pravdepodobne vzťahuje.

Mnohé z AI, ktoré sa dnes vymýšľajú, sú založené na formulovaní pravidla, zatiaľ čo výzvy spojené s výnimkami majú tendenciu opustiť a pokrčiť plecami.

Pre tých, ktorí majú radi šmrnc a hovoria, že neexistujú žiadne výnimky z pravidla, že vždy existujú výnimky z pravidla, by som uznal, že tento vtip sa zdá byť mentálnym hlavolamom. Konkrétne, ako môžeme mať pravidlo, že vždy existujú výnimky, ale potom sa zdá, že práve toto pravidlo neplatí pre pravidlo, že vždy existujú výnimky z pravidla?

Roztočí sa ti hlava.

Našťastie nie je potrebné tieto vytriezvenie prehnane komplikovať. Dúfajme, že dokážeme žiť s praktickým a životne dôležitým pravidlom, na ktoré by sme si mali dávať pozor, a prispôsobovať sa výnimkám z každého pravidla.

Tým sa veci vyriešili, takže teraz na tom poďme pracovať.