Etika AI a hľadanie sebauvedomenia v AI

Si si vedomý sám seba?

Stavil by som sa, že tomu veríš.

Ide o to, že málokto z nás si je obzvlášť vedomý seba samého. Existuje určitý rozsah alebo stupeň sebauvedomenia a všetci sa údajne líšime v tom, ako dômyselne si uvedomujeme. Môžete si myslieť, že ste si plne vedomí samého seba a ste takí len okrajovo. Môžete si byť slabo uvedomelí a uvedomujete si, že je to váš duševný stav.

Medzitým, v najvyššej časti spektra, by ste mohli veriť, že ste si plne vedomí seba samého a skutočne ste si vedomí asi tak, ako prichádzajú. Dobre pre teba.

Keď už o tom hovoríme, na čo je dobré byť si mimoriadne vedomý?

Podľa prieskumu uverejneného v Harvard Business Review (HBR) od Tashe Eurich, údajne ste schopní robiť lepšie rozhodnutia, ste si istý vo svojich rozhodnutiach, ste silnejší vo svojich komunikačných schopnostiach a celkovo efektívnejší (podľa článku s názvom „Čo vlastne sebauvedomenie je (a ako Bonusovým faktorom je, že ľudia s prenikavým sebavedomím sú vraj menej náchylní podvádzať, kradnúť alebo klamať. snažiť sa byť lepšou ľudskou bytosťou a prikrášliť svojich blížnych.

Všetky tieto reči o sebauvedomení vyvolávajú trochu samozrejmú otázku, a to, čo vlastne znamená slovné spojenie sebauvedomenie. Môžete ľahko nájsť veľa rôznych definícií a interpretácií o komplexnom a povedzme kašovitom konštrukte, ktorý zahŕňa sebauvedomenie. Niektorí by veci zjednodušili tvrdením, že sebauvedomenie pozostáva z monitorovania vlastného ja, z poznania toho, čo robíte. Dobre si uvedomujete svoje vlastné myšlienky a činy.

Je pravdepodobné, že keď si človek neuvedomuje sám seba, neuvedomuje si, čo robí, ani prečo to robí, a tiež by si nebol vedomý toho, čo o ňom hovoria iní ľudia. Som si istý, že ste sa už stretli s takými ľuďmi.

Zdá sa, že niektorí ľudia chodia po tejto zemi bez potuchy o tom, čo sami robia, a nemajú ani zdanie, čo o nich hovoria iní. Myslím, že by ste mohli tvrdiť, že sú ako hlava-dole nabiehajúci býk v jemnom butiku s rozbitnými predmetmi. Zvyčajne máme tendenciu veriť, že býk nevie, čo robí, a zostáva lhostejný k názorom iných, pokiaľ sa tí ostatní nepokúsia fyzicky manévrovať alebo ohradiť bezradné stvorenie.

Hovorí sa, že sebauvedomenie môže byť do istej miery rekurzívne.

Dovoľte mi načrtnúť príklad na ilustráciu tejto rekurzie. Ste uprostred sledovania celkom pohlcujúceho mačacieho videa na svojom smartfóne (zdá sa, že to robí každý). Niektorí ľudia by nemali žiadne iné zjavné myšlienky okrem úžasných potešujúcich huncútstva týchto milých mačiek. Medzitým si každý, kto má trochu sebauvedomenia, uvedomuje, že sleduje video s mačkou. Môžu si tiež byť vedomí toho, že ostatní okolo nich si všimnú, že pozerajú video s mačkou.

Všimnite si, že si môžete byť vedomí seba a stále byť ponorení do povedzme konkrétnej primárnej činnosti. Primárnou aktivitou v tomto prípade je sledovanie videa s mačkou. Sekundárne a súčasne môžete niesť myšlienku, že v skutočnosti sledujete video s mačkou. Môžete tiež niesť myšlienku, že vás ostatní pozorujú, keď sledujete celkom zábavné video s mačkou. Nemusíte nevyhnutne zastaviť jednu aktivitu, napríklad prestať pozerať video s mačkou, aby ste potom mohli samostatne uvažovať o tom, že sledujete (alebo práve ste) video s mačkou. Tieto myšlienky sa môžu zdanlivo vyskytovať paralelne jedna s druhou.

Niekedy nás naše sebauvedomenie môže vykopnúť alebo aspoň prerušiť primárnu duševnú aktivitu. Možno, že pri premýšľaní o sledovaní videa s mačkou sa vaša myseľ čiastočne vypína, pretože je príliš namáhavé sústrediť sa iba na samotné video. Rozhodnete sa potom video pretočiť späť, aby ste sa vrátili k časti, ktorú ste videli, ale z úplného pochopenia ste boli duševne vyrušení. Sebauvedomenie narušilo vašu primárnu duševnú aktivitu.

Dobre, teraz sme pripravení na vznik rekurzívnych aspektov.

Ste pripravení?

Pozeráte video o mačke. Vaše sebauvedomenie vás informuje o tom, že sledujete video s mačkou a že ostatní vás sledujú, keď pozeráte video. To je status quo.

Ďalej urobíte ďalší mentálny skok. Začnete premýšľať o svojom sebauvedomení. Ste si vedomí toho, že zapájate svoje sebauvedomenie. Takto to prebieha: Nemyslím príliš na to, aby som premýšľal o sledovaní videa s mačkou, pýtate sa zúfalo? Toto je ďalšia vrstva sebauvedomenia. Sebauvedomenie zaraďuje nad ostatné sebauvedomenie.

Existuje staré príslovie, že sú to korytnačky úplne dole. Pre javy sebauvedomenia by ste mohli byť:

• Neuvedomujúc si seba
• Sebauvedomenie si samého seba
• Sebauvedomenie si svojho sebauvedomenia
• Sebauvedomenie si svojho sebauvedomenia si sebauvedomenia si seba
• Ad Infinitum (tj atď.)

Možno ste si uvedomili, že som predtým jemne poukázal na to, že existujú dve hlavné kategórie sebauvedomenia. Jedna konkrétna teória predpokladá, že máme akési vnútorné sebauvedomenie, ktoré sa zameriava na naše vnútorné stavy, a máme aj vonkajšie sebauvedomenie, ktoré pomáha pri hodnotení vnímania ľudí okolo nás, ktorí nás sledujú.

Podľa článku HBR je tu rýchle zobrazenie dvoch teoretických typov sebauvedomenia: „Prvý, ktorý sme nazvali vnútorné sebauvedomenie, predstavuje, ako jasne vidíme naše vlastné hodnoty, vášne, ašpirácie, ako sú v súlade s naším prostredím, reakciami (vrátane myšlienok, pocitov, správania, silných a slabých stránok) a dopadom na ostatných.“ A zatiaľ tá druhá je: „Druhá kategória, vonkajšie sebauvedomenie, znamená pochopiť, ako nás vidia iní ľudia z hľadiska tých istých faktorov, ktoré sú uvedené vyššie. Náš výskum ukazuje, že ľudia, ktorí vedia, ako ich vidia ostatní, sú zručnejší v prejavovaní empatie a vnímaní iných perspektív.“

Šikovnú maticu dva krát dva alebo štyri štvorce možno odvodiť tvrdením, že vnútorné aj vonkajšie sebauvedomenie sa pohybuje od vysokého po nízke a tieto dve kategórie môžete spojiť proti sebe. Výskum HBR naznačuje, že ste údajne jedným z týchto štyroch archetypov sebauvedomenia:

• Introspector: Nízke vonkajšie sebauvedomenie + vysoké vnútorné sebauvedomenie
• Hľadač: Nízke vonkajšie sebauvedomenie + nízke vnútorné sebavedomie
• Poteší: Vysoké vonkajšie sebauvedomenie + nízke vnútorné sebavedomie
• Uvedomelé: Vysoké vonkajšie sebauvedomenie + vysoké vnútorné sebauvedomenie

Vrcholom by bol archetyp „Vedomý“, ktorý pozostáva z bytia na najvyššej priečke, pokiaľ ide o externé sebauvedomenie, a tiež na vrchole, pokiaľ ide o vnútorné sebavedomie. Aby som to objasnil, túto vychvaľovanú polohu nedosiahnete nevyhnutne trvalo. Môžete skĺznuť tam a späť medzi tým, že ste vysoko a nízko, medzi vnútornými a vonkajšími sférami sebauvedomenia. Môže to závisieť od dennej doby, situácie, v ktorej sa nachádzate, a množstva ďalších dôležitých faktorov.

Teraz, keď sme priateľsky pokryli niektoré základné prvky sebauvedomenia, môžeme sa pokúsiť spojiť to s témou etického správania.

Zvyčajné tvrdenie o uvedomení si seba samého je, že je pravdepodobnejšie, že budete nad vecou, ​​keď si budete vedomí seba samého. To znamená, ako už bolo uvedené, že ste menej náchylní na nepriaznivé etické správanie, ako je krádež, podvádzanie a klamstvo. Dôvodom pre túto tendenciu je, že aktívnosť vášho sebauvedomenia by vám umožnila uvedomiť si, že vaše vlastné správanie je nechutné alebo neetické. Nielenže sa chytíte, keď zabočíte do bahnitých neetických vôd, ale ste tiež náchylní nasmerovať sa späť na suchú zem (posvätnosť etického územia).

Vaše sebauvedomenie vám pomáha pri cvičení sebakontroly.

Kontrast by bol pravdepodobne vtedy, keď existuje malé alebo žiadne sebauvedomenie, čo naznačuje, že niekto si možno nevšíma svoje sklony k neetickému správaniu. Mohli by ste tvrdiť, že takáto nevedomá osoba si nemusí uvedomiť, že má nepriaznivý výkon. Podobne ako býci v obchode s rozbitnými predmetmi, kým ich pozornosť neupúta niečo otvorenejšie, je nepravdepodobné, že by sa sami regulovali.

Mimochodom, nie každý sa do toho pustí. Niektorí by tvrdili, že sebauvedomenie možno rovnako ľahko aplikovať na neetické ako na etické. Napríklad páchateľ si môže byť plne vedomý seba samého a teší sa z toho, že pácha zlo. Ich sebauvedomenie ich dokonca ženie čoraz ostrejšie k čoraz väčším činom hanebného nekalého správania.

Je na tom viac oblačnosti, než by sa mohlo na prvý pohľad zdať. Predpokladajme, že si niekto veľmi dobre uvedomuje sám seba, ale nepozná etické zvyky danej spoločnosti alebo kultúry. Týmto spôsobom nemajú žiadne etické vedenie, napriek tomu, že sú si vedomí samého seba. Alebo, ak chcete, možno ten človek vie o etických predpisoch a neverí, že sa na ne vzťahujú. Považujú sa za jedinečných alebo mimo hraníc konvenčného etického myslenia.

Ide to dokola.

Niektorí horlivo zdôrazňujú, že sebauvedomenie by sa dalo interpretovať ako dvojsečný eticky orientovaný meč.

Pre túto chvíľu poďme na verziu so šťastnou tvárou, ktorá pozostáva zo sebauvedomenia a vo veľkej miere nás vedie alebo postrkuje smerom k etickému správaniu. Ak je všetko ostatné rovnaké, budeme drzo predpokladať, že čím viac sebauvedomenia, tým etickejšie sa budete orientovať. Určite sa zdá príjemné a inšpiratívne, že si to tak želáme.

Zaraďme rýchlosť a vneste do obrazu umelú inteligenciu (AI).

V tejto diskusii sa nachádzame na križovatke, ktorá spája všetky prebiehajúce spleti s rozvíjajúcou sa oblasťou etickej AI, bežne známej aj ako etika AI. Pre moje pokračujúce a rozsiahle pokrytie etiky AI pozri odkaz tu a odkaz tu, Len aby sme vymenovali niekoľko.

Pojem etická umelá inteligencia znamená prepojenie oblasti etiky a etického správania až po príchod umelej inteligencie. Určite ste už videli titulky, ktoré vyvolali poplach o AI, ktorá je plná nerovností a rôznych predsudkov. Existujú napríklad obavy, že systémy rozpoznávania tváre založené na AI môžu občas vykazovať rasovú a rodovú diskrimináciu, zvyčajne v dôsledku toho, ako boli vyškolené a nasadené základné zariadenia strojového učenia (ML) a hlbokého učenia (DL) (pozri moju analýzu pri tento odkaz tu).

Pokúsiť sa zastaviť alebo aspoň zmierniť ten nával AI pre zléAI, ktorá pozostáva zo systémov umelej inteligencie, ktoré sú buď neúmyselne, alebo niekedy zámerne tvarované tak, aby konali zle, sa v poslednej dobe objavila naliehavá potreba uplatňovať etické predpisy na vývoj a používanie umelej inteligencie. Najdôležitejším cieľom je poskytnúť etické poradenstvo vývojárom AI a firmám, ktoré vytvárajú alebo zavádzajú AI, a tým, ktoré sú závislé od aplikácií AI. Ako príklad vytvárania a prijímania etických princípov AI nájdete moje pokrytie na odkaz tu.

Doprajte si chvíľu reflexie na zváženie týchto troch veľmi dôležitých otázok:

• Môžeme prinútiť vývojárov AI, aby prijali etické princípy AI a uviedli tieto pokyny do skutočného používania?
• Môžeme prinútiť firmy, ktoré vyrábajú alebo využívajú AI, aby robili to isté?
• Dokážeme prinútiť tých, ktorí používajú AI, aby podobne poznali etické aspekty AI?

Nehanebne by som to povedal, je to náročná úloha.

Vzrušenie z vytvárania AI môže prekonať akékoľvek tušenie pozornosti voči etike AI. No, nielen vzrušenie, ale aj zarábanie peňazí je neoddeliteľnou súčasťou tejto rovnice. Možno vás prekvapí, že niektorí vo sfére AI majú tendenciu povedať, že sa začnú zaoberať etickými „vecami“ AI, keď dostanú svoje systémy AI za dvere. Toto je typická technologická mantra uistiť sa, že zlyháte rýchlo a často zlyháte, kým sa vám to nepodarí (dúfajme, že sa vám to podarí).

Samozrejme, tí, ktorí súhrnne pchajú eticky pochybnú AI do širokej verejnosti, vypúšťajú koňa zo stodoly. Ich proklamovaná rozšírená myšlienka je, že AI pre zlé po každodennom používaní sa opraví, čo je na škodu veci oneskorené, pretože kôň už bezhlavo cvála. Škody sa dajú robiť. Existuje tiež zvýšená šanca, že počas používania AI nebude nič opravené alebo upravené. Častou výhovorkou je, že pohrávanie sa s AI v tomto momente môže situáciu ešte zhoršiť, pokiaľ ide o už aj tak neetické rozhodovanie pomocou algoritmov (ADM), ktoré sa úplne vymkne z miery.

Čo možno urobiť, aby sme získali užitočnosť a vitalitu toho, že Etická umelá inteligencia je jasne žiariacim a vodiacim svetlom v mysliach tých, ktorí budujú AI, využívajú AI a používajú AI?

Odpoveď: Sebauvedomenie.

Áno, predstava je taká, že ak by si ľudia boli viac vedomí toho, ako používajú AI alebo s ňou interagujú, mohlo by to zvýšiť ich sklon k tomu, že by sa etická umelá inteligencia stala normou. To isté možno povedať o vývojároch AI a spoločnostiach súvisiacich so systémami AI. Keby si boli viac vedomí toho, čo robia, možno by viac prijali etiku AI.

Časť logiky, ako už bolo uvedené, je, že sebauvedomenie ponúka tendenciu byť eticky lepším človekom a tiež vyhýbať sa byť eticky mizerným človekom. Ak dokážeme zachovať tento predpoklad, znamená to, že vývojári AI, ktorí sú viac naklonení sebauvedomeniu, budú inklinovať k etickému správaniu, a preto budú inklinovať k produkcii eticky zdravého AI.

Je to pre vás príliš ďaleko?

Niekto by povedal, že tej nepriamosti je trochu veľa. Prehnaný reťazec prepojení medzi sebauvedomením, etickým cnostným a uplatňovaním etických predpisov na AI je možno ťažké prehltnúť. Protiargumentom je, že nezaškodí vyskúšať.

Skeptici by povedali, že vývojár umelej inteligencie si môže byť vedomý seba samého a možno má etickejšie zmýšľanie, no nemusia nevyhnutne skočiť smerom k aplikovaniu tohto mentálneho tábora na mravy Etickej AI. Odpoveďou na túto pochybnosť je, že ak dokážeme zverejniť a spopularizovať etické záležitosti AI, inak zdanlivo slabé spojenie sa stane zrejmejším, očakávanejším a možno sa stane štandardným spôsobom, ako robiť veci, pokiaľ ide o vytváranie AI.

Teraz pridám do tejto ságy zvrat. Z toho zvratu sa vám môže zakrútiť hlava. Uistite sa, že ste dobre usadení a pripravení na to, čo sa chystám naznačiť.

Niektorí poukazujú na to, že by sme mali zabudovať etickú AI priamo do samotnej AI.

Z tohto vyhlásenia môžete byť zmätení. Poďme to rozbaliť.

Programátor môže vytvoriť systém AI a urobiť tak s vlastným programátorským sebavedomím, ktorým sa snaží zabrániť tomu, aby AI stelesňovala zaujatosti a nerovnosti. Namiesto toho, aby sa vývojár len pustil do programovania, sleduje cez svoje plece otázku, či prístup, ktorý podnikajú, povedie k nevyhnutnej absencii nepriaznivých prvkov v AI.

Skvelé, máme vývojára AI, ktorý sa zdá byť dostatočne vedomý, snažil sa osvojiť si etické správanie a videl svetlo, že pri vytváraní svojho systému AI zahrnul etické predpisy.

Vyhrajte za Etickú AI!

Všetko v poriadku, aj keď tu je niečo, čo sa môže stať neskôr. AI je nasadená a používaná denne. Časť AI zahŕňala komponent umožňujúci „učenie sa“ za behu. To znamená, že AI sa môže prispôsobiť na základe nových údajov a ďalších aspektov pôvodného programovania. Len rýchlo na okraj, to neznamená, že AI je vnímavá. Nemáme vnímajúcu AI. Ignorujte tie hlúpe titulky, ktoré hovoria, že áno. Nikto nemôže povedať, či budeme mať vnímajúcu AI, a nikto nemôže dostatočne predpovedať, kedy ak vôbec niekedy k tomu dôjde.

Vráťme sa k nášmu príbehu, AI bola zámerne navrhnutá tak, aby sa sama zlepšovala, kým prebieha. Celkom šikovný nápad. Namiesto toho, aby programátori museli neustále vylepšovať, umožňujú programu AI, aby to urobil sám (fíha, je to práca bez práce?).

Počas doby, počas ktorej sa AI palec po palci prispôsobuje, sa ukazuje, že do systému AI sa vkrádajú rôzne špinavé nerovnosti a zaujatosti prostredníctvom jeho vlastných zmien. Zatiaľ čo programátor pôvodne zamlčoval tieto ošúchané aspekty, teraz ich formuluje kvôli prispôsobovaniu AI za behu. Žiaľ, môže sa to stať v takom nenápadnom zákulisí, že nikto nie je múdrejší. Tí, ktorí predtým mohli dať AI zelenú po počiatočnom vyčerpávajúcom testovaní, si teraz slepo neuvedomujú, že umelá inteligencia sa vydala po prehnitej ceste AI pre zlé.

Jedným zo spôsobov, ako zabrániť alebo aspoň zachytiť tento nežiaduci výskyt, by bolo zabudovať do AI akýsi druh etického dvojitého kontrolóra AI. Komponent v rámci AI je naprogramovaný tak, aby sledoval správanie AI a zisťoval, či sa začína objavovať neetické ADM. Ak áno, komponent môže poslať upozornenie vývojárom AI alebo tak urobiť firme, ktorá používa systém AI.

Pokročilejšia verzia tohto komponentu sa môže pokúsiť opraviť AI. Išlo by o úpravu úprav, ktorá by neetické vznikajúce aspekty premenila späť na správne etické parametre. Viete si predstaviť, že tento typ programovania je zložitý. Je tu šanca, že by sa to mohlo pokaziť, prípadne sa neetické zmeniť na hlboko neetické. Existuje tiež možnosť falošne pozitívneho spustenia komponentu do činnosti a možno aj toho, že sa veci zodpovedajúcim spôsobom pokazia.

Každopádne, bez toho, aby sme sa zamotali do toho, ako by táto dvojitá kontrola fungovala, urobíme o tom odvážne vyhlásenie. Mohli by ste naznačiť, že nejakým obmedzeným spôsobom sa o AI hovorí, že si uvedomuje seba samého.

Fuj, to sú pre mnohých bojové slová.

Takmer všetci prevládajú presvedčenie, že dnešná AI si nie je vedomá samého seba. Bodka, bodka. Kým nedosiahneme vnímajúcu AI, o ktorej nevieme, či alebo kedy k tomu dôjde, neexistuje žiadny druh AI, ktorý by si bol vedomý. Nie aspoň v zmysle sebauvedomenia orientovaného na človeka. Ani nenaznačujte, že sa to môže stať.

Určite súhlasím s tým, že musíme byť opatrní pri antropomorfizácii AI. O chvíľu poviem viac o tejto obave.

Medzitým, ak budete v záujme diskusie ochotní použiť fázovanie „uvedomenie si seba samého“ neviazaným spôsobom, verím, že ľahko pochopíte, prečo by sa dalo povedať, že AI sa riadi celkovým poňatím sebapoznania. povedomie. Máme časť AI, ktorá monitoruje zvyšok AI a sleduje, čo robí zvyšok AI. Keď zvyšok AI začne ísť cez palubu, monitorovacia časť sa to snaží zistiť. Okrem toho časť monitorovania AI alebo dvojitá kontrola môže nasmerovať zvyšok AI späť do správnych pruhov.

Nezdá sa vám to trochu ako akt pozerania videí s mačkami a sebauvedomenie, že ste to robili?

Je k tomu známy prsteň.

Môžeme to rozšíriť ešte viac. Komponent dvojitej kontroly AI nie je naprogramovaný len na sledovanie správania zvyšku AI, ale tiež zaznamenáva správanie tých, ktorí AI používajú. Ako sú na tom používatelia pri využívaní AI? Predpokladajme, že niektorí používatelia vyjadrujú rozhorčenie nad tým, že AI ich zrejme diskriminuje. Dvojitá kontrola AI by to mohla zachytiť a použiť to ako ďalšiu červenú vlajku, aby sa zvyšok AI dostal na scestie.

To vyvoláva kategorizáciu vnútorného sebauvedomenia a vonkajšieho sebauvedomenia.

Dvojitá kontrola AI skenuje interne a externe, aby zistila, či zvyšok AI zamieril do znepokojujúcich morí. Detekcia zdvihne príznak alebo spôsobí samoopravu.

Pridajme ďalšie trochu ohromujúce rozšírenie. Vytvárame ďalšiu dvojitú kontrolu AI, ktorá je určená na dvojitú kontrolu základnej dvojitej kontroly AI. Prečo tak? Predpokladajme, že sa zdá, že dvojitá kontrola AI zaostáva alebo neplní svoju prácu. Dvojitá kontrola AI dvojitej kontroly by sa pokúsila zistiť túto poruchu a podľa toho prijať potrebné opatrenia. Vitajte v rekurzívnej povahe sebauvedomenia, niektorí by mohli hrdo vyhlásiť, ako sa prejavuje vo výpočtovom systéme AI.

Pre tých z vás, ktorí sú v tejto veci už na okraji svojho kresla, je zatiaľ posledná poznámka, že by sme sa mohli pokúsiť naznačiť, že ak systémy umelej inteligencie prinútite „sebavedomovať“, budú sa potom potenciálne prikláňať k etickému správaniu. Robia to na vedomom základe? Rozhodne nie. Robia to na výpočtovom základe? Áno, aj keď nám musí byť jasné, že to nie je rovnakého kalibru ako ľudské správanie.

Ak je vám nepríjemné, že pojem sebauvedomenia je nesprávne skreslený, aby sa zmestil do výpočtovej schémy, vaše pochybnosti v tejto veci sú dobre známe. Ďalšou otvorenou otázkou je, či by sme mali zastaviť prebiehajúce snahy AI, ktoré využívajú túto myšlienku. Mohli by ste presvedčivo tvrdiť, že aspoň sa zdá, že nás to vedie k lepšiemu výsledku toho, čo AI pravdepodobne urobí. Keď sa to deje, musíme mať oči dokorán.

Asi budeme musieť vidieť, ako to celé dopadne. Vráťte sa k tomu o päť rokov, desať rokov a päťdesiat rokov a uvidíte, či sa vaše myslenie v tejto kontroverznej veci zmenilo.

Uvedomujem si, že to bolo trochu opojné skúmanie témy a možno túžite po nejakých každodenných príkladoch. Existuje špeciálny a určite populárny súbor príkladov, ktoré sú môjmu srdcu blízke. Vidíte, ako odborník na AI vrátane etických a právnych dôsledkov ma často žiadajú, aby som identifikoval realistické príklady, ktoré predstavujú dilemy etiky AI, aby bolo možné ľahšie pochopiť trochu teoretickú povahu tejto témy. Jednou z najviac evokujúcich oblastí, ktorá názorne prezentuje tento etický problém umelej inteligencie, je príchod skutočne samoriadiacich áut založených na AI. Bude to slúžiť ako praktický príklad použitia alebo príklad na rozsiahlu diskusiu na túto tému.

Tu je potom pozoruhodná otázka, ktorá stojí za zamyslenie: Osvetľuje príchod skutočne samoriadiacich áut založených na AI niečo o tom, že AI má zdanie „sebauvedomenia“ a ak áno, čo to ukazuje?

Dovoľte mi chvíľu rozbaliť otázku.

Po prvé, všimnite si, že v skutočne samoriadiacom aute nie je žiadny ľudský vodič. Majte na pamäti, že skutočne samoriadiace autá sú poháňané systémom AI. Nie je potrebný ľudský vodič za volantom, ani neexistuje ustanovenie, aby vozidlo riadil človek. Pre moje rozsiahle a neustále pokrytie autonómnych vozidiel (AV) a najmä autonómnych áut viď odkaz tu.

Rád by som ďalej objasnil, čo sa myslí, keď hovorím o skutočne samoriadiacich autách.

Porozumenie úrovniam samoriadiacich automobilov

Na objasnenie, skutočné samoriadiace vozidlá sú také, ktoré AI riadia auto úplne samostatne a počas riadenia vozidla neexistuje žiadna ľudská asistencia.

Tieto vozidlá bez vodiča sa považujú za úroveň 4 a úroveň 5 (pozri moje vysvetlenie na tento odkaz tu), zatiaľ čo auto, ktoré vyžaduje, aby sa ľudský vodič podieľal na riadení, sa zvyčajne považuje za úroveň 2 alebo úroveň 3. Autá, ktoré sa podieľajú na úlohe riadenia, sú opísané ako poloautonómne a zvyčajne obsahujú rôzne automatizované doplnky, ktoré sa označujú ako ADAS (Advanced Driver-Assistance Systems).

Na úrovni 5 zatiaľ neexistuje skutočné samohybné auto, ktoré ešte nevieme, či to bude možné dosiahnuť, ani ako dlho bude trvať, kým sa tam dostaneme.

Medzitým sa úsilie úrovne 4 postupne pokúša získať určitú trakciu podstupovaním veľmi úzkych a selektívnych testov na verejných cestách, hoci existuje polemika o tom, či by toto testovanie malo byť povolené ako také (v experimente sme všetci pokusnými králikmi na život a na smrť). ktoré sa odohrávajú na našich diaľniciach a vedľajších cestách, niektorí tvrdia, pozri moje spravodajstvo na tento odkaz tu).

Keďže poloautonómne automobily si vyžadujú vodiča, prijatie týchto typov automobilov sa nebude výrazne líšiť od riadenia konvenčných vozidiel, takže o tejto téme nie je samo o sebe veľa nových (ako vidíte, uvidíte) za okamih sa spravidla použijú nasledujúce body).

V prípade autonómnych automobilov je dôležité, aby verejnosť musela byť upozornená na rušivý aspekt, ktorý sa objavuje v poslednej dobe, a to napriek tomu, že napriek tým vodičom, ktorí neustále vysielajú svoje videá, ktoré zaspávajú za volantom automobilu úrovne 2 alebo 3 , musíme sa vyhnúť tomu, aby sme boli uvedení do omylu v presvedčenie, že vodič môže odvádzať svoju pozornosť od úlohy pri riadení čiastočne autonómneho vozidla.

Ste zodpovednou stranou za jazdné vlastnosti vozidla bez ohľadu na to, do akej miery by sa automatizácia mohla hodiť na úroveň 2 alebo úroveň 3.

Samoriadiace autá a AI s takzvaným sebauvedomením

Pri vozidlách s vlastným riadením na úrovni 4 a 5 sa do úlohy vedenia vozidla nebude podieľať ľudský vodič.

Všetci cestujúci budú cestujúcimi.

AI robí jazdu.

Jedným z aspektov, o ktorých je potrebné okamžite diskutovať, je skutočnosť, že AI zapojená do dnešných systémov riadenia AI nie je vnímavá. Inými slovami, AI je celkom kolektív počítačového programovania a algoritmov a je nepochybne neschopný uvažovať rovnakým spôsobom ako ľudia.

Prečo je tento zvýšený dôraz na to, aby AI nebola vnímavá?

Pretože by som chcel zdôrazniť, že keď diskutujem o úlohe jazdného systému AI, nepripisujem AI ľudské vlastnosti. Uvedomte si, že v dnešnej dobe pretrváva nebezpečná tendencia k antropomorfizácii AI. Ľudia v podstate priraďujú dnešnému UI sentiment podobný človeku, a to aj napriek nepopierateľnému a nespochybniteľnému faktu, že zatiaľ taký AI neexistuje.

S týmto objasnením si môžete predstaviť, že systém riadenia umelej inteligencie nebude natívne nejako „vedieť“ o aspektoch riadenia. Vedenie vozidla a všetko, čo k tomu patrí, bude potrebné programovať ako súčasť hardvéru a softvéru samostatne riadeného automobilu.

Poďme sa ponoriť do nespočetného množstva aspektov, ktoré sa budú hrať na túto tému.

Po prvé, je dôležité si uvedomiť, že nie všetky autá s umelou inteligenciou sú rovnaké. Každá automobilka a technologická firma s vlastným pohonom pristupuje k navrhovaniu samoriadiacich áut. Preto je ťažké urobiť rozsiahle vyhlásenia o tom, čo AI riadiace systémy urobia alebo neurobia.

Okrem toho, kedykoľvek sa uvádza, že riadiaci systém AI nerobí konkrétne veci, neskôr to môžu predbehnúť vývojári, ktorí počítač v skutočnosti naprogramujú tak, aby to urobil. Krok za krokom sa systémy riadenia AI postupne vylepšujú a rozširujú. Existujúce obmedzenie dnes už nemusí existovať v budúcej iterácii alebo verzii systému.

Verím, že poskytne dostatočnú litániu výhrad, ktoré sú základom toho, o čom sa chystám hovoriť.

Teraz sme pripravení na to, aby sme sa hlboko ponorili do samoriadiacich áut a etických otázok umelej inteligencie, ktoré zahŕňajú predstavu, že AI má určitý druh sebauvedomenia, ak chcete.

Použime jednoduchý príklad. V uliciach vášho susedstva jazdí samoriadiace auto založené na AI a zdá sa, že jazdí bezpečne. Najprv ste venovali osobitnú pozornosť každému, keď sa vám podarilo zahliadnuť samoriadiace auto. Autonómne vozidlo vynikalo regálom s elektronickými senzormi, ktoré zahŕňali videokamery, radarové jednotky, zariadenia LIDAR a podobne. Po mnohých týždňoch samoriadiaceho auta, ktoré križovalo vašu komunitu, si to teraz sotva všimnete. Pokiaľ ide o vás, je to len ďalšie auto na už aj tak rušných verejných cestách.

Aby ste si nemysleli, že je nemožné alebo nepravdepodobné zoznámiť sa so samoriadiacimi autami, často som písal o tom, ako si miesta, ktoré sú v rámci skúšok samoriadiacich áut, postupne zvykli na vyšperkované vozidlá, pozri moju analýzu na tento odkaz tu. Mnohí z miestnych obyvateľov sa nakoniec preorientovali z dychtivého cikania s otvorenými ústami a teraz vydávajú rozsiahle zívanie nudy, aby boli svedkami kľukatiacich sa samoriadiacich áut.

Pravdepodobne hlavným dôvodom, prečo by si mohli všimnúť autonómne vozidlá, je faktor podráždenia a podráždenia. Bežné jazdné systémy AI zabezpečujú, že autá dodržiavajú všetky rýchlostné limity a pravidlá cestnej premávky. Pre hektických ľudských vodičov v ich tradičných autách poháňaných ľuďmi vás občas naštve, keď uviaznu za prísne zákonnými samoriadiacimi autami založenými na AI.

To je niečo, na čo si všetci musíme zvyknúť, či už oprávnene alebo nesprávne.

Späť k našej rozprávke. Predpokladajme, že jedného dňa sa samoriadiace auto vo vašom meste priblíži k značke Stop a nezdá sa, že by spomaľovalo. Sakra, vyzerá to tak, že umelá inteligencia bude mať samoriadiace auto pluh priamo za značkou Stop. Predstavte si, že by chodec alebo jazdec na bicykli bol niekde nablízku a bol by zaskočený, že samoriadiace auto sa poriadne nezastaví. Hanebné. Nebezpečné!

A nelegálne.

Pozrime sa teraz na komponent AI v systéme riadenia AI, ktorý funguje ako štýl dvojitej kontroly.

Chvíľu sa ponoríme do podrobností o tom, čo sa deje vo vnútri systému riadenia AI. Ukázalo sa, že videokamery namontované na autonómnom vozidle rozpoznali niečo, čo sa zdalo byť značkou Stop, hoci v tomto prípade značku Stop hojne zakrýva prerastený strom. Systém strojového učenia a hlbokého učenia, ktorý bol pôvodne trénovaný na značkách Stop, bol navrhnutý na základe vzorov v zásade značiek STOP, ktoré sú vo všeobecnosti neobmedzené. Po výpočtovom skúmaní videozáznamov bola priradená nízka pravdepodobnosť, že značka Stop na tomto konkrétnom mieste existuje (ako ďalšia komplikácia a ďalšie vysvetlenie to bola novo zverejnená značka Stop, ktorá sa neobjavila na predtým pripravených digitálnych mapách, ktoré AI systém riadenia sa spoliehal).

Celkovo vzaté, riadiaci systém AI sa výpočtovo rozhodol pokračovať vpred, ako keby značka Stop buď neexistovala, alebo by mohla byť znakom iného druhu, ktorý sa možno podobal na značku Stop (môže sa to stať a stáva sa to s určitou frekvenciou).

Našťastie, dvojitá kontrola AI, ktorá si uvedomuje AI, monitorovala aktivity systému riadenia AI. Po výpočtovej kontrole údajov a posúdení zvyškom AI sa tento komponent rozhodol prepísať normálny priebeh postupu a namiesto toho prikázal jazdnému systému AI, aby sa vhodne zastavil.

Nikto nebol zranený a nedošlo k žiadnemu protiprávnemu konaniu.

Dalo by sa povedať, že dvojitý kontrolór, ktorý si uvedomuje AI, konal, ako keby to bol vložený právny zástupca, ktorý sa snažil zabezpečiť, aby systém riadenia AI dodržiaval zákon (v tomto prípade značka Stop). Samozrejme, kľúčová bola aj bezpečnosť.

Dúfajme, že tento príklad ukazuje, ako by mohla fungovať dvojitá kontrola, ktorá si uvedomuje AI.

Ďalej môžeme stručne zvážiť výraznejší príklad Etického AI, ktorý ilustruje, ako môže dvojitá kontrola AI poskytnúť etiku orientovanú vstavanú funkčnosť.

Po prvé, jedna z obáv, ktoré boli vyjadrené v súvislosti s príchodom samoriadiacich áut založených na AI, je, že by sa mohli nakoniec používať trochu neúmyselným diskriminačným spôsobom. Tu je návod. Predpokladajme, že tieto autá s vlastným riadením sú nastavené tak, aby sa pokúsili maximalizovať svoj výnosový potenciál, čo rozhodne dáva zmysel tým, ktorí prevádzkujú flotilu dostupných autonómnych áut na zdieľanie jázd. Vlastník vozového parku by chcel mať ziskovú prevádzku.

Môže sa stať, že v danom meste či meste začnú potulujúce sa samojazdiace autá postupne obsluhovať niektoré časti komunity a nie iné oblasti. Robia to s cieľom zarobiť peniaze, pretože chudobnejšie oblasti nemusia byť také výnosné ako bohatšie časti lokality. Toto nie je explicitná ašpirácia slúžiť niektorým oblastiam a nie slúžiť iným. Namiesto toho organicky vzniká, keď AI samoriadiacich áut „zistí“ výpočtovo, že je potrebné zarobiť viac peňazí sústredením sa na geograficky vyššie platené oblasti. O tomto spoločenskom etickom záujme som diskutoval vo svojom stĺpčeku, ako napr odkaz tu.

Predpokladajme, že sme do riadiacich systémov AI pridali dvojitú kontrolu AI. Po chvíli si komponent AI výpočtovo všimne vzorec, kde sa pohybujú samoriadiace autá. Najmä v niektorých oblastiach, ale nie v iných. Na základe toho, že boli zakódované niektoré etické zásady AI, začne dvojitá kontrola AI, ktorá si uvedomuje AI, viesť samoriadiace autá do iných častí mesta, ktoré boli inak zanedbávané.

Toto ilustruje pojem AI, ktorý si uvedomuje seba samého, a robí to v kombinácii s prvkom Etickej AI.

Ďalší takýto príklad by mohol poskytnúť pochopenie, že táto úvaha o etickej umelej inteligencii môže byť tiež dosť vytriezvenie a vážne následky na život alebo na smrť.

Predstavte si novinovú správu o nedávnej autonehode. Ľudský vodič údajne prichádzal na rušnú križovatku a mal zelenú, aby pokračoval rovno. Ďalší vodič prešiel na červenú a vošiel do križovatky, keď tak nemal robiť. Vodič so zeleným svetlom si v poslednej chvíli uvedomil, že toto druhé auto do jeho auta tvrdo vrazí.

Podľa tohto ohrozeného vodiča si vedome spočítal, že buď ho zrazí druhé auto, alebo môže odbočiť a pokúsiť sa vyhnúť votrelcovi. Problém s odbočovaním bol, že v blízkosti boli chodci, ktorí by boli ohrození.

Ktorú voľbu by ste si vybrali?

Môžete sa pripraviť na to, že vás zasiahne, a dúfať, že vás škoda nezmrzačí ani nezabije. Na druhej strane sa môžete radikálne vzdialiť, no vážne ohroziť a prípadne zraniť alebo zabiť chodcov v okolí. Toto je ťažký problém, ktorý zahŕňa morálny úsudok a je plne ponorený do etických (a právnych) dôsledkov.

Existuje všeobecný etický problém, ktorý pokrýva tento druh dilemy, slávne alebo možno neslávne nazývanej Problém vozíkov, pozri moje rozsiahle pokrytie na tento odkaz tu. Ukazuje sa, že ide o eticky stimulujúci myšlienkový experiment, ktorý siaha až do začiatku 1900. storočia. Téma ako taká je tu už dosť dlho a v poslednej dobe sa všeobecne spája s príchodom AI a samoriadiacich áut.

Nahraďte ľudského vodiča systémom riadenia AI zabudovaným do samoriadiaceho auta.

Predstavte si potom, že auto s umelou inteligenciou vchádza do križovatky a senzory autonómneho vozidla zrazu zistia, že človekom riadené auto nebezpečne prichádza priamo na červenú a mieri na auto bez vodiča. Predpokladajme, že samoriadiace auto má vo vozidle nejakých pasažierov.

Čo chcete, aby AI urobila?

Ak by sa systém riadenia AI rozhodol pokračovať vpred a nechať sa naraziť (pravdepodobne ublížiť alebo možno zabiť pasažierov vo vozidle), alebo chcete, aby systém riadenia AI využil šancu a odklonil sa preč, hoci zatáčanie zaberie autonómne vozidlo nebezpečne voči blízkym chodcom a mohli by im ublížiť alebo ich zabiť.

Mnoho výrobcov umelej inteligencie samoriadiacich áut pristupuje k týmto etickým problémom s umelou inteligenciou priamočiaro. Celkovo by AI, ako je v súčasnosti naprogramovaná, jednoducho pluhovala dopredu a bola by násilne narazená druhým autom. AI nebola naprogramovaná tak, aby hľadala nejaké iné úhybné manévre.

Opakovane som predpovedal, že tento postoj výrobcov samoriadiacich áut s umelou inteligenciou nakoniec príde a uhryzne ich (moja analýza je na odkaz tu). Môžete očakávať súdne spory týkajúce sa takýchto automobilových nehôd, ktoré sa budú snažiť zistiť, na čo bola AI naprogramovaná. Bola spoločnosť alebo vývojári AI alebo prevádzkovateľ vozového parku, ktorí vyvinuli a postavili AI, nedbalá alebo zodpovedná za to, čo AI urobila alebo neurobila? Môžete tiež očakávať, že keď sa takéto prípady vyskytnú, spustí sa celosvetová etická búrka zameraná na AI.

Do tejto etickej dilemy AI vstupuje náš vychvaľovaný dvojitý kontrolór AI, ktorý je orientovaný na etiku. Možno sa tento špeciálny komponent AI môže zapojiť do takýchto okolností. Časťou je sledovanie zvyšku AI jazdného systému a stavu samoriadiaceho auta. Keď nastane taká hrozná chvíľa, komponent AI poslúži ako riešenie problémov s vozíkom a ponúkne, čo by mal systém AI robiť.

Nie je ľahké kódovať, uisťujem vás.

záver

Podelím sa s vami o zatiaľ poslednú myšlienku na túto tému.

Pravdepodobne vás to bude zaujímať.

Viete o zrkadlový test?

Je to celkom dobre známe pri štúdiu sebauvedomenia. Inými názvami pre túto záležitosť sú zrkadlový test sebapoznania, test červených škvŕn, test rouge a súvisiace frázy. Technika a prístup boli pôvodne vytvorené na začiatku sedemdesiatych rokov minulého storočia na hodnotenie sebauvedomenia zvierat. Medzi zvieratá, ktoré údajne úspešne prešli testom, patria ľudoopy, určité druhy slonov, delfíny, straky a niektoré ďalšie. Medzi zvieratá, ktoré boli testované a údajne neprešli testom, patria pandy veľké, uškatce atď.

Tu je dohoda.

Keď sa zviera vidí v zrkadle, uvedomuje si zviera, že zobrazený obraz je ich samotným, alebo si zviera myslí, že je to iné zviera?

Zviera pravdepodobne vizuálne rozpoznáva svoj vlastný druh, keď videlo iný svojho druhu, a preto by si mohlo myslieť, že zviera zobrazené v zrkadle je bratranec alebo možno agresívny konkurent (najmä ak zviera vrčí na zrkadlový obraz, ktorý v Zdá sa, že odbočka na nich vrčí). Možno ste už videli, že vaša domáca mačka alebo milovaný pes robia to isté, keď sa prvýkrát uvidia v zrkadle v domácnosti.

V každom prípade by sme predpokladali, že divoké zviera sa ešte nikdy nevidelo. Nie je to nevyhnutne pravda, pretože zviera možno zazrelo samo seba v pokojnej vodnej nádrži alebo cez lesklý skalný útvar. Tie sa však považujú za menej pravdepodobné.

Dobre, chceme nejako posúdiť, či je zviera schopné zistiť, že je to v skutočnosti zviera zobrazené v zrkadle. Zamyslite sa nad tým zdanlivo jednoduchým úkonom. Ľudia v mladom veku zisťujú, že existujú a že ich existencia sa prejavuje tým, že sa vidia v zrkadle. Uvedomujú si samých seba. Teoreticky si možno neuvedomíte, že ste to vy, kým sa neuvidíte v zrkadle.

Možno zvieratá nie sú schopné kognitívne si uvedomiť seba samého rovnakým spôsobom. Mohlo by sa stať, že zviera by sa videlo v zrkadle a trvalo by veril, že je to nejaké iné zviera. Bez ohľadu na to, koľkokrát sa vidí, stále by si myslel, že je to iné zviera ako on sám.

Triková časť tohto prichádza do hry. Na zvieratku urobíme značku. Táto značka musí byť viditeľná iba vtedy, keď sa zviera vidí v zrkadle. Ak sa zviera môže otočiť alebo otočiť a vidieť značku na sebe (priamo), experiment to zničí. Okrem toho zviera nemôže cítiť, cítiť alebo akýmkoľvek iným spôsobom detekovať značku. Ešte raz, ak by to urobili, experiment by to zničilo. Zviera nemôže vedieť, že sme naň dali značku, pretože by to zveri napovedalo, že tam niečo je.

Chceme veci zúžiť tak, že jediným možným dôvodom, prečo je značka objaviteľná, by bolo pozeranie sa na seba do zrkadla.

Aha, test je teraz pripravený. Zviera sa postaví pred zrkadlo alebo sa k nemu zatúla. Ak by sa zviera následne pokúsilo dotknúť sa značky alebo do nej kopať, rozumne by sme dospeli k záveru, že k tomu dôjde len vtedy, ak si zviera uvedomí, že značka bola na ňom samom. Len veľmi málo druhov zvierat dokázalo úspešne prejsť týmto testom.

Na test je veľa kritiky. Ak je nablízku človek, ktorý testuje, môže rozdávať veci pohľadom na značku, čo by mohlo spôsobiť, že sa zviera otrepe alebo po nej začne hmatať. Ďalšou možnosťou je, že zviera stále verí, že v zrkadle je zobrazené iné zviera, ale je rovnakého typu, a preto sa zviera pýta, či má aj ono znamienko ako na druhom zvierati.

Ide to ďalej a ďalej.

Som si istý, že ste to radi, že to viete a že odteraz pochopíte, prečo je na zvierati bodka alebo nejaké zvláštne označenie, ktoré by inak také označenie nemalo. Ktovie, možno nedávno dokončila experiment so zrkadlovým testom. Bezpečne zablahoželajte zvieraťu za to, že bolo štedrým účastníkom.

Čo to má spoločné s autonómnymi autami založenými na AI?

Táto časť sa vám bude páčiť.

Samoriadiace auto ide po dlhej diaľnici. Riadiaci systém AI používa senzory na detekciu ostatnej premávky. Ide o dvojprúdovú diaľnicu s premávkou smerujúcou na sever v jednom jazdnom pruhu a na juh v druhom jazdnom pruhu. Príležitostne sa autá a kamióny pokúsia predísť, pričom sa zaradia do protiľahlého jazdného pruhu a potom sa vrátia späť do svojho správneho jazdného pruhu.

Videli ste to, nepochybne ste to urobili.

Stavím sa, že tento ďalší aspekt sa stal aj vám. Pred samoriadiacim autom je jedno z tých rozmerných cisterien. Je vyrobený z lesklého kovu. Vyleštené a čisté ako píšťalka. Keď sa dostanete za takýto kamión, môžete cez zadnú časť cisterny vidieť zrkadlový obraz vášho auta. Ak ste to videli, viete, aké to môže byť očarujúce. Tu ste, vy a vaše auto, odrazení v zrkadlovom odraze zadnej časti cisterny.

Posaďte sa na bláznivý zvrat.

Za cisternou prichádza samoriadiace auto. Kamery snímajú obraz auta, ktorý sa zobrazuje v zrkadlovom odraze. AI odhaduje, že je to auto? Prichádza pri samoriadiacom aute? Ako sa samoriadiace auto približuje a približuje k cisterne, zdá sa, že auto je čoraz bližšie.

Jejda, AI by mohla výpočtovo spočítať, že ide o nebezpečnú situáciu a AI by mala podniknúť úhybné kroky z tohto šialeného nečestného vozidla. Vidíte, AI sa v zrkadle nespoznala. Neuspel v zrkadlovom teste.

Čo robiť? Možno sa do veci vrhne dvojitá kontrola AI, ktorá si uvedomuje, a ubezpečí zvyšok systému riadenia AI, že ide len o neškodný odraz. Nebezpečenstvo zažehnané. Svet je zachránený. Úspešné absolvovanie testu AI Mirror Test!

Na záver by sme mohli dokonca naznačiť, že niekedy je umelá inteligencia inteligentnejšia alebo si aspoň uvedomuje viac ako priemerný medveď (hoci treba chváliť medveďov, že v zrkadlovom teste sa im zvyčajne darí dobre, pričom často zvyknutý na ich odraz v kalužiach vody).

Oprava, umelá inteligencia si možno uvedomuje viac ako veľké pandy a uškatce, ale nehovorte to zvieratám, mohli by byť v pokušení rozbiť alebo rozbiť systémy umelej inteligencie. To nechceme, však?