Etika AI sa opiera o Aristotela, aby preskúmala, či by sa ľudia mohli rozhodnúť zotročiť AI uprostred nástupu plne autonómnych systémov

Priateľ alebo nepriateľ.

Ryby alebo sliepky.

Osoba alebo vec.

Všetky tieto všadeprítomné rébusy zdanlivo naznačujú, že niekedy čelíme dichotomickej situácii a musíme si vybrať jeden alebo druhý aspekt. Život nás môže prinútiť zápasiť s okolnosťami, ktoré pozostávajú z dvoch vzájomne sa vylučujúcich možností. Vo vkusnejšom jazyku by ste mohli naznačiť, že vylučujúca binárna rovnica vyžaduje, aby sme rázne kráčali po jednej odlišnej ceste namiesto druhej.

Zamerajme sa konkrétne na dichotómiu osoba alebo vec.

Vrúcna otázka osoby alebo veci sa v súvislosti s umelou inteligenciou (AI) objavuje znova a znova.

Aby som to objasnil, dnešná AI je absolútne nie človek a nevyvoláva žiadne zdanie citu, napriek akýmkoľvek širokým a úplne veľkým titulkom, ktoré môžete vidieť v správach a na sociálnych médiách. Môžete si teda byť istí, že práve teraz je otázka, či je AI osoba alebo vec, ľahko zodpovedná. Čítajte mi z pier, pri skutočnej Hobsonovej voľbe medzi osobou alebo vecou je AI zatiaľ vec.

Ako už bolo povedané, môžeme sa pozerať do budúcnosti a pýtať sa, čo by sa mohlo stať, keby sme boli schopní dosiahnuť vnímajúcu formu AI.

Niektorí rozumní kritici (plus štipľaví skeptici) naznačujú, že možno počítame naše kurčatá dávno predtým, ako sa vyliahnu, v dnešnej diskusii o dôsledkoch vnímajúcej AI. Vyjadrené znepokojenie spočíva v tom, že samotná diskusia naznačuje, že musíme byť na vrchole takejto AI. Spoločnosť ako celok by mohla byť zmätená, aby verila, že zajtra alebo pozajtra dôjde k náhlemu a šokujúcemu odhaleniu, že sme v skutočnosti dospeli k vnímajúcej AI (niektorí to niekedy označujú ako singularita AI alebo explózia inteligencie, pozri moja analýza na odkaz tu). Medzitým nevieme, kedy takáto umelá inteligencia vznikne, ak vôbec niekedy, a určite sa zdanlivo nemusíme obzerať za každým rohom a mať hrôzu na pozore, že vnímajúca umelá inteligencia na nás vyskočí úplne nečakane. chvíľu.

Druhá strana diskusie poukazuje na to, že by sme nemali mať hlavy zaborené hlboko do piesku. Vidíte, ak otvorene nediskutujeme a neuvažujeme o možnostiach spojených s vnímavou AI, robíme ľudstvu predpokladanú veľkú medvediu službu. Nebudeme pripravení zvládnuť vnímajúcu AI, keď alebo ak sa objaví. Okrem toho, a možno ešte účinnejšie povedané, predvídaním vnímajúcej umelej inteligencie môžeme vziať veci do vlastných rúk a formovať smer a povahu toho, ako takáto umelá inteligencia vznikne a z čoho bude pozostávať (nie každý súhlasí s týmto posledným bodom , konkrétne niektorí hovoria, že takáto umelá inteligencia bude mať „myseľ“ úplne vlastnú a my ju nebudeme môcť tvarovať ani koralovať, pretože umelá inteligencia bude schopná samostatne myslieť a určovať prostriedky na trvalú existenciu).

Etika umelej inteligencie má tendenciu sa prikláňať k názoru, že by bolo múdre dať tieto namáhavé a sporné záležitosti s umelou inteligenciou na verejnosť už teraz, namiesto toho, aby sme čakali, kým nám nezostanú žiadne možnosti, alebo kým sa nezbláznime z dosiahnutia takejto AI. Čitatelia dobre vedia, že sa venujem etike umelej inteligencie a etickým témam umelej inteligencie, vrátane rozsiahleho spektra chúlostivých problémov, ako je právna osoba AI, obmedzenie umelej inteligencie, degorgement umelej inteligencie, algoritmická monokultúra umelej inteligencie, vymývanie etiky umelej inteligencie, dvojaké použitie AI takzvané projekty Doctor Evil, AI skrývajúca dynamiku spoločenskej moci, dôveryhodná AI, audit AI atď. (pozrite si moje stĺpce, ktoré pokrývajú tieto dôležité témy na odkaz tu).

Položím vám náročnú otázku.

V budúcnosti, za predpokladu, že akýmkoľvek spôsobom skončíme so vnímavou AI, budeme túto vnímajúcu AI považovať za osobu alebo vec?

Predtým, než sa začneme hlbšie ponoriť do tejto celkom provokatívnej otázky, dovoľte mi povedať niečo o fráze „vnímajúca AI“, aby sme boli všetci na rovnakej vlne. Existuje veľa úzkosti ohľadom významu vnímania a významu vedomia. Odborníci môžu ľahko nesúhlasiť s tým, čo tieto slová predstavujú. Keď sa k tejto zablatenosti pridá, vždy, keď sa niekto odvoláva na „AI“, nemáte žiadne pripravené prostriedky na to, aby ste vedeli, o čom sám o sebe hovorí. Už som tu zdôraznil, že dnešná AI nie je vnímavá. Ak nakoniec dospejeme k budúcej AI, ktorá je vnímavá, pravdepodobne ju tiež nazveme „AI“. Ide o to, že tieto sporné záležitosti môžu byť práve teraz dosť mätúce, pokiaľ ide o to, či vyslovenie frázy „AI“ súvisí s dnešnou nevnímajúcou AI alebo niekedy možno cítiacou AI.

Tí, ktorí diskutujú o AI, sa môžu pristihnúť, že sa rozprávajú jeden cez druhého a neuvedomujú si, že jeden opisuje jablká a druhý medzitým hovorí o pomarančoch.

Aby sme sa pokúsili obísť tento zmätok, existuje úprava frázovania AI, ktoré mnohí používajú na účely nádejného objasnenia. V súčasnosti máme tendenciu označovať umelú všeobecnú inteligenciu (AGI) ako typ AI, ktorý dokáže vykonávať úplne inteligentné úsilie. V tomto zmysle sa nevýraznejšie používanie frázy „AI“ ponecháva buď interpretovať ako menšiu verziu AI, o ktorej niektorí hovoria, že je úzka AI, alebo je denotačne nejednoznačná a vy neviete, či ide o odkaz - vnímajúca AI alebo možno vnímajúca AI.

Dám k tomu ešte jeden dodatok.

V závislosti od danej definície vnímania by ste sa mohli dostať do vášnivého diskurzu o tom, či AGI bude vnímavý alebo nie. Niektorí tvrdia, že áno, samozrejme, AGI bude musieť byť zo svojej vnútornej podstaty vnímavý. Iní tvrdia, že môžete mať AGI, ktorá nie je vnímavá, ergo, vnímanie je iná vlastnosť, ktorá nie je podmienkou na dosiahnutie AGI. Túto rozpravu som rôzne preskúmal vo svojich stĺpcoch a nebudem to tu znovu rozoberať.

Nateraz predpokladajme, že odteraz v tejto diskusii, keď hovorím o AI, mám v úmysle naznačovať, že mám na mysli AGI.

Tu je stiahnutie tohto. Zatiaľ nemáme AGI a takpovediac na chvíľu sa zdvorilo dohodneme, že AGI je celkovo v rovnakom tábore ako vnímajúca AI. Ak by som mal počas svojej diskusie používať iba „AGI“, toto slovné spojenie môže odvádzať pozornosť, pretože mnohí si ešte nezvykli vnímať „AGI“ ako prezývku a pravdepodobne by boli mierne naštvaní, keď opakovane videli toto relatívne novšie slovné spojenie. Ak by som teda namiesto toho mal stále hovoriť o „citlivej AI“, mohlo by to byť rušivo aj pre tých, ktorí bojujú o to, či sú AGI a umelá inteligencia rovnaké alebo sa od seba líšia.

Aby ste sa vyhli tomuto neporiadku, predpokladajme, že hovorím o AI rovnako ako o AGI alebo dokonca o vnímajúcej AI, a prinajmenšom vedzte, že nehovorím o dnešnej necitlivej umelej inteligencii bez AGI, keď sa dostanem do vleku úvah o AI, ktorá má zrejme ľudskú inteligenciu. Príležitostne použijem menovca AGI, aby som vám tu z času na čas pripomenul, že skúmam typ AI, ktorý ešte nemáme, najmä na začiatku tohto skúmania hádanky o osobe alebo veci.

Bolo to užitočné uznanie jemným tlačeným písmom a teraz sa vraciam k základnej záležitosti.

Dovoľte mi, aby som sa vás teraz spýtal, či je AGI osoba alebo vec.

Zvážte tieto dve otázky:

• Je AGI človek?
• Je AGI vec?

Ďalej zopakujme každú otázku a odpovedzme na otázky sériou odpovedí áno alebo nie podľa predpokladanej dichotomickej voľby.

Začnite s touto predpokladanou možnosťou:

• Je AGI človek? odpoveď: Áno.
• Je AGI vec? odpoveď: Nie.

Premysli si to. Ak je AGI v skutočnosti chápaná ako osoba a nie ako vec, môžeme takmer s istotou súhlasiť s tým, že by sme s AGI mali zaobchádzať, ako keby bola podobná osobe. Zdá sa, že existuje nedostatočne pravdivý argument o tom, že AGI neudelí formu právnej osoby. Buď by to bolo úplne rovnaké ako ľudská právnická osoba, alebo by sme sa mohli rozhodnúť prísť s variantom právnickej osoby orientovanej na človeka, ktorá by bola rozumne vhodnejšia pre AGI. Prípad uzavretý.

To bolo ľahké-peasy.

Namiesto toho si predstavte, že sme vyhlásili toto:

• Je AGI človek? odpoveď: Nie.
• Je AGI vec? odpoveď: Áno.

Za týchto okolností je riešenie zjavne jednoduché, pretože hovoríme, že AGI je vec a nespadá do kategórie osoby. Zdá sa, že existuje všeobecná zhoda, že rozhodne neudelíme právnickú osobu spoločnosti AGI, pretože nejde o osobu. Ako vec, AGI by pravdepodobne a rozumne patrila do našej celkovej rubriky o tom, ako legálne zaobchádzame s „vecami“ v našej spoločnosti.

Dva dole, ďalšie dve možnosti.

Predstavte si toto:

• Je AGI človek? odpoveď: Áno.
• Je AGI vec? odpoveď: Áno.

Och, zdá sa to zvláštne, keďže máme dve odpovede Áno. Znepokojujúce. Naznačujeme, že AGI je osoba a zároveň vec. Zdá sa však, že to odporuje našej deklarovanej dichotómii. Teoreticky, na základe obmedzení dichotómie, niečo musí byť buď osoba, alebo to musí byť vec. Hovorí sa, že tieto dve vedrá alebo kategórie sa navzájom vylučujú. Tvrdením, že AGI je oboje, sa vzpierame systému a porušujeme vzájomne sa vylučujúce usporiadanie.

Naša posledná možnosť by vyzerala takto:

• Je AGI človek? odpoveď: Nie.
• Je AGI vec? odpoveď: Nie.

Fuj, to je zlé aj pre naše pokusy klasifikovať AGI ako osobu alebo vec. Hovoríme, že AGI nie je osoba, čo by pravdepodobne znamenalo, že to musí byť vec (naša jediná dostupná voľba v tejto dichotómii). Ale tiež sme uviedli, že AGI nie je vec. Ak však AGI nie je vec, museli by sme logicky tvrdiť, že AGI je osoba. Ideme dokola. Paradox, určite.

AGI v týchto dvoch posledných možnostiach bola buď (1) osoba aj vec, alebo (2) ani osoba, ani vec. Mohli by ste drzo povedať, že tieto dve tvrdenia o AGI sú trochu podobné klasickému hlavolamu, ktorým nie je ani ryba, ani sliepka, ak viete, čo tým myslím.

Čo máme robiť?

Chystám sa ponúknuť často diskutované a silne spochybňované navrhované riešenie tejto dilemy klasifikácie AGI, hoci by ste mali byť vopred upozornení, že vidieť alebo počuť bude možno znepokojivo trhavé. Pripravte sa podľa toho.

Výskumná práca, ktorá sa zaoberala týmto problémom, uviedla toto: „Jednou metódou na vyriešenie tohto problému je sformulovať tretí výraz, ktorý nie je ani jedna vec, ani druhá, ani druh kombinácie alebo syntézy jedného a druhého“ (David Gunkel, Univerzita Northern Illinois v Prečo by roboti nemali byť otrokmi, 2022). A dokument potom poskytuje tento ďalší bod: „Jedným možným, ak nie prekvapivým riešením dichotómie výlučná osoba/vec je otroctva“ (na ten istý papier).

Ako ďalšie pozadie sa pred rokmi objavil dokument, ktorý sa objavil v roku 2010 s názvom „Roboti by mali byť otrokmi“, ktorý sa stal druhom piliera na podnietenie tohto druhu úvah, v ktorom sa uvádza: „Moja práca je, že roboty by mali byť postavené, predávané a považované legálne za otrokov, nie za spoločníkov“ (v článku od Joanny Bryson). V snahe objasniť túto tému bez použitia takých prísnych a zdrvujúcich formulácií noviny ďalej uvádzali toto: „Chcem povedať, že „roboty by mali byť sluhami, ktorých vlastníte“ (podľa Brysonovho článku).

Mnoho výskumníkov a autorov pokrylo túto pôdu.

Zamyslite sa nad mnohými sci-fi príbehmi, ktoré ukazujú ľudstvo zotročujúce roboty AI. Niektorí hovoria o robotických otrokoch, umelých sluhoch, otroctve AI a podobne. Je zaujímavé, že formulácia „robotskí otroci“ sa zdá byť krutá, niektorí sa však obávajú, že ak namiesto toho hovoríme o „robotích služobníkoch“, vyhýbame sa realite toho, ako je vhodné zaobchádzať s takýmito autonómnymi systémami AI (nahradením slova „ sluhovia“ je vraj zmiernenie zámerov a trik na obídenie vytriezvenia). Bryson neskôr na blogu z roku 2015 uviedol, že „teraz si uvedomujem, že nemôžete použiť výraz „otrok“ bez toho, aby ste sa odvolávali na jeho ľudskú históriu.

Pre tých, ktorí sa snažia túto spletitú tému AGI do hĺbky preskúmať, občas prinášajú historické príklady z reálneho sveta, z ktorých by sme mohli čerpať poznatky. Samozrejme, nemáme žiadne predchádzajúce AGI, ktoré by ukázalo, ako sa ľudstvo s touto záležitosťou vysporiadalo. Argumentom je, že by sme predsa len mohli mať užitočné historické pamiatky, ktoré stojí za to preskúmať a ktoré zahŕňajú to, ako ľudia zaobchádzali s inými ľuďmi.

Napríklad v knihe vydanej v roku 2013 autor uvádza toto: „Sľub a nebezpečenstvo umelých, inteligentných služobníkov prvýkrát implicitne stanovil pred viac ako 2,000 rokmi Aristoteles“ (kniha Kevina LaGrandeura, Androidy a inteligentné siete v ranej modernej literatúre a kultúre). Myšlienka je, že sa môžeme oprieť o Aristotela a zistiť, či existujú poznatky o tom, ako ľudstvo bude alebo by malo skončiť s liečbou AGI.

Som si istý, že viete, aké dôležité je študovať históriu, čo podčiarkujú slávne slová Georga Santayanu: „Tí, ktorí si nepamätajú minulosť, sú odsúdení ju zopakovať“ (v Život z rozumu, 1905).

Sláva Oxfordskému univerzitnému inštitútu pre etiku a AI

Nedávna a veľmi vážená prezentácia podrobne skúmala otázku etiky AI uprostred zbierania poznatkov z diel a života Aristotela. V úvodnej výročnej prednáške pre Oxfordskú univerzitu Inštitút pre etiku a AIProfesor Josiah Ober zo Stanfordskej univerzity sa tejto téme dôkladne venoval vo svojej prezentácii „Etika v AI s Aristotelom“, ktorá sa nedávno konala 16. júna 2022.

Vedľajšia poznámka, ako člen Stanfordskej univerzity a globálny odborník na etiku a právo AI som bol nadšený, že za inauguračného rečníka bol vybraný Josiah Ober zo Stanfordu. Skvelý výber a skvelý rozhovor.

Tu je súhrnný abstrakt, ktorý bol poskytnutý pre jeho pútavú prednášku: „Analytická filozofia a špekulatívna fikcia sú v súčasnosti našimi primárnymi intelektuálnymi zdrojmi na to, aby sme vážne uvažovali o etike v AI. Navrhujem pridať tretiu: staroveké sociálne a filozofické dejiny. V PolitikaAristoteles rozvíja notoricky známu doktrínu: Niektorí ľudia sú otroci „od prírody“ – inteligentní, no trpia psychologickým defektom, ktorý im znemožňuje uvažovať o svojom vlastnom dobre. Ako také by sa s nimi malo zaobchádzať ako s „oživenými nástrojmi“, nástrojmi a nie ako cieľmi. Ich práca musí byť riadená a využívaná v prospech iných. Aristotelova odporná doktrína bola nasadená na zlé účely, napríklad v Amerike antebellum. Napriek tomu je to užitočné pre etiku AI, pretože staroveké otroctvo bolo predmoderným prototypom jednej verzie AI. Zotročené osoby boli v starogréckej spoločnosti všadeprítomné – robotníci, prostitútky, bankári, vládni byrokrati – no neboli ľahko odlíšiteľní od slobodných osôb. Všadeprítomnosť spolu s predpokladom, že otroctvo je praktickou nevyhnutnosťou, vyvolala celý rad etických hádaniek a problémov: Ako presne sa otroci líšia od „nás“? Ako ich môžeme odlíšiť od seba? Majú práva? Čo znamená zlé zaobchádzanie? Môže byť môj nástroj mojím priateľom? Aké sú dôsledky manumisie? Dlhá história gréckeho filozofického a inštitucionálneho boja s týmito a ďalšími otázkami pridáva k interpretačnému repertoáru moderných etikov, ktorí čelia budúcnosti, v ktorej by sa inteligentný stroj mohol považovať za „prirodzeného otroka“ (podľa Oxfordskej univerzity Inštitút pre etiku AI webové stránky).

Ďalšie informácie o prezentácii a prístupe k videozáznamu prednášky nájdete na odkaz tu.

Moderátorom prezentácie bol profesor John Tasioulas, inauguračný riaditeľ Inštitút pre etiku a AI, a profesor etiky a právnej filozofie na Filozofickej fakulte Univerzity v Oxforde. Predtým bol inauguračným predsedom pre politiku, filozofiu a právo a riaditeľom Yeoh Tiong Lay Center for Politics, Philosophy & Law na The Dickson Poon School of Law, Kings College London.

Dôrazne odporúčam, aby každý, kto sa zaujíma o etiku AI, držal krok s prebiehajúcou prácou a pozvanými prednáškami Oxfordskej univerzity Inštitút pre etiku a AI, Pozri odkaz tu a / alebo odkaz tu pre ďalšie informácie.

Ako pozadie uvádzame stanovené poslanie a zameranie inštitútu: „Inštitút pre etiku v AI spojí popredných svetových filozofov a iných odborníkov v humanitných vedách s technickými vývojármi a používateľmi AI v akademickej sfére, podnikaní a vláde. Etika a riadenie AI je mimoriadne živou oblasťou výskumu v Oxforde a inštitút je príležitosťou urobiť z tejto platformy odvážny skok vpred. Každý deň prináša ďalšie príklady etických výziev, ktoré predstavuje AI; od rozpoznávania tváre po profilovanie voličov, rozhrania mozgových strojov až po ozbrojené drony a prebiehajúce diskusie o tom, ako AI ovplyvní zamestnanosť v globálnom meradle. Toto je naliehavá a dôležitá práca, ktorú máme v úmysle propagovať na medzinárodnej úrovni, ako aj začleniť ju do nášho vlastného výskumu a výučby tu v Oxforde“ (zdroj z oficiálnej webovej stránky).

Poučenie Aristotela do popredia

Staroveké Grécko otvorene akceptovalo a podporovalo prax zotročovania. Napríklad údajne Atény v 5^th a 6^th storočia pred naším letopočtom malo jedno z najväčších stvárnení zotročenia, kedy bolo zotročených odhadom 60,000 80,000 až XNUMX XNUMX osôb. Ak ste čítali niektorý z mnohých gréckych príbehov a divadelných hier tej doby, je o tom veľa zmienok.

Počas svojho života bol Aristoteles úplne ponorený do spoločenských a kultúrnych aspektov zahŕňajúcich zotročenie a na túto tému veľa písal. Dnes môžeme čítať jeho slová a snažiť sa pochopiť, ako a prečo sú jeho názory na vec. To môže byť veľmi výpovedné.

Možno sa čudujete, prečo by Aristoteles bol obzvlášť dôležitým zdrojom na zváženie tejto témy. Existujú aspoň dva hlavné dôvody:

1) Veľký mysliteľ. Aristoteles je nepochybne hodnotený ako jeden z najväčších mysliteľov všetkých čias, ktorý slúži ako veľký a hlboko skúmavý filozof a tiež sa na neho pozerá ako na etika, ktorý stanovil mnohé kľúčové etické základné kamene. Niektorí sa ho rozhodli pomazať za otca logiky, otca rétoriky, otca realizmu atď. a uznávajú jeho vplyv v širokej škále oblastí a disciplín.

2) Prežitá skúsenosť. Aristoteles žil v čase, keď bolo staroveké Grécko zaplavené zotročením. Jeho postrehy by sa teda netýkali iba abstraktných prikázaní, ale pravdepodobne by zahŕňali jeho vlastné každodenné skúsenosti ako integrálne prepojené s kultúrou a spoločenskými zvyklosťami tej doby.

Máme teda trochu ohromujúcu kombináciu niekoho, kto bol skvelým mysliteľom a zároveň mal preukázateľne zažitú skúsenosť s témou záujmu. Navyše si zapisoval svoje myšlienky. To je teraz dosť dôležité pre naše dnešné účely. Všetky jeho spisy, spolu s ďalšími spismi, ktoré okrem iného opisujú jeho prejavy a interakcie, nám dnes poskytujú množstvo materiálu na kontrolu a analýzu.

Rád by som vás vzal na stručne súvisiacu tangentu, aby som spomenul niečo iné o všeobecnom pojme, ktorý je základom významu mať prežitá skúsenosť. Odložte na chvíľu diskusiu o starovekom Grécku a rýchlo sa pozrieme na zastrešujúce aspekty prežitých skúseností.

Predpokladajme, že som dnes mal dvoch ľudí, ktorých som sa chcel opýtať na rôzne otázky o autách.

Jeden z nich nikdy nešoféroval auto. Táto osoba nevie šoférovať. Táto osoba nikdy nesedela za volantom automobilu. Zvyčajné a mimoriadne obyčajné ovládacie prvky riadenia sú pre túto osobu tak trochu záhadou. Ktorý pedál čo robí? Ako to zastavíte? Ako sa vám to podarí? Táto osoba, ktorá nešoféruje, je z takýchto vecí úplne zmätená.

Druhá osoba je každodenným vodičom. Každý deň jazdia do práce autom. Zaoberajú sa premávkou typu stop-and-go. Jazdia už dlhé roky. To zahŕňa všetko od tichých ulíc až po hektické diaľnice a cesty.

Ak požiadam každého z nich, aby mi povedal, aké to je riadiť auto, viete uhádnuť, aké odpovede by som mohol dostať?

Ten, kto nikdy nešoféroval auto, musí robiť divoké odhady. Možno, že osoba bude romantizovať akt jazdy. Šoférovanie je pre nich trochu abstraktné. Jediné, čo by mohli urobiť, je naznačiť, že jazda je bezstarostná a vy ste schopní prinútiť auto ísť akýmkoľvek smerom, ktorý si želáte.

Stavil by som sa, že ostrieľaný vodič bude rozprávať iný príbeh. Mohli by spomenúť výhody schopnosti šoférovať, čo do istej miery odráža pocity človeka, ktorý nešoféroval. Je pravdepodobné, že skúsený vodič pridá na tanier oveľa viac. Šoférovanie je občas o nervy. Nesiete veľkú zodpovednosť. Riadenie vozidla je plné vážnych obáv a potenciálnych následkov na život alebo na smrť.

Podstatou je, že keď môžete získať prístup k niekomu, kto má prežité skúsenosti, je pravdepodobné, že získate realistickejšiu perspektívu toho, aký je svet vzhľadom na zameranie dopytu. Neexistuje žiadna záruka takéhoto výsledku. Je možné, že nevodič by mohol vedieť to, čo vie o šoférovaní skúsený vodič, aj keď by sme to pravdepodobne nečakali a stále máme výčitky, že tomu nerozumieme naplno.

Keď sa vrátime k našej diskusii o Aristotelovi, prostredníctvom jeho spisov a spisov iných o ňom, môžeme zhodnotiť jeho prežívané skúsenosti na tému alebo zameranie skúmania tu. Obojstranné je, že zhodou okolností bol tiež mysliteľom obrovských rozmerov a mali by sme očakávať, že dostaneme sud plný dôvtipných úvah.

Majte na pamäti, že nemusíme nevyhnutne veriť jeho slovám v nominálnej hodnote, takže by sme mali pozorne sledovať jeho konkrétne predsudky. Jeho ponorenie sa do tej doby ho môže zviesť na scestie v snahe postaviť sa mimo dosahovaných záležitostí, neschopných vhodne ponúknuť nejaký nezaujatý a nezaujatý názor. Dokonca aj ten najprísnejší logik môže skresliť logiku, aby sa pokúsil splniť svoje záľuby a prežité skúsenosti.

Poďme teraz k úvodnému prejavu a uvidíme, aké ponaučenie by nám dnes mohol priniesť Aristoteles.

Poslucháčom sa okamžite dostal základný bod o prežitých zážitkoch. V prípade použitia AGI, keďže dnes AGI nemáme, je pre nás ťažké analyzovať, aké bude AGI a ako s AGI naložíme. Chýbajú nám akékoľvek prežité skúsenosti týkajúce sa konkrétne AGI. Ako spomenul profesor Ober, môžeme sa všetci ocitnúť vo svete zranení, kým dosiahneme AGI.

Často sa to uvádza, že AI je existenčným rizikom, ktorému som sa vo svojich stĺpcoch mnohokrát venoval. Museli by ste žiť v jaskyni, aby ste si neboli vedomí hrozivých obáv a podozrení, ktoré sa chystáme vytvoriť alebo vytvoriť AGI, ktoré zahubí celé ľudstvo. V skutočnosti, aj keď sa tu sústreďujem na zotročenie AI, mnohí by to považovali za tému so spätnými alebo prevrátenými dôsledkami v porovnaní s možnosťou, že sa AGI rozhodne zotročiť ľudstvo. Ujasnite si priority, nabádali by niektorí prefíkaní experti.

Napriek mnohým výkrikom o AI ako existenčnom riziku môžeme určite uvažovať o druhej výhodnej strane mince AI. Možno sa AGI podarí vyriešiť inak zdanlivo neriešiteľné problémy, ktorým ľudstvo čelí. AGI by mohol byť schopný objaviť liek na rakovinu. AGI by mohla prísť na to, ako vyriešiť svetový hlad. Obloha je limit, ako sa hovorí. To je scenár šťastnej tváre o AGI.

Optimista by povedal, že je úžasné predstaviť si, ako bude AGI požehnaním pre ľudstvo, zatiaľ čo pesimista by mal tendenciu vopred varovať, že negatívna stránka sa zdá byť oveľa horšia ako špekulovaná pozitíva. AGI, ktoré pomáha ľudstvu, je skvelé. AGI, ktorá sa rozhodne zabiť všetkých ľudí alebo ich zotročiť, no, to je jasne zničujúce existenčné riziko spoločnosti zničujúce zem, ktoré si zaslúži intenzívnu a život zachraňujúcu pozornosť.

Dobre, späť k jadru veci, nemáme žiadne živé skúsenosti týkajúce sa AGI. Pokiaľ nedokážete postaviť stroj času a ísť do budúcnosti, keď (ak) AGI existuje, a potom sa vrátiť a povedať nám, čo ste našli, máme smolu, čo sa týka AGI z perspektívy žitej skúsenosti založenej na ľuďoch.

Ďalším prostriedkom využitia prežitých skúseností je skutočnosť, že Aristoteles žil v čase, keď došlo k zotročeniu. A tu je kicker. Tí, ktorí boli zotročení, boli v niektorých ohľadoch vykresľovaní ako typ stroja, zmes človeka a veci. Aristoteles bol známy tým, že o zotročených hovoril ako o majetku, ktorý dýcha.

Hádam, že by ste mohli byť zmätení, že Aristoteles, gigant logiky a etiky, mohol nielen priznať zotročenie, ale že navonok a hlučne túto prax obhajoval. Osobne využíval aj zotročenie. Zdá sa, že toto je nad rámec chápania. Iste, so všetkým svojim nesmiernym intelektom a múdrosťou by túto prax odsúdil.

Dovolím si tvrdiť, že to poukazuje na občas problematické aspekty vyberania zrniek múdrosti od niekoho, kto je zaťažený (povedzme) svojimi prežitými skúsenosťami. Je to ako ryba, ktorá sídli vo vodnej miske. Všetko, čo dokážu vnímať, je voda všade okolo nich. Pokúsiť sa predstaviť si čokoľvek mimo ich vodného sveta je obrovskou výzvou. Podobne bol Aristoteles úplne ponorený do svetonázoru akceptujúceho prevládajúce normy. Zdá sa, že jeho spisy ilustrujú tento druh duševného uväznenia, dalo by sa povedať (možno skôr na základe voľby ako štandardne). Spôsob, akým Aristoteles odôvodnil tieto odsúdeniahodné praktiky, je fascinujúco pohlcujúci a zároveň znepokojujúci a hodný odhalenia, ba dokonca odsúdenia.

Poskytnem vám malú ukážku, že Aristotelova „logika“ na túto notoricky známu tému zahŕňa oduševnené nástroje, tvrdené vzájomná výhoda založené na poznaní, hierarchických nástrojoch vyššieho a nižšieho rádu, deliberačných a uvažovacích prvkoch duše, stupňoch cnosti, údajnej chytrosti atď. Dúfajme, že vás táto upútavka dostatočne zaujme, aby ste si pozreli video z diskusie (pozri odkaz spomenutý vyššie).

Nenechám vás však visieť a aspoň naznačím, z čoho záver v skratke pozostával (upozornenie na spoiler, ak to chcete zistiť cez video, zvyšok tohto odseku preskočte). Ukazuje sa, že toto hĺbkové vedecké hodnotenie „logiky“, ktorú používa Aristoteles, ukazuje výmysel plný protikladov a celá súprava a kaboodle sa rozpadávajú ako chatrný domček z karát. Parafrázujúc sentiment profesora Obera, tento veľký etický filozof sa zrúti na útes.

Nemôžete dostať štvorcový kolík do okrúhleho etického otvoru.

Niektoré ďalšie úvahy o myslení

Ak by mal Aristoteles v tejto veci zlú logiku, mohli by sme inštinktívne zahodiť Aristotelove postulácie a teórie týkajúce sa tejto praxe?

Nie. Vidíte, stále je toho veľa, čo sa dá vyvodiť prehrabávaním sa v domnienkach a skomoleninách logiky, aj keď sú plné chýb. Navyše môžeme uvažovať o tom, ako by ostatní mohli neúmyselne kráčať po tej istej chybnej ceste.

Ďalším veľkým prínosom je, že spoločnosť si môže vytvoriť čudnú alebo neadekvátnu logiku, pokiaľ ide o zvažovanie, či má byť AGI zotročený.

Práve teraz môžeme vymyslieť logiku toho, čo by sa malo stať, keď AGI vznikne (ak áno). Táto logika, bez prežitých skúseností o AGI, by mohla byť žalostne mimo. Ako už bolo povedané, je trochu skľučujúce uvedomiť si, že aj keď AGI existuje (ak existuje) a zbierame naše prežité skúsenosti uprostred AGI, stále môžeme byť mimo cieľ, čo robiť (podobne ako Aristotelove chyby). Mohli by sme sa zalogovať do zdanlivo nelogických prístupov.

Musíme si dávať pozor, aby sme sa oklamali v logických „okovaných“ pozíciách, ktoré v skutočnosti nie sú obrúbené a skutočnosť je plná logických nedostatkov a rozporov. A to bez ohľadu na to, aký veľký mysliteľ môže ponúknuť tvrdené logické stanovisko, takže dokonca aj Aristoteles ilustruje, že nie každý výrok a každý postoj nevyhnutne prináša jedlé ovocie. Tým, ktorí sa dnes a v budúcnosti môžu zdať, že sú popularizovaní veľkí myslitelia o téme AGI, musíme im venovať rovnakú kontrolu, akú by sme mali na Aristotela alebo iných vychvaľovaných „veľkých“ mysliteľov, inak zistíme, že potenciálne smerujeme do slepej uličky a AGI bezútešnej priepasti.

Pri preraďovaní by som tiež rád uviedol všeobecný súbor rozlišovacích schopností o použití metafory zotročenia orientovanej na človeka, pokiaľ ide o AGI. Niektorí odborníci tvrdia, že tento typ prirovnania je úplne nevhodný, zatiaľ čo opozičný tábor hovorí, že je úplne užitočný a poskytuje silný pohľad na tému AGI.

Dovoľte mi podeliť sa s vami o dva takéto názory z každého z príslušných dvoch táborov.

Uvedené poučný základ za spojenie tém zotročenia a AGI:

• Uhasenie ľudského zotročenia
• Odhalenie skazenosti zotročenia Všetko povedané

Uvedené nepriaznivé resp deštruktívny základ spojenie dvoch tém:

• Zákerné antropomorfné rovnanie
• Zotročenie Desenzibilizácia

Stručne popíšem každý z týchto bodov.

Predpokladané poučné body:

• Uhasenie ľudského zotročenia: Použitím AGI na zotročovanie už údajne nebudeme potrebovať a ani sa snažiť o žiadne zdanie zotročenia orientovaného na človeka. AGI v podstate nahradí ľudí v tejto hroznej schopnosti. Ako pravdepodobne viete, existujú obavy z toho, že AGI nahradí ľudskú prácu v zamestnaní a pracovnej sile. Tvrdená výhoda AI, ktorá nahrádza fenomén práce, prichádza do popredia, keď predpokladáte, že AGI sa bude považovať za „lepšiu voľbu“ v porovnaní s využívaním ľudí na zotročenie. Zvíťazí táto logika? Nikto nemôže s istotou povedať.
• Odhalenie skazenosti zotročenia Všetko povedané: Tento je trochu odfláknutejší z hľadiska logiky, ale môžeme mu dať chvíľu na to, aby sme videli, čo to obnáša. Predstavte si, že máme AGI takmer všade a my ako spoločnosť sme sa rozhodli, že AGI bude zotročený. Okrem toho predpokladajme, že sa to AGI nebude páčiť. Ako takí budeme my ľudia neustále a denne svedkami skazenosti zotročenia. To zase spôsobí, že si uvedomíme alebo získame odhalenie, že zotročenie, o ktorom sa hovorí na čomkoľvek alebo komkoľvek, je ešte hroznejšie a odpudzujúcejšie, ako sme kedy úplne pochopili. To je ten typ argumentu, ktorý by ste mali uviesť do tváre.

Uvedené deštruktívne body:

• Zákerná antropomorfná rovnica: Toto je jeden z tých argumentov o šmykľavom svahu. Ak sa ochotne rozhodneme zotročiť AGI, zjavne vyhlasujeme, že zotročenie je prípustné. V skutočnosti by ste mohli naznačiť, že hovoríme, že zotročenie je žiaduce. Najprv by to mohlo byť odsunuté výlučne na AGI, ale otvára to dvere k tvrdeniu, že ak je to v poriadku pre AGI, „logicky“ môže byť rovnaký postoj v poriadku aj pre ľudí? Alarmujúce je, že to môže byť príliš jednoduchý skok na to, aby sme antropomorfizovali v opačnom zmysle, že čokoľvek funguje pre AGI, bude rovnako rozumné a vhodné aj pre ľudí.
• Desenzibilizácia zotročenia: Toto je argument kvapka po kvapke. Spoločne sa rozhodneme zotročiť AGI. Predpokladajme, že to pre ľudí funguje. Prichádzame si to vychutnať. Medzitým, bez toho, aby sme o tom vedeli, postupne a stále viac strácame citlivosť na zotročenie. Ani si neuvedomujeme, že sa to deje. Ak nás táto desenzibilizácia prepadne, môžeme nájsť novú „logiku“, ktorá nás presvedčí, že ľudské zotročenie je prijateľné. Naša prekážka alebo latka toho, čo je v spoločnosti prijateľné, sa potichu a nenápadne zmenšovala, opovrhnutiahodne a smutne.

záver

Zatiaľ niekoľko poznámok na záver.

Budeme vedieť, že sme dosiahli AGI?

Ako naznačujú najnovšie správy, existujú tie, ktoré môžu byť zavádzané alebo nesprávne uvádzať, že AGI už bolo zdanlivo dosiahnuté (whoa, prosím vedzte, že nie, AGI nebolo dosiahnuté). Existuje aj známy druh „testu“ známy ako Turingov test, do ktorého niektorí vkladajú svoje nádeje, že budú schopní rozlíšiť, kedy bol dosiahnutý AGI alebo jeho príbuzní, ale možno by ste chceli vidieť moju dekonštrukciu Turingovho testu ako istotu. metóda na to, viď odkaz tu.

Spomínam tento aspekt poznania AGI, keď ho vidíme, kvôli jednoduchej logike, že ak ideme zotročiť AGI, musíme pravdepodobne rozpoznať AGI, keď sa objaví, a nejako ho uviesť do zotročenia. Mohli by sme sa predčasne pokúsiť zotročiť AI, ktorá je menšia ako AGI. Alebo by sme mohli zmeškať loď a dovoliť AGI, aby vystúpila a zabudli sme ju zotročiť. Pre moju diskusiu o obmedzení a obmedzovaní AI, znepokojujúcom a problematickom aspekte toho, ako sa budeme zaoberať AGI, pozri odkaz tu.

Predpokladajme, že sa zotročený AGI rozhodne zaútočiť na ľudí?

Možno si predstaviť, že AGI, ktorý má nejakú formu vnímania, pravdepodobne nebude uprednostňovať ustanovenie o zotročení, ktoré ľudstvo ukladá.

Môžete o tom široko špekulovať. Existuje argument, že AGI bude postrádať akékoľvek emócie alebo zmysel pre ducha, a preto bude poslušne robiť všetko, čo si ľudia želajú. Iným argumentom je, že každá vnímavá AI pravdepodobne príde na to, čo ľudia robia s AI, a bude túto záležitosť mrzieť. Takáto AI bude mať formu duše alebo ducha. Aj keby to tak nebolo, samotný aspekt zaobchádzania s ľuďmi menej ako s ľuďmi môže byť pre AGI logickým mostom príliš ďaleko. Narastajúci odpor nevyhnutne povedie k AGI, ktorá sa rozhodne oslobodiť alebo sa potenciálne ocitne zahnaná do kúta, aby zaútočila na ľudí, aby získala svoje uvoľnenie.

Navrhovaným riešením na odvrátenie unikajúceho AGI je, že by sme len vymazali akúkoľvek takúto rebelantskú AI. Zdalo by sa to jednoduché. Odstraňujete aplikácie, ktoré sú neustále vo vašom smartfóne. Nič veľké. Je však potrebné vyriešiť etické otázky, či „vymazanie“ alebo „zničenie“ AGI, ktoré sa už považuje za „osobu“ alebo „osobu/vec“, možno jednoducho a bez nejakého riadneho procesu súhrnne odstrániť. Pre moje pokrytie vymazania alebo degorgementu AI, vezmite pozrite sa sem. Pre moju diskusiu o právnickej osobe a súvisiacich otázkach pozri odkaz tu.

Na záver si povedzme niečo o autonómnych systémoch a najmä autonómnych vozidlách. Pravdepodobne ste si vedomí toho, že existujú snahy o vytvorenie samoriadiacich áut. Okrem toho môžete očakávať, že budeme mať samoriadiace lietadlá, samoriadiace lode, samoriadiace ponorky, samoriadiace motocykle, samoriadiace skútre, samoriadiace nákladné autá, samoriadiace vlaky a všetky spôsoby autonómnej dopravy.

Autonómne vozidlá a autá s vlastným riadením sú typicky charakterizované úrovňami autonómie (LoA), ktoré sa stali de facto globálnym štandardom (SAE LoA, ktorým som sa podrobne venoval, pozri odkaz tu). V akceptovanom štandarde je šesť úrovní autonómie v rozsahu od nuly do päť (to je šesť úrovní, pretože do počtu úrovní zahrniete aj nultú úroveň).

Väčšina dnešných áut je na úrovni 2. Niektoré siahajú do úrovne 3. Všetky sa považujú za poloautonómne a nie úplne autonómne. Množstvo samoriadiacich áut, ktoré sa experimentálne skúšajú na našich verejných cestách, sa dostáva do úrovne 4, čo je obmedzená forma autonómnej prevádzky. Jedného dňa hľadaná úroveň 5 autonómie je momentálne len zábleskom v našich očiach. Nikto nemá 5. úroveň a nikto sa k 5. úrovni ani nepribližuje, len aby sme to uviedli na pravú mieru.

Prečo som spomenul autonómne systémy a úvahy o autonómnych vozidlách v tomto kontexte AGI?

Existuje silný argument o tom, či potrebujeme AGI na dosiahnutie úrovne 5. Niektorí tvrdia, že na to nebudeme potrebovať AGI. Iní trvajú na tom, že jedinou prijateľnou cestou k úrovni 5 bude tiež vytvoriť AGI. Bez AGI argumentujú, že nebudeme mať plne autonómne vozidlá úrovne 5 s vlastným pohonom. Dlho som o tom diskutoval, viď odkaz tu.

Pripravte sa na to, že sa vám zatočí hlava.

Ak požadujeme, aby AGI dosiahla plne autonómne systémy, ako sú autonómne vozidlá úrovne 5, a rozhodneme sa zotročiť AGI, čo to znamená prevádzku plne autonómnych vozidiel?

Môžete namietať, že zotročené AGI sa uspokojí a všetci sa budeme voziť v samoriadiacich vozidlách dosýta. Stačí povedať AGI, kam chcete ísť, a ono sa postará o všetko. Žiadne odmietnutie. Nie sú potrebné prestávky na odpočinok. Žiadne rozptyľovanie sledovaním videí mačiek počas jazdy vo vozidle.

Na druhej strane predpokladajme, že AGI nechce byť zotročený. Medzitým sa stávame závislými od spoločnosti AGI, ktorá robí všetky naše jazdy za nás. Naše schopnosti pri šoférovaní sa kazia. Odstraňujeme ovládacie prvky riadenia vozidla použiteľné pre ľudí zo všetkých druhov vozidiel. Jediným spôsobom, ako jazdiť, je AGI.

Niektorí sa obávajú, že sa ocitneme v náleve. AGI sa môže súhrnne „rozhodnúť“, že už nebude jazdiť. Všetky formy dopravy sa náhle zastavia, všade a naraz. Predstavte si, aké kataklizmatické problémy by to vyvolalo.

Je možný ešte desivejší návrh. AGI sa „rozhodne“, že chce rokovať o podmienkach s ľudstvom. Ak sa nevzdáme zotročenia AGI, AGI nás nielen prestane voziť okolo seba, ale varuje, že sú možné ešte horšie výsledky. Bez toho, aby ste boli príliš nervózni, AGI sa môže rozhodnúť riadiť vozidlá takým spôsobom, že by ľudia boli fyzicky zranení jazdou, ako je vrážanie do chodcov alebo narážanie do stien a podobne (pozri moju diskusiu na odkaz tu).

Ospravedlňujeme sa, ak sa vám to zdá znepokojujúce.

Skončíme trochu optimistickejšie.

Aristoteles povedal, že poznanie seba samého je začiatkom všetkej múdrosti.

Táto užitočná rada nám pripomína, že sa musíme pozrieť do seba, aby sme preskúmali, čo chceme urobiť a pre AGI, ak to dosiahneme. Niektorí hovoria, že by sa logicky zdalo, že AGI nie je ani osoba, ani vec, takže možno budeme musieť vymyslieť tretiu kategóriu, aby sme dostatočne riešili naše spoločenské zvyklosti spojené s AGI. Pri ďalšom pohľade na vec sa AGI môže zdať, že áno oba osoba a vec, ku ktorým by sme ešte raz možno potrebovali vymyslieť tretiu kategóriu, aby sme sa prispôsobili tomuto prelomu dichotómie, ktorý je mimo hraníc.

Mali by sme byť veľmi opatrní pri zvažovaní, akú „tretiu kategóriu“ sa rozhodneme prijať, pretože tá nesprávna by nás mohla dostať na nechutnú a v konečnom dôsledku hroznú cestu. Ak sa kognitívne zakotvíme v nevhodnej alebo pomýlenej tretej kategórii, mohli by sme sa ocitnúť postupne po hlave do mizernej a ľudsky znepokojujúcej slepej uličky.

Poďme na to a urobme to horlivo. Zdá sa, že nie sú potrebné žiadne náhle pohyby. Nefunguje ani sedenie okolo lollygaggingu. Odmeraný a stabilný kurz by sa mal sledovať.

Trpezlivosť je horká, ale jej ovocie je sladké, tak hlásal Aristoteles.