Etika AI a takmer rozumná otázka, či ľudia prežijú AI

Mám na vás otázku, ktorá, ako sa zdá, v týchto dňoch vyvoláva veľa ručičiek a búrlivých debát.

Ste pripravení?

Prežijú ľudia AI?

Premýšľajte o tom.

Rozbalím otázku a podrobne preskúmam odpovede a spôsob, akým boli odpovede objasnené. Mojím prvoradým zámerom je poukázať na to, ako sú samotná otázka a okolitý diskurz nevyhnutne a neúprosne zakorenené v Etika AI.

Pre tých, ktorí si odmietavo myslia, že otázka je vo svojej podstate nezodpovedateľná alebo je to strata času a dychu, by som zdvorilo navrhol, aby pokus o zodpovedanie otázky vyvolal niektoré dôležité úvahy o etike AI. Preto, aj keď chcete túto otázku okamžite odmietnuť ako možno absurdnú alebo nereálnu, hovorím, že stále vyvoláva určitú hodnotu ako prostriedok alebo mechanizmus, ktorý podčiarkuje etické zásady AI. Moje pokračujúce a rozsiahle pokrytie etiky AI a etickej AI nájdete v časti odkaz tu a odkaz tu, Len aby sme vymenovali niekoľko.

S vyššie uvedeným predpokladom mi, prosím, dovoľte ešte raz zopakovať spornú otázku a dovoľte našim mysliam, aby sa potulovali po význame otázky.

Prežijú ľudia AI?

Ak je vám toto konkrétne formulovanie nepríjemné, môžete preformulovať otázku a opýtať sa, či AI prežije ľudí. Nie som si istý, či to uľahčuje odpoveď na otázku, ale možno sa to zdá menej znepokojujúce. Hovorím to preto, lebo myšlienka, že AI prežije ľudí, sa môže zdať o niečo neškodnejšia. Bolo by to skoro, ako keby som sa vás spýtal, či veľké budovy a monumenty vytvorené ľuďmi môžu prežiť ľudstvo.

Určite sa to zdá uskutočniteľné a nie obzvlášť hrozivé. Tieto veľké veci robíme v priebehu našich životov a podobne ako pyramídy, tieto mocné štruktúry prežijú tých, ktorí ich vytvorili. To sa, samozrejme, celkom nerovná pretrvávaniu po konci ľudstva, keďže ľudia sú stále tu. Napriek tomu sa zdá byť celkom logické a možné, že štruktúry, ktoré vytvoríme, by celkom prežili našu existenciu.

Pozoruhodný rozdiel je však v tom, že rôzne stavby, ako sú vysoké mrakodrapy a slávne sochy, nie sú živé. Sú inertné. Na rozdiel od toho, keď sa pýtate na AI, predpokladá sa, že AI je v podstate „živá“ v tom zmysle, že má určitú formu inteligencie a je schopná konať tak, ako to robia ľudia. To je dôvod, prečo je otázka dlhšieho života skľučujúca, ohýbajúca myseľ a celkovo je to hádanka hodná zamyslenia.

Počas mojich poznámok sa budem držať otázky, ktorá je formulovaná, či ľudia prežijú AI. To je len kvôli diskusii a uľahčeniu kontemplácie. Nemám na mysli žiadnu neúctu k alternatívnej otázke, či AI prežije ľudí. Celkovo vzaté, táto analýza pokrýva obe formulácie a ja len náhodou zisťujem, že otázka, či ľudia prežijú AI, sa v týchto chúlostivých záležitostiach javí ako roztomilejšia.

Dobre, spýtam sa ešte raz:

Zdá sa, že máte dve potenciálne odpovede, buď pevné áno, ľudia prežijú AI, alebo môžete byť na druhej strane mince a vrúcne trvať na tom, že nie, ľudia AI neprežijú. Preto sa táto vznešená a tiesnivá otázka scvrkáva na jednoduché vyjadrenie buď áno, alebo nie.

Vyberte si.

Uvedomujem si, že mazaná odpoveď je, že ani áno, ani nie.

Počujem ťa.

Zatiaľ čo sa zdá, že otázka je určite zodpovedaná iba výrazne binárnym spôsobom, a to len áno alebo nie, pripúšťam, že protiargument sa dá rozumne uviesť, že odpoveď je niečo iné.

Poďme stručne preskúmať niektoré základy toho, že nechceme na túto otázku povedať iba áno alebo nie.

Po prvé, môžete odmietnuť slovo „prežiť“ v kontexte položenej otázky.

Toto konkrétne znenie možno naznačuje, že AI je nažive. Otázka nehovorila „prežiť“ a namiesto toho sa pýta, či ľudia prežijú AI. Vzťahuje sa prežitok len na ľudskú časť otázky, alebo sa vzťahuje aj na AI časť otázky? Niektorí by sa pokúsili tvrdiť, že prežitá aura sa vzťahuje aj na časť AI. V takom prípade by ich pálila záha z tvrdenia, že AI je živý tvor. Pre nich bude AI podobná vysokým budovám a iným štruktúram. Nie je to živé rovnakým spôsobom, akým sú ľudia nažive.

Z tohto horlivého protichodného hľadiska je teda otázka nesprávne formulovaná.

Možno ste nejasne oboznámení s otázkami, ktoré majú falošné alebo zavádzajúce predpoklady. Jedným z najznámejších príkladov je to, či niekto prestane biť svoju manželku (staré príslovie, ktoré zjavne treba nechať bokom). V tomto neslávnom príklade, ak je uvedená odpoveď áno, znamená to, že daná osoba to už robila. Ak povedia nie, znamená to, že to robili a budú v tom pokračovať.

V prípade otázky, či ľudia prežijú AI, môžeme skončiť zahrabaní v bahne o tom, či je AI považovaná za niečo ako živú stránku. Ako na chvíľu vysvetlím, dnes nemáme žiadnu umelú inteligenciu, ktorá by bola vnímavá. Myslím si, že väčšina rozumných ľudí by súhlasila s tým, že necitlivá AI nie je živá vec (no, nie každý súhlasí, ale zatiaľ to podčiarknem – pozri moje pokrytie právnickej osoby pre AI na odkaz tu).

Podstatou tohto prvého základu pre nezodpovedanie otázky, či ľudia prežijú AI, je, že slovo „prežiť“ by sa dalo interpretovať tak, že AI je nažive. Takúto umelú inteligenciu zatiaľ nemáme. Ak vytvoríme alebo nejakým spôsobom vytvoríme vnímajúcu umelú inteligenciu, ktorá vznikne, ťažko by ste tvrdili, že nie je nažive (hoci niektorí sa o to pokúsia). Kľúčom je teda to, že otázka predpokladá niečo, čo neexistuje a my len špekulujeme o neznámej a zahmlenej budúcnosti.

Môžeme vziať túto neporiadnosť a pokúsiť sa ju rozšíriť do výraznejšieho výrazu. Predpokladajme, že sa namiesto toho pýtame toto:

• Prežijú ľudia ako živé bytosti AI, ktorá je buď (1) neživá, alebo (2) živá bytosť, ak k tomu jedného dňa dôjde?

Majte na pamäti toto rozšírené znenie a čoskoro sa k nemu vrátime.

Druhým dôvodom, prečo nechceme odpovedať na pôvodnú otázku, či ľudia prežijú AI, je to, že predpokladá, že jedna z vecí prežije jednu z ostatných vecí. Predpokladajme však, že obaja v podstate žijú večne? Alebo predpokladajme, že obe vypršia alebo zaniknú súčasne?

Som si istý, že dokážete ľahko rozoznať, ako to spôsobuje, že sa formulácia áno-nie rozpadá.

Zdá sa, že potrebujeme možnú tretiu odpoveď pozostávajúcu z „ani“ alebo podobnej odpovede.

Existuje množstvo permutácií súvisiacich s „anim“. Napríklad, ak niekto pevne verí, že ľudia sa zničia prostredníctvom AI a súčasne sa ľuďom podarí zničiť AI, tento veriaci nemôže úprimne odpovedať na otázku, ktorá prežije toho druhého, nepružnou odpoveďou áno alebo nie. Odpoveď v tomto dosť hanebnom a smutnom prípade by bola skôr v súlade s tým, že ani jeden neprežije toho druhého.

To isté by platilo, ak by na Zem zasiahol obrovský meteor a zničil by všetko na planéte, vrátane ľudí a akejkoľvek umelej inteligencie, ktorá sa náhodou nachádza v okolí (za predpokladu, že sme všetci obmedzení na Zem a nežijeme už dodatočne na Marse). Opäť sa zdá, že odpoveď „ani jedno“ sa zdá byť vhodnejšia ako tvrdenie, že ľudia prežili AI alebo že AI prežila ľudí (keďže obaja boli zničení v rovnakom čase).

Nechcem tu zachádzať príliš ďaleko, ale tiež by sme mohli chcieť stanoviť nejaké parametre o načasovaní prežitia. Predpokladajme, že na Zem zasiahne meteor a ľudia budú takmer okamžite vyhladení. Medzitým predpokladajme, že AI bude chvíľu pokračovať. Myslite na to, ako keby sme už mohli mať v továrňach rozbehnuté stroje, ktoré neustále bzučia, až kým sa stroje nakoniec nezastavia, pretože nie sú žiadni ľudia, ktorí by ich udržiavali v prevádzkovom stave.

Museli by ste povedať, že tieto stroje ľudí prežili alebo prežili. Preto je odpoveď „nie“, pokiaľ ide o to, či ľudia prežili dlhšie. Táto odpoveď sa zdá byť útržkovitá. Stroje sa postupne a neúprosne zastavili, pravdepodobne kvôli nedostatku ľudstva okolo nich. Zdá sa spravodlivé tvrdiť, že stroje boli schopné vydržať dlhšie ako ľudia?

Asi len tým, ktorí sú vyberaví a vždy chcú byť dráždivo precízni.

Potom by sme k otázke mohli pridať nejaký prvok súvisiaci s časom. Prežijú ľudia AI dlhšie ako jeden deň? Na viac ako mesiac? Už viac ako rok? Už viac ako storočie? Uvedomujem si, že to bohužiaľ otvára Pandorinu skrinku.

Aký je príjemný časový rámec, po ktorom by sme boli ochotní pripustiť, že AI v skutočnosti prežila alebo prežila ľudí? Zdá sa, že presnou odpoveďou je, že aj keď sa to stane na nanosekundu (miliardtinu sekundy) alebo kratšie, AI celkovo vyhrá a ľudia v tejto veci prehrajú. Povoliť zemepisnú šírku pomocou dňa, týždňa alebo mesiaca sa môže zdať spravodlivejšie. Nechať to pokračovať roky alebo storočia sa zdá byť prehnané. Ako už bolo povedané, ak sa pozriete na svet v mierke miliónov rokov, myšlienka, že AI prežije alebo prežije ľudí nie viac ako niekoľko storočí, sa zdá byť mimoriadne nevýrazná a mohli by sme vyhlásiť, že obe zmizli približne v v rovnakom čase (zaokrúhlene).

Každopádne, priznajme si, že z rôznych rozumne rozumných dôvodov môže mať položená otázka tri možné odpovede:

• Áno, ľudia prežijú AI
• Nie, a tým tvrdím, že ľudia budú nie prežiť AI
• Neplatí ani áno, ani nie (vyžaduje sa vysvetlenie, ak chcete)

Spomínam, že ak vyberiete „ani jedno“, mali by ste svoju odpoveď tiež vysvetliť. Je to preto, aby sme vedeli, prečo si myslíte, že „ani jedno“ nie je použiteľné, a tiež prečo odmietate použitie áno alebo nie. Aby bol život spravodlivejší pre všetkých, predpokladám, že by sme mali do istej miery trvať na tom, alebo aspoň povzbudiť, že aj keď odpoviete áno alebo nie, stále by ste mali ponúknuť vysvetlenie. Jednoduché áno alebo nie neodhaľuje vašu logiku, prečo odpovedáte tak, ako ste. Bez vysvetlenia by sme si tiež mohli hodiť mincou. Minca nevie, prečo pristála na hlavách alebo chvostoch (pokiaľ neveríte, že minca má dušu alebo stelesňuje nejakú vševedúcu ruku osudu, ale tým sa zatiaľ nebudeme zaoberať).

Očakávame, že ľudia, ktorí odpovedajú na otázky, poskytnú nejaké vysvetlenie pre svoje rozhodnutia. Všimnite si, že nehovorím, že vysvetlenia budú nevyhnutne logického alebo rozumného charakteru a vysvetlenie by skutočne mohlo byť úplne prázdne a nepridalo žiadnu zvláštnu hodnotu. Napriek tomu môžeme úprimne dúfať, že vysvetlenie bude objasňujúce.

Počas tejto diskusie bol nevyslovený predpoklad, že z jedného alebo druhého dôvodu jedna z týchto vecí skutočne prežije druhú.

Prečo máme veriť takýmto predpokladaným podmienkam?

Odpoveď na túto sekundárnu otázku je takmer samozrejmá.

Tu je dohoda.

Vieme, že niektorí prominentní veštci a intelektuáli urobili dosť odvážne a otvorené predpovede o tom, ako vznik alebo príchod vnímajúcej AI radikálne zmení svet, ako ho dnes poznáme (pre pripomenutie, dnes nemáme vnímajúcu AI) .

Tu je niekoľko známych citátov, ktoré zdôrazňujú vplyvy vnímajúcej AI na zmenu života:

• Stephen Hawking: „Úspech vo vytvorení AI by bol najväčšou udalosťou v histórii ľudstva.“
• Ray Kurzweil: „V priebehu niekoľkých desaťročí prekoná strojová inteligencia ľudskú inteligenciu, čo povedie k singularite – technologickej zmene tak rýchlej a hlbokej, že predstavuje pretrhnutie štruktúry ľudskej histórie.“
• Nick Bostrom: „Strojová inteligencia je posledným vynálezom, ktorý bude ľudstvo musieť urobiť.“

Tieto tvrdenia sú transparentne optimistické.

Ide o to, že by sme mali brať do úvahy aj škaredé podhubie, pokiaľ ide o zaobchádzanie s vnímavou AI:

• Stephen Hawking: "Vývoj úplnej umelej inteligencie by mohol znamenať koniec ľudskej rasy."
• Elon Musk: „Čoraz viac sa prikláňam k názoru, že by mal existovať nejaký regulačný dohľad, možno na národnej a medzinárodnej úrovni, len aby sme sa uistili, že neurobíme niečo veľmi hlúpe. Myslím tým, že s umelou inteligenciou vyvolávame démona.“

Očakáva sa, že vnímajúca AI bude tým povestným tigrom, ktorého sme chytili za chvost. Posunieme ľudstvo raketovým tempom dopredu pomocou vnímajúcej AI? Alebo si hlúpo spôsobíme svoj vlastný zánik vnímajúcou AI, ktorá sa nás rozhodne zničiť alebo zotročiť? Pre moju analýzu tohto hlavolamu AI s dvojakým použitím pozri odkaz tu.

Základná pochybnosť o tom, či ľudia prežijú AI, spočíva v tom, že možno vyrábame Frankensteina, ktorý sa rozhodne vyhubiť ľudstvo. AI sa stáva víťazom. Existuje veľa možných dôvodov, prečo by nám to AI urobila. Možno je AI zlá a podľa toho koná. Možno má AI dosť ľudí a uvedomuje si, že má moc zbaviť sa ľudstva. Človek predpokladá, že sa to môže vyskytnúť aj omylom. Umelá inteligencia sa snaží zachrániť ľudstvo a pritom nás všetkých priamo zabije. Aspoň ten motív bol čistý.

Možno vás bude zaujímať známy hlavolam AI známy ako problém s kancelárskymi sponkami, o ktorom som sa už zmienil odkaz tu.

Stručne povedané, jedného dňa sa od rozumnej AI požiada, aby vyrobila kancelárske sponky. AI je na to fixovaná. Aby sa zaistilo, že výroba kancelárskych sponiek bude plne vykonaná do najvyššej miery, AI začne hltať všetky ostatné planetárne zdroje, aby tak urobila. To vedie k zániku ľudstva, pretože AI spotrebovala všetky dostupné zdroje na jediný cieľ, ktorý jej dali ľudia. Kancelárske sponky spôsobujú našu vlastnú skazu, ak chcete. Umelá inteligencia, ktorá je úzko navrhnutá a postráda zdanie zdravého rozumu, je typom umelej inteligencie, na ktorú musíme byť obzvlášť opatrní.

Predtým, ako prejdeme ďalej k otázke, či ľudia prežijú AI, všimnite si, že stále pripomínam otázku vnímajúcej AI oproti necítiacej AI. Robím to z dôležitých dôvodov.

O vnímajúcej AI môžeme divoko špekulovať. Nikto nevie s istotou, čo to bude. Nikto nemôže s istotou povedať, či jedného dňa dosiahneme vnímajúcu AI. V dôsledku tejto neznámej a zatiaľ nepoznanej okolnosti možno odvodiť takmer akýkoľvek scenár. Niekto môže povedať, že vnímajúca AI bude zlá. Niekto môže povedať, že vnímajúca AI bude dobrá a benevolentná. Môžete pokračovať ďalej a ďalej, pričom nie je možné poskytnúť žiadny „dôkaz“, ktorý by dané tvrdenie podporil akoukoľvek istotou alebo istotou.

To nás privádza do sféry etiky AI.

To všetko súvisí aj s triezvo vznikajúcimi obavami o dnešnú AI a najmä o využívanie strojového učenia (ML) a hlbokého učenia (DL). Viete, existujú spôsoby použitia ML/DL, ktoré majú tendenciu zahŕňať antropomorfizáciu AI širokou verejnosťou, ktorá verí alebo sa rozhodne predpokladať, že ML/DL je buď vnímajúca AI, alebo je jej blízko (nie je).

Mohlo by byť užitočné najprv objasniť, čo mám na mysli, keď hovorím o AI celkovo, a tiež poskytnúť stručný prehľad strojového učenia a hlbokého učenia. Existuje veľký zmätok, pokiaľ ide o to, čo znamená umelá inteligencia. Rád by som vám tiež predstavil zásady etiky AI, ktoré budú obzvlášť neoddeliteľnou súčasťou zvyšku tohto diskurzu.

Vyhlásenie rekordu o AI

Uistime sa, že sme na rovnakej stránke o povahe dnešnej AI.

Dnes neexistuje žiadna umelá inteligencia, ktorá by bola vnímavá.

Toto my nemáme.

Nevieme, či bude vnímajúca AI možná. Nikto nemôže vhodne predpovedať, či dosiahneme vnímajúcu AI, ani to, či sa vnímajúca AI nejakým zázrakom spontánne objaví vo forme výpočtovej kognitívnej supernovy (zvyčajne označovanej ako The Singularity, pozri moje pokrytie na odkaz tu).

Uvedomte si, že dnešná AI nie je schopná „myslieť“ žiadnym spôsobom na rovnakej úrovni ako ľudské myslenie. Keď komunikujete s Alexou alebo Siri, konverzačné schopnosti sa môžu zdať podobné ľudským schopnostiam, ale realita je taká, že sú výpočtové a chýba im ľudské poznanie. Najnovšia éra AI vo veľkej miere využíva strojové učenie a hlboké učenie, ktoré využívajú porovnávanie výpočtových vzorov. To viedlo k systémom AI, ktoré vyzerajú ako ľudské sklony. Medzitým dnes neexistuje žiadna umelá inteligencia, ktorá by mala zdanie zdravého rozumu, ani žiadny z kognitívnych zázrakov robustného ľudského myslenia.

Súčasťou problému je naša tendencia antropomorfizovať počítače a najmä AI. Keď sa zdá, že počítačový systém alebo AI koná spôsobom, ktorý si spájame s ľudským správaním, existuje takmer ohromujúca túžba pripísať systému ľudské vlastnosti. Je to bežná mentálna pasca, ktorá dokáže chytiť aj toho najneústupnejšieho skeptika, pokiaľ ide o šance dosiahnuť rozum. Pre moju podrobnú analýzu takýchto záležitostí pozri odkaz tu.

To je do istej miery dôvod, prečo je etika AI a etická AI taká kľúčová téma.

Prikázania etiky AI nás vedú k tomu, aby sme zostali ostražití. Technológovia umelej inteligencie môžu byť niekedy zaujatí technológiou, najmä optimalizáciou špičkových technológií. Nezohľadňujú nevyhnutne väčšie spoločenské dôsledky. Mať etické myslenie AI a robiť to integrálne s vývojom a zavádzaním AI je nevyhnutné na vytváranie vhodnej AI vrátane hodnotenia toho, ako firmy prijímajú etiku AI.

Okrem používania etických zásad AI vo všeobecnosti existuje zodpovedajúca otázka, či by sme mali mať zákony upravujúce rôzne spôsoby použitia AI. Na federálnej, štátnej a miestnej úrovni sa hromadia nové zákony, ktoré sa týkajú rozsahu a povahy toho, ako by mala byť navrhnutá AI. Snaha vypracovať a prijať takéto zákony je postupná. Etika AI slúži prinajmenšom ako zvažovaná prestávka a takmer určite bude do určitej miery priamo začlenená do týchto nových zákonov.

Uvedomte si, že niektorí neústupne tvrdia, že nepotrebujeme nové zákony, ktoré pokrývajú AI, a že naše existujúce zákony sú dostatočné. Varujú pred tým, že ak prijmeme niektoré z týchto zákonov AI, zabijeme zlatú hus tým, že potlačíme pokroky v AI, ktoré ponúkajú obrovské spoločenské výhody.

V predchádzajúcich stĺpcoch som popísal rôzne národné a medzinárodné snahy o vytvorenie a prijatie zákonov regulujúcich AI, pozri odkaz tu, napríklad. Zaoberal som sa aj rôznymi princípmi a usmerneniami etiky umelej inteligencie, ktoré identifikovali a prijali rôzne národy, vrátane napríklad úsilia Organizácie Spojených národov, ako je súbor etiky umelej inteligencie UNESCO, ktorý prijalo takmer 200 krajín, pozri odkaz tu.

Tu je užitočný základný zoznam etických kritérií alebo charakteristík AI systémov AI, ktoré som predtým podrobne preskúmal:

• Priehľadnosť
• Spravodlivosť a spravodlivosť
• Neškodnosť
• zodpovednosť
• súkromia
• dobročinnosť
• Sloboda a autonómia
• Verte
• Udržateľnosť
• dôstojnosť
• Solidarita

Predpokladá sa, že tieto princípy etiky AI budú vážne využívať vývojári AI spolu s tými, ktorí riadia úsilie o vývoj AI, a dokonca aj tými, ktorí v konečnom dôsledku nasadzujú a vykonávajú údržbu systémov AI. Všetky zainteresované strany počas celého životného cyklu vývoja a používania AI sa zohľadňujú v rámci dodržiavania zavedených noriem Etickej umelej inteligencie. Toto je dôležitý bod, pretože zvyčajným predpokladom je, že „iba kóderi“ alebo tí, ktorí programujú AI, podliehajú etike AI. Ako už bolo zdôraznené vyššie, na vymyslenie a nasadenie AI je potrebná dedina, v ktorej musí byť celá dedina oboznámená a dodržiavať etické predpisy AI.

Nechajme veci pri zemi a sústreďme sa na dnešnú výpočtovú necitlivú AI.

ML/DL je forma porovnávania výpočtových vzorov. Zvyčajný prístup je taký, že zhromažďujete údaje o úlohe rozhodovania. Dáta vložíte do počítačových modelov ML/DL. Tieto modely sa snažia nájsť matematické vzorce. Po nájdení takýchto vzorov, ak sa nájdu, systém AI potom použije tieto vzory pri stretnutí s novými údajmi. Po predložení nových údajov sa na vyvodenie aktuálneho rozhodnutia použijú vzory založené na „starých“ alebo historických údajoch.

Myslím, že viete hádať, kam to smeruje. Ak ľudia, ktorí sa rozhodovali podľa vzoru, začlenili do seba nepriaznivé predsudky, je pravdepodobné, že údaje to odrážajú jemným, ale významným spôsobom. Zhoda výpočtových vzorov Machine Learning alebo Deep Learning sa jednoducho pokúsi zodpovedajúcim spôsobom matematicky napodobniť údaje. Neexistuje žiadne zdanie zdravého rozumu alebo iných vnímavých aspektov modelovania vytvoreného AI ako takého.

Okrem toho si vývojári AI nemusia uvedomiť, čo sa deje. Tajomná matematika v ML/DL môže sťažiť odhalenie teraz skrytých predsudkov. Oprávnene by ste dúfali a očakávali, že vývojári AI budú testovať potenciálne skryté predsudky, hoci je to zložitejšie, ako by sa mohlo zdať. Existuje solídna šanca, že aj pri relatívne rozsiahlom testovaní budú v modeloch zhody vzorov ML/DL stále zakomponované odchýlky.

Do istej miery by ste mohli použiť známe alebo neslávne známe príslovie o odpadkoch do odpadu. Ide o to, že je to skôr podobné zaujatostiam – in, ktoré sa zákerne naplnia, keď sa predsudky ponoria do AI. Algoritmus rozhodovania (ADM) AI je axiomaticky zaťažený nerovnosťami.

Nie dobré.

Verím, že som teraz adekvátne pripravil pôdu na ďalšie skúmanie, či ľudia prežijú AI.

Ľudia a umelá inteligencia sú priatelia, nepriatelia alebo frenemovia

Predtým som vyhlásil, že každá odpoveď na otázku, či ľudia prežijú AI, by mala byť sprevádzaná vysvetlením.

My sa pozrieme na Áno odpoveď. Poskytnem užší zoznam vysvetlení. Akékoľvek z týchto vysvetlení si môžete osvojiť. Odporúčame vám odvodiť aj iné vysvetlenia, ktorých je možné predstaviť veľké množstvo.

Áno, ľudia prežijú AI, pretože:

• Ľudia ako tvorcovia: Ľudia sú tvorcami a udržiavateľmi AI, takže bez ľudí AI prestane fungovať alebo existovať
• Vrodený ľudský duch: Ľudia majú nezdolného ducha k životu, zatiaľ čo AI nie, takže tak či onak ľudia prežijú, ale AI nepochybne upadne na vedľajšiu koľaj kvôli nedostatku vrodenej energie pre prežitie.
• Ľudia ako premožitelia: Ľudia nedovolia, aby AI prežila ľudí, pretože ľudia by sa rozhodli úplne poraziť AI, ak by boli ľudia ohrození AI alebo by inak vyhynuli
• ostatné

Pozrime sa na odpoveď Nie (nie áno). Poskytnem užší zoznam vysvetlení. Akékoľvek z týchto vysvetlení si môžete osvojiť. Odporúčame vám odvodiť aj iné vysvetlenia, ktorých je možné predstaviť veľké množstvo.

Ľudia neprežijú AI, pretože:

• AI schopná vytrvať: Aj keď sú ľudia tvorcami a udržiavateľmi AI, AI bude buď naprogramovaná alebo navrhnutá ľuďmi, aby pretrvala aj v neprítomnosti ľudí, alebo si AI nájde svoj vlastný spôsob pretrvávania (možno bez toho, aby si to ľudia uvedomovali).
• AI umelý duch: Aj keď majú ľudia nezdolného ducha k životu, vieme, že ľudia majú aj ducha sebazničenia; v každom prípade, AI môže byť naprogramovaná umelým duchom, ak chcete, tak, že AI sa snaží prežiť a/alebo AI vytvorí zdanie vrodeného oživenia podľa vlastných podmienok.
• AI prekonáva premožiteľov: Aj keď ľudia nechcú nechať AI prežiť ľudí, AI bude potenciálne naprogramovaná tak, aby vymanévrovala ľudské snahy o porážku, alebo by si mohla sama odvodiť, ako to urobiť (a možno sa môže rozhodnúť podľa toho poraziť ľudí alebo nie)
• ostatné

Rovnako sme povinní pozrieť sa na „Ani“ (nie Áno, Nie No) odpoveď. Poskytnem užší zoznam vysvetlení. Akékoľvek z týchto vysvetlení si môžete osvojiť. Odporúčame vám odvodiť aj iné vysvetlenia, ktorých je možné predstaviť veľké množstvo.

Ľudia neprežijú AI a medzitým AI neprežije ľudí, pretože:

• Ľudia a AI existujú navždy: Ukazuje sa, že ľudia a AI majú byť spolu, navždy. Cestou môžu byť hrbole. Dobrá správa alebo šťastná tvár je, že všetci spolu vychádzame.
• Ľudia a AI existujú večne nenávistne: Ktovie, ľudia a AI sa začnú nenávidieť. Scenár smutnej tváre. Ide o to, že je tu patová situácia. AI nemôže zvíťaziť nad ľuďmi. Ľudia nemôžu zvíťaziť nad AI. Preťahovanie lanom o večné podmienky.
• Ľudia a AI sa navzájom ničia: Dve ťažké váhy sa nakoniec navzájom zrazia z ringu a z tohto sveta. Ľudia prevládajú nad AI, ale AI sa podarilo zvíťaziť aj nad ľuďmi (možno nastavenie súdneho dňa)
• Ľudia a AI sú vyhladení kvôli nejakej potrebe: Ľudí a AI zničí zarážajúci meteor alebo možno mimozemšťan z inej planéty, ktorý rozhodne, že je to pre ľudí a umelú inteligenciu odvodenú od ľudstva definitívne zakázané (dokonca ani nemáme záujem ukradnúť nám našu úžasnú AI)
• ostatné

Existujú niektoré z najbežnejšie uvádzaných dôvodov pre odpovede Áno, Nie a Ani na otázku, či ľudia prežijú AI.

záver

Možno si pamätáte, že som predtým ponúkol túto rozšírenú variantu otázky umelej inteligencie, ktorá prežila ľudí:

• Prežijú ľudia ako živé bytosti AI, ktorá je buď (1) neživá, alebo (2) živá bytosť, ak k tomu jedného dňa dôjde?

Vyššie uvedené odpovede sa vo všeobecnosti zameriavajú na druhú časť otázky, konkrétne na okolnosť zahŕňajúcu AI vnímajúcej odrody. Už som poukázal na to, že je to veľmi špekulatívne, pretože nevieme, či dôjde k vnímajúcej AI. Niektorí by mohli namietať, že ako prípad just-in-case sme právom múdri vopred zvážiť, čo môže nastať.

Ak sa vám to zdá hrubo nereálne, chápem, že toto všetko je dosť hypotetické a naplnené domnienkami okrem predpokladov. Je to sud plný predpokladov. Budete musieť zistiť hodnotu, ktorú si myslíte, že takéto špekulatívne snahy poskytujú.

Keď sa dostaneme viac k mosadzným pripináčikom, môžeme uvažovať o nežijúcom alebo necitlivom type AI.

Skrátiť otázku na toto:

• Prežijú ľudia nežijúcu necitlivú AI?

Verte tomu alebo nie, toto je vecne hodnotná otázka.

Možno si nie ste istí, prečo by táto nežijúca necitlivá AI mohla byť kdekoľvek na svete, kde je možné prežiť ľudstvo.

Zoberme si situáciu týkajúcu sa autonómnych zbraňových systémov, o ktorej som hovoril odkaz tu. Už teraz vidíme, že zbraňové systémy sú vyzbrojené AI, čo umožňuje zbrani pracovať do istej miery autonómne. Táto nežijúca nemysliaca AI nemá ani zdanie myslenia, ani zdanie zdravého rozumu atď.

Predstavte si jednu z tých apokalyptických situácií. Niekoľko krajín vložilo túto nízkokalibrovú AI do svojich zbraní hromadného ničenia. Neúmyselne (alebo zámerne) sú tieto autonómne zbraňové systémy poháňané AI spustené alebo uvoľnené. Na ich zastavenie neexistuje dostatočné zabezpečenie. Ľudstvo je zničené.

Prežila by AI v takomto scenári ľudí?

Po prvé, môže vás to nezaujímať. Inými slovami, ak bolo celé ľudstvo vyhladené, znepokojovať sa alebo starať sa o to, či AI stále bzučí, vyzerá trochu ako presúvanie týchto ležadiel na Titanicu. Záleží na tom, že AI stále funguje?

Držiak môže namietať, že na tom stále záleží. Dobre, pobavíme paličáka. Umelá inteligencia môže bežať sama o sebe prostredníctvom solárnych panelov a iných foriem energie, ktoré môžu naďalej zásobovať strojové zariadenia. Možno sme tiež navrhli systémy AI, ktoré opravujú a udržiavajú iné systémy AI. Upozorňujeme, že to nevyžaduje vnímajúcu AI.

Celkovo vzaté, môžete vykúzliť scenár, v ktorom ľudstvo vyprší a AI stále funguje. Možno, že AI bude pokračovať len krátky čas. Napriek tomu, podľa predchádzajúcej diskusie o presnej presnosti, pokiaľ ide o načasovanie, AI v skutočnosti prežila ľudí (na chvíľu).

Zatiaľ posledná myšlienka na túto tému.

Diskusia o tom, či ľudia prežijú vnímajúcu AI, je takmer ako povestná lyžica cukru (ako je to možné, možno sa pýtate, no, držte si klobúk a ja vám to poviem).

Vidíte, určite si musíme uvedomiť, že necitlivá AI má tiež veľký a hrozný potenciál podieľať sa na vyhladení ľudstva a prežiť nás. Nie zvlášť preto, že by nás AI „chcela prežiť“, ale jednoducho našimi vlastnými rukami pri vytváraní AI, ktorá na pokračovanie fungovania nepotrebuje ľudský zásah. Niektorí by silne tvrdili, že AI, ktorá je navrhnutá tak, aby bola do istej miery večná, môže mať destabilizujúci vplyv, ktorý môže niektorých ľudí prinútiť urobiť prvý krok k zničeniu iných ľudí, pozri moje vysvetlenie na odkaz tu.

Časť o prežití ľudí nie je základom toho, prečo si dnes táto otázka zaslúži takú závažnosť. Namiesto toho je skutočným stimulom skrytý spodný prúd o tom, ako vytvárame dnešnú AI a ako ju používame. Musíme veľa premýšľať o dôsledkoch etiky AI a spoločenských dopadoch súčasnej AI.

Ak trochu bláznivá otázka o tom, či ľudia prežijú AI, dostane na stôl problémy súčasnej AI tu a teraz, budeme na tom lepšie. Pri tomto spôsobe uvažovania sú vnímavé aspekty umelej inteligencie ľudí, ktorí prežili AI, lyžicou cukru, ktorá, dúfajme, zbaví liek toho, ako sa vysporiadať s AI tu a teraz.

Len lyžica cukru niekedy pomáha znižovať hladinu lieku. A tým najúžasnejším spôsobom. Alebo aspoň pútavým spôsobom, ktorý upúta našu pozornosť a prinúti nás to, o čo sa musíme starať.

Ako ďalej hovorí ditty, ako červienka perie hniezdo, máme veľmi málo času na odpočinok.