Etika umelej inteligencie a uznávaná umelá inteligencia Uncanny Valley, ktorá ohuruje aj samoriadiace autá založené na AI

Niekedy sú trochu čudné veci, ktoré upútajú vašu pozornosť a privedú vašu intuitívnu šťavu k tomu, že tu nie je niečo v poriadku. Zvláštnosť nie je do očí bijúca, vôbec nie do očí bijúca. Možno ani nebudete vedieť okamžite položiť prst na to, čo je to za nezrovnalosť alebo ako to, že vás brní povestný pavúk.

Možno sú vnímané jemné náznaky. Možno si náhodou vo svojom vnútri uvedomíte, že existuje nesúlad. Myslím, že by ste mohli povedať, že je tu len ten najmenší náznak nenápadnej strašidelnosti a váš jemný ľudský radar zachytáva inak zdanlivo skryté signály.

Vitajte v tajomnom údolí.

Ak ste nikdy nepočuli o tajomnom údolí, o téme, ktorá je v oblasti AI a najmä robotiky pomerne populárna, budete sa tešiť, pretože to je téma, o ktorej tu budem podrobne diskutovať a analyzovať ju.

Zastrešujúca predstava sa môže vzťahovať na veľa vecí, ktoré v živote zažívame, hoci základné princípy a pôvodná definícia zahŕňajú systémy AI a roboty. Najprv preskúmame pôvod a počiatočný význam tajomného údolia a potom pristúpime k rozšíreniu, aby sme zistili, ako sa javy zdajú byť použiteľné vo väčších kontextoch.

Ešte by som dodal, že zvážime, či tá zázračná dolina vôbec existuje.

Vidíte, niektorí skeptici a cynici tvrdia, že celá záležitosť je tak trochu prehnaná a neobstojí. Buďte opatrní pri otváraní témy tým, ktorí sú informovaní. Niektorí sa veselo usmejú a potľapkajú vás po chrbte, že ste veľmi dobre oboznámení s tajomným údolím, zatiaľ čo iní vás budú rázne poučovať, že je to šmrnc a musíte si stručne vyčistiť myseľ penivým mydlom na duševné čistenie. .

Dobrou správou je, že sa musíte rozhodnúť, či je strašidelné údolie skutočné alebo nie, spolu s tým, či má opodstatnenie pre dômyselnú aplikáciu, alebo by sa namiesto toho malo bez okolkov hodiť na smetisko techno-nápadov. V tomto zmysle ste na sedadle vodiča.

Toto všetko tiež úzko súvisí s rozvíjajúcou sa oblasťou etickej AI a rastúcim uvedomením si, že spoločnosť musí vážne a triezvo venovať pozornosť etike AI. O chvíľu urobíme tú kravatu.

Najlepšie je začať priamym citovaním profesora, ktorý prišiel s konceptom záhadného údolia a otvorene pomenoval tento vyhlásený fenomén. V roku 1970 publikoval profesor Masahiro Mori z Tokijského technologického inštitútu dosť útly článok v o niečo menej známom časopise tzv. energie (nie je to špeciálne ohnisko pre AI a robotiku per se) a povedal toto:

"Všimol som si, že pri stúpaní smerom k cieľu, aby sa roboti javili ako ľudia, sa naša afinita k nim zvyšuje, až kým sa nedostaneme do údolia, ktoré nazývam tajomné údolie."

Upozorňujeme, že vyššie uvedená fráza je uvedená v angličtine, hoci pôvodný dokument bol v japončine. Na anglickú preloženú verziu dohliadal autor a neskôr bola publikovaná v IEEE Spectrum v roku 2012 a pripísaná Masahirovi Morimu ako autorovi. Dokument si môžete prečítať sami, pretože je otvorene a voľne dostupný online. Je to rozhodne rýchle čítanie, ktoré trvá asi desať minút a neobsahuje žiadnu technickú terminológiu.

Ako už bolo povedané, je zaujímavé a do istej miery úžasné, že takýto svižný článok, publikovaný v roku 1970, nakoniec odštartoval celú arénu skúmania a spustil nespočetné množstvo súvisiacich štúdií, projektov, výskumov a občas aj ohnivú búrku polemík o tom, či predstavený Pojem tajomného údolia skutočne existuje. Predpokladám, že to ukazuje, že zaujímavé a občas meniace myšlienky nemusia byť masívne spletité alebo preplnené žargónom a vznešenosťou. Stručná myšlienka môže byť rovnako, ak nie ešte silnejšia, ako by sa na prvý pohľad mohlo zdať.

Verím, že vás to povzbudí, aby ste vyskúšali a podporili svoje nové nápady, pričom si uvedomíte, že sladké a jednoduché môže byť rovnako veľkolepé alebo niekedy viac ako spletité a zložité.

Poďme skočiť späť do tajomného údolia.

Narazíte na robotický systém, ktorý má tvár podobnú ľudskej tvári. Predstavte si, že táto robotická tvár bola navrhnutá v mnohých iteráciách. Vývojári AI, ktorí zostavili hlavu robota, sa postupne snažili, aby časť tváre robota vyzerala stále viac ako skutočná ľudská tvár.

Ich prvý pokus bol mimoriadne primitívny. Tvár robota mala rovnaký vzhľad, aký ste mohli vidieť v sci-fi filmoch, že je celá kovová a predvádza ozubené kolesá a drôty. Okamžite viete, keď sa pozriete na zariadenie, že je to robot. Nemáš o tom v mysli žiadnu otázku.

Ďalší pokus vývojárov AI zahŕňal obalenie niektorých plastových materiálov okolo kovových častí. Aj keď to vyzerá trochu priateľskejšie, stále okamžite viete, že ide o hlavu robota a robotickú tvár. Opäť je ľahké odhaliť.

Títo vývojári AI sú odhodlaní v tom pokračovať. Vytvarujú plast a dodajú mu tón pleti. Pridávajú črty, ktoré sa zdajú byť veľmi podobné ľudskej tvári, ako sú krtky, vlasy, škvrny a podobne.

Na prvý pohľad by ste mohli uveriť, že ide o ľudskú tvár. Ak bola odfotografovaná robotická tvár a boli by ste požiadaní, aby ste určili, či obrázok zobrazuje osobu alebo robotickú tvár, možno by ste sa mohli zdráhať okamžite povedať, ktorá to bola. Na druhej strane, ak by ste stáli vedľa zariadenia, pravdepodobne by ste pri podrobnej kontrole dokázali rozoznať, že nejde o človeka, ale o robotické zariadenie.

Ide o to, že predtým, ako ste dostali príležitosť urobiť si detailné skúmanie, bolo na tvári niečo, čo sa nezdalo celkom v súlade. Určite to vyzeralo ako ľudská tvár. Ale niečo nebolo v poriadku. Museli ste sústredene hľadieť znova a znova, aby ste mohli položiť prst na to, čo nevyzerá celkom dobre. Možno je to skutočná tvár. Potom znova, možno nie. Vaša myseľ sa točí podľa toho.

Do vašej mysle vstúpi zdanie strašidelnosti.

Nemali ste rovnaké zdanie strašidelnosti, keď ste videli dve predchádzajúce verzie. Bez prestávky alebo zaváhania ste mohli zistiť, že robot bol robot. Len dieťa môže oklamať presvedčenie, že niektorá z týchto verzií bola skutočná osoba.

Táto najnovšia verzia však bola iná. Ešte to nebolo dokonalé, aby vyzeralo ako ľudská tvár. Nebolo to ani tak vzdialené od skutočnej veci, aby bolo zrejmé, že to musí byť robot. Bola dosiahnutá akási rozbahnená pôda.

Predpokladajme, že vývojári posunuli svoje výskumné úsilie ďalej a upravili všetko tak, že robotická tvár bola takmer na nerozoznanie od ľudskej. Bez ohľadu na to, ako dlho sa na vec pozeráte, nie ste si istí, či je to človek alebo nie. Keď sa dozviete, že ide o robotickú tvár, budete zaskočení. Bože, urobili skvelú prácu, aby to vyzeralo skutočne.

Všimnite si, že doteraz ste robotické aspekty zvažovali iba na základe vzhľadu.

Do rovnice by sme mohli pridať pohyb. To vám pridáva ďalší rozmer, aby ste mohli rozoznať, či je robot robot alebo človek. Nechcem to v tejto diskusii chápať ako viacrozmerný druh problému, pretože to robí objasnenie tejto témy zložitejším (multirozmery sú však nevyhnutne prepojené). V každom prípade si predstavte, že ste nielen videli robotickú tvár, ale mohli ste tiež sledovať, ako robot pohybuje črtami tváre, ako sú ústa, oči, nos atď. robot alebo človek.

Jedným životne dôležitým aspektom, ktorý je potrebné udržať v popredí tajomného údolia, je, že pôvodná koncepcia zdôrazňuje akt ľudskej spriaznenosti. Tvrdeným javom je, že vaša afinita sa zvyšuje, keď vidíte postupne sa zdokonaľované tváre robotov, až kým nevznikne ten záhadný variant. V tomto okamihu sa hovorí, že váš zmysel pre afinitu dramaticky klesne a padne dolu do afinitnej priepasti alebo údolia.

Pre konkrétnu verziu, ktorá spôsobila, že ste mali podozrenie, že niečo nie je v poriadku, vaša spriaznenosť údajne radikálne klesla. Okrem toho, podľa teórie, vaša afinita môže raketovo vzrásť, keď narazíte na pokročilejšiu verziu, ktorá je takmer identická so skutočne ľudskou formou.

Tu je viac o tom, čo autor uviedol o našom normálnom sklone predpokladať, že aspekty života plynule pribúdajú: „Matematický pojem monotónne rastúca funkcia opisuje vzťah, v ktorom je funkcia y = ƒ(x) sa neustále zvyšuje s premennou x. Napríklad ako úsilie x rastie, príjem y zvyšuje, alebo keď je stlačený plynový pedál, auto sa pohybuje rýchlejšie. Tento druh vzťahu je všadeprítomný a veľmi ľahko pochopiteľný. V skutočnosti, pretože takéto monotónne rastúce funkcie pokrývajú väčšinu fenoménov každodenného života, ľudia môžu podľahnúť ilúzii, že predstavujú všetky vzťahy. Tento mylný dojem dosvedčuje aj skutočnosť, že mnohí ľudia zápasia životom vytrvalým tlačením bez toho, aby pochopili účinnosť sťahovania späť. To je dôvod, prečo sú ľudia zvyčajne zmätení, keď čelia nejakému fenoménu, ktorý táto funkcia nemôže predstavovať.“ Toto je citované podľa IEEE Spectrum preložený papier.

Tento takmer univerzálny predpoklad o neustálom zvyšovaní sa môže vyvrátiť, keď narazíme na niečo zlé. Strašidelnosť a podozrievavosť spôsobia relatívne náhly a dramatický pokles afinity, hovorí teória, ako napríklad robotická ruka, ktorú ste sa rozhodli potriasť a necítili ste kostnaté vlastnosti ľudskej ruky: „Keď sa to stane, stratíme zmysel. afinity a ruka sa stáva neskutočnou. Z matematického hľadiska to môže byť vyjadrené zápornou hodnotou.“

Ak prijmete premisu, že existuje tento fenomén tajomného údolia, určite sa pýtate, na čo vám môže byť dobré vedieť, že tajomné údolie zjavne existuje.

To je klasika všetkých čias „no a čo?“ test praktickosti.

Ukazuje sa, že veľa ľudí prišlo s mnohými interpretáciami toho, čo by sme mali alebo môžeme urobiť so záhadným údolím. Názorov je veľa. Čoskoro sa k tomu vyjadrím.

Medzitým tu je to, čo Masahiro Mori ponúkol: „Dúfame, že navrhneme a postavíme roboty a protetické ruky, ktoré nespadnú do tajomného údolia. Preto z dôvodu rizika spojeného so snahou zvýšiť svoju ľudskú podobnosť na dosiahnutie druhého vrcholu, odporúčam dizajnérom, aby si namiesto toho vzali za cieľ prvý vrchol, čo vedie k miernemu stupňu ľudskej podobnosti a značnému pocitu príbuznosti. . V skutočnosti predpovedám, že je možné vytvoriť bezpečnú úroveň afinity zámerným sledovaním neľudského dizajnu. Žiadam dizajnérov, aby sa nad tým zamysleli."

Rýchla kondenzácia z mojej strany dvanástich praktických pravidiel nasadenia nohavíc o tom, čo robiť v súvislosti s tajomným údolím, vyzerá takto najmä pre vývojárov AI:

1) Buďte si vedomí tajomného údolia a buďte podľa toho na pozore

2) Pravdepodobne chcete dosiahnuť ľudskú afinitu k vašej AI čo najviac

3) Buďte pripravení na stratu ľudskej afinity, ak vaša AI spadne do tajomného údolia

4) Snažte sa vyhnúť tajomnému údoliu tak, že si vymyslíte svoju AI týmto spôsobom

5) Je úctyhodné mať cieľ, ktorý je krátky od tajomného údolia

6) Skloňte sa na okraj tajomného údolia, ale nespadnite cez útes

7) Nebuďte posadnutí tým, že pôjdete za neuveriteľné údolie

8) Existuje šanca, že môžete preskočiť cez tajomné údolie

9) Nezaoberajte sa skokom, pretože by ste aj tak mohli spadnúť do údolia

10) Maximálna ľudská afinita by sa nepochybne dosiahla tým, že sa dostaneme cez tajomné údolie

11) Napriek tomu existuje primeraná a vhodná afinita zistená pred tajomným údolím

12) Neustále pamätajte na tajomné údolie a nenechajte si ho ujsť

Toto sú všetky všeobecné zásady, ktoré možno považovať za základný kameň alebo kotviace body poznania tajomného údolia. Okamžite uznávam, že existujú aj ďalšie body, ktoré nie sú uvedené v tomto malom desiatku a ktoré by sa dali považovať za rovnako dôležité. Okamžite tiež pripustím, že v každom z identifikovaných bodov sa nevyhnutne vyskytnú nezhody a o každom uvedenom bode môže nasledovať zdĺhavá búrlivá diskusia.

Niektorí by dokonca povedali, že tých dvanásť bodov je úplne nezmysel, pretože sú založené na klamstve. Nič také ako zázračné údolie neexistuje, tvrdili by. Všetko je to len šikanovanie a vymyslený výmysel, ktorý apeluje len a bohužiaľ na slabé mysle (au, to vážne bolí!). Akákoľvek pozornosť venovaná tajomnému údoliu je zbytočným závanom vzduchu a niekto by mal prísť a vložiť ostrý drevený teoretický kolík do podstaty veci (niektorí výskumníci sa o to pokúšali).

Kvôli diskusii poďme s prúdom a predpokladajme, že existuje tajomné údolie a že sa vo všeobecnosti zhoduje s tým, čo som doteraz naznačil. Tí, ktorí nesúhlasia s konceptualizáciou tajomného údolia, sú vítaní, aby sa vyhli alebo pokračovali v čítaní so zaťatými zubami a ich intelektuálnym hnevom, ktorý vrie a varí (prepáčte).

Tu je návod, ako sa prejavuje etická AI a zameranie na navrhovanie a zavádzanie etickej umelej inteligencie. Mimochodom, moje pokračujúce a hĺbkové skúmania etiky AI nájdete v mojej diskusii na tento odkaz tu a tento odkaz tu, Len aby sme vymenovali niekoľko.

Neskutočné údolie je rozhodne záležitosťou lásky a nenávisti pre tých, ktorí majú radi etickú AI.

Najprv nejaké potrebné pozadie. Jedným z najviac priťahujúcich etických problémov súvisiacich s AI je, že ľudia môžu byť oklamaní, aby verili, že systém AI je vnímavý. Uvedomte si prosím, že v súčasnosti neexistuje žiadna AI, ktorá by sa vzdialene priblížila k vnímaniu. V tejto chvíli sa to jednoducho nedeje. Moje zdanlivo „drzé“ tvrdenie je vyslovené napriek tým neprestajným a kričiacim titulkom, ktoré deklarujú túto AI alebo že AI je buď vnímavá, alebo je dostatočne blízko na to, aby bola za takú považovaná. Malarkey. Nie sme pri vnímaní AI.

Nevieme, ako sa tam dostať. Či sa tak stane, nevieme. Umelá inteligencia je cenným snom a túžbou, aj keď neskáčte z pušky a nemyslite si, že sme na vrchole jej dosiahnutia.

Samozrejme, mnohí vrúcne varujú, že ak sa nám nejakým spôsobom podarí potlačiť vnímanie AI, či už to urobíme zámerne alebo čistou náhodou, budeme čeliť existenčnému riziku. Pri tomto spôsobe myslenia sa možno hľadanie umelej inteligencie až tak neoplatí. Rizikom je, že táto vnímavá AI môže určiť, že ľudia sa neoplatí mať okolo seba. Mohli by sme sa rozdrviť ako chrobák. Alebo sa staňte otrokmi AI. Môže k tomu dôjsť tak, že sa to AI otvorene rozhodne urobiť, alebo sa AI môže stať naším vlastným strojom súdneho dňa, ktorý nás zničí našou vlastnou neschopnosťou. Pre moje pokrytie týchto znepokojujúcich výsledkov vnímania AI alebo singularity pozri odkaz tu.

Zásadným problémom etiky AI je to, že vývojári AI a tí, ktorí pracujú s AI, občas nasávajú ľudí, aby si mysleli, že AI je vnímavá. Spôsob, akým sa AI prejavuje, napríklad pomocou robotickej formulácie alebo prostredníctvom svojej konverzačnej interaktivity, môže ľudí zákerne podnietiť k tomu, aby predpokladali, že AI je vnímavá. To vás zase vedie po potenciálne odpornej prvosienkovej ceste.

Ak upadnete do mentálnej pasce myslieť si, že systém AI je vnímavý, pravdepodobne sa naň budete spoliehať pri vykonávaní vecí, ktoré by robili vnímajúce bytosti. Zatiaľ však v žiadnej dnešnej AI nie je zakomponovaný zdravý zmysel pre kvalitu podobnú ľuďom. Umelá inteligencia, s ktorou sa v súčasnosti stretávame, je mimoriadne krehká a plytká, pokiaľ ide o schopnosti podobné ľuďom. Mohli by ste sa dostať do nechutných a nebezpečných vôd, ak by ste verili, že systém AI je vnímavý.

Ako to súvisí so záhadným údolím?

Tu je dohoda.

Pripomeňme si, že tajomné údolie nám akoby hovorilo, že ľudská afinita bude postupne stúpať, keď sa systém AI alebo robot približuje k formulácii podobnej ľuďom. V kritickom bode, keď sa systém umelej inteligencie približuje k bodu, kedy je veľmi blízko, no stále, nie celkom tam, máme strašidelný pocit, že niečo nie je v poriadku. Dovtedy sme vedeli, že AI nie je človek. Teraz si nie sme istí. Naša ľudská príbuznosť klesá. Až keď bude AI alebo robot úplne presvedčivý, pokiaľ ide o ľudské schopnosti, znovu získame zdanie afinity k zariadeniu.

Vývojári AI, ktorí sa venujú tomuto srdcu, by pravdepodobne zámerne snažte sa udržať ich AI mimo tajomného údolia, s cieľom zastaviť sa z hľadiska vlastností AI, tesne predtým, než spadnú do tajomnej priepasti (pripomeňme, že to tiež zdôraznil Masahiro Mori). Vývojári by to zrejme urobili tak, že by sa ubezpečili, že stále existuje množstvo výpovedných indícií, aby bolo celkom jasné, že AI je menej vnímavá AI, a teda nie je to človek alebo rovnako.

Etikovia AI by vo všeobecnosti uvítali toto srdečné úsilie.

Zdôvodnenie je jednoduché. Títo tak informovaní a ochotní vývojári AI sa snažia zabezpečiť, aby systém AI nezavádzal ľudí do falošného pripisovania zariadení podobných ľuďom AI. To je určite dobrá správa. Vývojári zámerne vytvoria AI, aby zabránili ponoreniu do tajomného údolia. Ľudia si ľahko uvedomia, že AI nie je vnímavá.

Nie je ľahké prinútiť vývojárov AI, aby prijali takýto prístup. V skutočnosti to môže byť v rozpore s ich obvyklými inštinktmi a jazdnými ambíciami.

Existuje veľa tvrdení, že vývojári a technici AI sú vo všeobecnosti pohltení cieľmi. Vidia cieľ a často za ním budú slepo kráčať s veľkou chuťou. Nie je čas zastaviť sa a cítiť vôňu ruží. Ideme na preteky, ideme. V oblasti AI by normatívnym cieľom bola idealizovaná AI, ktorá je nerozoznateľná od ľudí v tom, že AI by mohla byť inteligentne rovnaká v parite. Ale ešte tam nie sme. Ako také, tajomné údolie poskytuje sekundárny cieľ, pristáva pred inak prehradzujúcim tajomným údolím a stáva sa cieľom, ktorý je napriek tomu prijateľný. Iste, nie je to zlatý ocenený prsteň, ale myšlienka je taká, že táto „vedľajšia“ cena je v poriadku, ďakujem veľmi pekne a môžete byť na ňu hrdí.

Zmenili sme ničivé najvyššie ambície hľadania cieľa a využili sme ich na logicky znejúci odôvodnený základ, aby sme urobili správnu vec.

Hurá!

Vyhrajte za etiku AI.

Ale počkajte na sekundu, upozornenie na spojler, je tu ešte niečo, čo musíme rovnako zvážiť.

Teraz, keď títo dôvtipní vývojári umelej inteligencie vedia o záhadnom údolí, môžu obrátiť svoj dôvtip a technickú zdatnosť smerom k zámernému preskakovaniu priepasti, a pritom to robiť so zdanlivým podvodom. Aby AI vyzerala a vyzerala úplne ako človek, aj keď vývojári vedia, že to nie je pravda.

Darebné myslenie vyzerá takto. Nedovoľte, aby váš systém AI sklonil klobúk a nespôsobil ľuďom ten nepolapiteľný spodný prúd strašidelnosti. Odstráňte aspekty, ktoré by mohli naznačovať alebo naznačovať, že AI nemá ľudské schopnosti. Urobte to pri tajnom uvedomovaní a neospravedlniteľnom vedomí, že AI nemá ľudské schopnosti a je to celé o skrývaní tejto pravdy pred tými, ktorí interagujú s AI alebo sú od nej závislí.

Aké diabolské plány.

Je iróniou, že záhadné údolie by mohlo byť akýmsi budíčkom pre vývojárov AI, že ak chcú ľudí skutočne oklamať, musia byť dostatočne chytrí, aby unikli z priepasti. Nerobia tak dosiahnutím úplnej AI, ale namiesto toho vztýčením dymu a zrkadiel, aby sa AI zdala zavádzajúca, akoby bola ľudská. Keby si vývojári AI neuvedomili, že toto tajomné údolie existuje, vo všeobecnosti by do neho spadli. To je dobré pre ľudstvo, pretože ľudia by stratili svoju afinitu k AI, pokiaľ ide o to, aby sa príliš nespoliehali na dnešnú kvalitu AI.

Žiaľ, keď vedia, že pasca existuje, vývojári AI, ktorí sa chcú okolo nej preplížiť, nájdu zhubne chytré spôsoby, ako to urobiť.

Urobte zásah proti predpisom Etickej AI.

Vidíte, ako to vytvára vzťah lásky a nenávisti medzi etiológmi AI o tajomnom údolí?

Prekliate, ak áno, prekliate, ak nie.

Uvedomujem si, že to bolo trochu nadhľadené skúmanie tajomného údolia a možno túžite po nejakých každodenných príkladoch. Existuje špeciálny a určite populárny súbor príkladov, ktoré sú môjmu srdcu blízke. Vidíte, ako odborník na AI vrátane etických a právnych dôsledkov ma často žiadajú, aby som identifikoval realistické príklady, ktoré predstavujú dilemy etiky AI, aby bolo možné ľahšie pochopiť trochu teoretickú povahu tejto témy. Jednou z najviac evokujúcich oblastí, ktorá názorne prezentuje tento etický problém umelej inteligencie, je príchod skutočne samoriadiacich áut založených na AI. Bude to slúžiť ako praktický príklad použitia alebo príklad na rozsiahlu diskusiu na túto tému.

Tu je potom pozoruhodná otázka, ktorá stojí za zamyslenie: Osvetlí príchod skutočne samoriadiacich áut založených na AI niečo o tajomnom údolí, a ak áno, čo nás to informuje, že máme robiť?

Dovoľte mi chvíľu rozbaliť otázku.

Po prvé, všimnite si, že v skutočne samoriadiacom aute nie je žiadny ľudský vodič. Majte na pamäti, že skutočne samoriadiace autá sú poháňané systémom AI. Nie je potrebný ľudský vodič za volantom, ani neexistuje ustanovenie, aby vozidlo riadil človek. Pre moje rozsiahle a neustále pokrytie autonómnych vozidiel (AV) a najmä autonómnych áut viď odkaz tu.

Rád by som ďalej objasnil, čo sa myslí, keď hovorím o skutočne samoriadiacich autách.

Porozumenie úrovniam samoriadiacich automobilov

Na objasnenie, skutočné samoriadiace vozidlá sú také, ktoré AI riadia auto úplne samostatne a počas riadenia vozidla neexistuje žiadna ľudská asistencia.

Tieto vozidlá bez vodiča sa považujú za úroveň 4 a úroveň 5 (pozri moje vysvetlenie na tento odkaz tu), zatiaľ čo auto, ktoré vyžaduje, aby sa ľudský vodič podieľal na riadení, sa zvyčajne považuje za úroveň 2 alebo úroveň 3. Autá, ktoré sa podieľajú na úlohe riadenia, sú opísané ako poloautonómne a zvyčajne obsahujú rôzne automatizované doplnky, ktoré sa označujú ako ADAS (Advanced Driver-Assistance Systems).

Na úrovni 5 zatiaľ neexistuje skutočné samohybné auto, ktoré ešte nevieme, či to bude možné dosiahnuť, ani ako dlho bude trvať, kým sa tam dostaneme.

Medzitým sa úsilie úrovne 4 postupne pokúša získať určitú trakciu podstupovaním veľmi úzkych a selektívnych testov na verejných cestách, hoci existuje polemika o tom, či by toto testovanie malo byť povolené ako také (v experimente sme všetci pokusnými králikmi na život a na smrť). ktoré sa odohrávajú na našich diaľniciach a vedľajších cestách, niektorí tvrdia, pozri moje spravodajstvo na tento odkaz tu).

Keďže poloautonómne automobily si vyžadujú vodiča, prijatie týchto typov automobilov sa nebude výrazne líšiť od riadenia konvenčných vozidiel, takže o tejto téme nie je samo o sebe veľa nových (ako vidíte, uvidíte) za okamih sa spravidla použijú nasledujúce body).

V prípade autonómnych automobilov je dôležité, aby verejnosť musela byť upozornená na rušivý aspekt, ktorý sa objavuje v poslednej dobe, a to napriek tomu, že napriek tým vodičom, ktorí neustále vysielajú svoje videá, ktoré zaspávajú za volantom automobilu úrovne 2 alebo 3 , musíme sa vyhnúť tomu, aby sme boli uvedení do omylu v presvedčenie, že vodič môže odvádzať svoju pozornosť od úlohy pri riadení čiastočne autonómneho vozidla.

Ste zodpovednou stranou za jazdné vlastnosti vozidla bez ohľadu na to, do akej miery by sa automatizácia mohla hodiť na úroveň 2 alebo úroveň 3.

Samoriadiace autá a strašidelné údolie

Pri vozidlách s vlastným riadením na úrovni 4 a 5 sa do úlohy vedenia vozidla nebude podieľať ľudský vodič.

Všetci cestujúci budú cestujúcimi.

AI robí jazdu.

Jedným z aspektov, o ktorých je potrebné okamžite diskutovať, je skutočnosť, že AI zapojená do dnešných systémov riadenia AI nie je vnímavá. Inými slovami, AI je celkom kolektív počítačového programovania a algoritmov a je nepochybne neschopný uvažovať rovnakým spôsobom ako ľudia.

Prečo je tento zvýšený dôraz na to, aby AI nebola vnímavá?

Pretože by som chcel zdôrazniť, že keď diskutujem o úlohe jazdného systému AI, nepripisujem AI ľudské vlastnosti. Uvedomte si, že v dnešnej dobe pretrváva nebezpečná tendencia k antropomorfizácii AI. Ľudia v podstate priraďujú dnešnému UI sentiment podobný človeku, a to aj napriek nepopierateľnému a nespochybniteľnému faktu, že zatiaľ taký AI neexistuje.

S týmto objasnením si môžete predstaviť, že systém riadenia umelej inteligencie nebude natívne nejako „vedieť“ o aspektoch riadenia. Vedenie vozidla a všetko, čo k tomu patrí, bude potrebné programovať ako súčasť hardvéru a softvéru samostatne riadeného automobilu.

Poďme sa ponoriť do nespočetného množstva aspektov, ktoré sa budú hrať na túto tému.

Po prvé, je dôležité si uvedomiť, že nie všetky autá s umelou inteligenciou sú rovnaké. Každá automobilka a technologická firma s vlastným pohonom pristupuje k navrhovaniu samoriadiacich áut. Preto je ťažké urobiť rozsiahle vyhlásenia o tom, čo AI riadiace systémy urobia alebo neurobia.

Okrem toho, kedykoľvek sa uvádza, že riadiaci systém AI nerobí konkrétne veci, neskôr to môžu predbehnúť vývojári, ktorí počítač v skutočnosti naprogramujú tak, aby to urobil. Krok za krokom sa systémy riadenia AI postupne vylepšujú a rozširujú. Existujúce obmedzenie dnes už nemusí existovať v budúcej iterácii alebo verzii systému.

Verím, že poskytne dostatočnú litániu výhrad, ktoré sú základom toho, o čom sa chystám hovoriť.

Teraz sme pripravení urobiť hĺbkový ponor do samoriadiacich áut a etických otázok umelej inteligencie, ktoré so sebou prinášajú tajomné údolie.

Existujú štyri aspekty týkajúce sa tejto záležitosti, ktoré tu budú zahrnuté:

1. Celkový vzhľad samoriadiacich áut

2. Otázka, kam sa „pozerajú“ samoriadiace autá

3. AI jazdné akcie samoriadiacich áut

4. Roboty, ktoré jazdia ako prostriedok na dosiahnutie autonómnych áut

Ďalšie aspekty sú tiež životaschopne zahrnuté, ale pre priestorové obmedzenia budú tieto štyri témy postačujúce na objasnenie orientácie tajomného údolia súvisiaceho s autonómnymi autami založenými na AI.

1. Celkový vzhľad samoriadiacich áut

Stavím sa, že ste videli obrázky alebo videá dnešných testov samoriadiacich áut. Možno ste si všimli, že väčšina vozidiel sú autá konvenčného vzhľadu, ktoré sú vybavené dodatočným špecializovaným vybavením. Môže to byť napríklad strešný nosič, ktorý obsahuje množstvo elektronických senzorov. Medzi senzory niekedy patria videokamery, radarové jednotky, zariadenia LIDAR, ultrazvukové senzory a podobne.

Futuristický dizajn má tendenciu naznačovať, že by sme sa mohli odkloniť od konvenčne vyzerajúceho auta a namiesto toho prerobiť autá v interiéri aj exteriéri tak, aby boli úhľadnejšie vyzerajúce autonómne vozidlá. Momentálne je všeobecný názor, že je jednoduchšie používať konvenčné autá a nevynakladať energiu na predĺženie úsilia súčasným pohrávaním sa s nekonvenčne vyzerajúcimi autami (existujú určité výnimky z tohto všeobecného hľadiska, pozrite si moje informácie na odkaz tu).

Aktuálnou podstatou je, že ak idete po vozovke a narazíte na auto s vlastným riadením, takmer vždy okamžite zistíte, že ide pravdepodobne o samoriadiace auto, a to len tým, že si všimnete rozmazanie senzorov namontovaných na autonómnom vozidle. Toto je rýchly vizuálny darček. Samozrejme, neviete s istotou, že ide o samoriadenie, pretože v tomto okamihu sú ovládacie prvky riadenia zvyčajne stále nedotknuté a za volantom môže byť ľudský záložný vodič.

Jedným spôsobom myslenia môžete naznačiť, že je obzvlášť užitočné, že samoriadiace autá fyzicky vynikajú a ľahko ich vizuálne zbadajú ľudskí vodiči v blízkych autách riadených ľuďmi a tiež chodci v blízkosti. Uvedomenie si, že v blízkosti sa potuluje samoriadiace auto, môže byť užitočným vodítkom, aby ste sa mali na pozore, a podnieti vás, aby ste boli ostražití a všímali si, že vozidlo riadi alebo môže riadiť AI.

Predpokladajme, že samoriadiace autá vyzerali identicky ako bežné autá poháňané ľuďmi. To je reálne uskutočniteľné minimálne dvoma spôsobmi. Po prvé, senzory môžu byť potenciálne skryté alebo tvarované tak, aby neboli také zrejmé pre náhodnú vizuálnu kontrolu. Po druhé, mohlo by sa stať, že všetky autá vrátane konvenčných áut poháňaných ľuďmi budú postupne vybavené podobnými senzormi, aj keď vozidlo napriek tomu zostane prevažne človekom poháňaným autom. Pozrite si moje ďalšie pokrytie na tento odkaz tu.

Ak sa dôkladne zamyslíte nad tým, či samoriadiace autá môžu alebo by mali byť vzhľadovo identické s bežnými ľuďmi poháňanými autami, možno prídete na to, že v tomto guláši sa môže skrývať tajomné údolie.

Viete, autá, ktoré nehanebne vyzerajú ako samoriadiace autá, by mohli byť typizované ako na križovatke, ktorá je len kúsok od tajomného údolia. V podstate „viete“, že ide o robota alebo robotický druh systému. To je úsudok, na ktorý môžete takmer okamžite skočiť.

Keď autonómne autá vyzerajú rovnako ako autá poháňané ľuďmi, možno to naznačuje, že autonómne vozidlá preskočili tajomné údolie, pokiaľ ide o ich robotický vzhľad. Existuje medzi týmito dvoma fyzickými zjavmi stredná cesta, ktorá nás privedie do tajomného údolia?

Možno zbadáte samoriadiace auto prichádzajúce po ulici a zdá sa, že je to pravdepodobne samoriadiace auto, na druhej strane vzhľad nevyzerá ani striktne autonómne, ani nevyzerá striktne poháňaný ľuďmi. Môžete namietať, že samoriadiace auto je teraz v strašidelnom alebo znepokojujúcom stave.

Samoriadiace auto sa zdanlivo ponorilo do tajomného údolia.

Ako už bolo povedané, nie každý by s touto kategorizáciou súhlasil. Niektorí by tvrdili, že fyzický vzhľad nemá nič spoločné so záhadným údolím. Niektorí, samozrejme, tiež tvrdia, že neexistuje nič reálne známe ako tajomné údolie.

Ako už bolo spomenuté, môžete sa rozhodnúť sami.

2. Otázka, kam sa pozerajú samoriadiace autá

Objavujúcou sa obavou, ktorú mnohí majú v súvislosti s autonómnymi autami, je, že im zvyčajne na sedadle vodiča chýba akýkoľvek ľudský vodič, a preto je ťažké zistiť, kam sa „vodič“ pri riadení auta pozerá.

Normálne sa pozriete na ľudských vodičov, aby ste špehovali, kam sa pozerajú. Môžete byť napríklad chodec na priechode a k priechodu sa blíži auto. Pozorne sa pozeráte na osobu sediacu na sedadle vodiča a snažíte sa rozoznať, kam má otočenú hlavu a kam sa pozerajú jej oči. Ak si myslíte, že vás ľudský vodič videl, mohlo by vám byť pohodlnejšie prejsť cez ulicu. Naproti tomu, ak vás ľudský vodič zdanlivo nevidel, máte z prechodu oprávnenú obavu.

V niektorých mestách existuje v týchto aspektoch určitý druh hry mačky a myši. Osobitnou kultúrnou normou v danom meste môže byť, že ak nadviažete očný kontakt s vodičom, vodič „vyhrá“ a má zdanlivé právo pokračovať bez ohľadu na zákonnosť jazdnej situácie. Iné mestá môžu byť úplne opačné, totiž že kultúrnou normou je, že pri očnom kontakte chodec „vyhrá“ a ľudský vodič sa má podriadiť konaniu chodca.

Zdá sa, že tento zvyk sme si osvojili počas relatívne dlhého obdobia, keď sa autá nachádzali uprostred našich miest a komunít. Problém s príchodom samoriadiacich áut je v tom, že na sedadle vodiča nesedí ľudský vodič, a teda každý chodec alebo blízky ľudský vodič, ktorý bežne používa hlavu a oči vodičov áut ako kultúrny indikátor zámeru šoférovať, je teraz bez šťastia.

Výrobcovia automobilov a vývojári áut s vlastným pohonom sú si dobre vedomí tohto vznikajúceho problému. Jedno z navrhovaných riešení spočíva v tom, že samoriadiace auto začne blikať svetlometmi autonómneho vozidla, prípadne zatrúbi. Ďalšou predstavou je, že samoriadiace auto môže mať variant reproduktora a povedať tým, ktorí sú nablízku, aké sú „zámery“ systému riadenia AI. Každý z týchto nápadov má významné nevýhody.

Iný návrh však znamená urobiť niečo, čo by ste mohli na prvý pohľad považovať za smiešne. Návrh spočíva v umiestnení gúľ podobných očnej gule na vonkajšok autonómneho vozidla. Tieto gule by zdanlivo vyzerali ako ľudské oči, čo sa týka schopnosti otáčať sa tam a späť, čo vám dáva okamžitú indikáciu, ktorá naznačuje, že vás AI „videla“ (interpretovali by ste to tak, že očné buľvy sa pozerajú vaším konkrétnym smerom). Tento prístup som analyzoval odkaz tu.

Aká by bola vaša reakcia na to, keby ste videli samoriadiace auto schádzať po vozovke a na kapotu alebo strechu by ste mali namontované tieto veľké čudné gule?

Predpokladám, že si môžete myslieť, že je to strašidelné, možno strašidelné.

Niektorí by naznačovali, že strašidelnosť pramení z toho, že ako vybavené samoriadiace auto sa nachádza v tajomnom údolí. Iní by vehementne tvrdili, že to nemá nič spoločné so záhadným údolím. Niektorí z týchto učencov by povedali, že existuje strašidelnosť, ktorá môže byť strašidelná bez toho, aby musela byť zakorenená v tajomnom údolí (tj tajomné údolie zdanlivo vždy produkuje strašidelné, ale nie všetko strašidelné sa vytvára výlučne prostredníctvom tajomného údolia). Iný uhol pohľadu je, že gule by mohli byť pravdepodobne navrhnuté tak, aby vyzerali menej ako očné gule a vyzerali viac roboticky, alebo že všetci nevyhnutne prijmeme vzhľad týchto gúľ a počiatočná prekvapivá reakcia ustúpi.

3. Činnosti riadenia AI samoriadiacich áut

Mnohé z dnešných testov samoriadiacich áut ukázali, že existujúce AI jazdné systémy majú tendenciu byť naprogramované tak, aby jazdili dosť vlažným a trochu striktne dodržiavajúcim zákonné spôsoby. Riadiaci systém AI zvyčajne zastaví samoriadiace auto na stopkách. Riadiaci systém AI nerobí odvážne jazdy cez križovatky, keď sa na semafore čoskoro rozsvieti červená. Tieto neprirodzené jazdné praktiky sú oblasťou ľudských vodičov.

Podľa spôsobu jazdy, ktorý predvádza, by ste mohli takmer hádať, že samoriadiace auto je samoriadiace auto. Aj keď sa autonómne vozidlo z vizuálneho hľadiska javí ako konvenčné auto poháňané ľuďmi, môžete pozorovať jazdné akcie a možno logicky usúdiť, že je pravdepodobne riadené systémom AI.

Niektorí sa domnievajú, že budeme musieť vytvoriť systémy riadenia AI tak, aby sa viac podobali huncútstvu ľudských vodičov, aby sa efektívne začlenili do normatívnych prístupov k riadeniu. Predpokladám, že by ste to mohli chápať ako hasenie ohňa ohňom.

Má to zmysel robiť?

Uvedomte si, že otvorení skeptici a kritici tento nápad nenávidia. Usilovne by tvrdili, že chceme, aby riadiace systémy AI jazdili správne a opatrne. Pridanie potenciálne miliónov samoriadiacich áut na vozovky, ktoré sú naprogramované ako potulní ľudskí vodiči, by sa zdalo ako obrovská nočná mora. Diskutoval som o tomto kontroverznom návrhu na adrese odkaz tu.

Poďme pretaviť dilemu tým, že využijeme tajomné údolie.

Keď je systém riadenia AI striktne legálny, je to možno náznak toho, že ide pravdepodobne o robotický systém (bez ohľadu na to, že ľudskí vodiči to nepochybne robia, hoci v dnešnom svete sa zdá, že sú ďaleko od seba). Ak majú riadiace systémy AI jazdiť tak svojrázne ako ľudskí vodiči, skočí to cez tajomné údolie alebo spadne do tajomného údolia?

Premýšľajte o tom.

4. Roboty, ktoré jazdia ako prostriedok na dosiahnutie autonómnych áut

Táto posledná položka na pokrytie je najprekvapujúcejšia z týchto štyroch.

Možno si vôbec neuvedomujete, že niektorí vývojári AI sa snažia vytvoriť roboty, ktoré by riadili autá. Robot by mal tendenciu vyzerať ako človek v rôznych ohľadoch, pričom by mal robotické nohy a robotické ruky ako končatiny. Ak chcete, aby sa z akéhokoľvek konvenčného auta poháňaného ľuďmi stalo auto s vlastným riadením, stačí umiestniť tohto špecializovaného robota s umelou inteligenciou na sedadlo vodiča vášho auta. Pozri moju analýzu tohto pojmu na odkaz tu.

Prečo by sme chceli šoférovať roboty?

Krása takého robota spočíva v tom, že všetky dnešné autá poháňané ľuďmi by sa v zmysle výkladu mohli takmer cez noc stať samoriadiacimi autami. Jednoducho si kúpite, prenajmete alebo si nejakým spôsobom zaobstaráte šoférskeho robota. Keď idete na cestu, posadíte robota na sedadlo vodiča. Robot vás odvezie do cieľa. Ak chcete prejsť na riadenie ľudí, odstráňte robota z vozidla, prípadne ho uložte do kufra na neskoršie použitie.

V Spojených štátoch je dnes asi 250 miliónov konvenčných áut. Niektorí veria, že tieto budú nakoniec vyhodené, keď vzniknú samoriadiace autá. Namiesto vyhadzovania týchto konvenčných áut by sme sa ich možno mohli pokúsiť upraviť tak, aby sa z nich stali autá s vlastným riadením, aj keď je to možno dosť nákladný nápad. Zdanlivo obozretnejším prístupom by bolo sprístupniť šoférske roboty.

Ak by ste videli konvenčne vyzerajúce auto prichádzať po ulici vašej štvrte a za volantom by mal robota, aká by bola vaša reakcia?

Pravdepodobne strašidelnosť.

Jedno nepochybne diskutabilné tvrdenie je, že táto záhada je spôsobená robotom, ktorý riadi konvenčné auto, ponorením sa do slávneho alebo neslávne známeho tajomného údolia.

záver

Z hľadiska etickej AI predstavuje tajomné údolie zaujímavý hlavolam.

Niektorí v AI plne veria v tajomné údolie a niektorí nie. Ale či už veríte v tajomné údolie, alebo nie, aj tak je téma sama o sebe spletitá. Nemôžete skrývať hlavu a predstierať, že konštrukcia ako taká neexistuje. Konštrukt ako myšlienka žije a v určitej podobe je virálne silný. Nenávisť alebo milovať, prekliata alebo možno vznešená téma pretrváva.

Podľa mojej predchádzajúcej diskusie o výhodách tajomného údolia z hľadiska etiky AI je v ňom súboj lásky a nenávisti. Ak by ľudia v etickej sfére AI prijali tajomné údolie alebo stručne odmietli tajomné údolie, alebo by zostali trochu neutrálni vo vzťahu k pravdivosti a namiesto toho sa zamerali na vplyv, ktorý narastá v dôsledku pretrvávajúcich rozdielnych názorov naň.

Táto výzva vedie k poprednému ekonómovi Adamovi Smithovi, ktorý raz povedal (parafrázujúc), že na ceste z mesta skepticizmu musíte prejsť Údolím nejednoznačnosti.