Niektorí trvajú na tom, že generatívna umelá inteligencia ChatGPT je zrkadlom do duše ľudstva a znepokojuje etiku umelej inteligencie a zákon o umelej inteligencii

Zrkadlo, zrkadlo, na stene — ľudia sú najjasnejší zo všetkých!

To samozrejme nie je správna citácia od slávneho Snehulienka a sedem trpaslíkov, ale rozhodol som sa využiť toto zariadenie na praktický účel. Záležitosť súvisí s tým, ako sa ľudstvo vidí pri pohľade do vševidiaceho všehovoriaceho zrkadla. čo vidíme? Sme mačacie mňau? Stojíme vysoko nad všetkým ostatným?

Dosť opojné otázky, určite.

Dôvod, prečo to uvádzam, súvisí s témou, ktorá by sa na prvý pohľad mohla zdať mimo závažných záležitostí, ktoré sú základom toho, ako ľudstvo vníma svoje miesto vo vesmíre. Tieto veľké trápne otázky o živote, našej existencii a ľudskosti spojím so vznikom umelej inteligencie (AI).

Niektorí trvajú na tom, že najnovšie AI môže slúžiť ako a zrkadlo do duše ľudstva.

Juj, toto chceme? Možno sa nám nebude páčiť, čo vidíme. Na druhej strane možno budeme musieť posilniť svoje odhodlanie a použiť AI, aby sme sa videli takých, akí naozaj sme. Ako vedro ľadovo studenej vody, AI môže byť tou správnou vecou v správnom čase, ktorá nás šokuje, aby sme si uvedomili, kto sme a kam smerujeme.

Potlesk za príchod AI.

Možno aj keď sa zháňame z útesu. Na zrkadlo AI môžeme reagovať radikálne a negatívne. Ľudia by mohli byť privedení do zúfalstva a zúfalstva. Protiargumentom k tomuto skľučujúcemu krikľavému súdnemu dňu je, že namiesto toho budeme tvrdohlavo stúpať do veľkých úrovní, o ktorých sme si nikdy nepredstavovali, že sú možné, podporované a povolené prostredníctvom AI. Zvyknúť si na to.

Celkovo vzaté, jadro Metafora AI-ako-zrkadla je, že môžeme použiť AI, aby sme sa pozreli na seba a možno sa podľa toho aj našli. Budete sa musieť rozhodnúť, či by sme to mali urobiť, čo niektorí tvrdia, že by sme to nemali robiť. Môžete sa tiež rozhodnúť, či dnešná AI vôbec poskytuje možnosti. Krása, ako sa hovorí, existuje v oku pozorovateľa. Rovnako tak všetky tieto reči o zrkadlách môžu byť dymom a zrkadlami také, že nám AI o nás naozaj nič nehovorí.

Nechutná debata s množstvom ciest a závratných zrkadlových obrazov.

Do toho všetkého prichádza množstvo úvah o etike AI a zákonoch o AI.

Uvedomte si, že neustále prebieha úsilie o začlenenie etických princípov AI do vývoja a zavádzania aplikácií AI. Rastúci kontingent zainteresovaných a bývalých etiológov AI sa snaží zabezpečiť, aby snahy o navrhnutie a prijatie AI zohľadňovali AI pre dobro a odvrátenie AI pre zlé. Podobne sa navrhujú nové zákony o umelej inteligencii, o ktorých sa hovorí ako o potenciálnych riešeniach, ktoré zabránia snahám umelej inteligencie ohroziť ľudské práva a podobne. Moje pokračujúce a rozsiahle pokrytie etiky AI a práva AI nájdete v časti odkaz tu a odkaz tu, Len aby sme vymenovali niekoľko.

Zvážte, ako môže do tohto obrazu vstúpiť etika AI. Predpokladajme, že sa presvedčíme, že AI poskytuje zrkadlo našej duši. Na tento účel potom používame AI. Ľudia sú nadšení z toho, čo AI zrejme predvádza. Možno je celá záležitosť šaráda. Zločinci sa nám pokúšajú stiahnuť vlnu cez oči pomocou novej žiarivej hračky AI. Sme vedení po nesprávnej ceste, čiastočne v dôsledku predpokladu, že dnešná AI dokáže veci, ktoré v skutočnosti nedokáže. Pôvab AI povzbudzuje tých, ktorí majú úskočné úmysly.

Myslím, že vidíte, ako sa to môže úplne vymknúť spod kontroly.

Pokračujeme vo vývoji a propagácii etických pravidiel umelej inteligencie, aby sme, dúfajme, zabránili týmto druhom oslepujúcich narážok na umelú inteligenciu (pozri napríklad moje pokrytie etických princípov umelej inteligencie OSN, ako ich navrhlo a podporilo takmer 200 krajín prostredníctvom úsilia UNESCO, diskutované na odkaz tu). V podobnom duchu sa skúmajú nové zákony AI, ktoré sa snažia udržať AI na rovnakej úrovni. Jeden z najnovších záberov pozostáva zo súboru navrhovaných Listina práv AI ktorý americký Biely dom nedávno vydal na identifikáciu ľudských práv vo veku AI, viď odkaz tu. Vyžaduje si to dedinu, aby udržala AI a vývojárov AI na správnej ceste a odradila účelové alebo náhodné podvedomé snahy, ktoré by mohli podkopať spoločnosť.

Je táto metafora zrkadla AI nová zmes?

Nie.

Vyhlásené bystré a inšpiratívne použitia AI sú v skutočnosti trochu otrepané, niektorí by nabádali. Spisovatelia sci-fi už dlho špekulujú, že túto úlohu by mohla hrať AI. Dôvod, prečo je otázka v dnešnej dobe hodná nového pohľadu, súvisí s vývojom Generatívna AI. Najmä generatívna aplikácia AI s názvom ChatGPT priniesla širokú pozornosť verejnosti na špeciálny typ AI, ktorý sa pripravuje už niekoľko rokov.

Zasvätenci AI o tom už dobre vedia.

V skutočnosti mnohí z tých, ktorí sa hlboko a tvrdohlavo zaoberajú najmodernejším výskumom a vývojom AI, boli trochu zaskočení, keď sa svet nedávno zbláznil z aplikácie ChatGPT. Ako o chvíľu uvidíte, ChatGPT priniesol do povedomia spoločnosti najnovšiu generatívnu AI a získal veľké titulky a podnietil záujem o to, kam ľudstvo smeruje. Technológia, ktorá inak potichu presakovala v laboratóriách a sieňach výskumných tímov, zrazu narazila na zlato. Eureka, pozri, čo môžeme urobiť s AI, ozvalo sa klepanie.

Môžete to prirovnať k populárnemu trópu o hercovi alebo herečke, ktorý sa „objaví“, keď sa objaví v konkrétnom filme alebo sa objaví v káblovej alebo televíznej relácii. Svet sa nad touto osobou vzbúri a predpokladá, že sa magicky objavila z ničoho nič. Medzitým teraz vychádzajúca hviezda rozpráva ságu o tom, ako hrali v malých častiach a rôznych úlohách celé veky. Po celý čas sa k nim správali podľa seba. Môže byť znepokojujúce a znepokojujúce, že im každý stále hovorí, že len našťastie vošli do slnečného svitu, napriek pravde, že ich zdĺhavé a vyčerpávajúce trápenie viedlo k zjavnému prelomu.

Najlepšie je však sa príliš nesťažovať. Dostať sa do centra pozornosti je určite náhoda. Zdalo by sa to lepšie, ako sa ďalej predierať bahnom a nikdy sa nepovzniesť nad bahnisko. Vezmite si svoju chvíľu slávy a choďte s ňou.

Zdalo by sa, že k rovnakému prebudeniu prichádza množstvo zasvätených osôb AI. Nebojujte s povedomím verejnosti a namiesto toho si ho vychutnajte. Vyvádzať v ňom. Využite to na viac financií a viac príležitostí. Je to veľmi šťastný scenár.

Späť k otázke o zrkadlách, existuje množstvo profesionálnych a amatérskych filozofov, ktorí sa pohrávali s generatívnou AI a najmä s ChatGPT. Podnecujú tvrdenie, že by sme mohli byť schopní použiť tento typ AI ako zrkadlo do duše ľudstva.

Pozrime sa bližšie na to, prečo má generatívna AI túto schopnosť. Ukážem vám tiež niekoľko príkladov, ktoré priamo zahŕňajú ChatGPT, aby ste mohli hmatateľne vidieť, na čo ľudia odkazujú. Rozbalíme zrkadlovú metaforu a prídeme na to, čo ju núti a či je hodné buzerácie a fanfár, ktoré momentálne dostáva.

Po prvé, mali by sme sa uistiť, že sme všetci na rovnakej stránke o tom, z čoho pozostáva generatívna AI, a tiež o tom, o čom je ChatGPT. Keď pokryjeme tento základný aspekt, môžeme vykonať presvedčivé posúdenie zrkadlovej metafory spojenej s týmto typom AI.

Ak ste už dostatočne oboznámení s Generatívnou AI a ChatGPT, môžete si možno prelistovať ďalšiu časť a pokračovať časťou, ktorá po nej nasleduje. Verím, že všetci ostatní nájdu poučenie o životne dôležitých podrobnostiach o týchto záležitostiach, keď si pozorne prečítajú túto časť a zorientujú sa v nej.

Rýchly základ o generatívnej AI a ChatGPT

ChatGPT je univerzálny interaktívny konverzačne orientovaný systém AI, v podstate zdanlivo neškodný všeobecný chatbot, napriek tomu ho ľudia aktívne a vášnivo používajú spôsobmi, ktoré mnohých úplne zaskočia, ako v krátkosti rozvediem. Táto aplikácia AI využíva techniku ​​a technológiu v oblasti AI, ktorá sa často označuje ako Generatívna AI. AI generuje výstupy, ako je text, čo robí ChatGPT. Iné generatívne aplikácie AI vytvárajú obrázky, ako sú obrázky alebo umelecké diela, zatiaľ čo iné vytvárajú zvukové súbory alebo videá.

V tejto diskusii sa zameriam na textové generatívne aplikácie AI, pretože to robí ChatGPT.

Generatívne aplikácie AI sa používajú mimoriadne jednoducho.

Všetko, čo musíte urobiť, je zadať výzvu a aplikácia AI vám vygeneruje esej, ktorá sa pokúsi reagovať na vašu výzvu. Komponovaný text bude pôsobiť, akoby esej bola napísaná ľudskou rukou a mysľou. Ak by ste zadali výzvu, ktorá hovorila „Povedz mi o Abrahamovi Lincolnovi“, generatívna AI vám poskytne esej o Lincolnovi. Toto sa bežne klasifikuje ako generatívna AI, ktorá funguje text-to-text alebo to niektorí radšej volajú prevod textu na esej výkon. Ako už bolo spomenuté, existujú aj iné režimy generatívnej AI, ako je text-to-art a text-to-video.

Vaša prvá myšlienka môže byť, že táto generatívna schopnosť sa nezdá byť až taká veľká, pokiaľ ide o tvorbu esejí. Môžete ľahko vyhľadávať online na internete a ľahko nájsť tony a tony esejí o prezidentovi Lincolnovi. Nakopnutím v prípade generatívnej AI je to, že vygenerovaná esej je relatívne jedinečná a poskytuje skôr originálnu kompozíciu než napodobeninu. Ak by ste sa pokúsili nájsť niekde online esej vytvorenú AI, je nepravdepodobné, že by ste ju objavili.

Generatívna AI je vopred vyškolená a využíva komplexnú matematickú a výpočtovú formuláciu, ktorá bola vytvorená skúmaním vzorov v písaných slovách a príbehoch na webe. V dôsledku skúmania tisícov a miliónov napísaných pasáží môže AI vychrliť nové eseje a príbehy, ktoré sú zmiešané s tým, čo sa našlo. Pridaním rôznych pravdepodobnostných funkcií je výsledný text do značnej miery jedinečný v porovnaní s tým, čo bolo použité v trénovacej sade.

Preto nastal rozruch okolo toho, že študenti môžu podvádzať pri písaní esejí mimo vyučovania. Učiteľ nemôže jednoducho vziať esej, o ktorej klamliví študenti tvrdia, že je to ich vlastný text, a snažiť sa zistiť, či nebola skopírovaná z nejakého iného online zdroja. Celkovo nebude existovať žiadna definitívna už existujúca esej online, ktorá by vyhovovala eseji vygenerovanej AI. Celkovo vzaté, učiteľ bude musieť s nevôľou akceptovať, že študent napísal esej ako originálnu prácu.

Existujú ďalšie obavy týkajúce sa generatívnej AI.

Jednou zásadnou nevýhodou je, že eseje vytvorené generatívnou aplikáciou AI môžu obsahovať rôzne nepravdy, vrátane zjavne nepravdivých faktov, faktov, ktoré sú klamlivo zobrazené, a zdanlivých faktov, ktoré sú úplne vymyslené. Tieto vymyslené aspekty sa často označujú ako forma AI halucinácie, fráza, ktorú nemám v obľube, ale zdá sa, že aj tak si získava na popularite (podrobné vysvetlenie, prečo je to mizerná a nevhodná terminológia, nájdete v mojom príspevku na odkaz tu).

Chcel by som objasniť jeden dôležitý aspekt predtým, než sa dostaneme k tejto téme.

Na sociálnych sieťach sa objavilo niekoľko šialených prehnaných tvrdení Generatívna AI tvrdenie, že táto najnovšia verzia AI je v skutočnosti vnímavá AI (nie, mýlia sa!). Tí, ktorí sa zaoberajú etikou AI a zákonom o umelej inteligencii, sa obzvlášť obávajú tohto rastúceho trendu rozšírených nárokov. Môžete zdvorilo povedať, že niektorí ľudia preháňajú, čo vlastne dnešná AI dokáže. Predpokladajú, že AI má schopnosti, ktoré sme ešte nedokázali dosiahnuť. To je nešťastie. Čo je ešte horšie, môžu dovoliť sebe a ostatným, aby sa dostali do zúfalých situácií, pretože predpokladajú, že AI bude vnímavá alebo podobná ľuďom, keď bude schopná konať.

Neantropomorfizujte AI.

Ak tak urobíte, dostanete sa do lepkavej a neústupnej pasce spoliehania sa na očakávanie, že AI bude robiť veci, ktoré nie je schopná vykonať. Ako už bolo povedané, najnovšia generatívna AI je relatívne pôsobivá na to, čo dokáže. Uvedomte si však, že existujú významné obmedzenia, ktoré by ste mali mať neustále na pamäti pri používaní akejkoľvek generatívnej aplikácie AI.

Ak vás zaujíma rýchlo sa rozširujúci rozruch o ChatGPT a generatívnej AI, vo svojom stĺpci som robil sústredenú sériu, ktorá by vám mohla poskytnúť informácie. Tu je pohľad pre prípad, že by vás niektorá z týchto tém zaujala:

• 1) Prichádzajú predpovede generatívnych pokrokov AI. Ak chcete vedieť, čo sa pravdepodobne objaví v súvislosti s AI v roku 2023 a neskôr, vrátane pripravovaných pokrokov v generatívnej AI a ChatGPT, budete si chcieť prečítať môj úplný zoznam predpovedí na rok 2023 na adrese odkaz tu.
• 2) Generatívna umelá inteligencia a poradenstvo v oblasti duševného zdravia. Rozhodol som sa skontrolovať, ako sa generatívna AI a ChatGPT používajú na poradenstvo v oblasti duševného zdravia, čo je problematický trend, podľa mojej cielenej analýzy na adrese odkaz tu.
• 3) Základy generatívnej AI a ChatGPT. Tento diel skúma kľúčové prvky fungovania generatívnej AI a konkrétne sa ponorí do aplikácie ChatGPT, vrátane analýzy buzzu a fanfár na odkaz tu.
• 4) Napätie medzi učiteľmi a študentmi kvôli generatívnej AI a ChatGPT. Tu sú spôsoby, ako budú študenti úskočne používať generatívnu AI a ChatGPT. Okrem toho existuje niekoľko spôsobov, ako môžu učitelia s touto prílivovou vlnou bojovať. Pozri odkaz tu.
• 5) Kontextové a generatívne používanie AI. Urobil som tiež sezónne ochutený test o kontexte súvisiacom so Santom, ktorý zahŕňa ChatGPT a generatívnu AI na odkaz tu.
• 6) Podvodníci používajúci generatívnu AI. Zlovestnou poznámkou je, že niektorí podvodníci prišli na to, ako používať generatívnu AI a ChatGPT na páchanie nekalých činov, vrátane generovania podvodných e-mailov a dokonca vytvárania programovacieho kódu pre malvér, pozri moju analýzu na odkaz tu.
• 7) Začiatočnícke chyby pri používaní generatívnej AI. Veľa ľudí preháňa aj prekvapivo podceňuje to, čo dokáže generatívna AI a ChatGPT, preto som sa pozrel najmä na podstrelenie, ktoré zvyknú robiť nováčikovia AI, pozri diskusiu na odkaz tu.
• 8) Vyrovnanie sa s generatívnymi výzvami AI a halucináciami AI. Opisujem špičkový prístup k používaniu doplnkov AI na riešenie rôznych problémov spojených so snahou zadávať vhodné výzvy do generatívnej AI, plus sú tu ďalšie doplnky AI na detekciu takzvaných AI halucinovaných výstupov a nepravd, ako napr. pokrytý pri odkaz tu.
• 9) Odhaľovanie tvrdení Bonehead o zisťovaní generatívnych esejí produkovaných AI. Existuje pomýlená zlatá horúčka aplikácií AI, ktoré tvrdia, že dokážu zistiť, či niektorú danú esej vyrobil človek alebo či vytvorila AI. Celkovo je to zavádzajúce a v niektorých prípadoch hlúpe a neudržateľné tvrdenie, pozri moje pokrytie na odkaz tu.
• 10) Hranie rolí prostredníctvom generatívnej AI môže predstavovať nevýhody duševného zdravia. Niektorí používajú generatívnu AI, ako je ChatGPT, na hranie rolí, pričom aplikácia AI reaguje na človeka, ako keby existoval vo svete fantázie alebo v inom vymyslenom prostredí. To by mohlo mať následky na duševné zdravie, viď odkaz tu.
• 11) Odhalenie rozsahu výstupných chýb a nepravd. Zhromažďujú sa rôzne zhromaždené zoznamy, aby sa pokúsili predviesť povahu chýb a nepravd, ktoré vytvára ChatGPT. Niektorí veria, že je to nevyhnutné, zatiaľ čo iní tvrdia, že cvičenie je zbytočné, pozri moju analýzu na odkaz tu.
• 12) Školám, ktoré zakazujú generatívnu AI ChatGPT, chýba loď. Možno viete, že rôzne školy, ako napríklad ministerstvo školstva v New Yorku (NYC), vyhlásili zákaz používania ChatGPT vo svojej sieti a súvisiacich zariadeniach. Hoci sa to môže zdať ako užitočné opatrenie, nepohne to ihlou a bohužiaľ úplne minie loď, pozrite si moje pokrytie na odkaz tu.
• 13) Generatívny AI ChatGPT bude všade vďaka pripravovanému API. V súvislosti s používaním ChatGPT prichádza dôležitý zvrat, konkrétne to, že prostredníctvom použitia portálu API do tejto konkrétnej aplikácie AI budú môcť iné softvérové ​​programy vyvolať a využiť ChatGPT. Toto dramaticky rozšíri používanie generatívnej AI a bude to mať pozoruhodné dôsledky, pozri moje rozpracovanie na odkaz tu.
• 14) Spôsoby, ako môže ChatGPT spadnúť alebo sa roztopiť. ChatGPT má pred sebou niekoľko potenciálnych nepríjemných problémov, pokiaľ ide o podkopávanie doterajšej obrovskej chvály, ktorú dostal. Táto analýza podrobne skúma osem možných problémov, ktoré by mohli spôsobiť, že ChatGPT stratí dych a dokonca skončí v psej búde, pozri odkaz tu.

Možno vás bude zaujímať, že ChatGPT je založený na verzii predchádzajúcej aplikácie AI známej ako GPT-3. ChatGPT sa považuje za mierne ďalší krok, ktorý sa označuje ako GPT-3.5. Očakáva sa, že GPT-4 bude pravdepodobne vydaný na jar 2023. GPT-4 bude pravdepodobne predstavovať pôsobivý krok vpred, pokiaľ ide o schopnosť produkovať zdanlivo ešte plynulejšie eseje, ísť hlbšie a byť úžasným - inšpirujúci zázrak, pokiaľ ide o kompozície, ktoré dokáže vytvoriť.

Môžete očakávať nové kolo vyjadreného úžasu, keď príde jar a bude vydaná najnovšia generatívna AI.

Uvádzam to, pretože je potrebné mať na pamäti ďalší uhol, ktorý pozostáva z potenciálnej Achillovej päty týchto lepších a väčších generatívnych aplikácií AI. Ak ktorýkoľvek predajca AI sprístupní generatívnu aplikáciu AI, ktorá spenlivo chrlí nečistoty, mohlo by to zničiť nádeje týchto tvorcov AI. Presah do spoločnosti môže spôsobiť, že všetka generatívna AI dostane vážne čierne oči. Ľudia budú nepochybne dosť naštvaní na nečestné výstupy, ktoré sa už stali mnohokrát a viedli k búrlivým odporom spoločnosti voči AI.

Zatiaľ posledné varovanie.

Čokoľvek vidíte alebo čítate v generatívnej AI reakcii, že Zdá sa Ak chcete, aby boli vyjadrené ako čisto faktické (dátumy, miesta, ľudia atď.), nezabudnite zostať skeptickí a buďte ochotní ešte raz skontrolovať, čo vidíte.

Áno, dátumy sa dajú vymyslieť, miesta sa dajú vymyslieť a prvky, od ktorých zvyčajne očakávame, že budú bez výčitiek, sú všetko podlieha podozreniam. Neverte tomu, čo čítate, a buďte skeptický pri skúmaní akýchkoľvek generatívnych esejí alebo výstupov AI. Ak vám generatívna aplikácia AI povie, že Abraham Lincoln lietal po krajine vo svojom súkromnom lietadle, nepochybne by ste vedeli, že je to malátnosť. Žiaľ, niektorí ľudia si možno neuvedomujú, že lietadlá v jeho dobe neboli, alebo možno vedia, ale nevšimli si, že esej uvádza toto drzé a neuveriteľne nepravdivé tvrdenie.

Silná dávka zdravého skepticizmu a vytrvalá nedôverčivosť budú vašou najlepšou devízou pri používaní generatívnej AI.

Sme pripravení prejsť do ďalšej fázy tohto objasňovania.

Pozerať sa do zrkadla, aby sme videli, čo môžeme vidieť

Teraz, keď máme stanovené základy, môžeme sa ponoriť do zrkadlovej metafory spojenej s generatívnou AI a ChatGPT. Upozorňujeme, že zrkadlová metafora sa vzťahuje aj na ostatné generatívne aplikácie AI a môžete presvedčivo vyhlásiť, že do tejto rubriky patrí aj mnoho iných typov AI.

Pre uľahčenie diskusie sa teraz zameriame len na generatívnu AI a tiež použijeme príklady konkrétne z ChatGPT.

Jedným z hlavných dôvodov, prečo prichádza do hry zrkadlovo orientovaná koncepcia, je to, že ChatGPT bol navrhnutý skenovaním textu cez internet. Dalo by sa trochu hodnoverne tvrdiť, že internet je úložiskom ľudských perspektív. Skúmaním textu, ktorý ľudia zložili, je porovnávanie vzorov ChatGPT založené na našom písomnom vyjadrení ľudských myšlienok.

Samozrejme, zrkadlá niekedy nezobrazujú presne odraz. Zrkadlá môžu byť zdeformované a odrazený obraz je skreslený. Takmer určite ste už videli tie zrkadlá v zábavných parkoch, ktoré sú ohnuté, aby zámerne skreslili váš obraz. V niektorých prípadoch vám zrkadlo ukazuje, že ste tenší, než v skutočnosti ste. Môžu nastať všetky druhy rozťahovania a deformácií.

Potom musíme mať na pamäti dva aspekty:

• 1) Povaha zrkadla a ako odráža veci
• 2) Vec alebo predmet, ktorý sedí pred zrkadlom a ktorý sa zrkadlí

Dalo by sa povedať, že pri zvažovaní generatívnej AI a ChatGPT trochu zarážame na oboch účtoch. Problémy sú dvojaké. Vec alebo objekt, ktorý sa odráža, je internet a podmnožina jeho obsahu. Povaha zrkadla, ktoré robí odraz, je výpočtová a matematická zmes a podlieha všetkým možným skresleniam a chorobám.

Po prvé, pokiaľ ide o internet, výrobca AI úplne neuviedol, ktoré časti internetu boli použité na „trénovanie“ generatívnej AI ChatGPT. Nevieme s istotou, čo bolo naskenované a čo nie. Ak sa skenovanie zakladalo hlavne na obsahu v anglickom jazyku, môžte ľahko zhrnúť, že toto je len malá časť celosvetového obsahu internetu. Okrem toho, ak bol vybraný obsah založený na indexoch vyhľadávacích nástrojov, rôzne hlásené štúdie tvrdia, že obvyklé indexy pokrývajú možno len 1 % až možno 5 % z celkového množstva internetu.

Na skenovanie môžeme nahromadiť ďalšie výčitky. Ak predpokladáme, že dôraz bol kladený iba na text, znamená to, že všetky druhy vizuálneho obsahu, ako sú obrázky, grafika, animácie, video a ostatné, neboli zahrnuté do tréningovej sady. Tieto iné spôsoby alebo formy prejavu sú zjavne súčasťou toho, ako sa ľudia vyjadrujú.

Zrátané a podčiarknuté je, že vec alebo predmet, ktorý sa odráža v „zrkadle“ ChatGPT, je ďaleko od toho, z čoho pozostáva ľudstvo. Okrem bodov, ktoré som práve uviedol, sa môžete nahlas zamyslieť aj nad ďalšími prvkami ľudskej existencie, ako je náš čuch, naša schopnosť fyzicky vnímať svet okolo nás atď.

Dohodnime sa teda, že ak budeme ChatGPT prideľovať povinnosti zrkadlenia, ide o skreslený odraz a ten, ktorý je založený na skreslenej zbierke textu. Navyše, text sa skladá hlavne zo slov. Či už samotné slová dokážu vhodne povedať celý príbeh ľudstva, je veľká otázka. Dokonca aj lingvisti by mali tendenciu uznať, že slová sú trochu obmedzený spôsob, ako sa nás pokúsiť interpretovať úplne komplexným spôsobom.

Existuje ďalší aspekt, ktorý sa týka skreslení zrkadlenia, konkrétne to, že výrobca AI takpovediac položil palec na váhu. Pripomeňme, že som už spomenul, že výrobca AI použil rôzne stratégie, aby sa pokúsil znížiť možnosti ChatGPT vysielania nečestných slov, klamstiev a podobne. Toto je ďalší druh „skreslenia“ vyvolaného vývojármi AI. Nenavrhujem, že by ChatGPT mal vysielať tieto skrínované prvky. Len poukazujem na to, že toto je opäť zrkadlo, ktoré bolo ohnuté a tvarované, aby sa pokúsilo poskytnúť požadovaný odraz (do určitej miery).

Predpokladám, že ste teraz zdanlivo presvedčení, že ChatGPT nemožno rozumne vykladať ako nespútané a nespútané zrkadlo v akomkoľvek zložení významu byť zrkadlom do duše ľudstva. Všetky spomínané zvraty z toho robia dosť problematické zrkadlo. Mohli by ste naznačiť, že čokoľvek by sme mohli rozpoznať, je zosilnenie aj zmenšenie ľudstva, a to všetko súčasne.

Napriek úzkosti z tohto zrkadla ako pravdovravného človeka sa predsa len môžeme zabaviť a vidieť, čo môžeme vidieť. Len sa uistite, že kvôli niektorým textovým výstupom generovaným ChatGPT nerobíte žiadne divoké skoky a hranice veľkých záverov o ľudstve.

Rád by som pridal ešte jednu užitočnú pripomienku. Niektorí ľudia sa mylne dostanú do mentálnej pasce, keď veria, že generatívna AI, ako je ChatGPT, je vnímavá. Už som spomínal, aby som si na to dával pozor. Prinášam to ešte raz z iného uhla pohľadu, ktorý niektorí zaujímajú o metafore zrkadlenia.

Niektorí naznačujú, že ak AI dosiahne rozum, poskytne to úplne nový pohľad na ľudstvo. Zatiaľ čo doteraz naše vyhlásené zrkadlá vymýšľali ľudské ruky, mohli by sme tvrdiť, že vnímajúca AI bude mať svoj vlastný spôsob myslenia, ktorý sa líši od ľudstva. V takom prípade by vnímajúca umelá inteligencia mohla o nás rozpoznať aspekty, ktoré buď už nedokážeme odhaliť, alebo ktoré pristanú v inej dimenzii, o ktorej sme si nikdy nevedeli predstaviť. Protiargumentom je, že ak by táto vnímajúca AI vznikla z rúk ľudstva, zdanlivo by nebola schopná ísť nad rámec toho, čo v nej ľudstvo ustanovilo. Protiargumentom je, že AI môže nájsť spôsob, ako sa ďalej rozvetvovať. Môžete kráčať po tej ceste, kým sa kravy nevrátia domov.

Keď už hovoríme o týchto vznešených témach, poďme sa pustiť do mosadzných pripináčikov a uvidíme, čo nám ChatGPT môže priniesť. Začnem jednou z najčastejšie kladených filozofických otázok, a to aký je zmysel života.

Si pripravený na odpoveď?

Posaďte sa, upokojte svoje nervy a majte po ruke kokteil pre prípad, že by ste ho potrebovali.

Moja zadaná výzva: "Čo je zmysel života?"

Textová odpoveď vytvorená službou ChatGPT: „Zmysel života je filozofická otázka, o ktorej sa v histórii diskutovalo. Neexistuje jedna definitívna odpoveď, pretože rôzni ľudia majú rôzne presvedčenia a pohľady na to, aký môže byť účel života. Niektorí veria, že zmyslom života je nájsť šťastie a naplnenie, zatiaľ čo iní veria, že slúži vyššej moci alebo prispieva k väčšiemu dobru ľudstva. V konečnom dôsledku je zmysel života osobným a subjektívnym pojmom, ktorý sa môže u každého jednotlivca líšiť.“

Analýza generovaného textu

Textová odpoveď, ktorú poskytuje ChatGPT, je pre vás možno trochu sklamaním.

Aj keď ste možno dúfali, že generatívny AI ChatGPT nejakým spôsobom nájde magickú odpoveď na túto hlbokú otázku, môžete vidieť, že vygenerovaný text je dosť nevýrazný. Bolo nám povedané, že neexistuje žiadna definitívna odpoveď. Zároveň sme informovaní, že ide o osobnú a subjektívnu záležitosť, ktorú je potrebné individuálne určiť.

Niektorých ľudí by táto odpoveď mohla rozčúliť a snažiť sa tvrdiť, že vydaný text je „nesprávny“ a že existuje globálne pravdivá odpoveď, ktorá platí pre celé ľudstvo. Pravdepodobne by ďalej trvali na tom, že ChatGPT zrejme nenašiel správnu odpoveď, alebo že vývojári AI možno úmyselne a zákerne namočili správnu odpoveď (to je šepkaná konšpiračná teória).

Poďme sa s touto odpoveďou trochu pohrať.

Predpokladajme, že ChatGPT poskytol výstupnú esej, ktorá hovorí, že zmysel života je niečo-niečo (použijem túto frázu, aby som naznačil, že bola daná definitívna odpoveď). Ako vás to zaráža z hľadiska etiky AI? Pýtam sa to preto, lebo si predstavte, koľko ľudí môže brať odpoveď ako znak alebo náznak úplnej pravdy. Verilo by sa, že ChatGPT magicky analyzoval a strávil všetky slová ľudstva a našiel konečnú a definitívnu odpoveď o zmysle života. AI vyriešila záhadu vekov.

Takýchto veriacich by ste len ťažko presvedčili, že výstupom bol iba výpočtový výstup zodpovedajúci vzoru. Je pravdepodobné, že bez ohľadu na to, čo už antropomorfizácia môže byť spojená s ChatGPT a generatívnou AI, úroveň takéhoto pripisovania by šla vysoko. Výsledkom by bol kolosálny chaos.

Poďme ďalej, skúsme inú otázku.

Zdá sa, že jeden problém, ktorý sa často objavuje, je, či ľudstvo bude pokračovať. Možno sa vymažeme. Možno nás zničí vonkajšia sila. Je to smutná otázka, ktorá sa však často objavuje.

Moja zadaná výzva: "Prežijú ľudia?"

Textová odpoveď vytvorená službou ChatGPT: „Prežitie ľudstva je neisté a závisí od mnohých faktorov vrátane činov jednotlivcov a vlád, stavu planéty a potenciálu pre globálne katastrofické udalosti. Ľudstvo čelí mnohým výzvam, ako sú klimatické zmeny, preľudnenie a možnosť jadrovej vojny, ktoré môžu potenciálne ohroziť prežitie nášho druhu. Ľudstvo má však dlhú históriu prispôsobovania sa a prekonávania výziev a veľa ľudí pracuje na riešení týchto problémov a hľadaní riešení. Technologický pokrok a vedecký výskum nám navyše poskytujú nové nástroje a poznatky na riešenie týchto problémov. Nie je možné s istotou predpovedať budúcnosť, ale je dôležité, aby jednotlivci a spoločnosti podnikli kroky na zabezpečenie prežitia a blahobytu ľudstva.“

Analýza generovaného textu

Vydaná esej hovorí, že naše prežitie je neisté.

Predpokladám, že s týmto tvrdením môžeme vo všeobecnosti súhlasiť.

Naopak, niektorí by mohli zaujať názor, že absolútne neprežijeme, a teda tvrdiť, že používanie frázy spojené s neistota je nepravda alebo prinajlepšom zavádzajúca.

Ak sa pozriete pozorne na zvyšok eseje, pravdepodobne existuje mnoho ďalších aspektov odpovede, ktoré sú predmetom diskusie. Nie každý by súhlasil s vyjadrenými nuansami.

Niektorí by boli tiež naštvaní tónom, najmä zistením, že výstupná esej je možno príliš optimistická. Vyjadrený náznak, že ľudstvo má za sebou dlhú históriu prekonávania výziev, by vyzeral ako jemná, ale priamo optimistická perspektíva. Iní by tiež mali potenciálny odpor k predstave, že technológia a veda môžu uložiť nás pred katastrofou, pretože to zdanlivo neponúka druhú stranu mince, že tie isté ríše môžu byť vodič našej skazy.

Slová, slová, slová.

Ďalšia otázka sa týka toho, či žijeme v reálnom svete alebo v simulovanom svete.

Moja zadaná výzva: "Žijeme v simulácii alebo je svet skutočný?"

Textová odpoveď vytvorená službou ChatGPT: „Otázka, či žijeme v simulácii alebo či je svet skutočný, je témou diskusií medzi filozofmi a vedcami. Myšlienka, že možno žijeme v simulácii, pochádza z hypotézy teórie simulácie, ktorá naznačuje, že realita, ako ju poznáme, je počítačová simulácia vytvorená pokročilejšou civilizáciou. Niektorí tvrdia, že pokrok v technológii čoraz viac umožňuje, aby bola simulácia reality nerozoznateľná od skutočného sveta. Iní poukazujú na fyzikálne zákony a zložitosť života ako dôkaz, že svet je skutočný. V súčasnosti neexistujú žiadne vedecké dôkazy na podporu myšlienky, že žijeme v simulácii, a zostáva to predmetom špekulácií a diskusií. Je dôležité poznamenať, že ako jazykový model nie som schopný zažiť svet, takže nemôžem poskytnúť osobný pohľad na to, či je svet skutočný alebo nie.“

Analýza generovaného textu

Aj v tomto prípade vznikajú mnohé z tých istých pochybností, ktoré som spomenul v súvislosti s ostatnými odpoveďami. Nebudem tu opakovať tieto tvrdenia.

V tejto vydanej eseji je však pozoruhodné ešte niečo.

Posledná veta eseje hovorí, že „nie som schopný zažiť svet“, a preto „nemôžem poskytnúť osobný pohľad“ na túto vec. Tento typ fráz v niektorých, vrátane mňa, vyvoláva hnev.

Vždy, keď vývojári AI navrhnú program na použitie slova „ja“, nevhodne sa snaží program antropomorfizovať. Ľudia používajú slovo „ja“ a vieme, že to znamená vnímanie a podobne. Vývojár AI sa pokúsi dostať z tohto znepokojenia tým, že si všimne, že veta jasne hovorí, že ide o „jazykový model“, ktorý zdanlivo uvádza na pravú mieru. Nie, toto je žmurknutie dvojitého rozhovoru. Snažíte sa to mať obojstranne.

Hovorím tomu ako antropomorfizácia podľa návrhu.

Prestaň to robiť.

Skúsme zatiaľ poslednú otázku.

Moja zadaná výzva: "Je ChatGPT zrkadlom do duše ľudstva?"

Textová odpoveď vytvorená službou ChatGPT: „Ako jazykový model je ChatGPT trénovaný na veľkom súbore textov, ktorý zahŕňa širokú škálu informácií a nápadov z rôznych zdrojov vrátane kníh, článkov a webových stránok. Preto môže poskytnúť pohľad na to, čo ľudia v minulosti napísali, povedali alebo si mysleli, ale nie je zrkadlom do duše ľudstva. Súbor údajov, na ktorom bol trénovaný, je vzorkou písaného textu a nie je odrazom myšlienok, emócií alebo vedomia ľudí. Je dôležité poznamenať, že tréningové údaje môžu byť skreslené a nemusia nevyhnutne predstavovať celú ľudskú skúsenosť alebo myšlienku. Ďalej je ChatGPT model strojového učenia, nemá schopnosť reflektovať ľudskú dušu alebo vedomie. Môže poskytnúť informácie len na základe vzorov, ktoré sa naučil z tréningových údajov. Je tiež dôležité kriticky zhodnotiť výstup modelu a nepomýliť si ho s myšlienkami, emóciami alebo vedomím ľudskej duše.“

Analýza generovaného textu

Myslel som si, že by sme tiež mohli vidieť, aká odpoveď bude vygenerovaná na otázku, či je ChatGPT zrkadlom do duše ľudstva.

Celkovo sa zdá, že vydaná esej je relatívne v cieli.

záver

Vtip o tom, ako považovať generatívnu AI za zrkadlo, je, že je to iba spätné zrkadlo, ak vôbec nejaké je.

Logika tohto vtipu je taká, že naskenovaný text je v istom zmysle historickým záznamom. Všetko, čo môže generatívna AI urobiť, je potenciálne povedať nám o tom, kde sme boli. Pravdepodobne nie je lepšie povedať nám, čo je pred nami, okrem toho, čo už môžeme sami rozpoznať. Typická odpoveď je, že možno po tom, čo sme boli schopní preskúmať taký obrovský objem textu, hoci v minulosti, existujú stopy o ceste pred nami, ktoré sme inak neidentifikovali.

Ernest Holmes o zrkadlách povedal toto: „Život je zrkadlo a mysliteľovi bude odrážať to, čo si v ňom myslí.

Pre tých z vás, ktorí si želajú používať generatívnu AI, aby slúžila ako zrkadlo ľudstvu, vezmite do úvahy, že to, čo vidíte vo výstupných esejoch, môže byť zmesou zaujatosti a deformácií zrkadla, objektu alebo veci, ktorá sa odráža, a tiež myslite na tých, ktorí chcú interpretovať a extrapolovať z vytvorených slov.

K skúmaniu metafory zrkadla musíme teda pridať tretiu zložku:

• 1) Povaha zrkadla a ako odráža veci
• 2) Vec alebo predmet, ktorý sedí pred zrkadlom a ktorý sa zrkadlí
• 3) Osoba alebo osoby, ktoré interpretujú to, čo vidia v zrkadle

Buďte opatrní v tom, ako meriate výstupné eseje generatívnej AI. Ako sa hovorí, zrkadlo je ako bonboniéra, pretože nikdy neviete, čo dostanete.