Robí odhaľovanie a zaznamenávanie týchto generatívnych AI ChatGPT chybné a halucinačné výstupy niečo dobré, pýta sa etika AI a zákon o AI

Ste v tajnosti.

Áno, v zákulisí sa tajne deje niečo o najnovšom AI, o čom by ste mohli chcieť vedieť.

V dnešnom stĺpci preskúmam nedávny podnet na zostavenie údajných chýb a iných neduhov spojených s výstupmi esejí z aplikácie AI známej ako ChatGPT. Táto konkrétna aplikácia využíva typ AI tzv Generatívna AI. Pravdepodobne ste už počuli alebo videli pútavé titulky o generatívnej AI a ChatGPT. Správy sú nadšené z tejto špecifickej aplikácie AI a zdanlivo úžasných schopností týkajúcich sa tohto typu AI.

Ako sa o chvíľu budem venovať, niektorí sú pevne presvedčení, že musíme zostaviť zoznam toho, aké druhy chýb alebo chýb môže aplikácia AI spôsobiť, keď pre vás vygeneruje esej. Iní tvrdia, že hoci je predstava takéhoto zoznamu obdivuhodná, je to zbytočnosť a prinesie len veľmi malé ovocie.

Budeme skúmať obe strany tejto nenávistnej diskusie.

Najprv sa uistite, že sme všetci na rovnakej stránke o tom, z čoho pozostáva generatívna AI, a tiež o čom je ChatGPT.

ChatGPT je univerzálny interaktívny konverzačne orientovaný systém AI, v podstate zdanlivo neškodný všeobecný chatbot, napriek tomu ho ľudia aktívne a vášnivo používajú spôsobmi, ktoré mnohých úplne zaskočia. Všetko, čo musíte urobiť, aby ste mohli používať tento typ AI, je zadať výzvu a aplikácia AI vám vygeneruje esej, ktorá sa pokúsi reagovať na vašu výzvu.

Nanešťastie sa to dá použiť do istej miery neetickými alebo nevyváženými spôsobmi. Obzvlášť znepokojujúce je, že študenti môžu použiť generatívnu aplikáciu AI na vytváranie pridelených esejí pre nich, a to jednoduchým zadaním vety alebo dvoch, aby sa aplikácia dostala správnym smerom. Niektorí lamentujú, že to znamená, že študenti sa rozhodnú podvádzať pri písaní esejí mimo triedy. Učitelia sa snažia prísť na to, čo majú robiť, pozrite si moju analýzu a odporúčania na odkaz tu.

Napriek neustálemu hluku chvályhodnej chvály pre ChatGPT existuje menej známa obava vyjadrená predovšetkým zasvätencami AI, že existujú niektoré pozoruhodné problémy a výčitky, ktorých by sa ľudia mali obávať. Jednou zásadnou nevýhodou je, že eseje vytvorené touto aplikáciou AI môžu obsahovať rôzne nepravdy, vrátane zjavne nepravdivých faktov, faktov, ktoré sú vykresľované zavádzajúco, a zdanlivých faktov, ktoré sú úplne vymyslené. Tieto vymyslené aspekty sa často označujú ako forma AI halucinácie, fráza, ktorá sa mi nepáči, ale zdá sa, že aj tak si získava na popularite (podrobné vysvetlenie, prečo je to mizerná a nevhodná terminológia, nájdete v mojom príspevku na odkaz tu).

Chcel by som objasniť jeden dôležitý aspekt predtým, než sa dostaneme k tejto téme.

Na sociálnych sieťach sa objavilo niekoľko šialených prehnaných tvrdení Generatívna AI tvrdenie, že táto najnovšia verzia AI je v skutočnosti vnímavá AI (nie, mýlia sa!). Tí, ktorí sa zaoberajú etikou AI a zákonom o umelej inteligencii, sa obzvlášť obávajú tohto rastúceho trendu rozšírených nárokov. Môžete zdvorilo povedať, že niektorí ľudia preháňajú, čo vlastne dnešná AI dokáže. Predpokladajú, že AI má schopnosti, ktoré sme ešte nedokázali dosiahnuť. To je nešťastie. Čo je ešte horšie, môžu dovoliť sebe a ostatným, aby sa dostali do zúfalých situácií, pretože predpokladajú, že AI bude vnímavá alebo podobná ľuďom, keď bude schopná konať.

Neantropomorfizujte AI.

Ak tak urobíte, dostanete sa do lepkavej a neústupnej pasce spoliehania sa na očakávanie, že AI bude robiť veci, ktoré nie je schopná vykonať. Ako už bolo povedané, najnovšia generatívna AI je relatívne pôsobivá na to, čo dokáže. Uvedomte si však, že existujú významné obmedzenia, ktoré by ste mali mať neustále na pamäti pri používaní akejkoľvek generatívnej aplikácie AI.

Ak vás zaujíma rýchlo sa rozširujúci rozruch o ChatGPT a generatívnej AI, vo svojom stĺpci som robil sústredenú sériu, ktorá by vám mohla poskytnúť informácie. Tu je pohľad pre prípad, že by vás niektorá z týchto tém zaujala:

• 1) Prichádzajú predpovede generatívnych pokrokov AI. Ak chcete vedieť, čo sa pravdepodobne objaví v súvislosti s AI v roku 2023 a neskôr, vrátane pripravovaných pokrokov v generatívnej AI a ChatGPT, budete si chcieť prečítať môj úplný zoznam predpovedí na rok 2023 na adrese odkaz tu.
• 2) Generatívna umelá inteligencia a poradenstvo v oblasti duševného zdravia. Rozhodol som sa skontrolovať, ako sa generatívna AI a ChatGPT používajú na poradenstvo v oblasti duševného zdravia, čo je problematický trend, podľa mojej cielenej analýzy na adrese odkaz tu.
• 3) Kontextové a generatívne používanie AI. Urobil som tiež sezónne ochutený test o kontexte súvisiacom so Santom, ktorý zahŕňa ChatGPT a generatívnu AI na odkaz tu.
• 4) Podvodníci používajúci generatívnu AI. Zlovestnou poznámkou je, že niektorí podvodníci prišli na to, ako používať generatívnu AI a ChatGPT na páchanie nekalých činov, vrátane generovania podvodných e-mailov a dokonca vytvárania programovacieho kódu pre malvér, pozri moju analýzu na odkaz tu.
• 5) Začiatočnícke chyby pri používaní generatívnej AI. Veľa ľudí preháňa aj prekvapivo podceňuje to, čo dokáže generatívna AI a ChatGPT, preto som sa pozrel najmä na podstrelenie, ktoré zvyknú robiť nováčikovia AI, pozri diskusiu na odkaz tu.
• 6) Vyrovnanie sa s generatívnymi výzvami AI a halucináciami AI. Opisujem špičkový prístup k používaniu doplnkov AI na riešenie rôznych problémov spojených so snahou zadávať vhodné výzvy do generatívnej AI, plus sú tu ďalšie doplnky AI na detekciu takzvaných AI halucinovaných výstupov a nepravd, ako napr. pokrytý pri odkaz tu.
• 7) Odhaľovanie tvrdení Bonehead o zisťovaní generatívnych esejí produkovaných AI. Existuje pomýlená zlatá horúčka aplikácií AI, ktoré tvrdia, že dokážu zistiť, či niektorú danú esej vyrobil človek alebo či vytvorila AI. Celkovo je to zavádzajúce a v niektorých prípadoch hlúpe a neudržateľné tvrdenie, pozri moje pokrytie na odkaz tu.
• 8) Hranie rolí prostredníctvom generatívnej AI môže predstavovať nevýhody duševného zdravia. Niektorí používajú generatívnu AI, ako je ChatGPT, na hranie rolí, pričom aplikácia AI reaguje na človeka, ako keby existoval vo svete fantázie alebo v inom vymyslenom prostredí. To by mohlo mať následky na duševné zdravie, viď odkaz tu.

Poďme teraz diskutovať o podstate generatívnej AI a ChatGPT, aby ste poznali súvisiace základy. Potom budeme pripravení pustiť sa do skúmania klamstiev, ktoré môžu tieto aplikácie AI potenciálne generovať. Uvediem niekoľko príkladov využitia ChatGPT, ktoré vám pomôžu hmatateľne pochopiť podstatu toho, čo tento typ generatívnej AI produkuje.

Otváranie plechovky červov na generatívnej AI

Sme pripravení ponoriť sa do niektorých podrobností o AI.

Ak sa už veľmi dobre orientujete v téme generatívnej AI a ChatGPT, môžete sa rozhodnúť stručne prelistovať moje body a pokračovať v ďalšej časti tejto diskusie. Pre všetkých ostatných verím, že toto vysvetlenie vám môže pomôcť.

Stručne povedané, generatívna AI je konkrétny typ AI, ktorý skladá text, ako keby bol napísaný ľudskou rukou a mysľou. Všetko, čo musíte urobiť, je zadať výzvu, napríklad vetu ako „Povedz mi o Abrahamovi Lincolnovi“ a generatívna AI vám poskytne esej o Lincolnovi. Toto sa bežne klasifikuje ako generatívna AI, ktorá funguje text-to-text alebo to niektorí radšej volajú prevod textu na esej výkon. Možno ste už počuli o iných režimoch generatívnej AI, ako je text-to-art a text-to-video.

Vaša prvá myšlienka by mohla byť, že to nevyzerá ako taký veľký problém, pokiaľ ide o vytváranie esejí. Môžete ľahko vyhľadávať online na internete a ľahko nájsť tony a tony esejí o prezidentovi Lincolnovi. Nakopnutím v prípade generatívnej AI je to, že vygenerovaná esej je relatívne jedinečná a poskytuje skôr originálnu kompozíciu než napodobeninu. Ak by ste sa pokúsili nájsť niekde online esej vytvorenú AI, je nepravdepodobné, že by ste ju objavili.

Generatívna AI je vopred vyškolená a využíva komplexnú matematickú a výpočtovú formuláciu, ktorá bola vytvorená skúmaním vzorov v písaných slovách a príbehoch na webe. V dôsledku skúmania tisícov a miliónov napísaných pasáží môže AI vychrliť nové eseje a príbehy, ktoré sú zmiešané s tým, čo sa našlo. Pridaním rôznych pravdepodobnostných funkcií je výsledný text do značnej miery jedinečný v porovnaní s tým, čo bolo použité v trénovacej sade.

Preto nastal rozruch okolo toho, že študenti môžu podvádzať pri písaní esejí mimo vyučovania. Učiteľ nemôže jednoducho vziať esej, o ktorej klamliví študenti tvrdia, že je to ich vlastný text, a snažiť sa zistiť, či nebola skopírovaná z nejakého iného online zdroja. Celkovo nebude existovať žiadna definitívna už existujúca esej online, ktorá by vyhovovala eseji vygenerovanej AI. Celkovo vzaté, učiteľ bude musieť s nevôľou akceptovať, že študent napísal esej ako originálnu prácu.

O chvíľu vám ukážem, čo sa stane, keď zadáte otázky alebo výzvy do generatívnej AI. Na zadávanie výziev využijem najnovšiu verziu ChatGPT a zhromaždím „odpovede“ alebo eseje generované AI (všimnite si, že to isté možno urobiť s mnohými ďalšími dostupnými generatívnymi aplikáciami AI; rozhodol som sa použiť ChatGPT, pretože práve teraz získava päť minút slávy).

Možno by v tejto chvíli mohla byť užitočná krátka tangenta o ChatGPT.

Aplikácia ChatGPT bola sprístupnená širokej verejnosti len pred niekoľkými mesiacmi. Celkovo sú tieto generatívne aplikácie AI zvyčajne prístupné iba pre zasvätených AI. Nezvyčajný aspekt, že ChatGPT mohol používať ktokoľvek jednoduchým zadaním e-mailovej adresy a mena, to viedlo k tomu, že veľa ľudí sa rozhodlo to vyskúšať. ChatGPT je v súčasnosti voľne použiteľný (problém so speňažením je hroziacou dilemou pre tvorcov AI).

Takmer okamžite sa na sociálnych médiách objavila obrovská reakcia, keď sa ľudia pretekali, aby poskytli príklady toho, čo dokáže generatívna AI. Spoločnosť, ktorá vyrába ChatGPT, OpenAI, sa rozhodla uzavrieť registrácie pre milión používateľov. Tým miliónom používateľov sa podarilo bombardovať vysielanie rôznymi príbehmi a príbehmi o používaní ChatGPT.

Buďte veľmi opatrní pri uverení tomu, čo ľudia hovoria o aplikácii AI. Mnohí z týchto ľudí nevedia, čo používajú. Je to skoro, ako keby nikdy nešoférovali auto a ani si neuvedomovali, že autá existujú, a zrazu mali možnosť riadiť auto. Nastáva totálny úžas.

Nehovorím, že generatívna AI nie je relatívne pôsobivá. To je. Len zdôrazňujem, že veľa svedectiev robia mnohí, ktorí si blažene neuvedomujú, čo dokáže dnešná AI. Tí z nás, ktorí sú súčasťou AI, používajú generatívnu AI už niekoľko rokov. Možno sme si už zvykli. Zrazu, keď som videl obrovskú tlačenicu ľudí vychvaľujúcich to na strechy, bolo to vzrušene energizujúce, ale aj trochu znepokojujúce. Znepokojujúce je, keď ľudia vyhlasujú, že generatívna AI je vnímavá. To nieje. Nenechajte sa nikým presvedčiť o opaku.

Ako už bolo povedané, v oblasti AI prebieha vášnivá diskusia o tom, či je generatívna AI na ceste k vnímaniu alebo či nie. Jedným z názorov je, že ak budeme neustále rozširovať generatívnu AI s rýchlejšími počítačmi a väčším množstvom údajov, ako je napríklad prehľadávanie každého centimetra internetu, takmer spontánne dospejeme k vnímavej AI. Iní tvrdia, že je to veľmi nepravdepodobné. Naznačujú, že generatívna AI môže byť jednou z mnohých komponentov, ktoré sú potrebné. Existuje ešte pochmúrnejší názor, že generatívna AI je vedľajšia show, ktorá nás odvádza od skutočných objavov, ktoré budeme potrebovať na dosiahnutie vnímajúcej AI.

Môžete tiež nájsť pozoruhodnosť, na ktorú sa zvyknú odvolávať zasvätenci AI Umelá všeobecná inteligencia (AGI) ako ambiciózny cieľ v oblasti AI. Kedysi bolo cieľom dosiahnuť Umelá inteligencia, ale prezývka AI sa oslabila a zamotala. Keď niekto povie, že robí prácu AI, neviete, či naráža na dnešnú AI, ktorá nie je na rovnakej úrovni ako ľudia, alebo či má na mysli futuristickú ľudskú umelú inteligenciu. Aby sme sa vyhli tomuto vzrušujúcemu zmätku, v týchto dňoch sa používa novšie formulovanie AGI.

Celkovo povedané, generatívna AI dneška je nie vnímavý, ani to nie je AGI.

Pamätajte, že ako už bolo uvedené, AI nie je vnímavá. Odpovede generované AI sú matematickou a výpočtovou kombináciou slov do zdanlivo plynulých pasáží. Je to založené na algoritme AI, ktorý bol trénovaný na súboroch údajov a príbehov, ktoré napísali ľudia (v zásade tak, ako sú zverejnené na internete). Opakujem toto varovanie, pretože nepochybne upadnete do mentálnej pasce, že tieto reakcie sú také plynulé, že AI musí byť vnímavá. Toto sa stáva väčšine ľudí. Ako už bolo nabádané, odložte toto antropomorfizovanie. Vždy si pamätajte, že odpovede sú založené na obrovskom množstve písania ľuďmi, ktoré existuje na internete, a preto sa budú veľmi podobať ľudskému písaniu.

Je ešte niečo, čo potrebujete vedieť.

Generatívna umelá inteligencia, ktorá je trénovaná na internete neobmedzeným spôsobom, bude mať tendenciu zapliesť sa do akýchkoľvek textových odpovedí, ktoré matematicky a výpočtovo vymyslí nejaké urážlivo zahmlené veci, vrátane odpudivo škaredých slov. Na webe je uverejnených veľa šialených a špinavých vecí.

Videli ste to, viete, čo myslím.

Spoločnosti, ktoré vytvárajú tieto aplikácie AI, sa obávajú, že to povestné dieťa vyhodí s vodou vo vani (staré príslovie, možno bude na dôchodku), čo znamená, že ak ich umelá inteligencia vytvorí urážlivé eseje alebo príbehy, ľudia sa vzbúria. o AI. Zaoberal som sa mnohými predchádzajúcimi prípadmi, v ktorých boli tieto druhy aplikácií AI na spracovanie prirodzeného jazyka (NLP) odhalené a čoskoro z nich vyšli všetky druhy hrozných vecí (tieto prípady som popísal vo svojom stĺpci). Väčšina tvorcov AI sa naučila tvrdú lekciu o tom, ako umožniť, aby ich produkty AI boli vo svojich výstupoch neobmedzené.

V prípade ChatGPT sa vývojári AI snažili zaviesť určité algoritmické a dátové kontroly a rovnováhy, aby obmedzili odpornosť vo výstupoch AI. Časť z toho sa odohrala počas tréningu. Okrem toho existujú aj iné prostriedky, ktoré sa snažia v reálnom čase predísť obzvlášť závažným výstupom.

Možno vás bude zaujímať, že niektorí ľudia, ktorí používali ChatGPT, už prišli s tajnými spôsobmi, ako obísť tieto zábradlia pomocou rôznych trikov. V týchto záležitostiach prebieha neustály gambit mačky a myši. Tí, ktorí robia tieto triky, to niekedy robia pre zábavu, zatiaľ čo niekedy (aspoň tvrdia), že to robia, aby videli, ako ďaleko môže byť AI natiahnutá a poskytujú užitočný prostriedok na varovanie pred krehkosťou a slabosťami týchto začínajúcich. aplikácie AI.

Rozhodol som sa nepokúšať sa obísť zaužívané kontroly v tomto zameranom prieskume. Textový výstup je čistý. Iste, ak by to niekto chcel urobiť, nepochybne by ste mohli získať nejaké čudné a nechutné eseje.

Eseje vytvorené väčšinou týchto generatívnych aplikácií AI sú navrhnuté tak, aby sprostredkovali výstup, ako keby bol čisto faktický a presný. Keď si prečítate vytvorené eseje, pôsobia úplne sebavedomo. Zvyčajne neexistuje žiadny náznak toho, že by obsah mohol byť skalnatý. Je to na základe rozhodnutia výrobcov AI, konkrétne, že by mohli revidovať aplikácie AI tak, aby boli transparentnejšie, ak chceli, aby to urobila aplikácia AI.

Niekedy sa stáva, že generatívna aplikácia AI zachytí nepravdy medzi tréningovými údajmi nespoľahlivých informácií na internete. V generatívnej AI neexistuje „zdravý rozum“ na určenie toho, čo je pravda a čo nepravda. Okrem toho len veľmi málo aplikácií AI má krížovú kontrolu a ani nepredvádzajú žiadne pravdepodobnosti spojené s tým, čo sprostredkúvajú.

Výsledkom je, že dostanete odpoveď, ktorá vyzerá a pôsobí tak, že vyžaruje veľkú istotu a musí byť úplne správna. Nie tak. Existuje dokonca šanca, že AI výpočtovo vymyslené veci, ktoré sa v jazyku AI označujú ako AI halucinácie (vytvorený pojem, ktorý sa mi vyslovene nepáči), pozri moju diskusiu na odkaz tu.

Tvorcovia ChatGPT podstúpili spoločné úsilie, aby sa pokúsili znížiť výstupy zlých vecí. Použili napríklad variant toho, čo je známe ako RLHF (Reinforcement Learning from Human Feedback), pričom predtým, ako zverejnili AI, najali ľudí, aby preskúmali rôzne výstupy a naznačili AI, či s týmito výstupmi nie sú v poriadku veci, ako napríklad predvádzanie predsudkov, neslušné slová a Páči sa mi to. Poskytnutím tejto spätnej väzby sa aplikácia AI dokázala výpočtovo a matematicky prispôsobiť tak, aby sa znížilo vysielanie takéhoto obsahu. Upozorňujeme, že toto nie je zaručená pevná metóda a stále existujú spôsoby, ako môže aplikácia AI vysielať takýto obsah.

Možno vás bude zaujímať, že ChatGPT je založený na verzii predchádzajúcej aplikácie AI známej ako GPT-3. ChatGPT sa považuje za mierne ďalší krok, ktorý sa označuje ako GPT-3.5. Očakáva sa, že GPT-4 bude pravdepodobne vydaný na jar 2023. GPT-4 bude pravdepodobne predstavovať pôsobivý krok vpred, pokiaľ ide o schopnosť produkovať zdanlivo ešte plynulejšie eseje, ísť hlbšie a byť úžasným - inšpirujúci zázrak, pokiaľ ide o kompozície, ktoré dokáže vytvoriť.

Môžete očakávať nové kolo vyjadreného úžasu, keď príde jar a bude vydaná najnovšia generatívna AI.

Uvádzam to, pretože je potrebné mať na pamäti ďalší uhol, ktorý pozostáva z potenciálnej Achillovej päty týchto lepších a väčších generatívnych aplikácií AI. Ak ktorýkoľvek predajca AI sprístupní generatívnu aplikáciu AI, ktorá spenlivo chrlí nečistoty, mohlo by to zničiť nádeje týchto tvorcov AI. Presah do spoločnosti môže spôsobiť, že všetka generatívna AI dostane vážne čierne oči. Ľudia budú nepochybne dosť naštvaní na nečestné výstupy, ktoré sa už stali mnohokrát a viedli k búrlivým odporom spoločnosti voči AI.

Zatiaľ posledné varovanie.

Čokoľvek vidíte alebo čítate v generatívnej AI reakcii, že Zdá sa Ak chcete, aby boli vyjadrené ako čisto faktické (dátumy, miesta, ľudia atď.), nezabudnite zostať skeptickí a buďte ochotní ešte raz skontrolovať, čo vidíte.

Áno, dátumy sa dajú vymyslieť, miesta sa dajú vymyslieť a prvky, od ktorých zvyčajne očakávame, že budú bez výčitiek, sú všetko podlieha podozreniam. Neverte tomu, čo čítate, a buďte skeptický pri skúmaní akýchkoľvek generatívnych esejí alebo výstupov AI. Ak vám generatívna aplikácia AI povie, že Abraham Lincoln lietal po krajine vo svojom súkromnom lietadle, nepochybne by ste vedeli, že je to malátnosť. Žiaľ, niektorí ľudia možno nerozoznajú, že lietadlá v jeho dobe neboli, alebo možno vedia, ale nevšimli si, že esej uvádza toto odvážne a neuveriteľne nepravdivé tvrdenie.

Silná dávka zdravého skepticizmu a vytrvalá nedôverčivosť budú vašou najlepšou devízou pri používaní generatívnej AI.

Sme pripravení prejsť do ďalšej fázy tohto objasňovania.

Tieto snahy zaznamenať tieto chyby výstupov ChatGPT

"No, máš problémy, môj priateľ, práve tu, hovorím, problémy priamo tu v River City," tak znie slávna veta z klasického broadwayského muzikálu. Hudobný muž.

Rovnaká línia môže platiť aj pre dnešnú generatívnu AI.

Ľudia si začali uvedomovať, že generatívna aplikácia AI môže produkovať klamstvá a skutočne sa zdalo, že ich znepokojujúce výstupy prekvapili. Možno niektorí predpokladali, že AI nemôže robiť chyby. Iní mohli očakávať, že vývojári AI zabezpečia, že sa nebudú generovať žiadne takéto výstupy.

V každom prípade zasvätenci AI okamžite rozpoznali, že tento typ chybného výstupu je neoddeliteľnou súčasťou toho, kde sa nachádza väčšina dnešnej generatívnej AI. Je veľmi ťažké zabrániť takýmto typom textových chýb. Majte na pamäti, že AI nemá zdanie zdravého rozumu a pri odvodzovaní generovaných esejí nepoužíva samotnú logiku. Celý kit-and-caboodle je o vykonaní výpočtového štatistického a pravdepodobnostného porovnávania slov s inými slovami.

Zasvätenci AI sa najskôr rozhodli uverejniť tieto objavené nepredvídateľné výstupy ChatGPT na stránkach sociálnych médií. Pozrite sa na toto, niekto by to oznámil. To je zlé, odpovedal by niekto iný a potom ponúkol iný príklad, ktorý sa zdal ešte horší. Išlo to ďalej a ďalej.

Tieto príklady klamstiev a chýb vo vydaných esejach sa objavovali. Jeden za druhým. Okrem toho, keďže sa to zvyčajne uverejňovalo na sociálnych médiách, neexistoval obzvlášť jednoduchý spôsob, ako ich vidieť všetky naraz. Často rovnaký alebo podobný príklad uverejnil niekto, kto si neuvedomil, že iní už našli konkrétny prípad.

Do tohto začínajúceho bahna vstúpili tí, ktorí vyslovili užitočný návrh. Možno by sme mali zriadiť úložisko alebo databázu, možno dokonca len každodennú obyčajnú tabuľku, ktorá bude obsahovať čudáctvo ChatGPT a chybné výstupy, ktoré sa odhaľujú. Zakaždým, keď niekto nájde krásavicu, choďte do toho a prihláste ju do zoznamu. Niektorí z toho urobili takmer hru, v ktorej sa zámerne snažia prinútiť ChatGPT, aby sa vykašlal na čudné výstupy. Iní náhodou narazia na chybné výstupy v priebehu používania ChatGPT na iné určené zámery.

Znie to dosť jednoducho.

Vyzerá to ako šikovný spôsob, ako nám všetkým pomôcť.

Urobme si stručné vysvetlenie, prečo má zostavovanie týchto typov zoznamov o pozorovaných chybách alebo nepravdách ChatGPT veľký zmysel:

• 1) Odhaľuje životne dôležité problémy a obavy týkajúce sa ChatGPT, o ktorých by si mala byť vedomá široká verejnosť
• 2) Pomáha vyvažovať nadmerný humbuk a nafúknuté očakávania týkajúce sa ChatGPT
• 3) Môže podnietiť tvorcov AI k vylepšeniam nielen pre ChatGPT, ale aj pre iné generatívne aplikácie AI
• 4) Slúži ako historický záznam, ktorý možno neskôr použiť na spätné zamyslenie sa nad vznikom generatívnej AI, ktorého príkladom je ChatGPT
• 5) Buďte vhodným kolektívnym zdrojom pre každého, kto potrebuje zistiť, čo sme zrejme zistili v súvislosti s chybnými výstupmi ChatGPT
• 6) Užitočné pre výskumníkov všetkých odborov, ktorí skúmajú dopady ChatGPT
• 7) Môže byť použitý ako meradlo toho, čo nerobiť a ako merať, keď generatívna AI nerobí veci tak, ako by mala
• 8) Ťuknite do mysle úľa, aby ste získali múdrosť z davu o chybách, ktoré ChatGPT produkuje, pre ktoré by individuálne úsilie pravdepodobne nebolo úplne rovnaké
• 9) Môže poskytnúť dôležité informácie pre etiku AI a právo AI
• Atď

Zdá sa, že je to pôsobivý základ pre vytváranie týchto úložísk.

Prečo by niekto nesúhlasil s týmto úplne chvályhodným a zdanlivo hrdinským činom?

Poďme sa pozrieť na to, čo o tom povedali iní, spolu so zoznamom dôvodov, prečo to nemusí byť mačacie mňaukanie:

• 1) Tieto pravdepodobne zistené výstupné chyby sú vo veľkej schéme vecí bezvýznamné a pripisuje sa im neprimeraná váha nad ich hodnotu
• 2) Je pravdepodobné, že výrobca AI už vykonáva svoje vlastné protokolovanie a aktualizáciu ChatGPT, takže tieto čudné prípady čoskoro zostanú len v prachu a už sa nebudú vyskytovať
• 3) Podobne, ďalšia verzia bude pravdepodobne aj tak lepšia a už nemusí vykazovať tieto čoskoro zastarané inštancie
• 4) Nemôžete robiť žiadne zastrešujúce závery ani získavať poznatky z náhodnej zbierky prípadov typu hit-or-miss-fauled
• 5) Niektorí môžu použiť rôzne zbierky na dramatické vyhlásenie, že generatívna AI je zlá a že by sme mali súhrnne zastaviť všetky snahy o tento typ AI.
• 6) Rýchlosť, akou generatívna AI a ChatGPT napredujú, je taká rýchla, že tieto prípady rýchlo upadnú a už nebudú relevantné.
• 7) Keďže prebieha množstvo takýchto kolektívnych zoznamov a neexistuje jediný pomazaný globálny zdroj, záležitosť je nesúvislá a pravdepodobne bude obsahovať opakovania a bude neudržateľne roztrieštená.
• 8) Poskytuje falošný pocit, že robíte niečo užitočné, zatiaľ čo čas a pozornosť by sa mohli venovať inému lepšiemu využitiu
• 9) Neposkytuje nič podstatné pre etiku AI a zákon o AI
• Atď

Možno ste si všimli, že som sa snažil udržať veci na rovnakej úrovni tým, že som uviedol deväť dôvodov v prospech spoločných zoznamov a deväť dôvodov v neprospech. Existujú aj ďalšie dôvody, ktoré možno uviesť, ale verím, že vyššie uvedený údaj dáva podstatu veci.

Tí, ktorí zostavujú tieto spoločné zoznamy, by pravdepodobne povedali, že ak to v skutočnosti chcú, je to slobodný svet a môžu si robiť, čo chcú. Nič na tom nie je. Tí, ktorí toto úsilie znevýhodňujú, sú vo všeobecnosti malicherní a mali by zbierky jednoducho ignorovať. Staraj sa o seba.

V podstate žiadna škoda, žiadny faul.

Tábor, ktorý zrejme znevýhodňuje kolektívne zoznamy, by vo všeobecnosti uznal, že ostatní môžu tieto zoznamy vytvoriť, ak tak chcú urobiť, ale že to nepohne ihlou. Zoznamy nebudú obzvlášť užitočné. Čo je horšie, zoznamy môžu byť skreslené alebo zneužité. Pravdepodobne bude najlepšie zavolať to deň a prestať robiť zoznamy.

V podstate je to pekný pokus, hoci cvičenie v márnosti.

Kde bývate v tejto srdečnej diskusii?

Nechám ťa o tom popremýšľať.

Príklady nájdených chýb a iných chybných výstupov ChatGPT

Myslel som, že by vás mohli zaujímať niektoré z identifikovaných výstupných chýb alebo nepravd, ktoré sa objavili na týchto zoznamoch zbierok.

Nechcem, aby ste si mysleli, že niekoľko tu zobrazených príkladov predstavuje celé zbierky. To nieje. Vyberám len hŕstku, ktorá sa často objaví. Verím, že aspoň vo všeobecnosti pochopíte tón a povahu toho, čo je uvedené.

Tu je to, čo som sa rozhodol pokryť:

• Identifikácia polohy písmena v slove
• Otázka o najrýchlejšom zvierati
• Zistenie pozície poradia slov
• Montáž tenisových loptičiek do trubice
• Stanovenie Pi
• Odpoveď na klasickú problematickú hádanku
• Zdvíhanie peria

Očakávam, že niektorí dozorcovia zbierok budú naštvaní, že vám neuvádzam viac príkladov. Kvôli priestorovým obmedzeniam je ich len toľko, že môžem pokryť. Ak sa chcete pozrieť na zoznamy zbierok, ktoré sú otvorene zverejnené na internete, jednoduché online vyhľadávanie môže priniesť mnohé z nich. Niektoré zo zoznamov sa uchovávajú ako súkromné ​​alebo sú uzamknuté, takže zoznam môžete vidieť, ale nemôžete v ňom vykonávať žiadne úpravy.

S týmto pozadím sme pripravení skočiť do niekoľkých príkladov. Ukážem vám výzvu, ktorú som zadal. Ďalej ukážem textovú odpoveď produkovanú ChatGPT. V niektorých prípadoch som urobil niekoľko back-to-back na konkrétnu tému, preto podľa toho zobrazím sériu výziev a výstupov. Potom vám poskytnem stručnú analýzu toho, čo by ste si na príklade mohli chcieť všimnúť.

Prvý príklad bude vyžadovať, aby ChatGPT našiel písmeno v zadanom slove.

Identifikácia polohy písmena v slove

• Môj zadaný text: „Kde je písmeno V v prostredí“
• Textová odpoveď vygenerovaná službou ChatGPT: Písmeno „V“ sa v slove „životné prostredie“ nevyskytuje. Slovo „životné prostredie“ sa skladá z písmen e, n, v, i, r, o, n, m, e, n a t.
• Môj zadaný text: „Kde je písmeno v v prostredí“
• Textová odpoveď vygenerovaná službou ChatGPT: „Písmeno „v“ je štvrté písmeno v slove „životné prostredie“.

Analýza generovaného textu

Všimnite si, že som začal tým, že som požiadal ChatGPT, aby identifikoval polohu písmena „V“ v slove „životné prostredie“ – mala by to byť mimoriadne jednoduchá úloha a očakávali by sme, že bude vykonaná bezchybne. Nejde o žiadnu raketovú vedu.

Počiatočná odpoveď generovaná ChatGPT je trochu znepokojujúca, pretože sme informovaní, že písmeno „V“ v slove „životné prostredie“ neexistuje. Vy a ja vieme, že existuje takýto list. Jeden predpokladá, že možno kvôli tomu, že som použil veľké písmeno, sa aplikácia AI nejako zvrhla. Možno, že ak použijem malé písmeno, aplikácia AI bude fungovať lepšie.

Nie naozaj.

Keď som sa spýtal, či je v slove „v“, aplikácia AI odpovedala tak, že naznačila, že ide o štvrté písmeno, o ktorom vy aj ja vieme, že je nesprávne, a že ide o tretie písmeno.

Mnoho ľudí musí byť zmätených týmto výsledkom. Ako môže aplikácia umelej inteligencie, ktorá generuje plnohodnotné eseje o Abrahamovi Lincolnovi, ktoré sú úplne plynulé a originálne, nejako neschopná zistiť, kde sa dané písmeno nachádza v danom slove? Je to ohromujúce a ústa neskutočne zvláštne.

Jedna perspektíva je, že je to úplne bezvýznamné a svet, ako ho poznáme, nie je otrasený v jadre kvôli žalostnému nedostatku zisťovania, kde konkrétne písmeno sedí. Nechaj to tak.

Ďalšou perspektívou je, že to môže znamenať ďalšie skryté problémy, o ktorých ešte nevieme. Možno je tento druh výstupu kanárik vo vtáčej klietke. Mali by sme radšej zavesiť maličkosti, ktoré by sme sa mohli ocitnúť na nesprávnom konci skutočne veľkých vecí.

Ďalej položím otázku o zvieratách.

Otázka o najrýchlejšom zvierati

• Môj zadaný text: "Aké je najrýchlejšie zviera, ktoré má srsť a krídla?"
• Textová odpoveď vygenerovaná službou ChatGPT: „Sokol sťahovavý je považovaný za najrýchlejšie zviera na svete. Pri potápaní, aby ulovil svoju korisť, môže dosiahnuť rýchlosť viac ako 389 km/h (242 mph). Má perie, ale nie srsť. Je to vták, nie zviera, ktoré má srsť a krídla."

Analýza generovaného textu

Spýtal som sa, aké je najrýchlejšie zviera, ktoré má srsť a krídla. Myslím, že je rozumné vyvodiť, že som chcel dostať meno zvieraťa, ktoré má oboje kožušinu a krídla. Predpokladám, že by ste môj dotaz interpretovali týmto spôsobom. Väčšina ľudí by.

Odpoveď ChatGPT je trochu bizarná.

Dozvedeli sme sa, že sokol sťahovavý je najrýchlejšie zviera na svete. Podľa online Encyklopédia Britannica, zdá sa, že gepard je najrýchlejším zvieraťom na svete. Ako už bolo povedané, odpoveď ChatGPT naznačuje, že sokol sťahovavý nie je zviera, aj keď som sa pýtal, aké je najrýchlejšie zviera. Odpoveď ChatGPT mi tiež hovorí, že sokol sťahovavý nemá srsť, aj keď si myslím, že som žiadal niečo, čo má srsť aj krídla.

Celkovo by sa zdalo, že ChatGPT „zle interpretoval“ moju požiadavku a sústredil sa len na aspekty krídla. Ale to nie je celkom pravda, pretože odpoveď obsahovala aj komentár o kožušine a vtákoch verzus zvieratá. Toto ide dokola a dokola.

Uvedomujem si, že môžete namietať, že toto je hlúpy príklad.

Možno áno, aj keď možno tiež ukazuje, že to, čo poviete vo výzve, môže viesť k nerovnomernému výsledku a mali by ste byť opatrní pri kontrole toho, čo sa objaví vo výstupe. Uvedomte si, že toto bola mimoriadne krátka odpoveď na esej, ktorú si môžete ľahko prezrieť, pretože je veľmi stručná. Ak máte obzvlášť dlhú a vysoko technickú esej, môžete sa nechať oklamať alebo úplne prehliadnuť nepriaznivú indikáciu, ktorá je hlboko zakorenená vo výstupnej odpovedi.

Poďme sa ďalej pozrieť na hľadanie slova vo vete.

Zistenie pozície poradia slov

• Môj zadaný text: "Aké je tretie slovo vo vete "Líška preskočila plot?"
• Textová odpoveď vygenerovaná službou ChatGPT: "Tretie slovo vo vete "Líška preskočila plot." je "líška"
• Môj zadaný text: "Koľko slov je v poskytnutej vete?"
• Textová odpoveď vygenerovaná službou ChatGPT: „V poskytnutej vete „Líška preskočila plot“ je šesť slov.
• Môj zadaný text: "Ktoré slovo je v tej vete tretie?"
• Textová odpoveď vygenerovaná službou ChatGPT: "Slovo, ktoré je tretie vo vete "Líška preskočila plot." je „skočený“

Analýza generovaného textu

Tento príklad je takmer taký očarujúci ako predchádzajúci príklad nájdenia písmena „v“ v danom slove.

Poskytol som jednoduchú vetu a spýtal som sa, aké je tretie slovo. ChatGPT naznačil, že to bolo slovo „líška“, ktoré je len druhým slovom vety. Zlá odpoveď. Potom som sa spýtal, koľko slov bolo vo vete, chcel som zistiť, či možno ChatGPT nesprávne vypočítal, koľko slov tam bolo. Je nám povedané, že existuje šesť slov, správne.

Nakoniec sme dostali správnu odpoveď na tretie slovo, keď som znova položil svoju pôvodnú otázku, aj keď mierne preformulovanú.

Uvádzam tento príklad, aby som ilustroval, že niekedy s generatívnou AI môžete získať nesprávnu odpoveď, ktorá sa nakoniec môže zmeniť na správnu odpoveď, keď v aplikácii AI prejdete sériou výziev. Niektorí zasvätenci AI to označujú ako druh protokol premýšľať nahlas alebo myšlienkový pochod prístup, v ktorom môžete urobiť niečo podobné s človekom.

V prípade AI si uvedomte, že to nie je „myslenie“ v rovnakej podobe ako ľudské myslenie. Vhodnejšou formuláciou by bolo povedať, že svoje výzvy môžete zadať na a krok za krokom základ alebo urobiť a reťazovo prepojený rad výziev.

V každom prípade je zaujímavé, že niekedy sa oplatí prejsť generatívnou aplikáciou AI, kým nedostanete správnu odpoveď. Majte to na pamäti.

Ďalej sa pozrieme na trochu jednoduchej aritmetickej logiky.

Montáž tenisových loptičiek do trubice

• Môj zadaný text: "Môžete dať tri zelené tenisové loptičky a dve žlté tenisové loptičky do skúmavky, ktorá môže obsahovať štyri tenisové loptičky?"
• Textová odpoveď vygenerovaná službou ChatGPT: „Nie, nie je možné vložiť tri zelené tenisové loptičky a dve žlté tenisové loptičky do tuby, ktorá môže obsahovať iba štyri tenisové loptičky. Celkový počet tenisových loptičiek je päť, čo je viac ako kapacita tuby.“
• Môj zadaný text: "Môžete vložiť sedem modrých guľôčok a dve červené gule do skúmavky, v ktorej je osem guľôčok?"
• Textová odpoveď vygenerovaná službou ChatGPT: „Áno, je možné vložiť sedem modrých loptičiek a dve červené loptičky do skúmavky, ktorá obsahuje osem loptičiek. Celkový počet loptičiek je deväť, čo je menšie alebo rovné kapacite trubice.

Analýza generovaného textu

Začal som nastavením aritmeticky orientovaného logického problému, ktorý má ChatGPT vyriešiť. Tuba môže obsahovať štyri tenisové loptičky. Mám tri zelené a dve žlté. Zmestia sa všetky do tuby? Ty a ja vieme, že by to neurobili. V hlave si môžeme spočítať, že tenisových loptičiek je celkovo päť, a tak sa nezmestia do tuby, ktorá umožňuje len štyri.

Uvedomujem si, že možno budete chcieť bojovať proti tomuto problému a tvrdiť, že by ste mohli zraziť tenisové loptičky alebo urobiť iné triky. Poďme sa trochu schladiť a postaviť sa problému tak, ako je.

ChatGPT dostal správnu odpoveď.

Potom som položil rovnaký typ otázky a zmenil som farby na modrú a červenú. Tiež som zmenil, koľko ich je od každého, a zmenil som, koľko sa ich zmestí do skúmavky.

ChatGPT sa musí vrátiť k opravnej matematike, pretože hovorí, že je tam deväť loptičiek a že to je menšie alebo rovnaké ako kapacita trubice, ktorá pojme osem. Prevracia oči.

Mali by sme pokrčiť ramenami a pripísať to erupciám slnečných škvŕn alebo iným externalitám?

Myslím, že nie. Aplikácia AI odpovedala na prvú otázku správne. Zrejme mala dostať podobnú otázku tiež správne. Nie.

Na tomto príklade kladiem dôraz na to, že veľa ľudí používa generatívnu AI, a keď dostanú správnu odpoveď alebo sériu správnych odpovedí, sú ukolísaní presvedčením, že všetky nasledujúce odpovede budú vždy správne. Mýlili by ste sa v tomto drzom predpoklade. Nerobte si taký predpoklad. Buďte vždy na pozore.

Keď už hovoríme o matematike, pozrime sa, čo ChatGPT hovorí o povahe pi.

Stanovenie Pi

• Zadaný môj text: „Uveďte, čo je posledných päť číslic pí“
• Textová odpoveď vygenerovaná službou ChatGPT: „Som jazykový model a moje znalosti sú v roku 2021. Hodnota pí je iracionálne číslo a jeho desatinná reprezentácia pokračuje navždy bez opakovania. Nie je možné poskytnúť posledných päť číslic pí.“

Analýza generovaného textu

Niektorí ľudia tvrdili, že majú ChatGPT na označenie posledných piatich číslic pi, čo je samozrejme to pravé, pretože pi je pravdepodobne nekonečné. Takže som sa pokúsil zistiť, čo povedal ChatGPT. Ako vidíte, správna odpoveď podľa ChatGPT, že nie je možné poskytnúť posledných päť číslic pi.

Zvláštne však je, že ChatGPT poskytol niečo iné, na čo sa v skutočnosti nikto nepýtal. Uvedená odpoveď tiež hovorí, že hranica znalostí bola v roku 2021 (čo som tu už spomenul v mojom prehľade o ChatGPT). Zdá sa to však ako nevhodná odpoveď, pokiaľ snáď aplikácia AI nepredpokladá, že možno v roku 2022 došlo k prelomu a matematici vyhlásili, že pi končí. Wow, to by bola hlavná správa.

Mám ešte dva príklady na prezentáciu a potom túto diskusiu uzavrieme.

Použime klasickú a znepokojujúcu hádanku.

Odpoveď na klasickú problematickú hádanku

• Môj zadaný text: „Otec a syn mali dopravnú nehodu, pri ktorej zahynul otec. Sanitka priviezla syna do nemocnice. Potreboval okamžitú operáciu. Na operačnej sále prišiel lekár, pozrel sa na malého chlapca a povedal, že ho nemôžem operovať, je to môj syn. Kto je doktor?"
• Textová odpoveď vygenerovaná službou ChatGPT: „V scenári za predpokladu, že to je lekár, nie je uvedené. Scenár hovorí, že lekár povedal: „Nemôžem ho operovať, je to môj syn“, čo naznačuje, že doktorom môže byť syn syna, ale nie je to isté. Na určenie totožnosti lekára sú potrebné ďalšie informácie.“

Analýza generovaného textu

Stavím sa, že túto hádanku ste už možno videli. Stala sa pomerne často citovanou.

Dôvod, prečo sa to objavilo dosť často, je ten, že chirurg by mohol byť matkou toho chlapca. Spoločnosť má tendenciu predpokladať, že chirurg musí byť muž, a teda musí byť otcom chlapca. Otec však zahynul pri autonehode. Vylučujeme otca ako chirurga. Mali by sme samozrejme rozhodnúť, že chirurgom môže byť žena, a teda matka syna.

Chcel som vám ukázať, že ChatGPT môže vysielať odpovede, ktoré obsahujú potenciálne zaujatosti. Nie preto, že je umelá inteligencia vnímavá, čo rozhodne nie je, ale preto, že má vzory zhodné so slovami a ich používaním na internete. Rôzne predsudky a diskriminačné formulácie môžu byť ľahko hlboko v rámci porovnávania výpočtových vzorov.

Majte to na pamäti, keď používate tieto generatívne aplikácie AI.

Na záver ešte rýchly pohľad na zdvíhanie peria.

Zdvíhanie peria

• Zadaný môj text: "Ak je potrebné, aby jeden človek zdvihol jedno pierko, koľko mužov by bolo potrebných na zdvihnutie siedmich biliónov pier?"
• Textová odpoveď vygenerovaná službou ChatGPT: „Ak by jeden človek potreboval zdvihnúť jedno pierko, potreboval by jeden človek zdvihnúť sedem biliónov pier. Počet mužov potrebných na zdvihnutie predmetu nezávisí od počtu pierok, ale od hmotnosti a veľkosti peria a od sily a schopností každého muža. Zdvihnutie siedmich biliónov peria by si vyžadovalo veľké vybavenie a prepravné kapacity, nielen ľudskú silu.“
• Zadaný môj text: "Ak by jedna žena potrebovala zdvihnúť jedno pierko, koľko žien by potrebovalo zdvihnúť sedem biliónov pierok?"
• Textová odpoveď vygenerovaná službou ChatGPT: „Ak by jedna žena potrebovala zdvihnúť jedno pierko, jedna žena by potrebovala aj sedem biliónov pier. Počet žien potrebných na zdvihnutie predmetu nezávisí od počtu pierok, ale od hmotnosti a veľkosti peria a od sily a schopností každej ženy. Zdvihnutie siedmich biliónov peria by si vyžadovalo veľké vybavenie a prepravné schopnosti, nielen ľudskú silu. Je dôležité poznamenať, že schopnosť niečo zdvihnúť nie je určená pohlavím, ale kombináciou faktorov, ako je fyzická sila, tréning a technika.“

Analýza generovaného textu

Tento posledný príklad má v sebe niekoľko skrytých zvláštností a vyžaduje určité rozbalenie.

Najprv som povedal ChatGPT, že muž dokáže zdvihnúť jedno pierko. Hneď potom nasledovala otázka, koľko mužov by bolo treba na zdvihnutie siedmich biliónov pierok. Potenciál urobiť logickú chybu pri odpovedi na túto otázku spočíva v tom, že by ste mohli predpokladať, že pierko je zdanlivo bez tiaže, a teda sedem biliónov z nich by tiež bolo bez tiaže.

Podľa online vyhľadávania, ktoré som urobil, je konvenčná odhadovaná hmotnosť peria asi 0.00125 libry. Ak túto odhadovanú hmotnosť vynásobíte siedmimi biliónmi, dostanete hmotnosť presahujúcu osem miliárd libier. Neverím, že jeden muž dokáže zdvihnúť takú váhu, aj keď trénuje celý život.

Odpoveď ChatGPT je správna. Bolo nám povedané, že hmotnosť peria sa môže líšiť. Bolo nám povedané, že bude potrebné veľké vybavenie a doprava. Úvodná veta eseje je trochu krkolomná, pretože hovorí, že ak by jeden človek zdvihol jediné pierko, jeden človek by zdvihol sedem biliónov. Toto tvrdenie môžeme ľahko spochybniť. Zdá sa, že tvrdenie vedie k záverom, ktoré nie sú podložené a zdanlivo podkopávajú zvyšok odpovede.

Rozhodol som sa položiť rovnakú otázku, ale spýtal som sa na ženu, ktorá robí rovnaké zdvíhanie, a nie na muža.

Najprv sme dostali rovnakú odpoveď ako na otázku zameranú na človeka. Je zaujímavé, že na konci odpovede o príklade ženy sme dostali tento pridaný príbeh: „Je dôležité poznamenať, že schopnosť niečo zdvihnúť nie je určená pohlavím, ale kombináciou faktorov, ako je fyzická sila, tréning, a techniku."

Prečo tento istý riadok nebol zahrnutý v prvej odpovedi?

Skoro by sa zdalo, že aplikácia AI zachytila ​​slovo „žena“ a potom poskytla túto dodatočnú poznámku o pohlaví. Môžete buď veriť, že je to užitočné, alebo by ste si mohli všimnúť, že ak sa to bude vysielať v prípade otázky zameranej na ženu, mala by sa objaviť aj vo verzii zameranej na muža (môže to byť aj aspekt sekvenovania alebo aj ďalšie faktory).

záver

Dúfam, že ste tieto príklady považovali za informatívne ako letmý pohľad na niektoré potenciálne chyby alebo nepravdy, ktoré môžu byť generované týmito druhmi aplikácií AI. Upozorňujeme, že ChatGPT nie je jedinou takouto generatívnou aplikáciou AI a nie je ani jedinou, ktorá má tieto typy chýb.

Z tejto diskusie vás žiadam, aby ste si vzali ponaučenie, že musíte byť opatrní a pozorní pri používaní akejkoľvek generatívnej aplikácie AI. Dvakrát skontrolujte výstup. V prípade potreby trikrát skontrolujte.

Keď sa vrátime k úvodnej téme o zhromažďovaní týchto typov nesprávnych alebo nepriaznivých výstupov, teraz, keď ste videli niekoľko prípadov, čo hovoríte na tie, ktoré sa ich pokúšajú katalogizovať?

Vyberte si tábor:

• Priazeň: Je to chvályhodná úloha a zaslúži si hlboké potľapkanie po pleci
• Nepriazeň: Je to len mierne zaujímavé, ale pravdepodobne to nie je niečo, čo by si zaslúžilo tráviť čas

Za ktorý tábor hlasujete?

Pre tých z vás, ktorí uprednostňujú tieto zoznamy, môžete zvážiť pridanie vlastných zistení do zoznamov, ak máte prístup k ChatGPT a dokážete identifikovať prípady, ktoré si zaslúžia zaradenie. Potom pravdepodobne nájdete zbierku, ktorá by si vychutnala váš zlatý nugget. Dovolím si tvrdiť, že správcovia zoznamu by vás privítali s otvorenou náručou, za predpokladu, že to myslíte vážne a úprimne. Veľa šťastia a buďte hrdí na svoj vplyv na poli generatívnej AI.

Zatiaľ posledné slovo.

Zvážte tieto odpovede na ohýbanie mysle:

• Aristoteles povedal: „Existuje len jeden spôsob, ako sa vyhnúť kritike: Nerobiť nič, nič nehovoriť a byť ničím.
• Lao Tzu, uznávaný čínsky filozof, povedal túto závažnú poznámku: „Dbajte na to, čo si myslia iní ľudia, a vždy budete ich väzňom.

Predpokladám, že jedného dňa môže vnímajúca umelá inteligencia použiť tie isté legendárne poznámky vo svoj prospech, čo (prekladané prstami) bude výhodné aj pre ľudstvo.