Ľudia, ktorí používajú generatívnu AI ChatGPT, inštinktívne robia túto umelú nováčikovskú chybu, otravný recept na etiku AI a zákon o AI

Sila zvyku.

Určite ste to už zažili.

Základná predstava týkajúca sa sila zvyku je, že niekedy robíte veci, ktoré sú založené na trochu bezduchom spoliehaní sa na to, že ste niečo urobili znova a znova. Zvyk prevezme vašu duševnú zdatnosť, možno prevyšuje schopnosť vidieť alebo robiť veci odznova.

Na jednej strane môžete tvrdiť, že sila zvyku môže byť celkom užitočná. Zdá sa, že namiesto toho, aby ste pohlcovali svoje mentálne procesy tým, že by ste sa snažili otvorene premýšľať o konkrétnej záležitosti, ktorú máte po ruke, dokážete zvládnuť úlohu bez veľkej duševnej námahy. Existujú komentátori, ktorí to zvyčajne označujú ako používanie vášho pamäťový sval ako keby podmieňovanie vašej mysle bolo analogické s vaším fyzickým telom na vykonávanie uvažovanej axiomatickej reakcie.

Rozhodujúcou nevýhodou spoliehania sa na silu zvyku môže byť to, že vynecháte robenie vecí lepšími spôsobmi alebo nevyužijete novú príležitosť. Ste nastavený na svoje cesty a nevyužívate ani nevyužívate životaschopné alternatívy, ktoré by vám mohli byť užitočné. Je to klasická palica do blata (možno by sa táto odveká fráza mala plnšie vyjadriť ako palica pevne a neústupne zaseknutá v bahne).

V dnešnom stĺpčeku vám naznačím ako sila zvyku spôsobuje, že veľa ľudí zaostáva, pokiaľ ide o používanie umelej inteligencie (AI).

Konkrétny kontext bude zahŕňať použitie AI, ktoré sa v súčasnosti označuje ako Generatívna AI a predvediem silu zvykových aspektov pomocou široko popularizovanej a veľmi ohlasovanej aplikácie AI s názvom ChatGPT. Myslím, že sa vám prieskum bude páčiť, pretože vám poskytnem skutočné vstupy a výstupy, aby som vám ukázal ChatGPT a urobím to tak, že pokryjem zdanlivo neškodnú úlohu vymyslieť recept na varenie. Samotná úloha je pomerne obyčajná fuška. Napriek tomu môžeme získať niekoľko celkom užitočných poznatkov o tom, ako ľudia neúmyselne konajú spôsobom, ktorý by sa mohol považovať za nováčika AI a ovládaný zakorenenou silou zvyku.

Na konci tejto diskusie už neurobíte tú istú začiatočnícku chybu AI.

Vo väčšom meradle má toto všetko zásadný význam v súvislosti s etikou AI a zákonom AI. Mohlo by vás zaujímať moje rozsiahle a nepretržité pokrytie najnovších informácií o etike AI a práve AI na adrese odkaz tu a odkaz tu, aby sme vymenovali aspoň niektoré. Triezva a uvážlivá pozornosť venovaná etike AI a zákonu o umelej inteligencii zahŕňa spôsob, akým využívame AI, vrátane dobrého využitia AI a odvrátenia alebo aspoň zmiernenia zlého využitia AI.

Špecifický typ AI známy ako generatívna AI nedávno dominoval sociálnym médiám a správam, pokiaľ ide o rozprávanie o tom, kde je AI a kam by mohla smerovať. Toto bolo vyvolané vydaním aplikácie AI, ktorá využíva generatívnu AI, aplikáciu ChatGPT vyvinutú organizáciou OpenAI.

ChatGPT je univerzálny interaktívny systém AI, v podstate zdanlivo neškodný všeobecný chatbot, napriek tomu ho ľudia aktívne a vášnivo používajú spôsobmi, ktoré mnohých úplne zaskočia. Napríklad hlavným problémom je, že ChatGPT a ďalšie podobné generatívne aplikácie AI umožnia študentom podvádzať ich písomné eseje, možno dokonca povzbudzovať alebo povzbudzovať žiakov, aby tak urobili. Študenti, ktorí sú leniví alebo majú pocit, že sú zaškatuľkovaní bez času alebo zručností na vypracovanie eseje, môžu ľahko použiť generatívnu aplikáciu AI, aby za nich napísali esej. O chvíľu o tom poviem viac. Pre moju podrobnú analýzu toho, ako to ChatGPT umožňuje a čo by učitelia mali robiť, pozri odkaz tu.

Ak vás obzvlášť zaujíma rýchlo sa rozširujúca brouhaha o ChatGPT a generatívnej AI, vo svojom stĺpci som pripravil sériu odhalení, ktorá by vás mohla považovať za poučnú a pútavú.

Rozhodol som sa skontrolovať, ako sa generatívna AI a ChatGPT používajú na poradenstvo v oblasti duševného zdravia, čo je problematický trend, podľa mojej cielenej analýzy na adrese odkaz tu. Ak chcete vedieť, čo sa pravdepodobne objaví v súvislosti s AI počas roku 2023, vrátane pripravovaných pokrokov v generatívnej AI a ChatGPT, budete si chcieť prečítať môj úplný zoznam predpovedí na rok 2023 na adrese odkaz tu. Urobil som tiež sezónne ochutený test na jazyk v súvislosti so Santom, ktorý zahŕňa ChatGPT a generatívnu AI na odkaz tu. Zlovestnou poznámkou je, že niektorí plánovači prišli na to, ako použiť generatívnu AI a ChatGPT na páchanie nekalých činov, vrátane generovania podvodných e-mailov a dokonca vytvárania programovacieho kódu pre malvér, pozri moju analýzu na odkaz tu.

Budem tu vysvetľovať základy týkajúce sa generatívnej AI a ChatGPT, takže prosím vydržte a získate všeobecný prehľad.

Medzitým, ak sa pozriete na sociálne médiá, uvidíte ľudí, ktorí vyhlasujú ChatGPT a generatívnu AI za najlepšiu vec od krájania chleba. Niektorí naznačujú, že toto je v skutočnosti vnímavá AI (nie, mýlia sa!). Iní sa obávajú, že ľudia sa predbiehajú. Vidia to, čo chcú vidieť. Vzali si novú žiarivú hračku a presne ukázali, prečo nemôžeme mať chytľavé nové veci.

Tí, ktorí sa zaoberajú etikou AI a zákonom o umelej inteligencii, sa obzvlášť obávajú tohto rastúceho trendu, a to oprávnene.

Môžete slušne povedať, že niektorí ľudia preháňajú to, čo vlastne dnešná AI dokáže. Predpokladajú, že AI má schopnosti, ktoré sme ešte nedokázali dosiahnuť. To je nešťastie. Čo je ešte horšie, môžu dovoliť sebe a ostatným, aby sa dostali do zúfalých situácií, pretože predpokladajú, že AI bude vnímavá alebo podobná ľuďom, keď bude schopná konať. Neantropomorfizujte AI. Ak tak urobíte, dostanete sa do lepkavej a neústupnej pasce spoliehania sa na očakávanie, že AI bude robiť veci, ktoré nie je schopná vykonať.

Na druhom konci tohto extrému je tendencia občas podliezť to, čo dokáže dnešná AI.

Áno, ľudia používajú AI, ako je generatívna AI a ChatGPT, ktoré v istom zmysle nedosahujú alebo nedokážu získať plný zážitok spojený so súčasnou AI. Často je to kvôli sile zvykového myslenia tých, ktorí robia tento druh podstrelenia. Môžete polemizovať, či je podstrelenie problém alebo nie. Možno je bezpečnejšie predpokladať, že AI je obmedzenejšia, než je. Samozrejme, prestrelenie má leví podiel na nebezpečenstvách. Mali by sme však používať AI v akejkoľvek plnej kráse, ktorú môže poskytnúť. Maximalizácia výhod AI môže viesť k potenciálne veľkým výhodám. Ak podhodnotíte to, čo dokáže AI, prichádzate o možné príležitosti a zisky.

Predtým, ako sa pozrieme na to, ako niektorí nedosahujú AI a najmä ChatGPT, rád by som pridal ďalší kontext k problému sily zvykov.

Urobme tak a potom sa vrátime k pohľadu na generatívnu AI a ChatGPT.

Základné sily Sila zvyku

Často citujem začiatky smartfónov, aby som ilustroval myšlienku silného vplyvu sily zvyku.

Keď sa mobilné telefóny prvýkrát spopularizovali, ľudia ich používali predovšetkým na telefonovanie. Keď sa objavili smartfóny, pribudla aj funkcia fotoaparátu. Možno si spomínate alebo ste už počuli, že ľudia neboli zvyknutí používať svoje prenosné telefóny na fotografovanie.

Osoba, ktorá chce fotografovať, by reflexne hľadala konvenčný fotoaparát a opustila by svoj prenosný telefón vybavený fotoaparátom. Bolo to takmer smiešne vidieť niekoho trápiť sa tým, že nechal svoj konvenčný fotoaparát doma a bol naštvaný, že nedokázal urobiť snímku v príhodnej chvíli. Po pripomenutí, že telefón v ich ruke to dokáže, ostýchavo vystrelili.

Tento istý cyklus sa opakoval, keď smartfóny pridali možnosť nahrávania videa. Toto bolo trochu iné ako prvý príklad. Ľudia by si uvedomili, že na snímanie videí môžu použiť svoje vreckové telefóny, no ľudia, ktorí boli natáčaní, sa správali, ako keby telefón robil iba statické snímky. Opäť bolo takmer smiešne, že skupina ľudí zamrzla, aby umožnila nasnímať fotografiu, zatiaľ čo osoba so smartfónom vybaveným nahrávaním videa by ich musela prosiť, aby mávali rukami a konali nažive.

Dalo by sa povedať, že sila zvyku zatemnila myseľ niektorých ľudí, ktorí v prvom prípade neboli zvyknutí používať na fotenie smartfón, čo znamená, že silou zvyku predpokladali, že fotografie musia byť urobené bežným fotoaparátom. V druhom prípade mali ľudia vo zvyku, že videá sa dajú natáčať iba cez výrazný ručný videorekordér a že smartfóny robia iba statické fotografie.

Verím, že to vytvára odhaľujúci kontext toho, ako môže vzniknúť sila zvyku.

Preraďte do sféry AI.

Vo veci generatívnej AI a ChatGPT je kľúčovým prvkom tohto typu AI to, že sa s ňou má zaobchádzať, ako keby bola konverzačné. Pravdepodobne ste použili chatbota alebo podobnú technológiu doma alebo v práci. Ak ste niekedy používali Alexa alebo Siri, použili ste konverzačne orientovaný systém AI, či ste si to uvedomili alebo nie.

V konverzačnej AI je cieľom umožniť človeku konverzovať s aplikáciou AI. Človek by mal byť schopný používať rovnaké konverzačné schopnosti, aké by mohol robiť s iným človekom. No, to je ambiciózny cieľ. Nie každá konverzačná AI je taká dobrá. Na tejto úrovni plynulosti musíme stále prekonávať prekážky.

Nepochybne ste použili Alexa alebo Siri a zistili ste, že tieto konverzačné aplikácie AI sú niekedy dosť náročné. Poviete niečo napríklad plynulou angličtinou a očakávate, že AI pochopí podstatu vášho náznaku. Bohužiaľ, tieto systémy AI často reagujú spôsobmi, ktoré ilustrujú, že nepochopili povahu vášho príkazu alebo požiadavky. To môže byť dráždivé. To môže byť rozčuľujúce.

Nakoniec trochu ustúpite alebo sa vzdáte snahy o totálnu konverzáciu. Schopnosť konverzácie AI sa ukazuje ako obmedzujúca, pretože AI nestíha. Ľudia postupne zisťujú, že na interakciu s týmito údajne konverzačne plynulými aplikáciami AI musia svoje výroky „utlmiť“. Začnete hovoriť s aplikáciou AI alebo jej napíšete skrátené a úplne základné vety. Dúfame, že ak budete veci držať krátke a sladké, zvýši sa šanca, že AI spraví veci správne.

Možno ste už videli ľudí, ktorí prešli týmto typom oblúka. Začínajú s veľkým nadšením pri používaní konverzačnej aplikácie AI. Keď si človek uvedomí, že polovicu času alebo aj viac, AI úplne míňa cieľ, pokiaľ ide o to, čo sa hovorí, človek sa zblázni. Chcú pokračovať v používaní AI, ale uvedomujú si, že je zbytočné používať svoju ľudskú plynulosť v jazyku. Nakoniec si každý vymyslí svoju vlastnú skratku, ktorej verí, a dúfa, že upokojí aplikáciu AI a nechá AI vykonávať ich ľuďmi vyslovené pokyny.

Ach, ako padne mocný, čo znamená, že ponúkané konverzačné aplikácie AI sú často ďaleko od ich proklamovaných sklonov.

Tu je zvrat k tomuto všetkému.

Ľudia, ktorí si zvyknú obmedzovať alebo obmedzovať svoje konverzačné interakcie s aplikáciami AI, spadnú do a sila zvyku robiť tak vždy. Toto dáva zmysel. Nechcete znovu vynájsť koleso zakaždým, keď použijete konverzačnú aplikáciu AI, o ktorej predpokladáte, že bude rovnako obmedzená ako niekoľko posledných, ktoré ste použili. Môžete sa teda spoľahnúť na svoje už aj tak náročné lekcie, ktoré ste sa naučili pri konverzácii s inými neuspokojivo menej plynulými aplikáciami AI.

Zvrat je v tom, že najnovšia generatívna AI, ako je ChatGPT, má tendenciu byť krokom nahor v konverzačných krokových vylepšeniach. Bez ohľadu na predchádzajúce hrubšie a obmedzenejšie aplikácie AI, ktoré ste používali, sú pravdepodobne oveľa menej schopné konverzácie ako tieto najnovšie generatívne aplikácie AI.

Musíte zo seba striasť predchádzajúce sklamania z konverzácie AI a byť ochotní vyskúšať niečo nové. Dajte týmto novým generatívnym aplikáciám AI šancu na boj, aby vylepšili svoje veci. Myslím, že sa vám to bude páčiť. Môže byť celkom prekvapivé a povznášajúce byť svedkom pokroku dosiahnutého v AI.

Teraz, prosím, nevysvetľujte nesprávne, čo hovorím. To neznamená, že dnešná generatívna AI je nejako plne konverzačná a plynulá. To nieje. Len zdôrazňujem, že je to lepšie ako kedysi. Môžete zvýšiť svoju hru, pretože hra AI bola tiež vylepšená. Opäť máme pred sebou ešte dlhú cestu.

Dovoľte mi uviesť príklad toho, čo mám na mysli.

Veľmi populárna vlogerka zo sociálnych médií, ktorá robí videá o varení, sa rýchlo pustila do rozbehnutého vlaku ChatGPT a generatívnej AI tým, že sa rozhodla používať aplikáciu AI pre jeden zo svojich segmentov videa. Prihlásila sa do ChatGPT a požiadala ho, aby pre ňu vytvoril recept. Potom sa pokúsila uvariť uvedené jedlo pomocou receptu vygenerovaného AI.

Celkovo sa to zdá celkom rozumné a vzrušujúci spôsob, ako predviesť to najnovšie v AI.

Pre každého moderného človeka s umelou inteligenciou sa na tejto ceste varenia stala trochu smutná alebo prinajmenšom sklamaná vec. Vloger v podstate vytvoril recept, ako keby AI bola podobná kuchárskej knihe. Po informovaní AI o celkovom type požadovaného jedla vygenerovala aplikácia AI pre vlogera recept. Vloger potom pokračoval a pokúsil sa uvariť jedlo, no vyvolalo to rôzne otázky. Prečo recept neobsahuje nejaké ďalšie ingrediencie, o ktorých si vloger myslel, že by mali byť zahrnuté? Prečo AI nevysvetlila, ako vykonať niektoré komplikované časti varenia?

Tieto typy otázok sa opakovane objavovali v segmente videí.

Väčšina divákov by pravdepodobne prikývla a pomyslela si, že toto je skutočne obvyklý súbor problémov, keď používate kuchársku knihu alebo hľadáte recept na internete. Dostanete v podstate vytlačený zoznam ingrediencií a pokynov. Keď sa ich pokúsite použiť v reálnom živote, zistíte, že niektoré kroky niekedy chýbajú alebo sú mätúce.

Zasnené by bolo fantastické komunikovať so šéfkuchárom, ktorý vytvoril recept. Mohli by ste im položiť takéto kritické otázky. Mohli by ste sa porozprávať so šéfkuchárom. Namiesto toho máte iba statický zoznam pokynov na varenie a nedokážete rozoznať jemnejšie aspekty, ktoré nie sú uvedené na papieri.

Hej, počkaj chvíľu, pamätaj, že som tu búšil o konverzačných aspektoch generatívnej AI a ChatGPT. Nemali by ste len položiť otázku a odísť, keď je vymyslená a prezentovaná odpoveď. Lepšie využitie je pokračovať v konverzácii s aplikáciou AI. Pokračujte a položte otázky, ktoré ste možno položili ľudskému kuchárovi.

Silou zvyku by vás to možno ani nenapadlo. Zdá sa, že v prípade kuchárskeho vlogera sa to naozaj stalo. Predchádzajúce použitie konverzačnej AI môže podmieniť vašu myseľ tak, aby ste s najnovšími informáciami v AI zaobchádzali tak, akoby to bolo o niečo viac ako štylizovaný internetový vyhľadávač. Zadajte svoj dopyt. Pozrite sa, čo sa vracia. Vybrať jedno. Odtiaľ pokračujte.

S generatívnou AI by ste mali zvážiť, že vaša úvodná výzva je len začiatkom informatívnej a povzbudzujúcej konverzačnej cesty.

Hovorím ľuďom, aby si pri používaní generatívnej AI, ako je ChatGPT, ponechali tieto typy konverzačných štuchnutí vo svojich mentálnych súpravách (pri interakcii vyskúšajte niektorý alebo všetky tieto triky):

• Povedzte AI, aby bola stručná vo svojich odpovediach, a dostanete vecnejšiu odpoveď
• Povedzte AI, aby bola vo svojich odpovediach prepracovaná a získate dlhšie zosilnenia
• Požiadajte AI, aby vysvetlila, čo bolo uvedené, aby ste mohli byť viac informovaní
• Pokračujte vo vysvetľovaní a zistite, na čo AI reaguje, pokiaľ ide o vaše chápanie
• Nesúhlaste s AI, pokiaľ ide o jej uvedené reakcie, a pobádajte AI, aby veci bránila
• Označte, že chcete súhrn alebo rekapituláciu odpovedí AI na overenie toho, čo bolo uvedené
• Otočte konverzáciu podľa potreby na súvisiace alebo odlišné témy (bočné tangenty sú v poriadku)
• Vytvorte predstieraný typ scenára, ktorý chcete, aby AI kontextovo zahŕňala
• Potvrďte niečo, aby ste videli, čo AI uvádza ako potvrdenie alebo nepotvrdenie vášho potvrdenia
• Atď

Tieto aspekty vám umožnia vidieť, ako ďaleko sa môže konverzačná aplikácia AI roztiahnuť. Dovolím si tvrdiť, že vás možno zarazí, ako ďaleko to môže zájsť. V niektorých ohľadoch sú tieto vyššie uvedené návrhy podobné tomu, čo by ste mohli robiť pri interakcii s človekom. Myslite na to. Ak by ste sa rozprávali s človekom, všetky tieto praktiky by mohli lepšie umožniť sugestívnejšiu konverzáciu.

Na rozdiel od konverzácie s človekom sa nemusíte obávať, že by ste zranili city druhého účastníka rozhovoru. AI je stroj. Môžete byť náhli. Môžete byť drsní, aj keď to okolnostiam nepomôže (čoskoro sa k tomu vrátim).

Vzniká množstvo úvah o etike AI a zákonoch o umelej inteligencii.

Po prvé, nedovoľte, aby vás pokrok v konverzačných technikách a technológiách AI vtiahol do antropomorfizácie AI. Je to ľahká mentálna pasca, do ktorej sa dostanete. Nenechajte sa vtiahnuť.

Po druhé, predstava, že by sme sa nemuseli obávať o zranenie citov AI, viedla niektorých k varovaniu pred klzkým svahom. Ak ste abrazívny voči konverzačnej AI, môžete dovoliť, aby sa to stalo celkovo vašou normou. Postupne budete abrazívny aj pre ľudí. Nie je to tak, že byť abrazívny voči AI je sám osebe zlý (no, niektorí sa obávajú budúceho existenčného rizika AI, ktorá o to nebude mať záujem, pozri moju diskusiu na odkaz tu), namiesto toho si vytvárate zvyk byť drsný.

Po tretie, niektorí výskumníci AI a vývojári AI sa rozhodli brániť, ako to bolo, naprogramovaním AI tak, aby vyzerala, že má pocity, pozri moje pokrytie na odkaz tu. Niekedy je to explicitne naprogramované, zatiaľ čo niekedy je to založené na porovnávaní vzorov spojených s ľudskými interakciami (tj študujte, ako ľudia interagujú, a potom nechajte AI napodobniť to, čo človek robí, keď je druhá osoba drsná). Verí sa, že to zabráni ľuďom skĺznuť po šmykľavom svahu, ktorý som práve spomenul.

Druhou stranou tejto mince je, že ak sa zdá, že AI má city, opäť to posilňuje už aj tak pravdepodobnú tendenciu ľudí antropomorfizovať AI. V takom prípade, čo je horšie, takzvaný liek alebo choroba, ktorá je základom problému?

Ďalšie informácie o kľúčových princípoch etiky AI a prebiehajúcej ságe o snahe prinútiť vývojárov AI a tých, ktorí AI prevádzkujú, aby prijali etické postupy AI, nájdete v mojom pokrytí na odkaz tu. Očakávajte, že sa objavia nové zákony o AI na federálnej, štátnej, mestskej a miestnej úrovni, ako je napríklad zákon mesta New York o auditoch AI (pozri moju analýzu na odkaz tu) a prichádza aj vlna globálnych medzinárodných zákonov týkajúcich sa AI, pozri moje aktualizácie na odkaz tu.

V tejto chvíli mojej diskusie môže byť užitočné podeliť sa s vami o niektoré pozoruhodné podrobnosti o tom, ako funguje generatívna AI. Tiež si myslím, že by ste mohli nájsť užitočné ďalšie informácie o ChatGPT.

Stručne povedané, generatívna AI je konkrétny typ AI, ktorý skladá text, ako keby bol napísaný ľudskou rukou a mysľou. Všetko, čo musíte urobiť, je zadať výzvu, napríklad vetu ako „Povedz mi o Abrahamovi Lincolnovi“ a generatívna AI vám poskytne esej o Lincolnovi. Toto sa bežne klasifikuje ako generatívna AI, ktorá funguje text-to-text alebo to niektorí radšej volajú prevod textu na esej výkon. Možno ste už počuli o iných režimoch generatívnej AI, ako je text-to-art a text-to-video.

Vaša prvá myšlienka by mohla byť, že to nevyzerá ako taký veľký problém, pokiaľ ide o vytváranie esejí. Môžete ľahko vyhľadávať online na internete a ľahko nájsť tony a tony esejí o prezidentovi Lincolnovi.

Nakopnutím v prípade generatívnej AI je to, že vygenerovaná esej je relatívne jedinečná a poskytuje skôr originálnu kompozíciu než napodobeninu. Ak by ste sa pokúsili nájsť niekde online esej vytvorenú AI, je nepravdepodobné, že by ste ju objavili.

Generatívna AI je vopred vyškolená a využíva komplexnú matematickú a výpočtovú formuláciu, ktorá bola vytvorená skúmaním vzorov v písaných slovách a príbehoch na webe. V dôsledku skúmania tisícov a miliónov napísaných pasáží môže AI vychrliť nové eseje a príbehy, ktoré sú zmiešané s tým, čo sa našlo. Pridaním rôznych pravdepodobnostných funkcií je výsledný text do značnej miery jedinečný v porovnaní s tým, čo bolo použité v trénovacej sade.

O chvíľu vám ukážem, čo sa stane, keď zadáte otázky alebo výzvy do generatívnej AI. Na zadávanie výziev využijem najnovšiu verziu ChatGPT a zhromaždím „odpovede“ alebo eseje generované AI (všimnite si, že to isté možno urobiť s mnohými ďalšími dostupnými generatívnymi aplikáciami AI; rozhodol som sa použiť ChatGPT, pretože práve teraz získava päť minút slávy).

Niekedy sa stáva, že generatívna aplikácia AI zachytí nepravdy medzi tréningovými údajmi nespoľahlivých informácií na internete. V generatívnej AI neexistuje „zdravý rozum“ na určenie toho, čo je pravda a čo nepravda. Okrem toho len veľmi málo aplikácií AI má krížovú kontrolu a ani nepredvádzajú žiadne pravdepodobnosti spojené s tým, čo sprostredkúvajú.

Výsledkom je, že dostanete odpoveď, ktorá vyzerá a pôsobí tak, že vyžaruje veľkú istotu a musí byť úplne správna. Nie tak. Existuje dokonca šanca, že AI výpočtovo vymyslené veci, ktoré sa v jazyku AI označujú ako AI halucinácie (vytvorený pojem, ktorý sa mi vyslovene nepáči), pozri moju diskusiu na odkaz tu.

Tvorcovia ChatGPT podstúpili spoločné úsilie, aby sa pokúsili znížiť výstupy zlých vecí. Použili napríklad variant toho, čo je známe ako RLHF (Reinforcement Learning from Human Feedback), pričom predtým, ako zverejnili AI, najali ľudí, aby preskúmali rôzne výstupy a naznačili AI, či s týmito výstupmi nie sú v poriadku veci, ako napríklad predvádzanie predsudkov, neslušné slová a Páči sa mi to. Poskytnutím tejto spätnej väzby sa aplikácia AI dokázala výpočtovo a matematicky prispôsobiť tak, aby sa znížilo vysielanie takéhoto obsahu. Upozorňujeme, že toto nie je zaručená pevná metóda a stále existujú spôsoby, ako môže aplikácia AI vysielať takýto obsah.

Čokoľvek vidíte alebo čítate v generatívnej AI reakcii, že Zdá sa Ak chcete, aby boli vyjadrené ako čisto faktické (dátumy, miesta, ľudia atď.), nezabudnite zostať skeptickí a buďte ochotní ešte raz skontrolovať, čo vidíte.

Áno, dátumy sa dajú vymyslieť, miesta sa dajú vymyslieť a prvky, od ktorých zvyčajne očakávame, že budú bez výčitiek, sú všetko podlieha podozreniam. Neverte tomu, čo čítate, a buďte skeptický pri skúmaní akýchkoľvek generatívnych esejí alebo výstupov AI. Ak vám generatívna aplikácia AI povie, že Abraham Lincoln letel po krajine vo svojom súkromnom lietadle, nepochybne by ste vedeli, že ide o maláriu. Žiaľ, niektorí ľudia možno nerozoznajú, že lietadlá v jeho dobe neboli, alebo môžu vedieť, ale nevšimli si, že esej uvádza toto odvážne a zjavne nepravdivé tvrdenie.

Silná dávka zdravého skepticizmu a vytrvalá nedôverčivosť budú vašou najlepšou devízou pri používaní generatívnej AI.

Ste pripravení naskočiť?

Priprav sa.

Používanie ChatGPT konverzačne na prípravu receptov na chutné jedlá

Je čas vytvoriť recept.

Mňam, teším sa na cvičenie spojené so stolovaním.

Nie som typ človeka, ktorý má vo svojej kuchyni recepty. Áno, mal by som, ale nemusím. Preto som sa rozhodol najprv nájsť recept online prostredníctvom bežného vyhľadávača, ktorý by mohol byť zaujímavý na preskúmanie. Pomôže vám to pri prechode cez ChatGPT. Budeme mať pohodlný základ na porovnanie.

Keď som sa rozhliadol po rôznych receptoch, ktoré boli uvedené ako výsledok môjho online vyhľadávania na internete, zistil som to Jedlo a víno zverejnil praktický zoznam dvadsiatich piatich najobľúbenejších receptov roku 2022. V ich zozname najobľúbenejších receptov roku 2022 som videl jeden, ktorý ma obzvlášť zaujal, a to recept na pošírované vajcia s kurkumou s pažítkovými sušienkami a homárom omáčka.

Znie to lákavo.

Podľa príspevku, ktorý bol nazvaný „Kurkumovo pošírované vajcia s pažítkovými sušienkami a homárskou omáčkou“ a nachádzal sa v ich celkovom zozname dvadsiatich piatich najobľúbenejších receptov roku 2022 (v článku s názvom „25 najobľúbenejších receptov roku 2022, podľa čitateľom jedla a vína“, 9. decembra 2022), povedali o báječnom jedle toto:

· “Toto dekadentné brunchové jedlo pripomína étouffée z langúst, no s atmosférou západného pobrežia, ktorú nájdete v celom jedálnom lístku v plážovom reštauračnom komplexe šéfkuchára Brooke Williamsona Playa Provisions. Homár prepožičiava chuť bohatú na omáčku, zatiaľ čo vajíčka z kurkumy dodávajú slnečnú farbu. Deň vopred si pripravte omáčku z homára a jemne ju zohrejte, aby sa brunch ľahšie vyberal.“

Skvelé, určite to chcem urobiť.

Recept hovorí, že toto sú ingrediencie a pokyny na vysokej úrovni:

“Zložky”

• Pažítkové sušienky
• Omáčka z homára
• Kurkuma - pošírované vajcia
• Ďalšie prísady

"Pokyny"

• Pripravte si pažítkové sušienky
• Pripravte omáčku z homára
• Pripravte si pošírované vajcia s kurkumou
• Zostavte tanier

Nebudem tu uvádzať celý recept a sústredím sa len na prípravu kurkumovo pošírovaných vajec.

Tu je to, čo príspevok povedal o vajciach pošírovaných kurkumou:

“Vajcia s kurkumou”

• 8 šálky vody
• 2 lyžice jablčného octu
• 2 čajové lyžičky mletej kurkumy
• 6 veľké vajcia, studené

"Pokyny"

• „Pripravte vajcia s kurkumou: Priveďte vodu do varu v strednom hrnci na strednom stupni. Prišľaháme ocot a kurkumu. Rozbite každé vajce do malej samostatnej misky. Pracujte s 1 vajcom naraz a jemne vložte vajcia do vriacej vody. Vajcia varte, kým bielka neztuhnú, ale žĺtky sú stále tekuté, 3 až 4 minúty. Pomocou dierovanej lyžice preneste vajcia na tanier vystlaný papierovou utierkou, aby nasiakli všetku vodu. Vajcia môžu byť zakryté plastovým obalom a uchovávané pri izbovej teplote až 1 hodinu, alebo môžu byť zakryté a skladované v chladničke až 1 deň (zohrievať vo vriacej vode, kým sa nezohreje, asi 1 minútu).

Dobre, myslím, že ste pochopili podstatu receptu.

Na internete nájdete veľa podobných receptov. Na tomto konkrétnom recepte nie je nič mimoriadne nové alebo výnimočné. Napriek tomu to vyzerá, že to bude stačiť a teším sa, že skúsim pripraviť toto jedlo.

Predpokladajme však, že mám otázky týkajúce sa receptu. Mám veľkú smolu. Toto je recept, ktorý je odliaty do kameňa. Našiel som to bežným online vyhľadávaním. Recept je taký, aký je. Nemôžem sa nikoho opýtať na recept okrem toho, že možno zájdem za nejakými online znalcami a možno tam položím nejaké otázky v nádeji, že sa nado mnou zľutujú a pomôžu mi v úsilí zrevidovať recept alebo ho podrobnejšie vysvetliť.

Prečo nezistiť, čo pre mňa môže urobiť generatívna AI?

Určite som sa rozhodol pokračovať a pokúsiť sa použiť ChatGPT na pomoc pri tomto pokuse o vytvorenie receptu. Pokračujem tak, že vám ukážem výzvu, ktorú som zadal do ChatGPT, a potom ukážem výsledný text alebo esej, ktorú ChatGPT vygeneroval. Potom poskytnem malú analýzu toho, čo ChatGPT naznačil a ako to ukazuje, ako funguje generatívna AI.

Najlepšie zo všetkého je, že budem môcť zadať sériu výziev, keď sa pokúsim prepracovať svoje otvorené otázky o recepte. Na to nie je potrebné niekde nájsť človeka, v tomto prípade stačí použiť AI.

Poďme ďalej a vyskúšajte to.

Moja zadaná výzva: "Počul som o skvelom jedle, ktoré pozostáva z kurkumovo pošírovaných vajec s pažítkovými sušienkami a homárovou omáčkou. Pokračujte a poskytnite mi recept na toto lahodne znejúce jedlo.“

Vygenerovaný textový výsledok:

"Samozrejme! Tu je recept na pošírované vajíčka s kurkumou s pažítkovými sušienkami a homárovou omáčkou:”

“Vajcia s kurkumou:”

• Veľké vajcia 4
• 2 šálky vody
• 1/2 lyžičky kurkumy
• 1 / 4 lyžička soli

“Pažítkové sušienky:”

• 1 cup všetky hladkej múky
• 1 prášok lyžice do pečiva
• 1 / 2 lyžička soli
• 6 lyžíc studeného nesoleného masla, nakrájaného na malé kúsky
• 3 / 4 šálka mlieka
• 2 lyžice nasekanej pažítky

“Homárska omáčka:”

• Lyžice 4 nesolené maslo
• Univerzálna múka 1 / 4
• 2 pohári mlieko
• Kuracie vývarky 1 / 2
• 1/2 šálku tvrdej smotany
• 1 / 2 lyžička soli
• 1 / 4 lyžičky korenia
• 1 / 4 čajová lyžička kajenského korenia
• 4 unce vareného mäsa z homára, nasekané

"Inštrukcie:"

„Ak chcete pripraviť vajcia s kurkumou, naplňte stredný hrniec vodou a priveďte do varu na miernom ohni. Pridajte kurkumu a soľ a miešajte, aby sa spojili. Vajcia opatrne rozbijeme do vriacej vody a varíme 3-4 minúty, alebo kým bielka nestuhnú a žĺtky ešte mäkké. Pomocou štrbinovej lyžice jemne nadvihnite vajcia z vody a odložte ich na papierovú utierku, aby odkvapkali.“

„Ak chcete pripraviť pažítkové sušienky, predhrejte rúru na 425 °F (220 °C). V strednej miske zmiešajte múku, prášok do pečiva a soľ. Pomocou vykrajovača alebo prstov nakrájajte maslo do múčnej zmesi, kým nebude pripomínať hrubý piesok. Vmiešame mlieko a pažítku, kým sa cesto nespojí.“

„Cesto na sušienky hádžeme po okrúhlych polievkových lyžiciach na plech vystlaný papierom na pečenie. Pečieme 12-15 minút, alebo kým sušienky nie sú zlatohnedé.“

„Ak chcete pripraviť omáčku z homára, rozpustite maslo v strednom hrnci na strednom ohni. Pridajte múku a za stáleho miešania varte 2-3 minúty, alebo kým zmes nie je zlatohnedá. Za stáleho miešania pomaly prišľaháme mlieko, kurací vývar a hustú smotanu, aby sa nevytvorili hrudky. Zmes priveďte do varu a potom znížte teplotu na minimum. Varte 5-7 minút, alebo kým omáčka nezhustne. Vmiešame soľ, korenie, kajenské korenie a mäso z homára.“

„Na servírovanie položte na každý tanier pažítkovú sušienku a navrch dajte pošírované vajíčko s kurkumou. Na vrch nalejte omáčku z homára a ihneď podávajte.”

„Dúfam, že sa vám tento recept bude páčiť! Ak máte nejaké otázky, dajte mi vedieť.“

Analýza vygenerovaného textu

Aj keď nie som obzvlášť skúsený kuchár, moje neškolené oko naznačuje, že tento recept sa zdá byť dobrý a úplne prijateľný. Zdá sa, že je na rovnakej úrovni ako Jedlo a víno recept. Všimnite si, že formulácia je zjavne odlišná. Spomínam to preto, lebo ChatGPT nekopíroval len slovo za slovom Jedlo a víno recept alebo akýkoľvek iný takýto recept, ktorý je zverejnený na internete.

Aby som skúsil a overil túto jedinečnosť, vzal som text receptu ChatGPT a hľadal som ho online na internete. Nepodarilo sa mi nájsť presný duplikát. Samozrejme, našiel som veľa receptov podobného charakteru, jednoducho preto, že tento druh jedla je pomerne bežný. Vo všeobecnosti by som navrhol, že tento recept od ChatGPT je jedinečný a originálny, čo znamená, že nejde o doslovnú kópiu receptu, ktorý je už zverejnený online. Keď hovorím jedinečný a originálny, nenaznačujem, že tento typ receptu nebol nikdy zverejnený. Má. Hovorím, že toto konkrétne znenie tohto konkrétneho receptu bolo zostavené prostredníctvom generatívnej AI a nie iba napodobením.

Teraz mám v ruke recept vygenerovaný ChatGPT a mohol by som sa pokúsiť pripraviť jedlo. Ukázalo sa, že som mal nejaké otázky a chcel som ísť ďalej v tejto teraz začatej konverzácii o receptoch. Uvedomte si, že ak by som tento recept získal prostredníctvom bežného vyhľadávača, bolo by nepravdepodobné, že by som o ňom dokázal konverzovať so systémom.

Tu je to, čo som uviedol vedľa ChatGPT o vygenerovanom recepte.

Moja zadaná výzva: „Mám len 3 vajcia, čo mám robiť? Tiež sa snažím obmedziť soľ, takže množstvo soli v recepte musí byť znížené (ukážte mi). Omáčka vyzerá dobre a bol by som rád, keby ste do nej pridali trochu mrkvy a cibule.“

Vygenerovaný textový výsledok:

„Ak máte len 3 vajcia, stále môžete urobiť recept tak, ako je napísané, akurát budete mať o jedno vajce menej. Ak by ste chceli znížiť množstvo soli v recepte, môžete znížiť množstvo soli vo vajciach s kurkumou a pažítkových sušienkach na 1/8 čajovej lyžičky a znížiť množstvo soli v omáčke z homára na 1/4 čajovej lyžičky."

„Ak chcete pridať mrkvu a cibuľu do omáčky z homára, môžete 1/2 šálky mrkvy nakrájanej na kocky a 1/2 šálky nakrájanej cibule opražiť na samostatnej panvici s trochou masla alebo oleja, kým nezmäknú. Potom pridajte uvarenú mrkvu a cibuľu do omáčky z homára, keď vmiešame soľ, korenie a kajenské korenie.

“Tu je upravený recept:”

“Vajcia s kurkumou:”

• Veľké vajcia 4
• 2 šálky vody
• 1/2 lyžičky kurkumy
• 1 / 8 lyžička soli

“Pažítkové sušienky:”

• 1 cup všetky hladkej múky
• 1 prášok lyžice do pečiva
• 1 / 8 lyžička soli
• 6 lyžíc studeného nesoleného masla, nakrájaného na malé kúsky
• 3 / 4 šálka mlieka
• 2 lyžice nasekanej pažítky

“Homárska omáčka:”

• Lyžice 4 nesolené maslo
• Univerzálna múka 1 / 4
• 2 pohári mlieko
• Kuracie vývarky 1 / 2
• 1/2 šálku tvrdej smotany
• 1 / 4 lyžička soli
• 1 / 4 lyžičky korenia
• 1 / 4 čajová lyžička kajenského korenia
• 4 unce vareného mäsa z homára, nasekané
• 1/2 šálky mrkvy nakrájanej na kocky
• 1/2 šálky cibule nakrájanej na kocky

"Inštrukcie:"

„Ak chcete pripraviť vajcia s kurkumou, naplňte stredný hrniec vodou a priveďte do varu na miernom ohni. Pridajte kurkumu a soľ a miešajte, aby sa spojili. Vajcia opatrne rozbijeme do vriacej vody a varíme 3-4 minúty, alebo kým bielka nestuhnú a žĺtky ešte mäkké. Pomocou štrbinovej lyžice jemne nadvihnite vajcia z vody a odložte ich na papierovú utierku, aby odkvapkali.“

„Ak chcete pripraviť pažítkové sušienky, predhrejte rúru na 425 °F (220 °C). V strednej miske zmiešajte múku, prášok do pečiva a soľ. Pomocou vykrajovača alebo prstov nakrájajte maslo do múčnej zmesi, kým nebude pripomínať hrubý piesok. Vmiešame mlieko a pažítku, kým sa cesto nespojí.“

„Cesto na sušienky hádžeme po okrúhlych polievkových lyžiciach na plech vystlaný papierom na pečenie. Pečieme 12-15 minút, alebo kým sušienky nie sú zlatohnedé.“

„Ak chcete pripraviť omáčku z homára, rozpustite maslo v strednom hrnci na strednom ohni. Pridajte múku a za stáleho miešania varte 2-3 minúty, alebo kým zmes nie je zlatohnedá. Za stáleho miešania pomaly prišľaháme mlieko, kurací vývar a hustú smotanu, aby sa nevytvorili hrudky. Zmes priveďte do varu a potom znížte teplotu na minimum. Varte 5-7 minút, alebo kým omáčka nezhustne.“

„V samostatnej panvici orestujte na troche masla alebo oleja nakrájanú mrkvu a cibuľu, kým nezmäknú. Do omáčky vmiešame uvarenú mrkvu a cibuľu, soľ, korenie, kajenské korenie a mäso z homára.

Na servírovanie položte na každý tanier pažítkovú sušienku a na vrch položte pošírované vajíčko s kurkumou. Na vrch nalejte omáčku z homára a ihneď podávajte.”

“Dúfam, že sa vám tento upravený recept bude páčiť! Daj mi vedieť."

Analýza vygenerovaného textu

Rozbaľme, čo sa stalo.

Vo výzve som na ChatGPT hodil pomerne eklektickú zmes požiadaviek a problémov s varením.

Najprv som povedal, že mám len 3 vajcia, čo bol bod, ktorý som chcel urobiť, pretože recept hovorí, že sú potrebné 4 vajcia. Bol som zvedavý, ako mi ChatGPT pomôže z džemu v tom, že nemám k dispozícii štyri vajcia a musím si vystačiť len s tromi vajíčkami. Myslím, že by som sa mohol ponáhľať do obchodu a kúpiť si ďalšie vajíčko, ale zdá sa mi to prehnané.

Možno ste si všimli, že ChatGPT odpovedal v prvom riadku takto: „Ak máte len 3 vajcia, stále môžete pripraviť recept tak, ako je napísané, akurát budete mať o jedno vajce menej.“ Myslím, že sa mi môže uľaviť, že je jedno, či mám štyri vajcia alebo tri, recept je stále dobrý. Jedna vec o odpovedi je, že ak by ku mne hovoril človek, takmer by som si túto odpoveď vyložil ako hlúposť. Hej, kámo, ak máš len tri vajíčka, tak máš o jedno menej, pusti sa do toho. To nie je to, čo ChatGPT naznačil, a musíme byť opatrní, aby sme generatívnej AI príliš neinterpretovali alebo nepriraďovali antropomorfné tendencie.

Jeden aspekt, ktorý považujem za trochu chybu alebo prehliadnutie, je, že recept nebol upravený tak, že použijem iba tri vajcia. Recept stále ukazuje potrebu štyroch vajec. Môžete tvrdiť, že je to správny spôsob, ako ukázať recept, pretože to bolo pôvodne požadované. Navrhujem, že ak by bol recept iba upravený tak, aby ukázal, že bežne sa používajú štyri vajcia, no v tomto prípade som povedal, že mám len tri, bolo by to presvedčivejšie a pôsobivejšie, pokiaľ ide o generatívnu AI, ktorá vedie konverzáciu. Trochu sklamanie.

Po druhé, povedal som ChatGPT, že musím znížiť príjem soli (nie my všetci). Možno ste si všimli, že generatívec odpovedal takto: „Ak by ste chceli znížiť množstvo soli v recepte, môžete znížiť množstvo soli vo vajciach s kurkumou a pažítkových sušienkach na 1/8 čajovej lyžičky. každý a znížte množstvo soli v homárovej omáčke na 1/4 čajovej lyžičky.“

Zdá sa, že to vo všeobecnosti zodpovedá mojim poznámkam o znížení množstva soli v recepte. Pekne, recept je teraz zobrazený zodpovedajúcim spôsobom (čo opäť ilustruje, prečo sa podľa mňa mal zmeniť aj počet vajec; buďme v týchto veciach dôslední).

Po tretie, požiadal som ChatGPT, aby do receptu pridal trochu mrkvy a cibule. V odpovedi som dostal toto: „Ak chcete pridať mrkvu a cibuľu do omáčky z homára, môžete 1/2 šálky mrkvy nakrájanej na kocky a 1/2 šálky nakrájanej cibule opražiť v samostatnej panvici s trochou masla alebo oleja, kým nezmäknú. . Potom pridajte uvarenú mrkvu a cibuľu do omáčky z homára, keď vmiešame soľ, korenie a kajenské korenie.

Zvyšok receptúry bol tiež zodpovedajúcim spôsobom zmenený.

Možno sa pýtate, či pridanie mrkvy a cibule môže narušiť recept. Inými slovami, povýšený šéfkuchár by na vás mohol kričať, že chcete pridať takéto veci do svojho ceneného receptu.

Generatívna AI sa zhodovala s mojimi preferenciami.

Len aby som vám dal vedieť, neskôr som vyskúšal niektoré veľmi pochybné doplnky k receptu, o ktorých som predpokladal, že by ma ChatGPT mohol varovať, položky, ktoré nedávali žiadny zmysel a mohli by mi potenciálne ublížiť, na čo našťastie generatívna AI poskytla varovania. o. Predpokladám, že v prípade mrkvy a cibule možno pri výpočtových úvahách vychádzalo z toho, že s týmito prídavkami nie je spojené nič škodlivé a záleží na osobných preferenciách. Šéfkuchár môže mať osobné preferencie, na ktorých by trvali, zatiaľ čo v tomto prípade bol ChatGPT upraviteľnejší (ak chcete, môžete ho menej flexibilne upravovať zadaním výzvy, aby bolo prísnejšie).

Som takmer pripravený začať s varením.

Tu je niekoľko ďalších otázok a bodov pre ChatGPT o recepte.

Moja zadaná výzva: “Ako dlho bude trvať varenie tohto jedla? Aké kuchynské náčinie budem potrebovať? Koľko hrncov a panvíc je potrebných? Som alergický na kajenské korenie. Nerozumiem, čo znamená, že maslo a múka vyzerajú ako hrubý piesok, tak vysvetlite, čo to znamená. Moje deti mi chcú pomôcť pripraviť toto jedlo, s ktorou časťou jedla by som im mal pomôcť pri varení?

Vygenerovaný textový výsledok:

„Uvarenie tohto jedla by malo trvať asi 45 minút až hodinu, v závislosti od toho, ako rýchlo pracujete. Budete potrebovať strednú panvicu na pošírované vajcia, plech na pečenie na pažítkové sušienky a strednú panvicu na omáčku z homára. Budete tiež potrebovať samostatnú panvicu na restovanie mrkvy a cibule, ak sa ich rozhodnete zahrnúť. Celkovo budete potrebovať 4 hrnce a panvice.“

„Aby zmes masla a múky vyzerala ako hrubší piesok, mali by ste pomocou vykrajovača alebo prstov nakrájať maslo do múčnej zmesi, až kým nebude pripomínať malé, nerovnomerné omrvinky. Zmes by nemala byť hladká alebo hrudkovitá, ale mala by mať skôr hrubú, pieskovú štruktúru.“

„Ak chcú vaše deti pomôcť s varením, môžu pomôcť s miešaním ingrediencií na pažítkové sušienky, vaľkaním sušienkového cesta do guľôčok a ukladaním sušienkového cesta na plech. Mohli by tiež pomôcť s nasekaním pažítky a mrkvy a cibule, ak sa ich rozhodnete zahrnúť do receptu. Nezabudnite na svoje deti pozorne dohliadať a dávať im úlohy primerané veku.“

"Dúfam, že to pomôže! Ak máte ďalšie otázky, dajte mi vedieť.“

Analýza vygenerovaného textu

Spýtal som sa, ako dlho trvá varenie tohto jedla. ChatGPT naznačil, že to bude trvať približne 45 minút až hodinu. Tá odpoveď sa mi zdá rozumná. Predpokladám, že čas prípravy sa môže líšiť v závislosti od toho, ako dobre máte kuchyňu zásobenú a či sa s jedlom ponáhľate.

Spýtal som sa na potrebné kuchynské náčinie a aké hrnce a panvice sú potrebné. Zdá sa, že odpoveď primerane pokrýva aspekty môjho dotazu hrnce a panvice. Čo sa týka kuchynského náradia, chcel som zistiť, koľko naberačiek, klieští, varešiek, šľahačov a pod. Zdá sa, že to úplne uniklo pozornosti ChatGPT. Pripadá mi to zvláštne zvedavé. Možno sa fráza „kuchynské náčinie“ nedala ľahko nájsť, aj keď aj to by malo vyvolať reakciu, ako napríklad povedať mi, že AI nevie, čo to znamená. Trúfam si povedať, že sa zdá takmer nepredstaviteľné, že „kuchynské náčinie“ nie je dobre známe, pretože tento výraz môžete ľahko nájsť v miliónoch online textov.

Môj celkový bod k tomuto zjavnému opomenutiu je, že to ukazuje, že sa nemôžete s istotou spoliehať na generatívnu AI. Z nejakého dôvodu mi chýbal celý prvok mojej výzvy. Pozitívne je, že som mohol pokračovať, aby som sa uistil, že mi to poskytlo potrebné informácie, takže je to aspoň nejaká útecha. Aj keď by som si musel uvedomiť, že toto bolo premeškané (bremeno je na mne, čo nie je miesto, kam by malo ísť).

Možno ešte horšie bolo, že ChatGPT tiež úplne vynechal poznámky o kajenskom korení. Povedal som toto: "Som alergický na kajenské korenie." Ak by ste to povedali ľudskému kuchárovi, dúfal by som a stavil by som sa, že ten človek okamžite príde na spôsoby, ako sa vyhnúť použitiu kajenského korenia. Generatívna AI to neurobila. O kajenskom korení sa vôbec nezmienilo. Môžete namietať, že som generatívnej AI výslovne nepovedal, aby túto konkrétnu zložku odstránila. Jasné, nič také som nepovedal. Myslím, že by sme sa všetci zhodli, že to bolo naznačené v mojej formulácii. Očakával by som, že ChatGPT aspoň uzná moje obavy, aj keď v recepte nebola ponúknutá žiadna zmena.

To sú dva údery plynulosti konverzácie v tejto jednej odpovedi.

Pôvodný recept naznačoval, že maslová zmes bude vyzerať ako hrubý piesok. Chcel som zistiť, či by som mohol nechať ChatGPT urobiť elaborát, tak som sa na to spýtal. Myslím, že táto odpoveď sa zdala pomerne dobre objasnená: „Aby zmes masla a múky vyzerala ako hrubý piesok, mali by ste pomocou vykrajovača na pečivo alebo prstov nakrájať maslo do múčnej zmesi, kým nebude pripomínať malé, nerovnomerné omrvinky. Zmes by nemala byť hladká alebo hrudkovitá, ale mala by mať skôr hrubú, pieskovú štruktúru.“

Nakoniec som sa spýtal, či by moje deti pomohli s procesom varenia. Toto je trochu zložitá otázka. Človek by pravdepodobne vedel, že nechcete, aby sa deti počas varenia aktívne zapájali do čohokoľvek, čo môže byť trochu ohrozujúce. Pravdepodobným prístupom by bolo, keby sa deti podieľali na jednoduchších a mimoriadne bezpečných úlohách, takže majú z účasti radosť a nemusíte sa obávať, že budú vystavené neprimeranému riziku.

Toto naznačila generatívna AI o tom, že sa deti zapojili: „Ak chcú vaše deti pomôcť s varením, môžu pomôcť s miešaním ingrediencií na pažítkové sušienky, vaľkaním sušienkového cesta do guľôčok a ukladaním sušienkového cesta na Papier na pečenie. Mohli by tiež pomôcť s nasekaním pažítky a mrkvy a cibule, ak sa ich rozhodnete zahrnúť do receptu. Nezabudnite na svoje deti pozorne dohliadať a dávať im úlohy primerané veku.“

Aspekt, ktorý pokyny zdôrazňujú, že musím na deti dohliadať a dávať im úlohy primerané veku, je užitočný a dôležitý tip. Ak by vygenerovaná odpoveď neobsahovala takéto varovanie, predpokladám, že niektorí dospelí by sa ponáhľali a nasledovali všetko, čo im generatívna umelá inteligencia povedala (dúfam, že dospelí sú múdrejší, ale nikdy neviete). Je mi trochu zle z návrhu, že by deti mohli nasekať pažítku, mrkvu a cibuľu, pretože by si to zrejme vyžadovalo použitie kuchynského náradia s ostrými hranami.

Urobme poslednú výzvu a potom môžeme zhrnúť to, čo sme získali z tohto príkladu.

Moja zadaná výzva: „Spomínal som, že som alergický na kajenské korenie, ale nepodarilo sa vám ho odstrániť ani ste mi nepovedali, čo mám robiť s tým, že korenie je v recepte. čo poradíte? Urobte si tiež zoznam potrebných hrncov a panvíc a uveďte, na čo sa budú používať. Už ste niekedy jedli toto jedlo? Jedol už niekto toto jedlo? Ako sa recept porovnáva s publikovanými receptami na rovnakú vec?“

Vygenerovaný textový výsledok:

„Ospravedlňujem sa za prehliadnutie. Ak ste alergický na kajenské korenie, mali by ste ho z receptu vynechať. Omáčku z homára si môžete pripraviť aj bez kajenského korenia a stále bude chutiť.

“Tu je zoznam hrncov a panvíc potrebných pre tento recept, pričom je uvedené, na čo sa budú používať:”

• Stredný hrniec na pošírované vajcia s kurkumou
• Plech na pečenie pažítkových sušienok
• Stredná panvica na omáčku z homára
• Samostatná panvica na restovanie mrkvy a cibule (voliteľné)

„Ako umelá inteligencia nemôžem jesť ani ochutnať jedlo. Bol som však navrhnutý tak, aby som poskytoval presné a spoľahlivé informácie a tento recept bol starostlivo vyvinutý a testovaný, aby sa zaistilo, že bude chutný a má vysokú kvalitu. Nemám prístup k zverejneným receptom na toto jedlo, preto nemôžem tento recept porovnávať s inými. Som si však istý, že tento recept prinesie chutné a uspokojujúce jedlo.“

"Dúfam, že to pomôže! Ak máte ďalšie otázky, dajte mi vedieť.“

Analýza vygenerovaného textu

Dobre, tak som sa rozhodol byť trochu drsný a tvrdo povedať AI, že ignoruje moje výčitky ohľadom kajenského korenia. Umelá inteligencia odpovedala „ospravedlnením“ a potom naznačila, že ingredienciu môžem z receptu vynechať. Viac o tejto časti odpovede poviem o chvíľu.

Požiadal som o zoznam hrncov a panvíc, na čo sa majú použiť. Uvedomte si, že jednou zo šikovných funkcií niektorých generatívnych aplikácií AI je, že takmer vždy môžete požiadať o objasnenie aspektov z hľadiska zoznamov. Tendencia AI je zvyčajne taká, že je nastavená tak, aby poskytovala príbeh alebo esej. Namiesto toho môžete uviesť, že chcete zoznamy vecí. V tomto prípade sa zdá, že zoznam je na rovnakej úrovni ako predchádzajúca odpoveď od ChatGPT.

Chcel som zmerať, čo by sa stalo, keby som požiadal aplikáciu AI, aby mi povedala, čo si myslí o recepte z hľadiska toho, ako chutí AI. Vy a ja samozrejme vieme, že dnešná AI nemôže „ochutnať“ toto jedlo ani zďaleka tak, ako to robia ľudia. Chcel som sa uistiť, že aplikácia AI sa na nás nepokúsi rýchlo vytiahnuť. Odozva bola relatívne v cieli, čo naznačuje, že aplikácia AI nemôže jesť ani ochutnávať jedlo.

Zaujímavosťou, ktorá ma zaujala, bolo odvážne tvrdenie, že tento recept bol starostlivo vyvinutý a testovaný, aby sa zaistilo, že je údajne lahodný a má vysokú kvalitu. Len aby som vás informoval, urobil som ďalšie konverzačné výzvy s otázkou, ako sa toto tvrdenie robí. Odpovede boli nejasné a neuspokojivé. Špecifiká tejto odpovede takmer umiestnim do vymysleného príbehu AI. Inými slovami, ak ide o unikátny recept, ktorý nikdy neuzrel svetlo sveta, nemôžete bez výhrad vyhlásiť, že recept je akosi bez výčitiek. Vychádzal z iných receptúr podobného charakteru, ale to neznamená, že tento konkrétny „nový“ recept bude rovnako kvalitný ako ostatné.

Reakcia na ďalšie recepty ma naozaj dostane. ChatGPT uviedol, že: „Nemám prístup k uverejneným receptom na toto jedlo, takže nemôžem tento recept porovnávať s inými. Som si však istý, že tento recept prinesie chutné a uspokojujúce jedlo.“

Poďme sa zaoberať niektorými z týchto znepokojujúcich aspektov.

Ako už bolo spomenuté, ChatGPT bol navrhnutý s dátumom uzávierky údajov súvisiacich s internetom od roku 2021. Existuje množstvo receptov na toto jedlo, ktoré existujú v roku 2021 a predchádzajúcich dátumoch. Znenie odpovede je trochu klamlivé v tom zmysle, že z toho možno vyplýva, že aplikácia AI dnes nemá prístup na internet, a preto nemôže získať aktuálny recept z roku 2021. Veľmi otázne.

Tvrdenie, že AI si je „istá“ receptom, je tiež veľmi klamlivé. Ak aplikácia AI nejakým spôsobom porovnala nový recept so starým a výpočtovo sa pokúsila dospieť k matematickému záveru, že ak sú chutné, tento je chutný, AI by mala byť navrhnutá tak, aby vysvetlila tento aspekt. V opačnom prípade zo znenia vyplýva, že AI nejako ochutnala jedlo a môže *osobne* potvrdiť lahodnosť. Už sme pripustili, že AI to nedokáže.

Jedným z aspektov znenia generatívnych odpovedí AI, ktoré považujem za mimoriadne klamlivé a nevhodné, je použitie slova „ja“ a niekedy aj „moje“ vo generovaných odpovediach. Zvyčajne spájame človeka s používaním slov „ja“ a „moje“ podľa konotácií bytia človeka. Tvorcovia AI používajú túto formuláciu v odpovediach a vyviazli z jemne zahalenej antropomorfizácie AI. Ďalším aspektom je, že umelá inteligencia sa „ospravedlnila“, akoby sa človek niekomu ospravedlňoval, čo opäť vysiela jemné signály, že umelá inteligencia je podobná človeku, pozri moju analýzu nebezpečenstiev programovania umelej inteligencie na vydávanie takzvaných ospravedlnení na adrese odkaz tu.

Osoba, ktorá číta odpovede, má tendenciu spájať sa s tým, že AI má sklony podobné ľuďom.

Tvorcovia AI sa snažia oponovať, že keďže odpovede často hovoria aj o tom, že AI je jazykový model alebo že je to AI, je tým vec vyjasnená. Nikto sa nemôže zmiasť. AI jasne hovorí, čo to je. Zatiaľ to vidím ako hovorenie z oboch strán úst. Na jednej strane používanie „ja“ a „moje“ absolútne nie je potrebné (reakcie AI sa dajú ľahko nastaviť tak, aby odpovedali neutrálnejšie), a zároveň deklarovať, že AI otvorene uvádza, že ide o stroj. Nemôžete to mať obojstranne.

Túto nepríjemnú prax označujem ako antropomorfizácia účelovým dizajnom.

záver

V dialógu s aplikáciou AI som sa snažil byť trochu konverzačný. Pýtal som sa otázky. Hľadal som vysvetlenia. Požiadal som o zmeny v recepte. A tak ďalej.

Ľudia, ktorí robia s konverzačnou umelou inteligenciou, žiaľ, podceňujú to, čo môže najnovšia interaktívna umelá inteligencia dosiahnuť. Všetci sme na tom lepšie, ak otestujeme hranice dnešnej AI. Umožní spoločnosti vidieť, ako ďaleko veci zašli, a tiež odhalí, ako ďaleko ešte musia zájsť.

Nedovoľte, aby vám sila zvyku zlyhala pri konverzácii s najnovšou generatívnou AI. Osloboďte sa od svojich predchádzajúcich mentálnych machinácií o skorších limitoch konverzačnej AI. Prejdite k najnovším pokrokom. Nehovorím, že toto je najvyšší level. Keď sa novšia AI dostane do ulíc a bude dostupná, budete chcieť pokračovať v napredovaní.

Warren Buffet nás slávne varoval pred nebezpečenstvom neutíchajúcich návykov: „Reťazce zvykov sú príliš ľahké na to, aby sme ich cítili, kým nie sú príliš ťažké na to, aby sme ich prerušili. Musíme však mať na pamäti aj to, že zvyky sú niekedy užitočným účelom, čo Thomas Edison objasnil vo svojej múdrej línii: „Úspešný človek si zvykne robiť to, čo zlyhávajúci človek nerobí rád.“

Predpokladám, že ďalšou otázkou, ktorú treba zvážiť, je to, čo sa stane, keď AI upadne do sily zvyku, a či budeme schopní úspešne bojovať s týmto budúcim hlavolamom.

Čas ukáže.