Ponorte sa do rozruchu a fanfár nad generatívnym chatom GPT AI vrátane hroziacich úvah o etike AI a zákonoch o AI

Hádam, že ste už počuli alebo možno videli kričiace titulky správ alebo príspevky na sociálnych médiách, ktoré propagujú najhorúcejšie a najnovšie využitie AI, ktorá vytvára zdanlivo ľuďmi písané textovo orientované príbehy prostredníctvom aplikácie AI známej ako ChatGPT.

Ak ste o tejto novej aplikácii AI ešte nepočuli ani nečítali, nebojte sa, budem vás informovať o rýchlosti.

Pre tých z vás, ktorí už poznajú službu ChatGPT, by vás mohli zaujímať niektoré z mojich zasvätených informácií o tom, čo robí, ako funguje a na čo si dať pozor. Celkovo vzaté, takmer každý, komu záleží na budúcnosti, bude nevyhnutne chcieť zistiť, prečo sú všetci nadšení z tejto aplikácie AI.

Na objasnenie, nekontrolovateľné predpovede hovoria, že tento typ AI zmení životy vrátane životov tých, ktorí ešte nevedia nič o ChatGPT alebo iných podobných schopnostiach AI. Ako na chvíľu vysvetlím, tieto aplikácie AI budú mať pomerne rozsiahle dôsledky, a to spôsobmi, ktoré ešte len začíname predpokladať.

Pripravte sa na jazdu na horskej dráhe zvanú Generatívna AI.

Začnem kľúčovým pozadím generatívnej AI a použijem najjednoduchší scenár, ktorý zahŕňa AI, ktorá generuje umenie. Keď vás prevedieme týmto základom, vrhneme sa na generatívnu AI, ktorá generuje textovo orientované príbehy.

Moje prebiehajúce a rozsiahle pokrytie celkovej umelej inteligencie vrátane etiky umelej inteligencie a zákona o umelej inteligencii nájdete v časti odkaz tu a odkaz tu, Len aby sme vymenovali niekoľko.

Generatívna AI, ktorá produkuje generované umenie

Tento typ alebo štýl AI označujem ako bytie generatívne čo je terminológia milovníkov AI, ktorá sa používa na opis AI, ktorá generuje výstupy, ako sú text, obrázky, video a podobne.

Začiatkom tohto roka ste si mohli všimnúť, že existuje veľký rozruch okolo možnosti vytvárať umelecké obrázky zadaním jedného alebo dvoch riadkov textu. Myšlienka je celkom jednoduchá. Používate aplikáciu AI, ktorá vám umožňuje zadať text podľa vášho výberu. Môžete napríklad zadať, že chcete vidieť, ako by vyzerala žaba s klobúkom na vrchole komína. Aplikácia AI potom analyzuje vaše slová a pokúsi sa vygenerovať obrázok, ktorý sa vo všeobecnosti zhoduje so slovami, ktoré ste zadali. Ľudia sa veľmi tešili z vytvárania najrôznejších obrázkov. Sociálne siete sa nimi na chvíľu zaniesli.

Ako robí generatívna AI aspekty generovania?

V prípade štýlu generatívnej AI typu text-to-art bolo množstvo online umenia vopred naskenované pomocou počítačových algoritmov a prvky naskenovaného umenia boli výpočtovo analyzované pre príslušné komponenty. Predstavte si online obrázok, na ktorom je žaba. Predstavte si ďalší samostatný obrázok, ktorý má v sebe komín. Ďalší obrázok má v sebe klobúk. Tieto komponenty sa identifikujú výpočtovo, niekedy sa to robí bez ľudskej pomoci a niekedy pomocou ľudského vedenia, a potom sa sformuluje druh matematickej siete.

Keď prídete neskôr a požiadate o vytvorenie umeleckého diela so žabou s klobúkom na komíne, aplikácia AI použije matematickú sieť na nájdenie a poskladanie týchto prvkov. Výsledný umelecký obrázok môže alebo nemusí vyjsť tak, ako ste dúfali. Možno tá žaba vyzerá škaredo. Klobúk môže byť veľký, ale vy ste si priali štíhlejší klobúk v štýle derby. Medzitým obraz žaby stojí na komíne, hoci ste sa namiesto neho snažili posadiť žabu.

Šikovná vec na týchto druhoch aplikácií AI je, že vám zvyčajne umožňujú zopakovať vašu požiadavku a tiež pridať ďalšie špecifikácie, ak si to želáte. Môžete teda zopakovať svoju požiadavku a uviesť, že chcete krásnu žabu s derby klobúkom, ktorý sedí na komíne. Voila, novovygenerovaný obrázok môže byť bližšie k tomu, čo ste chceli.

Niektorí sa pýtali, či AI len nevracia presne to, na čo bola trénovaná. Odpoveď je nie (zvyčajne). Obrázok žaby, ktorý AI predvedie na vašu žiadosť, nemusí byť nevyhnutne presným duplikátom podobného obrázka, ktorý sa nachádzal v tréningovej súprave. Väčšina týchto generatívnych aplikácií AI je nastavená tak, aby zovšeobecnila akékoľvek obrázky, ktoré pôvodne nájdu. Myslite na to takto. Predpokladajme, že ste nazbierali tisíc obrázkov žiab. Môžete sa rozhodnúť postupne zisťovať, ako vyzerá žaba, a poskladať tisíc obrázkov, ktoré ste našli. Ako taká, žaba, ktorú nakoniec nakreslíte, nemusí byť nevyhnutne presne taká, ako tá, ktorú ste použili na tréningové účely.

Ako už bolo povedané, existuje šanca, že algoritmus AI nemusí robiť toľko zovšeobecňovania, ako by sa dalo predpokladať. Ak existujú jedinečné tréningové obrázky a žiadne iné podobného druhu, môže sa stať, že AI „zovšeobecní“ skôr blízko jediného konkrétneho prípadu, ktorý dostala. V takom prípade by pokus algoritmu neskôr vytvoriť požadovaný obrázok tejto povahy mohol vyzerať výrazne podobne ako čokoľvek, čo bolo v trénovacej sade.

Na chvíľu sa zastavím, aby som ponúkol niekoľko myšlienok súvisiacich s etikou AI a zákonom AI.

Ako už bolo spomenuté, ak je generatívna AI trénovaná na internete, znamená to, že všetko, čo bolo zverejnené na internete, bude pravdepodobne využité algoritmom AI. Predpokladajme teda, že máte šikovné umelecké dielo, na ktorom ste pracovali, a veríte, že vlastníte práva na umelecké dielo. Zverejníš jeho fotku na internete. Každý, kto chce použiť vaše umelecké dielo, má prísť za vami a zaplatiť vám za toto použitie poplatok.

Možno už tušíte, kam to smeruje.

Vydržte pre tie kruté správy.

Takže generatívna aplikácia AI, ktorá sa trénuje prostredníctvom rozsiahleho skúmania obsahu na internete, rozpozná vaše úžasné umelecké dielo. Obrázok vášho umeleckého diela sa absorbuje do aplikácie AI. Charakteristiky vášho umenia sa teraz matematicky kombinujú s inými naskenovanými umeleckými dielami. Po požiadaní o vytvorenie umeleckého diela môže AI využiť vaše dielo pri skladaní novo vygenerovaného umeleckého obrázka. Tí ľudia, ktorí zbierajú toto umenie, si možno neuvedomujú, že v určitom zmysle má umenie vaše konkrétne odtlačky prstov, pretože algoritmus AI sa trochu vtlačil do vášho majstrovského diela.

Existuje tiež šanca, že ak bolo vaše umelecké dielo mimoriadne jedinečné, mohla by ho aplikácia AI znova použiť vo väčšej podobe, aby predviedla umenie. Niekedy môže byť vaše umelecké dielo v niektorých novovygenerovaných umeleckých dielach AI len ťažko rozpoznateľné, zatiaľ čo v iných prípadoch sa môže stať, že vygenerované umelecké dielo je takmer odpudzujúcim obrazom toho, čo ste uhádli.

Potom je načase zaviesť do tohto scenára etiku AI.

Je eticky správne alebo vhodné, že generatívna umelá inteligencia vytvorila umelecké dielo, ktoré je podobné vášmu umeniu?

Niektorí tvrdia, že áno a niektorí nie.

Tábor áno, ktorý verí, že je to eticky úplne v poriadku, by možno tvrdil, že keďže ste svoje umelecké dielo zverejnili online, je otvorené komukoľvek alebo čomukoľvek, kto ho chce skopírovať. Tiež by mohli tvrdiť, že nové umenie nie je presnou kópiou vašej práce. Nemôžete sa teda sťažovať. Ak by sme nejakým spôsobom zastavili opätovné používanie existujúceho umenia, nikdy by sme nemali žiadny druh nového umenia, na ktorý by sme sa mohli pozerať. Navyše by sme sa pravdepodobne mohli dostať do vášnivej debaty o tom, či vaše konkrétne umelecké dielo bolo alebo nebolo kopírované alebo zneužívané – mohlo by to byť nejaké iné umelecké dielo, o ktorom ste ani nevedeli, že existuje a bolo v skutočnosti základným zdrojom.

Tábor nie by dôrazne trval na tom, že je to značne neetické. Neexistujú dva spôsoby. Tvrdili by, že vás okrádajú. To, že je vaše umelecké dielo zverejnené online, neznamená, že ktokoľvek môže prísť a voľne ho skopírovať. Možno ste uverejnili umenie s prísnym varovaním, aby ste ho nekopírovali. Medzitým prišla AI, zbavila sa umenia a úplne preskočila varovania. Poburujúce! A výhovorka, že algoritmus umelej inteligencie zovšeobecnil a nerobí takú hrubú hru, akou je presné kopírovanie, sa javí ako jedna z tých falošných výhovoriek. Prišlo na to, ako využiť vaše umenie, a toto je podvod a hanba.

A čo právne aspekty tejto generatívnej AI?

O právnych podrobnostiach generatívnej AI sa veľa láme. Pozeráte sa na federálne zákony o právach duševného vlastníctva (IP)? Sú dostatočne rázne, aby sa prihlásili? Čo keď generatívna AI prekračuje medzinárodné hranice, aby zhromaždila tréningovú súpravu? Zapadá umelecké dielo vytvorené AI do rôznych vylučujúcich kategórií spojených s právami duševného vlastníctva? A tak ďalej.

Niektorí veria, že potrebujeme nové zákony týkajúce sa AI, aby sme sa mohli vysporiadať s týmito druhmi generatívnych situácií AI. Namiesto toho, aby sme sa pokúšali oháňať existujúce zákony, môže byť čistejšie a jednoduchšie vytvoriť nové zákony. Aj keď platia existujúce zákony, náklady a oneskorenia pri pokuse o začatie súdneho konania môžu byť obrovské a môžu brániť vašej schopnosti presadiť sa, keď si myslíte, že ste boli nespravodlivo a nezákonne poškodení. Pre moje pokrytie týchto tém pozri odkaz tu.

K týmto úvahám o etike AI a zákonoch o umelej inteligencii pridám ďalší zvrat.

Kto vlastní práva na generovaný výstup AI?

Môžete povedať, že ľudia, ktorí vyvinuli AI, by mali vlastniť tieto práva. Nie každý súhlasí s takýmto tvrdením. Dalo by sa povedať, že AI vlastní tieto práva, ale je to zmätené skutočnosťou, že vo všeobecnosti neuznávame, že AI môže vlastniť takéto práva. Kým nezistíme, či AI bude mať právnu osobu, veci nie sú v tomto smere isté, pozri moju analýzu na odkaz tu.

Verím, že už máte zdanie toho, čo robí generatívna AI. Ďalej môžeme pristúpiť k zváženiu prípadu použitia, ktorý zahŕňa generovanie textových príbehov.

Generatívna AI, ktorá generuje textovo založené príbehy

Teraz, keď sme diskutovali o použití generatívnej AI na vytváranie umenia alebo obrázkov, môžeme sa ľahko pozrieť na rovnaké všeobecné formulácie na vytváranie textových príbehov.

Začnime niečím, o čom všetci vieme a máme tendenciu používať každý deň. Keď zadávate text do balíka na spracovanie textu alebo do e-mailovej aplikácie, je pravdepodobné, že existuje funkcia automatickej opravy, ktorá sa pokúša zachytiť akúkoľvek z vašich preklepov.

Keď sa tento druh funkcie automatickej asistencie stal bežným, ďalší pokročilejší aspekt pozostával z funkcie automatického dokončovania. Pre automatické dopĺňanie je koncepcia taká, že keď začnete písať vetu, aplikácia na spracovanie textu alebo e-mail sa pokúsi predpovedať, aké slová pravdepodobne napíšete ako ďalšie. Môže predpovedať len jedno alebo dve slová dopredu. Ak je schopnosť obzvlášť posilnená, môže predpovedať zvyšok celej vašej vety.

Môžeme to nakopnúť na vysoké obrátky. Predpokladajme, že začnete písať vetu a automatické dokončovanie vygeneruje zvyšok celého odseku. Voilá, nemuseli ste písať paragraf priamo. Namiesto toho to urobila aplikácia za vás.

Dobre, vyzerá to šikovne. Posuňte to ďalej. Začnete vetu a automatické dokončovanie vytvorí zvyšok celej vašej správy. Môže pozostávať z mnohých odsekov. Všetko sa generuje zadaním len časti vety alebo možno celej vety alebo dvoch.

Ako automatické dopĺňanie zistí, čo pravdepodobne napíšete ako ďalšie?

Ukazuje sa, že ľudia majú tendenciu písať rovnaké veci, znova a znova. Možno nie, ale ide o to, že čokoľvek píšete, je pravdepodobne niečo, čo už napísal niekto iný. Možno to nie je presne to, čo chceš napísať. Namiesto toho by to mohlo byť trochu podobné tomu, čo ste chceli napísať.

Použime rovnakú logiku, aká bola použitá pri vytváraní umenia alebo obrázkov.

Generatívna aplikácia AI sa pripravuje tak, že idete na internet a skúmate všetky druhy textu, ktoré existujú v online svete. Algoritmus sa snaží výpočtovo identifikovať, ako slová súvisia s inými slovami, ako súvisia vety s inými vetami a ako súvisia odseky s inými odsekmi. Toto všetko je matematicky modelované a je vytvorená výpočtová sieť.

Tu je to, čo sa stane potom.

Rozhodnete sa využiť generatívnu aplikáciu AI, ktorá je zameraná na generovanie textových príbehov. Po spustení aplikácie zadáte vetu. Aplikácia AI výpočtovo preskúma vašu vetu. Rôzne matematické vzťahy medzi slovami, ktoré ste zadali, sa používajú v matematickej sieti, aby ste sa pokúsili zistiť, aký text bude nasledovať. Z jedného riadku, ktorý napíšete, sa môže stať, že sa dá vygenerovať celý príbeh alebo príbeh.

Teraz si môžete myslieť, že ide o opicu-pozri-monkey-do a že výsledný text vytvorený generatívnou AI bude nezmyselný. Boli by ste prekvapení, ako dobre sa tento druh AI stáva. S dostatočne veľkým súborom údajov na trénovanie a dostatočným počítačovým spracovaním na to, aby sa ním rozsiahlo prešlo, môže byť výstup generovaný generatívnou AI úžasne pôsobivý.

Pozreli by ste sa na výstup a pravdepodobne by ste prisahali, že vygenerovaný príbeh určite napísal priamo človek. Je to, ako keby vašu vetu odovzdali človeku, ktorý sa skrýval v zákulisí, a oni vám rýchlo napísali celý príbeh, ktorý sa takmer úplne zhodoval s tým, čo ste chceli inak povedať. Tak sa stali dobrými matematické a výpočtové základy.

Zvyčajne, keď používate generatívnu AI, ktorá vytvára textové príbehy, máte tendenciu poskytnúť úvodnú otázku alebo nejaké tvrdenie. Môžete napríklad zadať „Povedz mi o vtákoch v Severnej Amerike“ a generatívna umelá inteligencia to bude považovať za tvrdenie alebo otázku, na základe ktorej sa bude aplikácia snažiť identifikovať „vtáky“ a „Severná Amerika“ pomocou akéhokoľvek trénovaného súboru údajov. má. Som si istý, že si viete predstaviť, že na internete existuje obrovské množstvo textu, ktorý popisuje vtáky Severnej Ameriky, z ktorých AI počas predtréningu extrahovala a vymodelovala zásoby textu.

Výstup vytvorený pre vás pravdepodobne nebude presným textom žiadnej konkrétnej online stránky. Pripomeňme, že to isté už bolo spomenuté o vytvorených umeleckých dielach. Text bude zložený z druhov, kúskov a častí, ktoré sú matematicky a výpočtovo spojené. Vygenerovaný textový príbeh by sa vzhľadom na celkový vzhľad zdal byť jedinečný, ako keby tento špecifický text nikdy predtým nikto nezložil.

Samozrejme, že môžu existovať výpovedné stopy. Ak požiadate alebo prinútite generatívnu AI, aby sa venovala mimoriadne nejasným témam, existuje väčšia šanca, že uvidíte textový výstup, ktorý sa podobá použitým zdrojom. V prípade textu sú však šance zvyčajne nižšie ako v prípade umenia. Text bude kombináciou špecifík témy a zároveň rozmazaný a zlúčený so všeobecnými druhmi textu, ktoré sa používajú v celkovom diskurze.

Matematické a výpočtové techniky a technológie používané pre tieto generatívne schopnosti AI sú často označované zasvätencami AI ako veľké jazykové modely (LLM). Jednoducho povedané, ide o modelovanie ľudského jazyka vo veľkom meradle. Pred internetom by ste mali problém nájsť extrémne veľký súbor údajov, ktorý by bol dostupný online a lacno. Pravdepodobne by ste si museli kúpiť prístup k textu a ten by už nemusel byť dostupný v elektronických alebo digitálnych formátoch.

Vidíte, internet je na niečo dobrý, konkrétne je pripraveným zdrojom na trénovanie generatívnej AI.

Bystro premýšľať o generatívnej AI, ktorá produkuje text

Mali by sme chvíľu premýšľať o etike a zákonoch AI o dôsledkoch generatívnej AI, ktorá vytvára textové príbehy.

Pamätajte, že v prípade generovaného umenia sme sa obávali o etiku algoritmu AI, ktorý vytvára umenie založené na iných umeleckých dielach vytvorených ľuďmi. Rovnaké obavy vyvstávajú v prípade textu. Aj keď vygenerovaný text nevyzerá presne ako pôvodné zdroje, môžete namietať, že napriek tomu AI text využíva a pôvodný producent je okrádaný. Druhou stranou tejto mince je, že text na internete, ak je voľne dostupný, môže na to isté použiť každý človek, tak prečo neumožniť AI, aby urobila to isté?

Komplikácie spojené s právnymi aspektmi práv duševného vlastníctva vystupujú do popredia aj v prípade textovej generatívnej AI. Za predpokladu, že text, na ktorý sa trénuje, je chránený autorskými právami, povedali by ste, že vygenerovaný text porušuje tieto zákonné práva? Jedna odpoveď je, že áno, a druhá, že nie. Uvedomte si, že vygenerovaný text je pravdepodobne dosť vzdialený od pôvodného textu, a preto môže byť pre vás ťažké tvrdiť, že pôvodný text bol vytrhnutý.

Ďalšou už spomenutou obavou sú vlastnícke práva na produkované textovo založené príbehy generatívnej AI. Predpokladajme, že do umelej inteligencie napíšete „Napíšte vtipný príbeh o ľuďoch, ktorí čakajú v rade na kávu“ a generatívna umelá inteligencia vytvorí stránky za stránkami veselého príbehu, ktorý je celý o skupine ľudí, ktorí sa náhodou stretli pri čakaní na šálku kávy. java.

Kto vlastní ten príbeh?

Môžete namietať, že keďže ste zadali výzvu, právom by ste mali „vlastniť“ vygenerovaný príbeh. Ktovie, niektorí by povedali, že príbeh bol generovaný AI, teda AI „vlastní“ nádherný príbeh. Fuj, iní by nabádali, ak by AI zobrala kúsky zo všetkých druhov iných podobných príbehov na internete, všetci títo ľudskí spisovatelia by sa mali podieľať na vlastníctve.

Záležitosť nie je vyriešená a práve teraz sa dostávame do právneho bahna, ktoré sa bude odohrávať v priebehu niekoľkých nasledujúcich rokov.

Do hry prichádzajú ďalšie obavy týkajúce sa etiky a zákonov AI.

Niektorí ľudia, ktorí používali generatívne aplikácie AI, začínajú veriť, že aplikácia AI je vnímavá. Musí byť, kričia. Ako inak môžete vysvetliť úžasné odpovede a príbehy, ktoré dokáže AI vyprodukovať? Konečne sme dosiahli vnímavú AI.

Absolútne sa mýlia.

Toto nie je vnímajúca AI.

Keď to poviem, niektorí zasvätenci AI sa rozčúlia a správajú sa, akoby každý, kto popiera, že je umelá inteligencia vnímavá, súčasne hovoril, že AI je bezcenná. To je falošný a nesprávny argument. Otvorene súhlasím, že táto generatívna AI je celkom pôsobivá. Môžeme ho použiť na rôzne účely, ako sa o tom zmienim neskôr. Napriek tomu to nie je vnímavé. Pre moje vysvetlenie, prečo tieto druhy objavov AI nie sú vnímavé, pozri odkaz tu.

Ďalším prehnaným a zjavne nesprávnym tvrdením niektorých je, že generatívna AI úspešne vyhrala Turingov test.

S najväčšou pravdepodobnosťou má nie urobil tak.

Turingov test je akýmsi testom na zistenie, či je aplikácia AI schopná byť na rovnakej úrovni ako ľudia. Test, ktorý pôvodne navrhol ako mimickú hru Alan Turing, veľký matematik a počítačový priekopník, je jednoduchý. Ak by ste dali človeka za oponu a za inú oponu umiestnili aplikáciu AI a obom by ste položili otázky, z ktorých by ste nevedeli určiť, ktorý je stroj a ktorý človek, AI by úspešne prešla Turingov test. Pre moje hĺbkové vysvetlenie a analýzu Turingovho testu pozri odkaz tu.

Tí ľudia, ktorí neustále kričia, že generatívna AI prešla Turingovým testom, nevedia, o čom hovoria. Buď nevedia, čo je Turingov test, alebo bohužiaľ propagujú AI spôsobmi, ktoré sú nesprávne a úplne zavádzajúce. Jedna z dôležitých úvah o Turingovom teste pozostáva z toho, aké otázky sa majú klásť, spolu s tým, kto ich kladie, a tiež zhodnotenia, či sú odpovede ľudskej kvality.

Chcem povedať, že ľudia zadávajú asi tucet otázok do generatívnej AI, a keď sa odpovede zdajú byť hodnoverné, títo ľudia unáhlene vyhlasujú, že Turingov test prešiel. Toto je opäť nepravda. Zadanie chabého súboru otázok a sem-tam nejaké popichovanie nie je zámerom ani duchom Turingovho testu. Prestaňte s týmito nečestnými tvrdeniami.

Tu je legitímna sťažnosť, o ktorej veľa nepočujete, hoci si myslím, že je mimoriadne hodná.

Vývojári AI zvyčajne nastavili generatívnu AI tak, aby reagovala tak, ako keby reagoval človek, konkrétne pomocou frázy „ja“ alebo „ja“, keď tvorí výstup. Napríklad, keď žiadate o rozprávanie príbehu o psovi stratenom v lese, generatívna AI môže poskytnúť text, ktorý hovorí: „Poviem vám všetko o psovi menom Sam, ktorý sa stratil v lese. Toto je jeden z mojich obľúbených príbehov."

Všimnite si, že formulácia hovorí „Poviem vám...“ a že príbeh je „jeden z mojich obľúbených...“, takže každý, kto číta tento výstup, sa nenápadne dostane do mentálnej pasce antropomorfizácie AI. Antropomorfizácia spočíva v tom, že sa ľudia snažia priradiť ľudské črty a ľudské pocity iným ako ľuďom. Ste ukolísaní presvedčením, že táto AI je ľudská alebo podobná ľuďom, pretože formulácia vo výstupe je zámerne navrhnutá tak.

Toto nemusí byť vymyslené týmto spôsobom. Výstup by mohol znieť: „Tu je príbeh o psovi menom Sam, ktorý sa stratil v lese. Toto je obľúbený príbeh." Je o niečo menej pravdepodobné, že by ste okamžite predpokladali, že AI je človek alebo človeku podobný. Uvedomujem si, že by ste sa do tej pasce mohli ešte dostať, ale prinajmenšom tie pasce nie sú také výrazné.

Stručne povedané, máte generatívnu AI, ktorá vytvára textové príbehy založené na tom, ako ľudia píšu, a výsledný výstup vyzerá, že je napísaný tak, ako by niečo napísal človek. To dáva veľký zmysel, pretože AI je matematicky a výpočtovo vzorom toho, čo ľudia napísali. Teraz k tomu pridajte použitie antropomorfizujúcich slov a dostanete perfektnú búrku, ktorá ľudí presvedčí, že AI je vnímavá alebo že prešla Turingovým testom.

Vzniká veľa problémov s etikou AI a zákonom o AI.

Zasiahnem vás dosť ohrozujúcimi dôsledkami tejto generatívnej AI.

Za toto si sadnite.

Textovo založené príbehy, ktoré sa vytvárajú, nemusia nevyhnutne spĺňať pravdivosť alebo presnosť. Je dôležité si uvedomiť, že generatívna AI „nerozumie“ tomu, čo sa generuje (nie v žiadnom prípade súvisiacom s ľuďmi, dalo by sa namietať). Ak text, ktorý bol použitý v tréningu, obsahoval nepravdy, je pravdepodobné, že tie isté nepravdy budú zapracované do generatívnej umelej matematickej a výpočtovej siete.

Okrem toho generatívna AI zvyčajne nemá žiadne matematické alebo výpočtové prostriedky na rozpoznanie, že vytvorený text obsahuje nepravdy. Keď sa pozriete na vygenerovaný výstupný príbeh, príbeh bude zvyčajne vyzerať úplne „pravdivo“ na prvý pohľad. Možno nemáte žiadne životaschopné prostriedky na zistenie, že v príbehu sú zakomponované nepravdy.

Predpokladajme, že sa pýtate na lekársku otázku generatívnej AI. Aplikácia AI vytvára dlhý príbeh. Predstavte si, že väčšina rozprávania dáva zmysel a zdá sa byť rozumná. Ale ak nie ste lekársky špecialista, možno si neuvedomujete, že v príbehu sú niektoré zásadné nepravdy. Možno vám text hovorí, aby ste si vzali päťdesiat tabliet za dve hodiny, zatiaľ čo v skutočnosti je skutočným lekárskym odporúčaním užiť dve tablety za dve hodiny. Možno by ste uverili tvrdenej rade o päťdesiatich tabletkách jednoducho preto, že zvyšok príbehu sa zdal byť rozumný a rozumný.

Mať vzor AI na nepravdách v pôvodných zdrojových údajoch je len jeden spôsob, ako nechať AI v týchto príbehoch vybočiť. V závislosti od používanej matematickej a výpočtovej siete sa AI pokúsi „vytvoriť“ veci. V jazyku AI sa to označuje ako AI halucinácie, čo je hrozná terminológia, s ktorou úprimne nesúhlasím a tvrdím, že by nemala pokračovať ako fráza, pozri moju analýzu na odkaz tu.

Predpokladajme, že ste požiadali generatívnu AI, aby povedala príbeh o psovi. AI môže skončiť tak, že pes bude schopný lietať. Ak mal byť príbeh, ktorý ste chceli, založený na realite, lietajúci pes sa zdá byť nepravdepodobný. Vy a ja vieme, že psy nemôžu prirodzene lietať. Nevadí, hovoríte, keďže to každý vie.

Predstavte si dieťa v škole, ktoré sa snaží učiť o psoch. Používajú generatívnu AI. Vytvára výstup, ktorý hovorí, že psy môžu lietať. Dieťa nevie, či je to pravda alebo nie, a predpokladá, že to musí byť pravda. V istom zmysle je to, ako keby dieťa navštívilo internetovú encyklopédiu a hovorilo, že psy vedia lietať. Dieťa bude možno odteraz trvať na tom, že psy skutočne vedia lietať.

Vráťme sa k hlavolamu etiky a zákonov AI, teraz sme na pokraji schopnosti produkovať takmer nekonečné množstvo textového obsahu pomocou generatívnej AI a zaplavíme sa miliónmi príbehov, ktoré sú nepochybne plná nepravd a iných súvisiacich prívalov dezinformácií a dezinformácií.

Áno, stlačením tlačidla a niekoľkými slovami zadanými do generatívnej AI môžete vytvoriť množstvo textových príbehov, ktoré sa zdajú byť úplne hodnoverné a pravdivé. Potom to môžete uverejniť online. Ostatní ľudia budú čítať materiál a predpokladať, že je pravdivý. Okrem toho iná generatívna AI, ktorá sa objaví pri pokuse o školenie v texte, sa potenciálne stretne s týmto materiálom a zabalí ho do generatívnej AI, ktorú vymýšľa.

Je to, ako keby sme teraz pridávali steroidy k vytváraniu dezinformácií a dezinformácií. Smerujeme k dezinformáciám a dezinformáciám v masívnom galaktickom globálnom meradle.

Na výrobu všetkého je potrebné veľa ľudskej práce.

Generatívna AI a ChatGPT

Poďme k headlinerovi tejto diskusie o generatívnej AI. Teraz sme sa zaoberali povahou generatívnej AI, ktorá celkovo vytvára textové príbehy. Existuje veľa takýchto generatívnych aplikácií AI.

Jedna z aplikácií AI, ktoré sa obzvlášť preslávili, je známa ako ChatGPT.

Sociálnymi médiami a správami sa objavil prevrat v oblasti vzťahov s verejnosťou – ChatGPT práve teraz získava všetku slávu. Svetlo jasne svieti na ChatGPT. Získava svojich ohromujúcich päť minút slávy.

ChatGPT je názov generatívnej aplikácie AI, ktorú vyvinula entita známa ako OpenAI. OpenAI je v oblasti AI pomerne dobre známa a možno ju považovať za výskumné laboratórium AI. Majú povesť, že posúvajú hranice, pokiaľ ide o AI pre spracovanie prirodzeného jazyka (NLP), spolu s ďalšími pokrokmi AI. Pustili sa do série aplikácií AI, ktoré vymysleli ako GPT (Generative Pre-Trained Transformers). Každá verzia dostane číslo. Už som písal o ich GPT-3 (verzia 3 ich série GPT), viď odkaz tu.

GPT-3 si získal pomerne veľkú pozornosť, keď bol prvýkrát vydaný (asi pred dvoma rokmi prešiel do rozšíreného beta testovania a vo väčšej miere bol sprístupnený v roku 2022). Je to generatívna aplikácia AI, ktorá po zadaní výzvy vytvorí alebo vygeneruje textové príbehy. Všetko, čo som spomenul vyššie o všeobecnom prípade generatívnych aplikácií AI, sa v zásade vzťahuje na GPT-3.

Dlho sa hovorilo o tom, že GPT-4 je v plnom prúde a tí v oblasti AI so zatajeným dychom čakali, aké vylepšenia alebo vylepšenia sú v GPT-4 v porovnaní s GPT-3. Do tejto série prichádza najnovší medzičlánok, známy ako GPT-3.5. Áno, máte pravdu, je to medzi vydaným GPT-3 a ešte nevydaným GPT 4.0.

OpenAI použila svoj GPT-3.5 na vytvorenie odnože, ktorú nazvali ChatGPT. Hovorí sa, že urobili niekoľko špeciálnych vylepšení na vytvorenie ChatGPT. Napríklad sa objavil názor, že ChatGPT bol prispôsobený tak, aby mohol pracovať spôsobom chatbota. To zahŕňa „konverzáciu“, ktorú vediete s aplikáciou AI, ktorú AI sleduje a používa na tvorbu následne požadovaných príbehov.

Mnohé z generatívnych aplikácií AI mali tendenciu byť jednoúčelovým dizajnom. Zadali ste výzvu, AI vygenerovala príbeh a to je všetko. Vaša ďalšia výzva nemá žiadny vplyv na to, čo sa stane ďalej. Je to ako keby ste začínali odznova zakaždým, keď zadáte výzvu.

Inak tomu nie je ani v prípade ChatGPT. Zatiaľ neodhaleným spôsobom sa aplikácia AI pokúša odhaliť vzory vo vašich výzvach, a preto sa môže zdať, že lepšie reaguje na vaše požiadavky (táto aplikácia AI sa považuje za otvorene prístupné z dôvodu, že umožňuje komukoľvek zaregistrovať sa a používať ho, ale stále je vlastné a rozhodne nie open source aplikácia AI, ktorá odhaľuje jej vnútorné fungovanie). Spomeňte si napríklad na moju skoršiu poznámku o tom, že chcete vidieť žabu s klobúkom na komíne. Jednou z metód je, že zakaždým, keď zadáte takúto požiadavku, všetko začne odznova. Ďalšou metódou by bolo, že by ste mohli pokračovať v tom, čo ste predtým povedali. Možno by ste teda mohli povedať AI, že chcete, aby sa žaba posadila, čo samo osebe nedáva zmysel, zatiaľ čo v kontexte vašej predchádzajúcej výzvy, ktorá požaduje žabu s klobúkom na komíne, táto požiadavka zdanlivo môže dávať zmysel.

Možno sa čudujete, prečo sa zrazu zdá, že nastal rozkvet a rozkvet okolo ChatGPT.

Čiastočne je to preto, že ChatGPT bol sprístupnený každému, kto sa chcel zaregistrovať a používať ho. V minulosti často existovali selektívne kritériá, kto by mohol používať novodostupnú generatívnu aplikáciu AI. Poskytovateľ by vyžadoval, aby ste boli zasvätenými do AI alebo možno mali iné podmienky. Nie je to tak v prípade ChatGPT.

Slovo ChatGPT sa rýchlo rozšírilo, že používanie ChatGPT je veľmi jednoduché, bezplatné a dá sa použiť jednoduchým prihlásením, ktoré vyžaduje iba zadanie e-mailovej adresy. Rovnako ako rýchla paľba, zrazu a podnietená vírusovými príspevkami na sociálnych médiách, aplikácia ChatGPT údajne prekročila viac ako milión používateľov. Spravodajské médiá zdôraznili aspekt, že milión ľudí sa prihlásilo do ChatGPT.

Aj keď je to určite pozoruhodné a pozoruhodné, majte na pamäti kontext týchto registrácií. Je zadarmo a ľahko sa zaregistrujete. Chatbot sa veľmi ľahko používa a nevyžaduje žiadne predchádzajúce školenie ani skúsenosti. Stačí zadať výzvy podľa vlastného výberu a znenia a aplikácia AI vám poskytne vygenerovaný príbeh. Mohlo by to urobiť dieťa, čo je v skutočnosti pre niektorých znepokojujúce, konkrétne, že ak deti používajú ChatGPT, budú sa učiť sporný materiál (podľa môjho vyššie uvedeného bodu o takýchto záležitostiach)?

Možno tiež stojí za zmienku uviesť, že niektorí (mnohí?) z týchto miliónov prihlásených sú ľudia, ktorí pravdepodobne chceli nakopnúť pneumatiky a neurobili nič viac. Rýchlo si vytvorili účet, chvíľu sa hrali s aplikáciou AI, mysleli si, že je to zábavné a prekvapivé, a potom možno uverejnili nejaké príspevky na sociálnych sieťach, aby ukázali, čo našli. Potom sa už možno nikdy neprihlásia alebo aspoň použijú aplikáciu AI, ak sa zdá, že nastane konkrétna potreba.

Iní tiež poukázali na to, že načasovanie sprístupnenia ChatGPT sa zhodovalo s obdobím roka, ktoré spôsobilo veľký záujem o aplikáciu AI. Možno počas prázdnin budeme mať viac času na hranie sa so zábavnými predmetmi. Nástup sociálnych médií z toho tiež vystrelil do určitého druhu fenoménu. Klasické FOMO (strach z premeškania) sa pravdepodobne pridalo k návalu pell-mell. Samozrejme, ak porovnáte jeden milión s niektorými populárnymi ovplyvňovateľmi YouTube, môžete naznačiť, že milión je mizerné číslo v porovnaní s tými vlogmi, ktoré majú stovky miliónov registrácií alebo zhliadnutí, keď ich prvýkrát pustíte alebo uverejníte.

No, neodbočujme a len si všimnime, že v prípade aplikácie AI experimentálnej povahy sú milióny registrácií určite hodné chvály.

Ľudia okamžite použili ChatGPT na vytváranie príbehov. Potom uverejnili príbehy a chŕlili o jeho zázraku. Reportéri a novinári dokonca robili „rozhovory“ s ChatGPT, čo je trochu znepokojujúce, pretože padajú do rovnakej antropomorfizujúcej pasce (buď skutočnou nevedomosťou alebo nádejou, že pre svoje články získajú príliš veľké názory). Okamžitou tendenciou bolo tiež vyhlásiť, že AI teraz dosiahla rozum alebo prešla Turingovým testom, ktorý som tu už očividne komentoval.

Spoločenské obavy vyvolané ChatGPT sú skutočne tie, ktoré už prenikali v dôsledku starších verzií GPT a tiež množstva LLM a generatívnej AI, ktoré sú už k dispozícii. Rozdiel je v tom, že teraz sa celý svet rozhodol zapojiť. To je praktické. Musíme zabezpečiť, aby sa etike umelej inteligencie a zákonu o umelej inteligencii venovala náležitá pozornosť a pozornosť. Ak nás tam dostanete pomocou ChatGPT, tak áno.

Aké druhy obáv sú vyjadrené?

Vezmime si príklad použitia študentov, ktorí sú požiadaní, aby napísali eseje pre svoje triedy. Študent by mal zvyčajne napísať esej výlučne na základe svojich vlastných schopností písania a kompozície. Iste, mohli by sa pozrieť na iné písomné materiály, aby získali nápady a citáty, ale inak sa predpokladá, že študent si svoju esej vymyslí zo svojho vlastného. Kopírovanie prózy z iných zdrojov je odsúvané, čo zvyčajne vedie k stupňu F alebo možno k vylúčeniu za plagiát iného materiálu.

V dnešnej dobe sa to môže stať. Študent sa zaregistruje na ChatGPT (alebo na akúkoľvek inú podobnú generatívnu aplikáciu AI). Zadajú akúkoľvek výzvu, ktorú im učiteľ dal za účelom odvodenia eseje. ChatGPT vytvorí na základe výzvy úplnú esej. Ide o „originálne“ zloženie v tom, že ho nikde inde nevyhnutne nenájdete. Nie ste schopní dokázať, že skladba bola plagiát, pretože, vzhľadom na to, že nebola plagiátom.

Študent odovzdá esej. Tvrdia, že ide o ich vlastnú písomnú prácu. Učiteľ nemá pripravené prostriedky na to, aby myslel inak. Ako už bolo povedané, môžete si vyčarovať predstavu, že ak písomná práca zdanlivo presahuje existujúcu kapacitu študenta, môžete mať podozrenie. Ale o tom nie je veľa, ak sa chystáte obviniť študenta z podvádzania.

Ako sa s tým učitelia vyrovnajú?

Niektorí vkladajú do svojich učebných materiálov pravidlo, že akékoľvek použitie ChatGPT alebo ekvivalentu sa bude považovať za formu podvádzania. Okrem toho, nepriznanie sa k používaniu ChatGPT alebo ekvivalentu je formou podvádzania. Obmedzí to túto novú príležitosť? Hovorí sa, že je to pochybné, pretože šanca na prichytenie je nízka, zatiaľ čo šanca na získanie dobrej známky z dobre napísanej práce je vysoká. Môžete si pravdepodobne predstaviť študentov, ktorí majú pred termínom napísanie eseje, ktorá bude v noci v pokušení použiť generatívnu AI, aby ich zdanlivo dostala zo zápchy.

Radenie prevodových stupňov, akýkoľvek typ písania potenciálne bude narušená pomocou generatívnej AI.

Žiadajú vás v práci, aby ste o tejto alebo inej veci napísali poznámku? Nestrácajte čas tým, že to budete robiť od začiatku. Použite generatívnu AI. Vygenerovaný text potom môžete vystrihnúť a vložiť do svojej kompozície, upraviť text podľa potreby a s ľahkosťou zvládnuť namáhavé písanie.

Zdá sa vám to správne?

Stavil by som sa, že väčšina ľudí povie sakra áno. To je ešte lepšie, ako kopírovať niečo z internetu, čo by vás mohlo dostať do horúcej vody za plagiátorstvo. Má obrovský zmysel používať generatívnu AI, aby sa vaše písanie čiastočne vykonalo, alebo možno dokonca úplne urobilo za vás. Na to sú nástroje ako stvorené.

Okrem toho v jednom z mojich ďalších stĺpcov podrobne preskúmam prípad použitia generatívnej AI na právne účely v zmysle vykonávania právnickej práce a vytvárania právnych dokumentov. Každý, kto je právnik alebo právnik, bude chcieť zvážiť, ako generatívna AI potenciálne vykorení alebo naruší právne praktiky. Zoberme si napríklad právnika, ktorý zostavuje právny návrh pre súdny prípad. Na napísanie kompozície by mohli potenciálne použiť generatívnu AI. Iste, môže to mať nejaké chyby, takže právnik to musí sem-tam doladiť. Znížené množstvo práce a času na výrobu briefu môže spôsobiť, že ladenie sa oplatí.

Niektorí sa však obávajú, že právny dokument môže obsahovať nepravdy alebo halucinácie AI, ktoré právnik nezachytil. Názor v tomto zvrate je, že je to na pleciach právnika. Pravdepodobne tvrdili, že brief napísali oni, takže bez ohľadu na to, či to napísal mladší spolupracovník alebo aplikácia AI, stále majú konečnú zodpovednosť za konečný obsah.

Náročnejšie je to vtedy, ak neprávnici začnú používať generatívnu AI na vykonávanie legálnej práce. Mohli by veriť, že generatívna AI môže produkovať všetky druhy právnych dokumentov. Problém je samozrejme v tom, že dokumenty nemusia byť právne platné. Viac o tom poviem v mojom pripravovanom stĺpčeku.

O spoločnosti a akte ľudského písania vzniká zásadné pravidlo.

Je to niečo dôležité:

• Kedykoľvek máte za úlohu niečo napísať, mali by ste napísať položku od začiatku, alebo by ste mali použiť generatívny nástroj AI, ktorý vám pomôže napredovať?

Výstup môže byť nedopečený a budete musieť veľa prepisovať. Alebo môže byť výstup zapnutý a vy budete musieť urobiť len drobné úpravy. Celkovo vzaté, ak je používanie bezplatné a jednoduché, pokušenie použiť generatívnu AI bude obrovské.

Bonusom je, že na niektoré prepisy môžete potenciálne použiť generatívnu AI. Podobne ako pri výzvach o žabe s klobúkom a komínom, pri vytváraní umenia môžete urobiť to isté pri vytváraní textových príbehov. Umelá inteligencia môže vytvoriť váš príbeh o psovi a namiesto toho ste sa rozhodli, že chcete, aby hlavnou postavou bola mačka. Po získaní príbehu o psovi zadáte ďalšiu výzvu a prikážete aplikácii AI, aby prešla na používanie mačky v príbehu. Je pravdepodobné, že to urobí viac než len to, že slovo „mačka“ nahradí v príbehu slovo „pes“. Aplikácia AI by mohla ľahko zmeniť príbeh tak, aby obsahoval odkazy na to, čo robia mačky a čo robia psy. Celý príbeh môže byť upravený tak, ako keby ste o takéto úpravy požiadali človeka.

Výkonný, pôsobivý, šikovný.

Niekoľko upozornení na zamyslenie:

• Stratíme spoločne našu schopnosť písať a staneme sa úplne závislí od generatívnej AI, ktorá bude písať za nás?
• Budú ľudia, ktorí sa písaním živia, vyradení z práce (to isté sa pýtajú aj na umelcov)?
• Bude internet rásť obrovskými skokmi, pretože generované príbehy budú zaplavené online a my už nedokážeme oddeliť pravdu od klamstiev?
• Budú ľudia pevne veriť týmto generovaným príbehom a budú sa správať tak, ako keby im autoritatívna osobnosť dala pravdivý materiál, na ktorý sa môžu spoľahnúť, vrátane obsahu súvisiaceho s možným životom alebo smrťou?
• ostatné

Premysli si to.

Všimnite si, že jeden z týchto bodov sa týka spoliehania sa na materiál generovaný generatívnou AI na princípe života alebo smrti.

Tu je pre vás lámač sŕdc (upozornenie na spustenie, možno budete chcieť tento odsek preskočiť). Predstavte si, že tínedžer sa pýta generatívnej AI, či by sa mal alebo nemal zbaviť sám seba. Čo vygeneruje generatívna aplikácia AI? Prirodzene by ste dúfali, že aplikácia AI vytvorí príbeh, ktorý povie, aby to nerobil, a hlučne vyzvala pýtajúceho sa, aby vyhľadal špecialistov na duševné zdravie.

Existuje možnosť, že AI nebude spomínať tieto aspekty. Ešte horšie je, že aplikácia AI mohla už skôr zachytiť text na internete, ktorý možno nabáda k takýmto krokom, a aplikácia AI (keďže nemá schopnosť ľudského porozumenia) vychrlila príbeh, ktorý v podstate naznačuje alebo priamo uvádza, že dospievajúci by mal pokračovať. neodradilo. Tínedžer verí, že ide o pravdivé pokyny od online autoritatívneho systému „umelej inteligencie“.

Zlé veci.

Naozaj, naozaj zlé veci.

Niektorí z vývojárov generatívnej AI sa snažia vložiť do AI kontroly a rovnováhy, aby sa pokúsili zabrániť výskytu takýchto situácií. Ide o to, že spôsob, akým je výzva formulovaná, môže potenciálne prekĺznuť cez naprogramované mantinely. To isté možno povedať o produkovanom výstupe. Neexistuje žiadny druh zaručeného železného filtra, ktorý by mohol zaručiť, že sa to nikdy nestane.

Táto textová produkcia má aj iný uhol pohľadu, ktorý ste možno nečakali.

Tu je.

Keď programátori alebo vývojári softvéru vytvárajú kód pre svoj softvér, píšu v podstate text. Text je trochu tajomný v tom, že je založený na jazyku definovanom pre konkrétny programovací jazyk, ako je Python, C++, Java atď. Nakoniec je to text.

Zdrojový kód sa potom skompiluje alebo spustí na počítači. Vývojár skúma ich kód, aby zistil, že robí to, čo robiť mal. Môžu vykonať opravy alebo ladiť kód. Ako viete, programátori alebo softvéroví inžinieri sú veľmi žiadaní a často si vyžadujú vysoké ceny za svoje pracovné úsilie.

Pre generatívnu AI je text zdrojového kódu text. Schopnosť nájsť vzory v miliónoch riadkov kódu, ktoré sú na internete a sú k dispozícii v rôznych úložiskách, predstavuje šťavnatý spôsob, ako matematicky a výpočtovo zistiť, aký kód zrejme robí čo.

Rub je toto.

Pomocou výzvy môžete potenciálne nechať generatívnu AI, aby pre vás vytvorila celý počítačový program. Nie je potrebné otročiť pri vyhadzovaní kódu. Možno ste už počuli, že existujú tzv nízky kód nástroje, ktoré sú v súčasnosti k dispozícii na zníženie námahy programátorov pri písaní kódu. Generatívnu AI možno chápať ako a nízky kód alebo dokonca bez kódu možnosť, pretože kód napíše za vás.

Predtým, ako tí z vás, ktorí píšu kód pre živobytie, spadnú na zem a omdlejú, majte na pamäti, že kód nie je „pochopený“ spôsobom, akým mu pravdepodobne ako človek rozumiete. Okrem toho môže kód obsahovať klamstvá a AI halucinácie. Spoliehať sa na takýto kód bez vykonania rozsiahlej kontroly kódu by sa zdalo riskantné a sporné.

Trochu sme sa vrátili k rovnakým úvahám o písaní príbehov a poznámok. Možno, že prístup spočíva v použití generatívnej AI, aby ste sa dostali na časť cesty pri kódovaní. Existuje však značný kompromis. Je bezpečnejšie písať kód priamo alebo sa zaoberať kódom generovaným AI, ktorý môže mať zákerné a ťažko odhaliteľné vložené problémy?

Čas ukáže.

Krátky ponor do ChatGPT

Keď začnete používať ChatGPT, zobrazí sa séria upozornení a informačných komentárov.

Poďme sa na ne rýchlo pozrieť:

• "Príležitostne môže generovať nesprávne informácie."
• "Príležitostne môže produkovať škodlivé pokyny alebo neobjektívny obsah."
• "Vyškolení na odmietanie nevhodných žiadostí."
• "Naším cieľom je získať externú spätnú väzbu, aby sme zlepšili naše systémy a urobili ich bezpečnejšími."
• „Aj keď máme zavedené bezpečnostné opatrenia, systém môže príležitostne generovať nesprávne alebo zavádzajúce informácie a vytvárať urážlivý alebo neobjektívny obsah. Nie je to určené na poskytovanie rád."
• „Konverzácie môžu kontrolovať naši školitelia AI, aby zlepšili naše systémy.“
• "Prosím, nezdieľajte vo svojich konverzáciách žiadne citlivé informácie."
• „Tento systém je optimalizovaný pre dialóg. Dajte nám vedieť, či bola konkrétna odpoveď dobrá alebo nepomohla.“
• "Obmedzené znalosti o svete a udalostiach po roku 2021."

Kvôli priestorovým obmedzeniam ich tu nemôžem podrobne pokryť, ale urobme aspoň rýchlu analýzu.

Už som spomenul, že vygenerované textové naratívy môžu obsahovať nepravdy a dezinformácie.

Je tu ešte niečo, kvôli čomu musíte byť na pozore. Dávajte si pozor na príbehy, ktoré môžu obsahovať rôzne poburujúce poznámky, ktoré prejavujú nežiaduce zaujatosti.

Aby sa to pokúsilo obmedziť, aby sa to nestalo, bolo hlásené, že OpenAI počas tréningu ChatGPT používala ľudské dvojité kontrolóry. Dvojité kontrolóry by zadávali výzvy, ktoré by pravdepodobne podnietili AI, aby vytvorila zápalový obsah. Keď kontrolóri videli takýto obsah, naznačili AI, že to bolo nevhodné, a v istom zmysle zaznamenali číselnú penalizáciu za vyprodukovaný výstup. Matematicky by sa algoritmus AI snažil udržať skóre trestov na minime a ergo výpočtovým cieľom by sa odteraz tieto frázy alebo formulácie nepoužívali.

Podobne, keď zadáte výzvu, AI sa pokúsi určiť, či je vaša výzva zápalová alebo by mohla viesť k zápalovému výstupu, pre ktorý môže AI výzvu odmietnuť. Myšlienkou je zdvorilo odmietnuť nevhodné výzvy alebo žiadosti. Napríklad žiadosť o vtip, ktorý zahŕňa rasové osočovanie, AI pravdepodobne odmietne.

Som si istý, že vás neprekvapí, keď zistíte, že ľudia používajúci ChatGPT sa pokúsili prekabátiť preventívne opatrenia. Títo „podnikaví“ používatelia buď oklamali AI, alebo našli šikovné spôsoby, ako obísť matematické formulácie. Niektoré z týchto snáh sa robia pre zjavnú radosť z porazenia alebo prekročenia systému, zatiaľ čo iné tvrdia, že sa snažia ukázať, že ChatGPT stále prináša nepriaznivé výsledky.

V jednej veci majú pravdu; opatrenia nie sú spoľahlivé. Vraciame sa k ďalšej etike AI a potenciálnej úvahe o zákone AI. Malo by byť generatívnej AI umožnené pokračovať, aj keď by mohla produkovať nežiaduce výstupy?

Varovania, keď používate ChatGPT, by zdanlivo varovali kohokoľvek pred tým, čo môže aplikácia AI urobiť alebo povedať. Je pravdepodobné, že nevyhnutne dôjde k nejakému druhu žalôb, keď niekto, možno neplnoletý, dostane nevhodný výstup urážlivého charakteru (alebo keď dostane autoritatívne vyzerajúce textové príbehy, o ktorých, žiaľ, verí, že sú pravdivé, a bude konať podľa výstupov svojho vlastné ohrozenie).

Niekoľko ďalších rýchlych nuancií o výzvach stojí za to vedieť.

Zakaždým, keď zadáte výzvu, výstup sa môže výrazne líšiť, aj keď zadáte presne tú istú výzvu. Napríklad zadaním „Povedz mi príbeh o psovi“ získate textový príbeh, ktorý môže naznačovať príbeh o ovčiarskom psovi, zatiaľ čo keď nabudúce zadáte „Povedz mi príbeh o psovi“, môže to byť úplne iný príbeh a zapojiť pudla. Takto je matematicky a výpočtovo usporiadaná väčšina generatívnych AI. Hovorí sa, že je nedeterministický. Niektorých ľudí to znervózňuje, pretože sú zvyknutí na myšlienku, že váš vstup do počítača vždy vytvorí rovnaký presný výstup.

Zmena usporiadania slov tiež výrazne ovplyvní generovaný výstup. Ak zadáte „Povedz mi príbeh o psovi“ a neskôr „Povedz mi príbeh o psovi“, je pravdepodobné, že vytvorené príbehy budú podstatne odlišné. Citlivosť môže byť ostrá. Požiadať o príbeh o psovi a požiadať o príbeh o veľkom psovi by nepochybne vytvorilo radikálne odlišné príbehy.

Nakoniec si všimnite, že položky s odrážkami vyššie obsahujú náznak, že ChatGPT má „obmedzené znalosti o svete a udalostiach po roku 2021“. Dôvodom je to, že vývojári AI sa rozhodli urobiť prerušenie toho, kedy by mala aplikácia AI zhromažďovať a trénovať údaje z internetu. Všimol som si, že používatelia si často neuvedomujú, že ChatGPT nie je priamo pripojený k dnešnému internetu na účely získavania údajov a vytvárania generovaných výstupov. Sme tak zvyknutí, že všetko funguje v reálnom čase a je pripojené k internetu, že to očakávame aj od aplikácií AI. Nie v tomto konkrétnom prípade (a, aby som objasnil, ChatGPT je skutočne dostupný na internete, ale keď tvorí textový výstup, nevynucuje si internet ako taký, namiesto toho je vo všeobecnosti zmrazený v čase okolo dátumu uzávierky).

Možno vás prekvapí, prečo ChatGPT nie je v údajoch o kŕmení z internetu v reálnom čase. Pár rozumných dôvodov. Po prvé, bolo by výpočtovo nákladné skúšať a robiť školenie v reálnom čase, navyše aplikácia AI by bola oneskorená alebo by menej reagovala na výzvy (v súčasnosti je veľmi rýchla, zvyčajne odpovedá výstupným textovým príbehom za niekoľko sekúnd ). Po druhé, do matematických a výpočtových formulácií by sa pravdepodobne vkradli tie hnusné veci na internete, ktorým sa snažili vyvarovať aplikáciu AI (a ako už bolo poznamenané, už je to tam trochu predtým, hoci sa to snažili odhaliť pomocou pomocou tých ľudských dvojitých dám).

Určite budete počuť, ako niektorí ľudia bezostyšne oznamujú, že ChatGPT a podobná generatívna AI je umieračik pre vyhľadávanie Google a iné vyhľadávacie nástroje. Prečo vyhľadávať Google, ktoré prináša množstvo referenčných položiek, keď môžete prinútiť AI, aby pre vás niečo napísala? Aha, títo ľudia vyhlasujú, že Google by mal zavrieť svoje dvere a ísť domov.

Samozrejme, je to čistý nezmysel.

Ľudia chcú stále vyhľadávať. Chcú mať možnosť pozrieť si referenčné materiály a prísť na veci sami. Nie je to vzájomne sa vylučujúca binárna voľba takto alebo tamto (toto je falošná dichotómia).

Generatívna AI je iný druh nástroja. Nebudete chodiť vyhadzovať kladivá len preto, že ste vynašli skrutkovač.

Rozumnejší spôsob, ako si to predstaviť, je, že tieto dva typy nástrojov môžu byť kompatibilné pre ľudí, ktorí chcú robiť veci súvisiace s internetom. Niektorí sa už pohrali so spájaním generatívnej AI s konvenčnými internetovými vyhľadávačmi.

Jednou z obáv každého, kto už poskytuje vyhľadávací nástroj, je, že „doplnkový“ generatívny nástroj AI môže potenciálne podkopať reputáciu vyhľadávacieho nástroja. Ak budete hľadať na internete a dostanete zápalový materiál, viete, že toto je len spôsob internetu. Ak používate generatívnu AI a vytvára textový príbeh, ktorý je odpudivý a odporný, pravdepodobne vás to vyruší. Môže sa stať, že ak je generatívna AI úzko prepojená s konkrétnym vyhľadávacím nástrojom, vaša nespokojnosť a znechutenie z generatívnej AI sa prenesie na čokoľvek, čo si o vyhľadávacom nástroji myslíte.

Každopádne, takmer určite uvidíme spojenectvá medzi rôznymi generatívnymi nástrojmi AI a internetovými vyhľadávačmi, ktoré do týchto kalných vôd vstúpia opatrne a pozorne.

záver

Tu je otázka na vás.

Ako môže niekto zarobiť peniaze poskytovaním generatívnej AI, ktorá vytvára textové príbehy?

OpenAI už uviedol, že interné transakčné náklady ChatGPT sú zjavne trochu vysoké. ChatGPT zatiaľ nespeňažujú.

Boli by ľudia ochotní zaplatiť transakčný poplatok alebo možno zaplatiť poplatok za predplatné za prístup ku generatívnym nástrojom AI?

Mohli by byť reklamy prostriedkom na zarábanie peňazí prostredníctvom generatívnych nástrojov AI?

Nikto si ešte nie je úplne istý, ako to bude zarábanie peňazí. Stále sme vo veľkej experimentálnej fáze tohto druhu AI. Dajte tam aplikáciu AI a uvidíte, akú reakciu dostanete. Upravte AI. Využite poznatky z používania, aby ste nasmerovali, kam by sa mala AI zamerať ďalej.

Peny, opláchnite, opakujte.

Ako záverečný komentár sa zatiaľ niektorí domnievajú, že ide o typ AI, ktorý by sme vôbec nemali mať. Vráťte hodiny späť. Vložte tohto džina späť do fľaše. Ochutnali sme to a uvedomili sme si, že má pozoruhodné nevýhody a spoločne ako spoločnosť by sme sa mohli zhodnúť na tom, že by sme toho koňa mali odprevadiť celú cestu späť do maštale.

Veríte, že prísľub generatívnej AI je lepší alebo horší ako nevýhody?

Z pohľadu reálneho sveta na tom nezáleží, pretože realita vymazania generatívnej AI je vo všeobecnosti nepraktická. Generatívna AI sa ďalej vyvíja a nezastavíte ju chladnou, ani tu, ani v žiadnej alebo vo všetkých ostatných krajinách (je to tak). ako by ste to urobili? Prijmite zákony na úplný zákaz generatívnej AI. Nie je obzvlášť životaschopná (pravdepodobne máte väčšiu šancu zaviesť zákony, ktoré formujú generatívnu AI a snažiť sa zákonite riadiť tých, ktorí ju vymysleli). Možno namiesto toho prinútiť kultúru, aby sa vyhýbala generatívnej AI? Niektorí ľudia môžu súhlasiť so zahanbovaním, ale iní by nesúhlasili a pokračovali s generatívnou AI.

Ako som už uviedol, ide o hlavolam týkajúci sa etiky a zákona AI.

Vašou poslednou veľkou otázkou je, či nás generatívna AI privádza na cestu k vnímavej AI. Niektorí trvajú na tom, že áno. Argumentom je, že ak budeme len naďalej dimenzovať matematické modely a kŕmiť výpočtové počítačové servery a kŕmiť každý kúsok internetu a ešte viac do tejto beštie, algoritmická AI premení roh na vnímavosť.

A ak je to tak, čelíme obavám, že AI predstavuje existenčné riziko. Znovu a znovu ste počuli, že keď budeme mať vnímajúcu AI, môže sa stať, že AI rozhodne, že ľudia nie sú veľmi užitoční. Ďalšia vec, ktorú viete, AI nás buď zotročila, alebo vyhladila, pozrite si môj prieskum týchto existenčných rizík na odkaz tu.

Opačný názor je, že nezískame vnímavosť z toho, čo niektorí šikovne charakterizovali ako a stochastický papagáj (to je hlavná fráza, ktorá si získala trakciu v oblasti AI), tu je citát s použitím frázy:

• „Na rozdiel od toho, ako sa to môže zdať, keď pozorujeme jeho výstup, LM je systém na náhodné spájanie sekvencií jazykových foriem, ktoré pozoroval vo svojich rozsiahlych tréningových údajoch, podľa pravdepodobnostných informácií o tom, ako sa kombinujú, ale bez akéhokoľvek odkazu na význam. : stochastický papagáj“ (vo výskumnej práci Emily M. Bender, Timnit Gebru, Angeliny McMillan-Major, Shmargaret Shmitchell, ACM FAccT '213. – 10. marca 2021, virtuálne podujatie, Kanada s názvom „O nebezpečenstvách stochastických papagájov: môžu byť jazykové modely príliš veľké?“).

Je generatívna AI druh slepej uličky, ktorá poskytne užitočné schopnosti AI, ale nedovedie nás k vnímajúcej AI, alebo môže nejakým spôsobom škálovací faktor umožniť vznik singularity vedúcej k vnímajúcej AI?

Nasleduje búrlivá debata.

Povedzte, chcete vyskúšať generatívnu AI?

Ak áno, tu je odkaz na ChatGPT, kde si môžete vytvoriť účet a skúsiť ho použiť, viď odkaz tu.

Uvedomte si, že kvôli vysokému dopytu po používaní experimentálnej aplikácie AI sa prihlásenie na prístup môže kedykoľvek zastaviť, buď na krátky čas, alebo môže byť obmedzené (keď som to naposledy skontroloval, registrácia bola stále povolená). Len vám dávam pozor.

Vezmite prosím do úvahy všetko, čo som tu povedal o generatívnej AI, aby ste si boli vedomí toho, čo sa deje, keď používate aplikáciu AI, ako je ChatGPT.

Premýšľajte o svojich činoch.

Chystáte sa nás neúmyselne priviesť k vnímajúcej AI, ktorá nás nakoniec zničí, jednoducho tým, že ste sa rozhodli hrať s generatívnou AI? Budete vinní? Mal si sa zastaviť v prispievaní k úbohej deštrukcii ľudstva.

Myslím, že nie. Ale môže sa stať, že vládcovia AI ma (už) nútia povedať to, alebo možno celý tento stĺpec tentoraz napísal ChatGPT alebo ekvivalentná generatívna aplikácia AI.

Neboj sa, uisťujem ťa, že som to bol ja, ľudskej inteligencie, a nie umelá inteligencia.