Je pravda, že generatívny AI ChatGPT zaplaví internet nekonečným obsahom, pýta sa na etiku AI a zákon o AI

Poznáte túto inšpiratívnu detskú knihu? Ryba mimo vody?

Očarujúcu knihu napísala Helen Palmer (vlastným menom Helen Palmer Geisel) a vznikla podľa poviedky doktora Seussa (vlastným menom Theodor Geisel). Tím manželov vytvoril dnes už legendárny príspevok k literatúre pre deti, ktorý potešil mladých všade.

V prípade, že vám zápletka nie je známa alebo ju potrebujete osviežiť, dovoľte mi v krátkosti zhrnúť. Chlapec si kúpi zlatú rybku v miestnom obchode s domácimi zvieratami. Je prísne poučený, aby nikdy neprekŕmil drobného morského tvora. Nikdy neviete, čo sa môže stať, ak to urobíte.

Chlapec neúmyselne prekŕmi svoju zlatú rybku, len raz, ale to spustí ohromujúce množstvo nespútaného rastu.

Veci sa začínajú kaziť.

Kedysi maličká rybka rýchlo vyrastie z akvária a zväčší sa natoľko, že chlapec dá milovaného miláčika do vane v dome. Ryby stále rastú a rastú. Zdá sa, že toto je nezastaviteľné.

Čoskoro príde chlapcovi na pomoc polícia a hasiči a prevezú zlatú rybku veľkosti slona do miestneho verejného bazéna. Nakoniec príde majiteľ obchodu so zvieratami a podarí sa mu zmenšiť zlatú rybku späť na normálnu veľkosť. Nevieme, ako sa tento magický výkon podarilo dosiahnuť. Chlapec je opäť upozornený, aby sa vyhol prekrmovaniu.

Poučenie, ťažká cesta.

Možno budeme musieť dbať na rovnakú trýznivú lekciu, pokiaľ ide o budúcnosť internetu.

Ako to?

Dnešná realita je taká, že sme možno vymysleli formu umelej inteligencie (AI), ktorá sa rozšíri a naplní internet obrovským a nekonečným prúdom údajov. Je v tom veľa rukopisov Generatívna AI, najhorúcejšia AI v týchto dňoch, to urobí.

Generatívna AI je schopná generovať alebo produkovať výstupy, ako je text, bez jednoduchého príkazu zadaného ľudským používateľom. Kompletnú a rozsiahlu esej je možné vygenerovať pomocou niekoľkých dobre zvolených slov. Možno ste si vedomí generatívnej AI vďaka veľmi populárnej aplikácii AI známej ako ChatGPT, ktorú v novembri vydala spoločnosť OpenAI. Okamžite o tom poviem viac.

Niektorí vrúcne varovali, že generatívna AI sa dá použiť na vytvorenie zdanlivo nekonečného množstva obsahu.

Jedna osoba môže jednoducho využiť generatívnu AI na výrobu tisícok esejí iba v jednej online relácii, pričom to robí s minimálnou námahou z ich strany. Osoba sa potom mohla rozhodnúť uverejniť vygenerované eseje na internete. Predstavte si, že sa to robí v mierke. V podstate pokračujte a vynásobte to miliónmi a miliónmi používateľov internetu. Skutočné cunami vytvoreného obsahu možno ľahko vytvoriť a zverejniť.

Opláchnite, opakujte, robte to neustále, deň čo deň, minútu po minúte.

Ide o znepokojivé tvrdenie, ktoré padá do neba, alebo má opodstatnenie?

V dnešnom stĺpci sa budem venovať týmto vyjadreným obavám, že čelíme budúcnosti internetu úplne upchatého a zaplaveného generatívnym obsahom AI. Pozrieme sa na základ týchto pochybností a zvážime niektoré potenciálne pozitívne stránky, ktoré sa zvyčajne neuvádzajú. Počas tejto diskusie budem občas odkazovať na ChatGPT, pretože je to 600-librová gorila generatívnej AI, aj keď majte na pamäti, že existuje veľa iných generatívnych aplikácií AI a vo všeobecnosti sú založené na rovnakých všeobecných princípoch.

Medzitým sa možno pýtate, čo je vlastne generatívna AI.

Poďme sa najprv venovať základom generatívnej AI a potom sa môžeme bližšie pozrieť na naliehavú záležitosť.

Do toho všetkého prichádza množstvo úvah o etike AI a zákonoch o AI.

Uvedomte si, že neustále prebieha úsilie o začlenenie etických princípov AI do vývoja a zavádzania aplikácií AI. Rastúci kontingent zainteresovaných a bývalých etiológov AI sa snaží zabezpečiť, aby snahy o navrhnutie a prijatie AI zohľadňovali AI pre dobro a odvrátenie AI pre zlé. Podobne sa navrhujú nové zákony o umelej inteligencii, o ktorých sa hovorí ako o potenciálnych riešeniach, ktoré zabránia snahám umelej inteligencie ohroziť ľudské práva a podobne. Moje pokračujúce a rozsiahle pokrytie etiky AI a práva AI nájdete v časti odkaz tu a odkaz tu, Len aby sme vymenovali niekoľko.

Vývoj a propagácia etických zásad AI sa usiluje o to, aby sa, dúfajme, zabránilo spoločnosti, aby upadla do nespočetných pascí, ktoré vyvolávajú AI. Moje pokrytie etických princípov AI OSN, ako ich navrhlo a podporilo takmer 200 krajín prostredníctvom úsilia UNESCO, pozri odkaz tu. V podobnom duchu sa skúmajú nové zákony AI, ktoré sa snažia udržať AI na rovnakej úrovni. Jeden z najnovších záberov pozostáva zo súboru navrhovaných Listina práv AI ktorý americký Biely dom nedávno vydal na identifikáciu ľudských práv vo veku AI, viď odkaz tu. Vyžaduje si to dedinu, aby udržala AI a vývojárov AI na správnej ceste a odradila účelové alebo náhodné podvedomé snahy, ktoré by mohli podkopať spoločnosť.

Do tejto diskusie vložím úvahy súvisiace s etikou AI a zákonom o AI.

Základy generatívnej AI

Najznámejšia inštancia generatívnej AI je reprezentovaná aplikáciou AI s názvom ChatGPT. ChatGPT sa dostal do povedomia verejnosti už v novembri, keď ho vydala výskumná spoločnosť AI OpenAI. Odvtedy, čo ChatGPT získal veľké titulky a prekvapivo prekročil svojich pätnásť minút slávy.

Hádam ste už počuli o ChatGPT alebo možno dokonca poznáte niekoho, kto ho používal.

ChatGPT sa považuje za generatívnu aplikáciu AI, pretože berie ako vstup nejaký text od používateľa a potom generuje alebo vytvorí výstup, ktorý pozostáva z eseje. AI je generátor textu na text, hoci AI opisujem ako generátor textu na esej, pretože to ľahšie objasňuje, na čo sa bežne používa. Generatívnu umelú inteligenciu môžete použiť na zostavovanie dlhých kompozícií alebo ju môžete prinútiť ponúkať skôr krátke chúlostivé komentáre. Všetko je na vašej ponuke.

Všetko, čo musíte urobiť, je zadať výzvu a aplikácia AI vám vygeneruje esej, ktorá sa pokúsi reagovať na vašu výzvu. Komponovaný text bude pôsobiť, akoby esej bola napísaná ľudskou rukou a mysľou. Ak by ste zadali výzvu, ktorá hovorila „Povedz mi o Abrahamovi Lincolnovi“, generatívna AI vám poskytne esej o Lincolnovi. Existujú aj iné režimy generatívnej AI, ako je text-to-art a text-to-video. Zameriam sa tu na variáciu textu na text.

Vaša prvá myšlienka môže byť, že táto generatívna schopnosť sa nezdá byť až taká veľká, pokiaľ ide o tvorbu esejí. Môžete ľahko vyhľadávať online na internete a ľahko nájsť tony a tony esejí o prezidentovi Lincolnovi. Nakopnutím v prípade generatívnej AI je to, že vygenerovaná esej je relatívne jedinečná a poskytuje skôr originálnu kompozíciu než napodobeninu. Ak by ste sa pokúsili nájsť niekde online esej vytvorenú AI, je nepravdepodobné, že by ste ju objavili.

Generatívna AI je vopred vyškolená a využíva komplexnú matematickú a výpočtovú formuláciu, ktorá bola vytvorená skúmaním vzorov v písaných slovách a príbehoch na webe. V dôsledku skúmania tisícov a miliónov napísaných pasáží môže AI vychrliť nové eseje a príbehy, ktoré sú zmiešané s tým, čo sa našlo. Pridaním rôznych pravdepodobnostných funkcií je výsledný text do značnej miery jedinečný v porovnaní s tým, čo bolo použité v trénovacej sade.

Existuje veľa obáv z generatívnej AI.

Jednou zásadnou nevýhodou je, že eseje vytvorené generatívnou aplikáciou AI môžu obsahovať rôzne nepravdy, vrátane zjavne nepravdivých faktov, faktov, ktoré sú klamlivo zobrazené, a zdanlivých faktov, ktoré sú úplne vymyslené. Tieto vymyslené aspekty sa často označujú ako forma AI halucinácie, fráza, ktorú nemám v obľube, ale zdá sa, že aj tak si získava na popularite (podrobné vysvetlenie, prečo je to mizerná a nevhodná terminológia, nájdete v mojom príspevku na odkaz tu).

Ďalšou obavou je, že ľudia si môžu ľahko pripísať zásluhy za generatívnu esej vytvorenú umelou inteligenciou, napriek tomu, že esej sami nenapísali. Možno ste už počuli, že učitelia a školy sú dosť znepokojení vznikom generatívnych aplikácií AI. Študenti môžu potenciálne použiť generatívnu AI na písanie svojich pridelených esejí. Ak študent tvrdí, že esej bola napísaná ich vlastnou rukou, je malá šanca, že učiteľ bude schopný rozoznať, či nebola sfalšovaná generatívnou AI. Pre moju analýzu tohto mätúceho aspektu študenta a učiteľa si pozrite moje pokrytie na odkaz tu a odkaz tu.

Na sociálnych sieťach sa objavilo niekoľko šialených prehnaných tvrdení Generatívna AI tvrdenie, že táto najnovšia verzia AI je v skutočnosti vnímavá AI (nie, mýlia sa!). Tí, ktorí sa zaoberajú etikou AI a zákonom o umelej inteligencii, sa obzvlášť obávajú tohto rastúceho trendu rozšírených nárokov. Môžete zdvorilo povedať, že niektorí ľudia preháňajú, čo vlastne dnešná AI dokáže. Predpokladajú, že AI má schopnosti, ktoré sme ešte nedokázali dosiahnuť. To je nešťastie. Čo je ešte horšie, môžu dovoliť sebe a ostatným, aby sa dostali do zúfalých situácií, pretože predpokladajú, že AI bude vnímavá alebo podobná ľuďom, keď bude schopná konať.

Neantropomorfizujte AI.

Ak tak urobíte, dostanete sa do lepkavej a neústupnej pasce spoliehania sa na očakávanie, že AI bude robiť veci, ktoré nie je schopná vykonať. Ako už bolo povedané, najnovšia generatívna AI je relatívne pôsobivá na to, čo dokáže. Uvedomte si však, že existujú významné obmedzenia, ktoré by ste mali mať neustále na pamäti pri používaní akejkoľvek generatívnej aplikácie AI.

Zatiaľ posledné varovanie.

Čokoľvek vidíte alebo čítate v generatívnej AI reakcii, že Zdá sa Ak chcete, aby boli vyjadrené ako čisto faktické (dátumy, miesta, ľudia atď.), nezabudnite zostať skeptickí a buďte ochotní ešte raz skontrolovať, čo vidíte.

Áno, dátumy sa dajú vymyslieť, miesta sa dajú vymyslieť a prvky, od ktorých zvyčajne očakávame, že budú bez výčitiek, sú všetko podlieha podozreniam. Neverte tomu, čo čítate, a buďte skeptický pri skúmaní akýchkoľvek generatívnych esejí alebo výstupov AI. Ak vám generatívna aplikácia AI povie, že Abraham Lincoln lietal po krajine vo svojom súkromnom lietadle, nepochybne by ste vedeli, že ide o maláriu. Žiaľ, niektorí ľudia si možno neuvedomujú, že lietadlá v jeho dobe neboli, alebo možno vedia, ale nevšimli si, že esej uvádza toto drzé a neuveriteľne nepravdivé tvrdenie.

Silná dávka zdravého skepticizmu a vytrvalá nedôverčivosť budú vašou najlepšou devízou pri používaní generatívnej AI.

Sme pripravení prejsť do ďalšej fázy tohto objasňovania.

Pohľad na to, čo môže generatívna AI urobiť na internete

Teraz, keď už máte zdanie o tom, čo je generatívna AI, môžeme preskúmať nepríjemnú otázku, či tento typ AI spôsobí chaos a prešľapy na internete.

Tu je mojich osem dôležitých tém súvisiacich s touto záležitosťou:

• 1) Veľkosť internetu
• 2) Indexovanie internetu
• 3) Meranie toho, čo je generatívny obsah produkovaný AI
• 4) Čo je zlé na generatívnom obsahu AI?
• 5) Budú ľudia posielať generatívny obsah AI na internet
• 6) Možno budú prístupy Paywall rešpektované
• 7) Multi-Modal Morass Generative AI čaká
• 8) Začarované alebo cnostné cykly generatívnej AI

Zaoberám sa každou z týchto dôležitých tém a ponúknem kľúčové úvahy, nad ktorými by sme mali všetci dôkladne premýšľať. Každá z týchto tém je neoddeliteľnou súčasťou väčšej skladačky. Nedá sa pozerať len na jeden kus. Ani sa nemôžete pozerať na žiadny kus izolovane od ostatných kusov.

Ide o zložitú mozaiku a celej skladačke je potrebné venovať náležitú harmonickú úvahu.

Veľkosť internetu

Jedným z prvých aspektov, ktoré treba zvážiť, je veľkosť internetu.

Toto je obzvlášť dôležité. Tvrdenie o generatívnej AI je, že zjavne enormne nafúkne internet. Vďaka jednoduchému využívaniu generatívnej AI na chrlenie obrovských objemov digitálnych materiálov budeme mať k dispozícii všemožný ďalší obsah. Ak áno, logicky rozumná otázka znamená, aký veľký je dnes internet, spolu s tým, koľko môže generatívna AI vyvrhnúť ďalší obsah, ktorý by inak na internete nebol.

Pokúsiť sa zvládnuť veľkosť internetu je bohužiaľ dosť ťažké a nesmierne nepresné.

Jeden odhad, ktorý bol zverejnený na Financie online naznačuje, že internet má v súčasnosti veľkosť najmenej 74 zettabajtov (ZB) a potenciálne dosiahne 463 ZB do roku 2025 (všimnite si, že predpovedaný rast zjavne nezohľadňuje generatívnu AI ako faktor ako taký a iba predpokladá iná je rovnaká pri odvodzovaní tejto projekcie).

Existuje mnoho ďalších odhadov existujúcej veľkosti internetu. Podobne existuje množstvo ďalších odhadov očakávaného rastu veľkosti. Nechcem sa utápať v hádkach o takýchto číslach a chcem len zdôrazniť, že internet je nepochybne obrovský. Okrem toho stojí za zmienku, že všetky rozumné očakávania sú, že internet bude za normálneho priebehu udalostí neochvejne pokračovať na svojej ceste raketového rastu.

Tiež by vás mohlo zaujímať, že Statista zverejnil rôzne štatistiky, ktoré naznačujú, že v súčasnosti má internet okolo 5.16 miliardy používateľov. Podľa výpočtov to predstavuje 64.4 % svetovej populácie. Si prekvapený? Na jednej strane by sme mohli prirodzene predpokladať, že väčšina ľudí bude skutočne na internete. To je však trochu skreslené z pohľadu zasvätených, pretože veľa ľudí nemá rýchly prístup na internet alebo inak nie je schopný získať prístup. V každom prípade sa očakáva, že prístup na internet bude v konečnom dôsledku lacnejší a ešte rozšírenejší, čím sa počet používateľov internetu nepochybne zvýši.

Prevediem vás týmito štatistikami, aby sme sa dostali k veľmi zásadnej otázke.

Koľko prispeje generatívna AI k existujúcemu a pokračujúcemu rastu internetu?

To je to, čo chceme vedieť. Vidíte, tvrdenie o dopadoch generatívnej AI sa zdá byť v nominálnej hodnote, že generatívna AI samozrejme zaplaví internet. To všetko je trochu mávnutie rukou, ak sa pohodlne alebo neprítomne vyhýbate diskusii o skutočných číslach a skutočných počtoch vecí.

Vezmime si napríklad všeobecný predpoklad, že internet má veľkosť približne 100 ZB a rastie. Ak si myslíte, že generatívna AI pridá možno 1 ZB za rok, je to pokles celkového rozsahu internetu.

Generatívna AI by bola podobná striekaniu kamienkov do obrovského oceánu.

Zdá sa, že to nezodpovedá prevládajúcemu rozprávaniu o tejto závažnej téme. Niektorí vášnivo špekulovali, že by sme mohli skončiť tak, že 10 % internetu bude na „normálnom“ základe vytváranom používateľmi a zvyšných 90 % bude spôsobených generatívnym obsahom produkovaným AI.

Zdá sa, že pre toto tvrdenie nie je dobrý základ, je zdanlivo vymyslený zo vzduchu. Predpokladajme, že sa tak stalo. Ak vezmeme existujúcich 100 ZB ako základ a predpokladáme, že je to v podstate všetok obsah vytvorený používateľmi (dobre, to je diskutabilné), znamená to, že by sme sa museli ocitnúť pri pohľade na internet s veľkosťou 1,000 900 ZB. To je 100 ZB generatívneho obsahu vytvoreného AI a XNUMX ZB obsahu vytvoreného používateľmi.

Vzali by sme dnešný oceán predpokladaného obsahu z ruky a trochu ho prevýšili v porovnaní so všetkými generatívnymi internetovými morami produkovanými AI.

Špekulácie na základe dohadov.

Takže, ktorá to bude?

Dočkáme sa, že generatívna AI vytvorí kamienok alebo mnohonásobne zväčší veľkosť internetu?

Nikto nemôže s istotou povedať ani tak. Mali by sme tieto kľúčové čísla skúmať seriózne, aby diskusie na túto tému mali korene v niečom hmatateľnom. Ak to neurobíte, klábosenie je trochu prázdne a takmer ako chlapec, ktorý plakal vlk.

Uvažujme o ďalšom faktore a majme na pamäti, že všetky tieto faktory sú vzájomne prepojené a musia sa posudzovať ako kolektívne, a nie jednoducho na individuálnom základe.

Indexovanie internetu

Pravdepodobne si uvedomujete, že keď vyhľadávate na internete, používate niečí vyhľadávací nástroj, ktorý sa bežne pokúšal indexovať obsah internetu. Stavím sa, že by ste mohli mať dojem, že pri používaní obľúbeného vyhľadávača získavate prístup k prevahe internetu.

To je vysoko nepravdepodobné.

Podľa niektorých odhadov bol indexovaný iba zlomok internetu, možno menej ako 1 % alebo tak nejako (niektorí hovoria, že je to až 5 % alebo možno o niečo viac; nie je to na úrovni, ktorú väčšina ľudí vo všeobecnosti predpokladá, ako napr. 50 % alebo 90 %). Tieto čísla sa opäť líšia, no napriek tomu sú pomerne malé. Podstatou je, že takmer vždy nepoznáte veľkú časť internetu.

Prečo je to v tomto kontexte dôležité?

Pretože pridaný obsah, ktorý bude pravdepodobne produkovať generatívna AI, bude potenciálne podliehať podobnej úvahe o indexovaní. Je možné, že takmer žiadny z pridaného obsahu nebude indexovaný. V takom prípade to pravdepodobne nikdy neuvidíte.

Druhá strana mince predpokladá, že takýto „umelý“ obsah bude indexovaný a bude poľutovaniahodný nedostatok pozornosti venovaný „konvenčnému“ obsahu. Argumentom je, že indexy budú zaujaté generatívnym obsahom AI a budú zanedbávať konvenčný obsah. Aj keď teda generatívny obsah umelej inteligencie nezahlcuje internet, bude sa zdať, že je to spôsobené neprimeraným indexovaním takéhoto obsahu.

Nakoniec sa môže stať, že hľadanie konvenčného obsahu bude ako hľadanie ihly v kope sena. Obrovský neporiadok generatívneho obsahu produkovaného AI bude podobný ohromným nadrozmerným a natiahnutým balíkom sena. Niekde tam budú tie vzácne drobné drahokamy konvenčného obsahu, ak ich nájdete.

Možno si okamžite pomyslíte, že tvorcovia indexov by mali prísť na to, ako sa s touto dilemou vysporiadať. Ak dokážu indexovať „správnym spôsobom“, potom v podstate nezáleží na tom, koľko generatívneho obsahu AI sa vytvorí. Bude sedieť v bočných uličkách a uličkách internetu a aj tak neuzrie svetlo sveta.

Pokračujme v našom prieskume, aby sme zistili, ako tento problém s indexovaním ďalej vzniká.

Meranie toho, čo je generatívny obsah produkovaný AI

Dobre, ak sa generatívna AI stane divokou a bude produkovať tony a tony internetového obsahu, logicky sa s tým dokážeme vyrovnať, pokiaľ dokážeme rozlíšiť takýto obsah od „konvenčného“ obsahu.

Zdá sa, že jednoduché-peasy ako riešenie.

Akýkoľvek vyhľadávací nástroj, ktorý indexuje, by len zistil, či je obsah vytvorený generatívnym AI v porovnaní s konvenčným. Index by sa potom mohol rozhodnúť nezahŕňať generatívne materiály AI alebo v indexe označiť, že obsah pochádza z generatívnej AI. Používatelia takéhoto vyhľadávacieho nástroja by potom mohli počas vyhľadávania určiť, či chcú zahrnúť generatívny obsah AI alebo ho preskočiť.

Prípad uzavretý.

Je mi ľúto, že to nie je príliš životaschopné.

Tu je dôvod.

Pokúšať sa odlíšiť generatívne výstupy AI od konvenčného obsahu nie je jednoduché a takmer v konečnom dôsledku bude nepraktické. Vo svojom stĺpčeku som uviedol, že tie údajné detekčné aplikácie sú falošným sľubom a v podstate zavádzajúcou šarádou, pozri odkaz tu.

Stručne povedané, tvorcovia generatívnej AI neustále vylepšujú svoju AI, aby vytvárali obsah, ktorý je dizajnovo nerozoznateľný od bežného obsahu vytvoreného ľuďmi. To je zámerný cieľ. Detekčné aplikácie čelia neustálemu gambitu mačky a myši. Okrem toho sú tieto detekčné aplikácie založené na všetkých druhoch predpokladov o tom, čo odlišuje generatívne výstupy AI, hoci tieto predpoklady sú často nesprávne alebo sú založené iba na pravdepodobnosti. Konečným výsledkom je, že akákoľvek detekčná aplikácia iba odhaduje pravdepodobnosť a nie je schopná s istotou urobiť pevnú indikáciu.

Zrátané a podčiarknuté je, že je nepravdepodobné, že budeme schopní určiť, čo je generatívny obsah AI, pokiaľ poskytovateľ generatívnej AI neposkytne jasné náznaky, aj keď to tiež nie je pevné. Opäť si pozrite moje pokrytie tejto zložitej témy, o ktorej sa diskutuje na adrese odkaz tu. Ide o to, že do generovaného obsahu bude tajne zahrnutý vodoznak. Teoreticky by ste mohli použiť vodoznak na zistenie, či bol obsah prostredníctvom generatívnej AI. Nevýhodou je, že pri rôznych zmenách výstupu bude pomerne jednoduché pokaziť vodoznak. Obsah potom nebude dodržiavať vodoznak a smerovník, ktorý nám mal dať tip, je teraz prekonaný.

Niektorí veria, že na to potrebujeme nové zákony o AI. Vytvorte zákony, ktoré vyžadujú, aby generatívne aplikácie AI obsahovali vodoznaky. Okrem toho, aby bolo nezákonné pokúsiť sa poraziť tieto vodoznaky. Toto môže byť jediný spôsob, ako obmedziť tieto technické hry na mačku a myš. Skúmal som tieto návrhy vo svojom stĺpčeku a poukázal som na to, že hoci predpisy znejú rozumne, diabol je v detailoch implementácie týchto schém a presadzovania týchto zásad.

Celkovo vzaté, keď sa vrátime k obavám z nafúknutia internetu prostredníctvom generatívneho obsahu AI, bohužiaľ nedokážeme vyriešiť problém tým, že si jednoducho všimneme, čo je generatívny obsah AI a čo nie. Problém je ťažší.

Čo je zlé na generatívnom obsahu AI

Všetky tieto obavy z tsunami generatívneho obsahu produkovaného AI sú zvyčajne založené na jednom dosť zásadnom predpoklade, a to, že obsah bude chybný.

Ak je obsah dobrý, mali by sme byť pravdepodobne spokojní s pridanými príspevkami na internete. Iste, objem môže byť vysoký, ale ak sú zverejňované informácie užitočné, potom ide jednoducho o to, aby ste mali viac dobrých vecí na preosievanie. Čím viac, tým lepšie, ako sa hovorí.

Kľúčovou úvahou je, či generatívny obsah vytvorený umelou inteligenciou bude informatívny alebo nie plný chýb, nepravd, dezinformácií, dezinformácií a podobne. To prináša niekoľko aspektov.

Po prvé, mohlo by sa stať, že generatívna AI bude ďalej pokročilá, takže šanca na výrobu esejov s nečestným výstupom bude extrémne nízka. Zdalo by sa, že by sme boli ľahostajní, ak by sme chceli nejakým spôsobom zakázať zverejňovanie všetkej generatívnej AI na internete, za predpokladu, že celkovo sú eseje s generatívnou AI vo väčšine prípadov primerane správne. Želanie odmietnuť všetky publikované eseje by sa podobalo klasickému vyhadzovaniu dieťaťa s vodou do kúpeľa (staré príslovie, ktoré sa pravdepodobne blíži k dôchodku).

Po druhé, ako som hovoril vo svojom stĺpčeku na odkaz tu, rastie záujem o doplnkové aplikácie AI, ktoré dokážu dvakrát skontrolovať generatívne eseje s umelou inteligenciou. Dvojité kontroly AI by sa mohli použiť predtým, ako ľudia uverejnia generatívny obsah AI na internet. Aj keď si ľudia vopred nepreveria obsah, ktorý chcú uverejniť, rovnaké nástroje možno použiť na už uverejnený obsah. Stručne povedané, dvojitú kontrolu možno vykonať bez ohľadu na to, aký je zdroj obsahu, takže by sme prirodzene mali zostať podozrievaví aj voči obsahu vytvorenému ľuďmi.

Po tretie, ako už bolo spomenuté v mojom vyššie uvedenom bode, viera sa často zdá byť taká, že obsah vytvorený ľuďmi je vždy dobrý, zatiaľ čo generatívny obsah AI je vždy zlý. Absolútne mylný predpoklad. Existuje množstvo obsahu vytvoreného ľuďmi, ktorý obsahuje všetky druhy chýb, klamstiev a vymysleného odpadu. Nie sme v bezpečí len preto, že človek vytvoril obsah ručne.

Všetok obsah, či už vytvorený človekom alebo generatívna AI, musí byť podrobený kontrole.

Budú ľudia uverejňovať generatívny obsah AI na internet?

Ďalším faktorom, ktorý je potrebné zvážiť, je, či ľudia skutočne zverejňujú generatívny obsah AI na internet, a ak áno, v akom rozsahu.

Tu je to, čo mám na mysli.

Ľudia používajú generatívnu AI, ako je ChatGPT, na rôzne účely. Môžu použiť generatívnu AI na stimuláciu myšlienok o probléme, ktorému čelia. Môžu to použiť na výskum. Môžu ho použiť na poskytnutie konceptu materiálu, ktorý chcú upraviť, a potom ho niekomu poslať e-mailom. A tak ďalej.

Jadrom je, že veľa generatívneho používania AI nemusí mať vôbec nič spoločné s tým, že niekto chce zverejniť výsledné eseje na internete. Zdá sa, že často padáme do pasce, že len preto, že niekto používa generatívnu AI, chce zaplaviť internet vyprodukovanými výstupmi.

Zatiaľ nevieme, koľko času budú ľudia používať generatívnu AI pre svoje vlastné účely, a preto sa rozhodnú nie zverejnite výstupy na internete.

Aby som to objasnil, nenaznačujem, že ľudia nebudú zverejňovať generatívne výstupy AI na internet. Určite budú. Ľudia, ktorí robia online blogy, nepochybne využijú generatívnu AI. Určite dôjde k mnohým použitiam generatívnej AI na vytváranie obsahu pre internet. Atď.

Jednou z úvah teda je, že na internet sa nemusí zverejňovať toľko generatívneho obsahu AI, ako by sa inak dalo predpokladať, že sa objaví. Pre tých učencov, ktorí predpokladajú, že sa pozeráme na nepretržitú apokalypsu zverejňovania údajov všetkých rúk, nevieme, či sa to stane. Samozrejme, aj keď sa len malá časť ľudí rozhodne uverejňovať takéto príspevky, stále to môže byť obrovské množstvo pridaného obsahu, ktorý sa hromadí na internete.

Problémom je, či sa generatívne výstupy AI potenciálne automaticky zverejnia na internete.

Toto je jednoduchý trik, ktorý sa dá vytiahnuť. Môžete to jednoducho urobiť tak, že akýkoľvek výstup z vašej generatívnej aplikácie AI sa okamžite zverejní na internete. Môžete to dokonca dať do slučky. Majte sériu výziev, ktoré sú vopred pripravené. Zaveďte ich do generatívnej aplikácie AI. Generatívna aplikácia AI je naprogramovaná tak, aby okamžite zverejnila výstupné eseje na internete.

Voilá, máte perpetum mobile na generovanie dátového obsahu pre internet.

Kam však pôjdu príspevky?

Akékoľvek webové stránky alebo iné online lokality, ktoré umožňujú uverejňovanie tohto typu obsahu chrliaceho guľomety, budú potenciálne brané na zodpovednosť za to, čo umožňujú. Ľudia sa pravdepodobne týmto stránkam budú vyhýbať. Alebo budú tieto stránky vyhradené vyhľadávacími nástrojmi a indexovacími algoritmami. Aspekt, že sa uverejňuje generatívny obsah AI, je jedným z aspektov, zatiaľ čo ďalším rovnako dôležitým aspektom je miesto, kde budú príspevky pristávať.

Možno budú prístupy Paywall rešpektované

Bežne uvádzané tvrdenie je, že nás divoký západ internetu nakoniec unaví. Ľudia budú priťahovať dôveryhodné online zdroje. Zámerne sa budú vyhýbať iným útržkovitým alebo neznámym oblastiam internetu.

V tomto zmysle sa uvažuje, že ľudia budú ochotní zaplatiť za prístup k dôveryhodným zdrojom. Zatiaľ čo dnes stále prebieha obrovská diskusia o ziskovosti plateného obsahu, záplava generatívneho obsahu AI sa považuje za prínos pre filozofiu plateného obsahu. Čím horšie sú veci z hľadiska nájdenia dôveryhodného obsahu na internete, tým hodnotnejší sa stáva platený obsah (samozrejme za predpokladu, že platený obsah sa dôkladnejšie skúma).

Iróniou čiastočne je, že obsah za paywallom môže pozostávať z generatívneho obsahu produkovaného AI. Za predpokladu, že pridanou hodnotou je, že poskytovateľ paywallu kontroluje obsah, v podstate robí dvojitú kontrolu, ktorú som už spomenul. Nemusia nevyhnutne vytvárať obsah. Potrebujú len zabezpečiť, aby bol obsah hodný dôvery.

O tejto predpovedanej budúcnosti existujú nezhody. Možno, že namiesto paywallov sa musíte stretnúť s reklamami alebo upozorneniami sponzorov, a tak sa dostanete k dôveryhodnému obsahu. Existuje mnoho ďalších možností.

Multimodálny moras generatívnej AI čaká

Zameral som sa tu na generatívnu AI súvisiacu s textom. Ide o rôzne druhy generatívnej AI pre prevod textu na text alebo text na esej, ako je napríklad ChatGPT.

Jednou z mojich predpovedí bolo, že sa čoskoro ocitneme zaplavení multimodálnou generatívnou AI, pozri moje vysvetlenie na odkaz tu. Už sme svedkami prevodu textu na obrázky, prevodu textu na zvuk, textu na video a ďalších variantov typov alebo režimov výstupných výsledkov z generatívnej AI. Ďalším krokom je, že budete môcť získať multimodálne výstupy.

Napríklad zadáte výzvu do generatívnej AI a spýtate sa na Abrahama Lincolna. Generatívna AI pre vás vytvorí esej. Okrem toho je vytvorených niekoľko obrázkov Lincolna, ktoré ho zobrazujú v pózach, ktoré doteraz neboli zverejnené ani zverejnené. Vytvorí sa zvukový prepis, ktorý má hlas podobný Lincolnovi. Vygeneruje sa video, ktoré predvedie esej vrátane montáže obrázkov a obrázkov, ktoré sú súčasťou výstupného textu.

Vitajte vo svete multimodálnej generatívnej AI.

Vzrušujúce, určite.

Ale možno to nie je také vzrušujúce, ak si myslíte, že ide o ďalšie krmivo ako obsah, ktorý možno umiestniť na internet.

V podstate sa nebudeme trápiť iba textom, ktorý by mohol byť chybný, ale to isté budeme musieť urobiť aj pre všetky ostatné režimy výstupu. Zvukové súbory by mali byť podozrivé, že obsahujú nepravdy, obrázky môžu nepravdivo zobrazovať veci a videá budú tiež znepokojujúce.

Ak ste už do svojich výpočtov o nafúknutom internete nezahrnuli multimodálny požiar, možno budete chcieť zvýšiť svoje čísla a svoj rukopis.

Začarované alebo cnostné cykly generatívnej AI

Mám pre vás faktor, ktorý by mohol spôsobiť mierne ohýbanie mysle. Počkaj.

V tejto ságe o zaplavenom internete predpokladáme, že zloduchom je generatívna AI. Generatívna AI je spôsob, akým sa bude vyrábať všetok tento obsah náchylný na chyby a vymyslený obsah. Generatívna AI je zlá od kosti.

Predpokladajme však, že sa na to pozrieme v inom svetle.

Je možné, že generatívna AI je schopná produkovať ten najnápadnejší a najsilnejší platný obsah. Medzitým je obsah generovaný ľudskou rukou považovaný za oveľa menej dôveryhodný. Generatívna AI ako zloduch prechádza do generatívnej AI ako hrdina.

Premýšľajte o tom.

Mám pre vás ďalší zábavný tip.

Predpokladajme, že generatívna AI sa trénuje údaje prostredníctvom obsahu, ktorý je na internete. Ak tiež predpokladáme, že generatívny obsah umelej inteligencie bude zverejnený na internete, či už priamo alebo prostredníctvom automatického mechanizmu, ocitneme sa zapletení do zaujímavého cyklu.

Obsah vytvorený generatívnou AI sa stáva zdrojovým materiálom pre ďalšie trénovanie údajov v generatívnej AI. Vznikne špirála. Čoraz viac generatívneho obsahu vytvoreného AI sa uverejňuje na internete, čo bolo založené na dátovom tréningu obsahu, ktorý už generatívna AI vytvorila.

Čo táto echo komora „generatívnej umelej inteligencie dodávajúcej generatívnej AI“ nakoniec urobí s internetom a ľudstvom?

Jedným z uhlov pohľadu je, že ide o strašné preteky ku dnu. Chyby v generatívnych výstupoch AI sa zväčšia. Každá nová iterácia generatívnej AI spotrebuje predchádzajúce chyby a opakuje ich znova a znova. V určitom okamihu bude šanca zistiť, kde sú chyby, skľučujúca. Bezútešný. Deprimujúce.

Ďalším názorom je, že ak je možné navrhnúť generatívnu AI tak, aby produkovala platné výstupy, mohli by ste mať mechanizmus na čistenie internetu, ktorý pomáha zveľaďovať internet. Keď sa generatívna AI stretne s niečím chybným, či už je to spôsobené AI alebo ľudskou rukou, generatívna AI túto nepravdu zdanlivo odhalí a prekoná. Keď to generatívna AI robí znova a znova, je to, ako keby ste neustále kosili trávnik a efektívne obmedzovali povahu a význačnosť buriny.

To môže znieť upokojujúco, až na veľkú a hroziacu otázku, čo presne predstavuje chyby alebo nepravdy. Tento čistiaci stroj by mohol neúmyselne spôsobiť znehodnotenie platného obsahu alebo falošné obvinenie z toho, že je náchylný na chyby. Keď uvažujeme o týchto typoch mechanizmov, musíme si uvedomiť tieto falošné pozitíva a falošné negatíva.

Bude generatívna AI začarovaný kruh alebo cnostný cyklus?

Čas ukáže.

záver

Početné a niekedy až panické nabádania o generatívnej AI zaplavujúcej internet by sa mali dôkladne preskúmať. Ľahko si možno predstaviť množstvo scenárov. Skaza a temnota nie je jedinou cestou. Každý, kto tvrdí, že predpovedá, čo sa stane, by mal byť vopred informovaný o predpokladoch, ktoré vytvára.

Existujú poľahčujúce faktory, ktoré určia, kam sa bude uberať budúcnosť generatívnej AI. Rozhodujúcu ruku v tom bude mať etika a právo AI, spolu s celkovým vnímaním spoločnosti ako celku.

Zatiaľ posledná poznámka.

Marcus Aurelius slávne povedal: „Nikdy nedovoľ, aby ťa budúcnosť vyrušila. Stretnete sa s tým, ak budete musieť, s rovnakými zbraňami rozumu, ktoré vás dnes vyzbrojujú proti prítomnosti.“

Uistime sa, že naše dnešné uvažovanie dokáže zvládnuť výzvy budúcnosti nabitej AI.