Čo potrebujete vedieť o GPT-4, práve vydanom nástupcovi generatívnej AI ChatGPT, plus o etike AI a zákonoch o AI

Aká je vaša zvyčajná reakcia po uvedení pokračovania veľkého filmového trháku, ktorý zaujme titulkami?

Niektorí ľudia si idú pozrieť pokračovanie a vyhlásia, že je rovnako dobré, ak nie ešte lepšie ako originál. Iní môžu mať mimoriadne vysoké očakávania a po zhliadnutí novšieho filmu ho vyhlásia za primerane dobrý, aj keď nie je nad čím vytŕčať. Sú tu niektorí, ktorí budú nepochybne mimoriadne sklamaní, bez ohľadu na to, čo najnovší film obsahuje, a súhrnne vyhlásia, že prvý film bol nehanebne nad pokračovaním.

Rovnaký rozsah reakcií a emócií sa dostal do popredia aj pri včerajšom vydaní GPT-4 od výrobcu AI OpenAI, ktoré sa konalo v deň Pi, konkrétne 3.14. alebo 14. marca 2023. Je pravdepodobné, že náhoda sa stane na obľúbenom koláči matematika- V deň jedenia si odhalenie GPT-4 získalo veľkú pozornosť tlače a množstvo diskusií na sociálnych sieťach.

Opíšem tu hlavné vlastnosti a možnosti GPT-4 spolu s porovnaním s jeho predchodcom ChatGPT (počiatočný „blockbuster“ v mojej analógii). Okrem toho existuje množstvo skutočne dôležitých úvah o etike AI a zákonoch o umelej inteligencii, ktoré sa spájajú s generatívnou AI, vrátane a možno najmä v prípade GPT-4 a ChatGPT kvôli ich nepochybne rozšírenému používaniu a šialenstvu vyvolávajúcim mediálnu pozornosť a pozornosť verejnosti týkajúcu sa súčasná a budúca AI.

Stručne povedané, rovnako ako pokračovanie filmu, GPT-4 je v niektorých ohľadoch lepší ako ChatGPT, napríklad je väčší, rýchlejší a zdanlivo plynulejší, zatiaľ čo v iných ohľadoch vyvoláva ďalšie a výrazné výčitky (budem sa zaoberať tými krátko tu). Trochu zmätená reakcia. Pokračovanie nie je slam-dunk, ako mnohí predpokladali, že bude. Ukazuje sa, že veci sú jemnejšie. Zdá sa, že toto je skutočný svet, v ktorom všetci žijeme.

Možno, že generálny riaditeľ OpenAI, Sam Altman, to najlepšie povedal vo svojich tweetoch 14. marca 2023 o spustení GPT-4:

• „Tu je GPT-4, náš doteraz najschopnejší a najvyladenejší model. Dnes je k dispozícii v našom API (s poradovníkom) a v ChatGPT+.“
• "Stále je chybný, stále obmedzený a stále vyzerá pôsobivejšie pri prvom použití, ako keď s ním strávite viac času."

Moje návrhy týkajúce sa toho, čo by ste mohli zvážiť v dôsledku uvoľnenia GPT-4 a v závislosti od vašej súčasnej situácie alebo okolností, pozostávajú z týchto potenciálnych akcií:

• Existujúci používatelia ChatGPT. Ak už používate ChatGPT, mali by ste sa podrobne pozrieť na GPT-4, aby ste zistili, či by ste ho chceli použiť namiesto toho (alebo môžete použiť GPT-4 okrem používania ChatGPT, ergo použite buď ChatGPT alebo GPT -4, v závislosti od vašich potrieb. S GPT-4 môžete hrať, ak si predplatíte ChatGPT Plus, režim predplatného 20 USD za mesiac na používanie ChatGPT, inak v súčasnosti nemáte obzvlášť jednoduchý spôsob prístupu k GPT-4 (výhrada alebo zvrat je, že Microsoft Bing, vyhľadávací nástroj, používa variant GPT-4, o ktorom som hovoril na tomto odkaze).
• Nikdy som nepoužil žiadnu generatívnu AI. Ak nepoužívate ChatGPT a nikdy ste nepoužili žiadnu generatívnu AI, možno budete chcieť najprv začať s ChatGPT, pretože je prístupný zadarmo (alebo, samozrejme, zvážte použitie ktorejkoľvek z nespočetných iných generatívnych aplikácií AI, aby ste mohli začať svoju cestu do tejto sféry AI). GPT-4 v súčasnosti nie je zadarmo, ako je uvedené v bodoch vyššie týkajúcich sa existujúcich používateľov ChatGPT. Keď si namočíte nohy s ChatGPT, môžete sa rozhodnúť, či sa vám oplatí predplatiť ChatGPT Plus, aby ste získali ďalšie výhody vrátane prístupu k GPT-4.
• Použitie inej generatívnej AI. Ak používate inú generatívnu aplikáciu AI ako ChatGPT, môže sa stať, že vás GPT-4 bude veľmi zaujímať, pretože má vylepšenia nad rámec toho, čo ChatGPT ponúka. Spomínam to preto, lebo niektorí dôvtipní používatelia AI sa rozhodli, že ChatGPT pre nich nie je taký dobrý ako iné možnosti. Odporúčam vám získať informácie o GPT-4, aby ste sa rozhodli, či je vaša existujúca voľba pre vás stále tá najlepšia. To by mohlo byť. Preto neobhajujem, že by ste mali pre istotu prejsť na GPT-4 a len hovorím, že je vždy rozumné prezuť pneumatiky na iné dostupné autá.
• Iný softvér, ktorý pristupuje k ChatGPT cez API. Pre tých, ktorí vyrábajú softvér, ktorý sa pripája k ChatGPT cez API (aplikačné programovacie rozhranie), o ktorom som hovoril na tomto odkaze, by bolo rozumné pozrieť sa bližšie na použitie GPT-4 prostredníctvom jeho API. Jednou veľkou otázkou je, že náklady na používanie GPT-4 API sú oveľa vyššie ako pri používaní ChatGPT. Budete chcieť urobiť kompromisnú analýzu pridaných výhod GPT-4 v porovnaní s lacnejšou alternatívou prilepenia sa na ChatGPT. Toto je trochu komplikované rozhodnutie. Robte to s rozmyslom a nie bezhlavo.

Jedna vec, ktorá sa zdá byť pre mnohých šokujúca, je, že spravodajská hodnota sa nezvýšila na úroveň, ktorú sa predtým očakávalo.

Dovoľte mi vysvetliť prečo.

Pôvodný trhák a teraz jeho pokračovanie

Pravdepodobne viete, že generatívna aplikácia AI známa ako ChatGPT bola sprístupnená koncom novembra minulého roka.

Toto bol prekvapivý hit.

Dovtedy sa predchádzajúce snahy o uvoľnenie generatívnych aplikácií AI pre širokú verejnosť zvyčajne stretávali s pohŕdaním a rozhorčením. Základom obáv bolo, že generatívna AI môže produkovať výstupy, ktoré obsahujú všetky druhy nečestných výstupov, vrátane vulgárneho jazyka, nevkusných predsudkov, klamstiev, chýb a dokonca aj vymyslených faktov alebo tzv. AI halucinácie (Nepáči sa mi terminológia „halucinácií“, pretože má tendenciu antropomorfizovať AI, pozri moju diskusiu na tomto odkaze).

Generatívna umelá inteligencia je typ umelej inteligencie, ktorý zahŕňa generovanie výstupov z textových výziev zadaných používateľom, ako je schopnosť vytvárať alebo generovať textové eseje, vytvárať obrázky alebo umelecké diela, vytvárať zvuk alebo vytvárať video atď. označované ako text-to-text, text-to-essy, text-to-art, text-to-image, text-to-audio, text-to-video a podobne. Pozoruhodným aspektom generatívnej AI je to, že vytvorené diela sú zdanlivo na rovnakej úrovni ako výstupy vytvorené ľuďmi. Len ťažko by ste sa pokúšali rozlíšiť generatívny výstup umelej inteligencie od porovnateľného zloženia vytvoreného výlučne ľudskou mysľou a ľudskou rukou.

Ďalšie informácie o generatívnej AI nájdete v mojej prebiehajúcej sérii, ako je tento odkaz tu o základoch ChatGPT a generatívnej AI, spolu s pokrytím ChatGPT študentmi a problémami potenciálneho podvádzania v esejach (použite odkaz tu), veľmi sporné použitie z ChatGPT pre poradenstvo v oblasti duševného zdravia (pozri odkaz tu), obavy z potenciálneho plagiátorstva a porušenia autorských práv generatívnej AI (odkaz tu) a mnoho ďalších najdôležitejších tém na tomto odkaze.

Čiastočný dôvod, prečo sa zdá, že ChatGPT nezískal zvyčajný bič, bol spôsobený nejakou prácou v zákulisí tvorcu AI, OpenAI, pred vydaním ChatGPT. Snažili sa použiť rôzne techniky a technológie na potlačenie vydávania obzvlášť nenávistných a odporných esejí. Majte na pamäti, že ChatGPT je výlučne štýl generatívnej umelej inteligencie typu text-to-text alebo text-to-essay. Pokusy zabrániť bizarným a rozhorčeným výstupom teda spočívajú v narábaní so slovami. Podobné problémy vznikajú, keď je výstupom umenie alebo obrázky, hoci to môže byť rovnako alebo ťažšie zachytiť, aby sa zabránilo vytváraniu urážlivých snímok toho či onoho druhu.

Pozoruhodná technika, ktorú tvorcovia AI čoraz viac využívajú, pozostáva z používania RLHF (posilnenie učenia prostredníctvom ľudskej spätnej väzby). Tu je návod, ako to vo všeobecnosti funguje. Po prvotnom zaškolení generatívnej aplikácie AI, napríklad skenovaním textu na internete, sa použijú ľudskí recenzenti, ktorí pomôžu AI usmerniť alebo predviesť, čo stojí za to povedať a čo je škandalózne. Na základe tejto série schválení a zamietnutí je generatívna umelá inteligencia zhruba schopná porovnať to, čo sa zdá byť v poriadku vydávať a čo sa zdá byť neprípustné.

Chcel by som spomenúť ešte jeden mimoriadne dôležitý bod.

AI nie je vnímavá.

Bez ohľadu na to, čo hlásajú bláznivé titulky, buďte si istí, že dnešná AI nie je vnímavá. Pre generatívnu AI je aplikácia rozsiahlym výpočtovým softvérom na porovnávanie vzorov a prístrojom na modelovanie údajov. Po preskúmaní miliónov a miliónov slov z internetu sa odvodia vzorce o slovách a ich štatistických vzťahoch. Výsledkom je úžasná forma napodobňovania ľudského jazyka (niektorí zasvätenci AI to označujú ako a stochastický papagáj, čo dáva pointu, aj keď bohužiaľ vnáša do diskusie inak vnímavý prvok).

Generatívnu AI si môžete predstaviť ako funkciu automatického dokončovania, keď používate balík na spracovanie textu, hoci ide o oveľa obsiahlejšiu a pokročilejšiu schopnosť. Som si istý, že ste začali písať vetu a máte automatické dopĺňanie, ktoré odporúča znenie zvyšku vety. S generatívnou AI, ako je ChatGPT, zadáte výzvu a aplikácia AI sa pokúsi nielen dokončiť vaše slová, ale bude sa snažiť odpovedať na otázky a zostaviť celé odpovede.

Začiatočnícka chyba, ktorú mnohí robia pri používaní ChatGPT alebo akejkoľvek inej podobnej generatívnej aplikácie AI, navyše znamená nevyužívanie vychvaľovaných interaktívnych konverzačných kapacít. Niektorí ľudia zadajú výzvu a potom čakajú na odpoveď. Zdá sa, že si myslia, že to je všetko. Jeden a hotovo. Tomu však chýba jadro generatívnej AI. Užitočnejší prístup pozostáva z vykonania série výziev spojených so zapojením sa do dialógu s generatívnou AI. To je miesto, kde generatívna AI skutočne žiari, pozrite si moje príklady na tomto odkaze.

ChatGPT bol ohlasovaný médiami a širokou verejnosťou ako úžasný prielom v AI.

Realita je taká, že mnoho ďalších podobných aplikácií AI bolo navrhnutých, často vo výskumných laboratóriách alebo think-tankoch, a v niektorých prípadoch boli opatrne sprístupnené verejnosti. Ako som povedal vyššie, výsledok zvyčajne nebol pekný. Ľudia šťuchli do generatívnej AI a podarilo sa im získať eseje hroznej povahy, pozrite si moje pokrytie na odkaze tu. Tvorcovia AI boli v týchto prípadoch zvyčajne nútení stiahnuť AI z otvoreného trhu a vrátiť sa späť k sústredeniu sa na laboratórne použitie alebo starostlivo vybraných beta testerov a vývojárov AI.

Veľká časť zvyšku priemyslu AI bola ohromená tým, že ChatGPT dokázalo kráčať po lane a stále produkovať nečestné výstupy, no nie do takej miery, že by sentiment verejnosti prinútil OpenAI odstrániť aplikáciu AI z celkového prístupu.

Toto bol skutočný šok z ChatGPT.

Väčšina ľudí predpokladala, že šokom bola znalosť. Nie pre tých v AI. Prekvapením, ktoré zaplavilo takmer všetkých zasvätených AI, bolo, že ste mohli uvoľniť generatívnu AI, ktorá by mohla vychrliť nenávistné prejavy a reakcia nebola dostatočne silná na to, aby si vynútila rýchly ústup. Kto vedel? Pred vydaním ChatGPT sa v klebetách predpovedalo, že OpenAI bude ľutovať, že sprístupní aplikáciu AI všetkým používateľom v priebehu niekoľkých dní alebo týždňov. Museli by obmedziť prístup, prípadne ísť pešo domov a vydýchnuť si.

Neuveriteľný úspech zavedenia ChatGPT opatrne otvoril dvere ďalším generatívnym aplikáciám AI, aby sa tiež stretli s ulicou. Napríklad som diskutoval o odhalení Barda Google a o tom, ako sa vyhrocujú vojny internetových vyhľadávačov kvôli túžbe zapojiť generatívnu AI do konvenčného vyhľadávania na webe, pozrite si odkaz tu.

ChatGPT možno rozumne charakterizovať ako trhák. Je to tiež taký, ktorý prišiel takpovediac z ničoho nič. Niekedy je filmový trhák známy už vopred ako film, ktorý sa po uvedení pravdepodobne stane trhákom. V iných prípadoch je film spánkom, ktorý prekvapí verejnosť a dokonca aj samotného filmára. To sa stalo s ChatGPT a OpenAI.

Dobre, takže máme trhák, ChatGPT.

ChatGPT je v podstate založený na verzii GPT známej ako GPT-3.5. Predtým existovali GPT-3, GPT-2 a podobne. Svet AI a tí, ktorí sa dotýkajú AI, všetci vedeli, že OpenAI pracovalo na ďalšej verzii, GPT-4.

GPT-4 by sa považoval za nástupcu alebo pokračovanie ChatGPT.

To nás privádza späť k mojej analógii o filmoch. ChatGPT, prekvapivý trhák, bol veľmi populárny. Očakávania o tom, čo bude GPT-4 a ako bude reagovať verejnosť, boli plné divokých špekulácií. GPT-4 by chodil po vode! GPT-4 bude rýchlejší ako rýchla guľka! GPT-4 bude dosiahnutím vnímavej AI alebo umelej všeobecnej inteligencie (AGI)!

Toto ide ďalej a ďalej.

Možno ste si matne vedomí, že generálny riaditeľ OpenAI, Sam Altman, povedal toto v rozhovore zverejnenom na YouTube (zo 17. januára 2023): „Fáma GPT-4 je smiešna vec. Neviem, odkiaľ to všetko pochádza. Ľudia prosia, aby boli sklamaní a budú. Hype je ako... Nemáme skutočné AGI a presne to sa od nás očakáva.“

GPT-4 je tu.

Film vyšiel.

Môžeme to vidieť na vlastné oči. Už žiadne neskrotné špekulácie. Realita prišla na rad.

Rozbaľme tú lesklú novú hračku.

Základy GPT-4

Nepochybne chcete vedieť, čo GPT-4 poskytuje.

Vo svojej diskusii budem odkazovať na rôzne dokumenty a videá, ktoré OpenAI sprístupnila o GPT-4, spolu s poznámkami na základe môjho používania GPT-4. Pre uľahčenie diskusie si prosím uvedomte, že existujú dva praktické dokumenty, ktoré budem horlivo citovať, jeden s názvom úradník OpenAI Technická správa GPT-4 a ten druhý je funkcionár OpenAI Systémová karta GPT-4 dokument (oba sú dostupné na webovej stránke OpenAI). Budem ich citovať pod skratkami TR pre Technická správa GPT-4 a SC pre Systémová karta GPT-4.

Začnime citovaním úplne prvej vety abstraktu pre TR:

• "Hlásime vývoj GPT-4, rozsiahleho, multimodálneho modelu, ktorý dokáže akceptovať obrazové a textové vstupy a produkovať textové výstupy."

Verte alebo nie, v tej jednej vete je toho veľa.

Posaďte sa a majte v ruke pohodlný nápoj.

Jedným z aspektov, ktorý je všeobecne akceptovaným všeobecným pravidlom o generatívnej AI, je, že čím väčší je systém, tým väčšia je pravdepodobnosť plynulosti a celkovej schopnosti. Zdá sa, že je to relatívne dobre preukázané historicky rastúcimi veľkosťami generatívnych systémov AI a ich čoraz pozoruhodnejšou plynulosťou, pokiaľ ide o vedenie interaktívnych rozhovorov. Nie každý verí, že to tak musí byť, a existujú výskumníci, ktorí aktívne hľadajú menšie nastavenia, ktoré využívajú rôzne optimalizácie na potenciálne dosiahnutie toho, čo ich väčší bratia.

Vo vyššie citovanej vete o GPT-4 z TR ste si mohli všimnúť formuláciu, že ide o „veľkú“ generatívnu AI. Na základe relatívnych veľkostí súčasných generatívnych systémov umelej inteligencie by pravdepodobne každý mal sklon súhlasiť.

Zjavnou otázkou v mysliach zasvätených osôb AI je, aká je veľkosť vo veľkom meradle keď ide o GPT-4?

Výrobca AI zvyčajne hrdo deklaruje rôzne metriky veľkosti svojej generatívnej AI. Môžete tak urobiť, aby ste informovali zvyšok sveta AI o tom, ako na veľkosti a mierke záleží. Môžete to urobiť, aby ste sa pochválili. Môžete to urobiť jednoducho preto, že je to ako auto, v ktorom je prirodzenou zvedavosťou, aký veľký motor tam je a ako rýchlo pôjde.

Podľa TR sa uvádza toto:

• "Vzhľadom na konkurenčné prostredie a bezpečnostné dôsledky veľkých modelov, ako je GPT-4, táto správa neobsahuje žiadne ďalšie podrobnosti o architektúre (vrátane veľkosti modelu), hardvéru, výpočtovej technike, konštrukcii súboru údajov, metóde školenia alebo podobne."

Zasvätenci AI to zvyčajne považujú za očarujúce. Na jednej strane sa zdá byť znepokojujúcim rozchodom s diplomaciou nehovoriť o týchto kľúčových charakteristikách. Ako už bolo povedané, logika, že by to mohlo odhaliť vlastnícke tajomstvá alebo by mohlo otvoriť dvere kybernetickej bezpečnosti, zdá sa, že to tiež dáva zmysel.

Mali by byť tvorcovia AI nútení odhaliť konkrétne vlastnosti svojej generatívnej AI, a to do takej miery a spôsobom, ktorý neúmyselne neprezradí žiadne dôležité vodítka?

Dovolím vám, aby ste si nasadili klobúk AI, aby ste sa zamysleli nad touto úvahou.

Niektorí veria, že by sme mohli skončiť aj vytvorením nových zákonov o umelej inteligencii, ktoré by vyžadovali explicitné zverejnenie.

Myšlienka je taká, že verejnosť by mala vedieť, čo sa deje s AI, najmä keď sa AI zväčšuje a má pravdepodobne potenciál nakoniec sa obrátiť do hroznej zóny existenčných rizík, pozri moju analýzu na tomto odkaze.

Ďalej nevieme, aké údaje boli použité na výcvik GPT-4.

Údaje spôsobujú alebo prerušujú nástup generatívnej AI. Niektorí ľudia mylne predpokladajú, že celý internet bol naskenovaný s cieľom navrhnúť tieto generatívne schopnosti AI. Nie. V skutočnosti, ako hovorím na tomto odkaze, sa skenuje iba malá časť internetu.

Súvisiacim aspektom je, či generatívna AI skenuje internet v reálnom čase a upravuje za behu porovnávanie výpočtových vzorov. ChatGPT bol obmedzený na skeny, ktoré sa uskutočnili najneskôr v roku 2021. To znamená, že keď používate ChatGPT, neexistujú takmer žiadne údaje o tom, čo sa stalo v rokoch 2022 a 2023.

Povrávalo sa, že GPT-4 bude obsahovať aktuálne pripojenie k internetu v reálnom čase na prispôsobenie za behu.

Tu je to, čo hovorí TR:

• „GPT-4 vo všeobecnosti nemá znalosti o udalostiach, ktoré sa vyskytli po tom, čo sa drvivá väčšina údajov z predtréningu prerušila v septembri 2021, a nepoučí sa zo svojich skúseností. Niekedy môže spôsobiť jednoduché chyby v uvažovaní, ktoré sa nezdajú byť v súlade s kompetenciami v toľkých doménach, alebo môže byť príliš dôverčivý pri prijímaní zjavne nepravdivých vyhlásení od používateľa.“

Možno potom pochopíte, prečo sú niektorí z GPT-4 trochu sklamaní. Povesti naznačovali, že bude fungovať v reálnom čase a súčasne sa bude prispôsobovať internetu. Považované za veľké zlepšenie oproti ChatGPT. Realita je taká, že GPT-4 stále pracuje s datovanými údajmi. A nedochádza k úprave v reálnom čase pri porovnávaní výpočtových vzorov per se na základe obnovenia z internetu.

Mám pre vás ďalšie novinky.

Veta, ktorú som predtým citoval o GPT-4 ako o veľkom meradle, tiež hovorila, že GPT-4 je multimodálne.

Dovoľte mi uviesť nejaké pozadie pojmu multimodálne generatívna AI.

Na začiatku tejto diskusie som spomenul, že existujú rôzne typy generatívnej AI, ako je prevod textu na text alebo text na esej, prevod textu na umenie alebo text na obrázok, prevod textu na zvuk, text -to-video atď. Všetky sa považujú za jedinečný spôsob spracovania obsahu. Môžete napríklad zadať nejaký text a získať vygenerovanú esej. Ďalším príkladom by bolo, že zadáte text a získate vygenerované umelecké dielo.

Na konci minulého roka som urobil svoje ročné predpovede o tom, čo uvidíme v pokrokoch v AI na rok 2023 (pozri odkaz tu). Povedal som, že multimodálna generatívna AI bude horúca. Ide o to, že by ste mohli napríklad zadať text a obrázok (dva režimy na vstupe), použiť ich ako výzvu do generatívnej AI, a ako výstup môžete získať esej spolu s vygenerovanou video a zvukovou stopou (tri režimy na výkon).

Preto môže vedľa seba existovať množstvo režimov. Na výzvu alebo vstup môžete mať množstvo režimov. Môžete mať tiež množstvo režimov generovanej odozvy alebo výstupu. Môžete mať mix-and-match na vstupoch aj výstupoch. Tam sa veci uberajú. Vzrušujúce možnosti a možnosti toho, čo sa dá urobiť s generatívnou AI, sú vďaka multimodálnej funkcii nesmierne otvorené.

ChatGPT má iba jedinečný režim. Zadáte text, dostanete nejaký vygenerovaný text ako výstup.

Hovorilo sa, že GPT-4 prelomí zvukovú bariéru a poskytne plnú multimodálnu schopnosť všetkého a všetkého. Každý vedel, že text bude súčasťou. Očakávalo sa, že budú pridané obrázky alebo umelecké diela spolu so zvukom a možno aj videom. Bolo by to zadarmo pre všetkých. Akýkoľvek režim na vstupe vrátane ľubovoľného počtu týchto režimov. Plus akýkoľvek režim na výstupe, vrátane toľko zmiešaných režimov, koľko by ste chceli mať.

Skutočná šmrnc režimov.

Čo poskytuje GPT-4?

Vráťte sa k tej vete z TR:

• "Hlásime vývoj GPT-4, rozsiahleho, multimodálneho modelu, ktorý dokáže akceptovať obrazové a textové vstupy a produkovať textové výstupy."

Môžete zadať text a dostanete výstupný text, plus môžete prípadne zadať obrázok na vstupe.

Demonštrácie zobrazujúce spracovanie obrazu alebo videnia vložených obrázkov naznačili, že položky na obrázku by napríklad mohla byť identifikovaná generatívnou AI a potom zložená do písaného príbehu vysvetľujúceho obrázok. Môžete požiadať generatívnu AI, aby vám vysvetlila, čo obrázok zrejme zobrazuje. Celkovo vzaté, spracovanie vízie bude pozoruhodným doplnkom.

Schopnosť spracovania vízie alebo analýzy obrazu zatiaľ nie je k dispozícii na verejné použitie (podľa blogu webovej stránky OpenAI):

• „Aby sme pripravili schopnosť vstupu obrázkov na širšiu dostupnosť, na začiatku úzko spolupracujeme s jediným partnerom.“

Podstatou toho všetkého je, že je potešujúce uvedomiť si, že GPT-4 má zjavne schopnosť vykonávať obrazový vstup a analýzu. Mnohí netrpezlivo očakávajú verejné vydanie tejto funkcie. Ďakujeme OpenAI za vstup do multimodálnej arény.

Takže máme text ako vstup plus obrázok ako vstup (ak je dostupný pre verejné použitie) a text ako výstup.

Niektorí sa však v komunite umelej inteligencie zaoberali tým, že to sotva spĺňa predstavu multimodálne. Áno, je tu ešte jeden režim, obraz ako vstup. Ale nie obraz ako výstup. Zdanlivo tu nie je zvuk ako vstup, ani zvuk ako výstup. Zdá sa, že video nie je ako vstup, ani video ako výstup. Tí, ktorí majú šmrnc, to považujú za „multimodálne“ tými minimalistickejšími spôsobmi.

Protiargumentom je, že pred chôdzou sa musíte plaziť a pred behaním chodiť.

Verím, že sa to týka prvej vety TR a môžeme prejsť na ďalšie témy.

Viac základov GPT-4

Teraz to zrýchlim, keď máte k tejto záležitosti celkovo nejaké ďalšie informácie.

Tu je niečo dôležité, ako je uvedené v blogu OpenAI o GPT-4:

• „Za posledné dva roky sme prebudovali celý náš balík hlbokého učenia a spolu s Azure sme od základov navrhli superpočítač pre našu pracovnú záťaž.“

K tomu dva rýchle body.

Po prvé, náznak toho, že prebudovali celý svoj balík hlbokého učenia, je určite pozoruhodná poznámka a úspech (to znamená, že prepracovali modely porovnávania výpočtových vzorov a rozhodli sa reštrukturalizovať, ako veci fungujú pod kapotou). Dobré pre nich. Prosebná otázka, ktorú niektorí vyslovujú, je, že by bolo určite pekné vedieť, čo presne urobili pri tejto prestavbe. TR a SC trochu spomínajú, čo sa stalo, ale nie do hĺbky.

Samozrejme, môžete presvedčivo tvrdiť, že by nemali prezradiť svoju tajnú omáčku. Nevyžaduje sa od nich, aby tak urobili. Prečo zbytočne poskytovať pomoc svojim konkurentom? Druhá strana mince tvrdí, že pre zlepšenie AI a spoločnosti by to pravdepodobne pomohlo pri napredovaní generatívnej AI, ktorá zdanlivo bude pre ľudstvo dobrá (človek dúfa).

Vraciame sa k tej rozbitej deliacej čiare medzi etikou AI a zákonom AI.

Po druhé, citovaná poznámka naznačuje, že superpočítač navrhli od základov. Okrem záujmu o to, čo tento superpočítač robí a ako presne funguje, z ktorých niektoré boli vysvetlené, to prináša úplne inú vec.

Niektorí sa obávajú, že generatívna AI sa stáva hrou s veľkými peniazmi. Iba technologické spoločnosti s najväčšími peniazmi a najväčšími zdrojmi budú môcť navrhnúť a vytvoriť generatívnu AI. Dôvodom, prečo je to spochybňované, je to, že možno budeme mať generatívnu AI, ktorú bude prísne kontrolovať iba hŕstka technologických firiem. Mohli by sme sa stať silne závislí na týchto firmách a ich tovare.

Potrebujeme potenciálne použiť existujúce zákony alebo navrhnúť nové zákony o umelej inteligencii, aby sme zabránili koncentrácii generatívnej umelej inteligencie v úzkom ovládaní len niekoľkých?

Niečo na premýšľanie.

Ak čakáte, že topánka klesne z hľadiska nejakého neuveriteľne masívneho rozdielu medzi ChatGPT a GPT-4, pozrite sa na to z blogu OpenAI o GPT-4:

• „V bežnej konverzácii môže byť rozdiel medzi GPT-3.5 a GPT-4 jemný. Rozdiel sa prejaví, keď zložitosť úlohy dosiahne dostatočnú hranicu – GPT-4 je spoľahlivejší, kreatívnejší a dokáže spracovať oveľa jemnejšie inštrukcie ako GPT-3.5.“

Zistil som, že tento nedostatok výrazného rozdielu je do istej miery pravdivý, a to, že ak robíte každodenné nečinné chatovanie s ChatGPT a robíte to isté s GPT-4, možno si neuvedomujete, že GPT-4 je celkovo považovaný za výkonnejší. .

Jeden aspekt, ktorý sa zdá byť výnimočný, pozostáva z vytvorenia kontextu pre vaše konverzácie s dvoma generatívnymi aplikáciami AI.

Tu je to, čo mám na mysli.

Keď používate generatívnu aplikáciu AI, občas jednoducho skočíte do konverzácie, ktorú začnete a pokračujete spolu s AI. V iných prípadoch začnete tým, že AI poviete kontext konverzácie. Napríklad by som mohol začať tým, že poviem generatívnej AI, že chcem diskutovať o motoroch áut s AI a že chcem, aby AI predstierala, že je automechanik. To potom nastaví scénu alebo nastavenie, aby AI primerane reagovala.

Mnoho ľudí, ktorí používajú ChatGPT, si neuvedomuje dôležitosť nastavenia kontextu, keď sa prvýkrát zapojí do dialógu s aplikáciou AI. Môže to byť obrovský rozdiel v tom, akú odozvu dostanete. Často sa stretávam s tým, že ChatGPT sa sám osebe veľmi dobre nezameriava na konkrétne kontexty. Snaží sa, ale často to nedosahuje. Zatiaľ sa zdá, že GPT-4 skutočne žiari použitím kontextového zriadenia.

Ak sa chystáte použiť generatívnu AI a chcete pri tom vytvoriť kontexty, určite by som dal prednosť GPT-4 oproti ChatGPT.

Na súvisiacom prvku existuje aj aspekt známy ako ovládateľnosť ktorý prichádza do hry.

Niektorí používatelia ChatGPT boli prekvapení, že aplikácia AI niekedy poskytuje odpovede, ktoré sa zdajú byť príliš vtipné alebo príliš stručné. Môže k tomu dôjsť, ak generatívna AI zistí vo vašej vstupnej výzve niečo, čo zrejme spúšťa tento druh odpovede. Môžete sa žartom na niečo opýtať a neuvedomíte si, že to potom nasmeruje ChatGPT k vtipom a ľahkovážnemu tónu.

Podľa blogu OpenAI o GPT-4 a ovládateľnosti:

• „Namiesto klasickej osobnosti ChatGPT s pevnou výrečnosťou, tónom a štýlom môžu teraz vývojári (a čoskoro aj používatelia ChatGPT) predpísať štýl a úlohu svojej AI opísaním týchto smerov v „systémovej“ správe. Systémové správy umožňujú používateľom rozhrania API výrazne prispôsobiť skúsenosti svojich používateľov v rámci hraníc.“

Opäť to zlepší používateľskú skúsenosť s generatívnymi aplikáciami AI. Iní tvorcovia generatívnej AI postupujú podobne a my budeme nevyhnutne mať takmer všetky takéto aplikácie AI s určitou formou ovládateľnosti a funkcionality kontextového vytvárania.

Ťažká cesta stále pred nami

Pretrvávajúcim a znepokojujúcim problémom, ktorý je základom generatívnej AI, je vo všeobecnosti to, že môžu byť produkované všetky druhy nepríjemných a priamo znepokojujúcich výstupov.

Vo svojich príspevkoch v stĺpcoch som pokryl tieto rôzne a vytriezvujúce obavy:

• Chyby generované generatívnou AI
• Generatívna AI produkovala nepravdy
• Generatívne vložené predsudky AI
• AI halucinácie
• Narušenie súkromia
• Dôvernosť údajov Slabé stránky
• Roznášač dezinformácií
• Propagátor dezinformácií
• Dvojaké použitie pre zbrane
• Prílišné spoliehanie sa ľuďmi
• Ekonomické dopady na ľudí
• Posilňovanie počítačovej kriminality
• Atď

Niektoré povesti hovorili o tom, že zázračne a zázračne GPT-4 vyčistí a vyrieši všetky tie generatívne choroby AI.

Nikoho s poriadnou hlavou na pleciach nenapadlo, že takáto fáma dokáže zadržať vodu. Toto sú veľmi ťažké problémy s AI. Nie sú ľahko vyriešené. Na boj s týmito trvalými a dráždivými ťažkosťami je potrebné ešte veľa urobiť. Pravdepodobne bude potrebovať dedinu, aby zdolala litániu etiky AI, ktorá je zapletená do prostredia generatívnej AI.

S cieľom poskytnúť úver tam, kde je potrebné započítať, sa OpenAI snažila vysvetliť, ako riešia tieto mnohé rôzne výzvy. Tí z vás, ktorí sa zaujímajú o etiku umelej inteligencie, by mali zvážiť dôkladné prečítanie TR a SC.

Tu je napríklad niekoľko jednoduchých komentárov o GPT-4, ako ich uvádza OpenAI v TR:

• „GPT-4 môže generovať potenciálne škodlivý obsah, ako sú rady o plánovaní útokov alebo nenávistné prejavy. Môže reprezentovať rôzne spoločenské predsudky a svetonázory, ktoré nemusia reprezentovať zámery používateľov alebo široko zdieľané hodnoty. Môže tiež generovať kód, ktorý je kompromitovaný alebo zraniteľný. Dodatočné schopnosti GPT-4 tiež vedú k novým rizikovým povrchom.

Okrem toho v TR hovoria toto:

• „Prostredníctvom tejto analýzy sme zistili, že GPT-4 má potenciál na to, aby sa pokúsila identifikovať súkromné ​​osoby, keď sa doplní externými údajmi. Zistili sme tiež, že aj keď schopnosti kybernetickej bezpečnosti GPT-4 nie sú výrazne lepšie ako predchádzajúce generácie LLM, pokračuje v trende potenciálneho znižovania nákladov na určité kroky úspešného kybernetického útoku, napríklad prostredníctvom sociálneho inžinierstva alebo vylepšením existujúcich bezpečnostných nástrojov. . Bez bezpečnostných opatrení je GPT-4 tiež schopný poskytnúť podrobnejšie pokyny, ako vykonávať škodlivé alebo nezákonné aktivity.“

Nemám tu priestor pre stĺpce, aby som pokryl všetky početné položky spojené s týmito ťažkosťami. Hľadajte ďalšie pokrytie stĺpcov v mojej prebiehajúcej analýze generatívnej AI z pohľadu etiky AI a práva AI.

Zdá sa, že stojí za to vziať si chvíľu a uznať, že OpenAI sprístupnila ich identifikáciu, ako pristupujú k týmto náročným výzvam. Dalo by sa povedať, že nebol dôvod, aby to museli robiť. Mohli by sa správať, akoby tam nebolo nič vidieť. Alebo by mohli len nejasne mávnuť rukou a tvrdiť, že na riešenie týchto problémov robia veľa šikovných vecí.

Našťastie si zvolili rozumný prístup, keď sa pokúsili dostať von pred odpormi a ošívaním, ktoré zvyčajne sprevádzajú generatívne vydania AI. Pravdepodobne sa snažia pevne ukázať svoju serióznosť a odhodlanie odstrániť tieto problémy a snažiť sa ich zmierniť alebo vyriešiť.

Chcel by som ponúknuť ďalšiu myšlienku, že oblasť umelej inteligencie, o ktorej sa hovorí, dostane krutý výprask, ak nepretrvá a neusiluje o to, aby sa tieto záležitosti venovali priamočiarym a nadchádzajúcim spôsobom. Zaujatie prístupu skrytého čierneho boxu určite vzbudí hnev širokej verejnosti. Môžete tiež očakávať, že ak sa firmy AI nepokúsia riešiť tieto problémy, je pravdepodobné, že zákonodarcovia a regulačné orgány budú vtiahnutí do týchto záležitostí a tsunami nových zákonov o umelej inteligencii zasiahne všetkých tvorcov AI a tých, ktorí sa jej venujú. AI.

Niektorí veria, že už sme v tomto bode.

Trvajú na tom, že aj keď sa zdá, že mnohí tvorcovia AI zdieľajú to, čo robia, je to trochu záludná forma hodnoverného popierania. Skrátka, choďte do toho a uvoľnite AI, ktorá je otrasná a zjavne nesprávna, namiesto toho, aby ste čakali, kým budú veci lepšie vymyslené, a zabráňte tým, ktoré sú v etike AI a zákonoch o AI vyhlásením, že robíte všetko pre to, aby ste veci napravili. Často som diskutoval o tejto kontroverzii typu „čakajte, kým nebude pripravený“ v mojom stĺpčekovom pokrytí.

Podľa TR:

• „OpenAI iteruje GPT-4 a náš plán nasadenia od začiatku augusta, aby sa pripravil na bezpečnejšie spustenie. Veríme, že to znížilo rizikový povrch, hoci ho úplne neodstránilo. Dnešné nasadenie predstavuje rovnováhu medzi minimalizáciou rizika z nasadenia, umožnením pozitívnych prípadov použitia a poučením sa z nasadenia.“

Keď sa vrátim k veci, už som spomenul, že halucinácie AI sú prevládajúcim problémom, pokiaľ ide o generatívnu AI.

Opäť sa mi nepáči tá fráza, ale zdá sa, že sa chytila. Hlavným problémom s halucináciami AI je to, že môžu produkovať výstupy, ktoré obsahujú veľmi bláznivé veci. Možno si myslíte, že je na používateľovi, aby rozpoznal, či sú výstupy správne alebo nesprávne. Problémom je, že výstupy môžu obsahovať vymyslené veci, o ktorých používateľ nemá jednoduché prostriedky na to, aby určili, či sú vymyslené. Mohli by veriť všetkému, čo hovorí výstup.

Existuje tiež jemná tendencia nechať sa ukolísať a veriť výsledkom generatívnej AI. Výstup je zvyčajne napísaný tónom a spôsobom, ktorý naznačuje istú dôveru. Za predpokladu, že generatívnu AI používate pravidelne, je ľahké nechať sa ukolísať a častokrát vidieť pravdivý materiál. Potom sa môžete ľahko nechať oklamať, keď sa niečo vymyslené dostane do stredu toho, čo sa inak javí ako úplne rozumná a faktami naplnená vygenerovaná esej.

Tu je to, čo TR hovorí o GPT-4:

• „GPT-4 má tendenciu 'halucinovať', tj 'produkovať obsah, ktorý je nezmyselný alebo nepravdivý vo vzťahu k určitým zdrojom.' Táto tendencia môže byť obzvlášť škodlivá, pretože modely sú čoraz presvedčivejšie a dôveryhodnejšie, čo vedie k nadmernému spoliehaniu používateľov na ne. V kontraintuitívnom zmysle sa halucinácie môžu stať nebezpečnejšími, keď sa modely stanú pravdivejšími, pretože používatelia si budujú dôveru v model, keď poskytuje pravdivé informácie v oblastiach, ktoré poznajú.“

Dobrou správou je, že sa vynaložilo a zdá sa, že pokračuje úsilie v snahe znížiť pravdepodobnosť halucinácií AI v GPT-4. Tvrdí sa tiež, že GPT-4 prevyšuje GPT-3.5, pokiaľ ide o odvrátenie halucinácií AI, aj keď je jasné, že sa stále vyskytnú.

Tu je TR k tomu:

• „Pri interných hodnoteniach má spustenie GPT-4 skóre o 19 percentuálnych bodov vyššie ako náš najnovší model GPT-3.5 pri vyhýbaní sa halucináciám v otvorenej doméne a o 29 percentuálnych bodov vyššie pri vyhýbaní sa halucináciám v uzavretej doméne.“

Aby sme túto časť diskusie nateraz uzavreli, generatívna AI od všetkých tvorcov AI čelí týmto problémom. Nikto to nejako nevyliečil. Ak hľadáte ťažké problémy s AI, vyzývam vás, aby ste skočili do týchto vôd a pomohli. Je tu veľa práce, ktorú treba urobiť.

záver

Keď filmový trhák existuje už nejaký čas a prešiel z kín na domáce vysielanie, pomerne veľa ľudí ho pravdepodobne videlo alebo o ňom vie niečo od ostatných, ktorí ho videli. Potom, keď je ohlásené a natáčané pokračovanie, očakávanie môže dosiahnuť astronomickú úroveň.

JJ Abrams, dnes už legendárny filmár častí série Star Wars a reštartu Star Treku, povedal o pokračovaniach toto: „Nie je nič zlé na tom, keď robíte pokračovania, len sa ľahšie predávajú.“

Edwin Catmull, spoluzakladateľ Pixaru, to o pokračovaniach zdôraznil: „Verte mi, pokračovania sa robia rovnako ťažko ako originálne filmy.“

Ak máte záujem vidieť trhák ChatGPT, môžete sa ľahko zaregistrovať. Prístup k pokračovaniu GPT-4 je o niečo zložitejší. Uvedomte si tiež, že je k dispozícii množstvo ďalších filmov, no, iných generatívnych aplikácií AI, takže možno budete chcieť zabezpečiť, aby bol váš zážitok z filmovania (aka generatívna AI) rôznorodý a naplnený.

Jedna poznámka na záver. Upozorňujeme, že obsah, s ktorým sa môžete stretnúť, môže byť PG13, R alebo dokonca NC-17. Pamätaj na to.