Generatívny AI ChatGPT bude všade, len čo sa čoskoro otvorí portál API, čo omráči etiku AI a zákon o AI

Vypustiť Krakena!

Určite poznáte túto slávnu frázu, ktorú špeciálne vyslovil herec Liam Neeson Súboj Titanov keď prikáže, aby bola vypustená legendárna morská príšera s cieľom spôsobiť nesmiernu spúšť a nesmiernu skazu. Linka sa donekonečna opakovala a vytvárala všetky druhy mémov. Napriek rôznym paródiám väčšina ľudí stále aspoň vnútorne tuší, že táto poznámka predpovedá niečo o tienistom a nebezpečnom objavení sa, ktoré sa chystá.

Možno, že rovnaký sentiment možno dnes aplikovať aj na umelú inteligenciu (AI).

Dovoľte mi to upresniť.

Nedávne oznámenie naznačilo, že teraz slávna aplikácia AI s názvom ChatGPT vytvorená organizáciou OpenAI bude čoskoro sprístupnená pre iné programy. Toto je veľká novinka. Hovorím to aj napriek tomu, že len málo z bežných médií toto vyhlásenie zachytilo. Okrem letmých zmienok bude úplný dopad tohto nadchádzajúceho prístupu dosť významný.

V dnešnom stĺpci vysvetlím, prečo je to tak. Podľa toho sa môžete pripraviť.

Niektorí neústupne veria, že to bude podobné vypusteniu Krakena, totiž že sa objavia všetky druhy zlých vecí. Iní to vidia ako sprístupnenie kľúčového zdroja, ktorý môže podporiť množstvo ďalších aplikácií využitím veľkých možností ChatGPT. Buď je to najhoršie obdobie alebo najlepšie obdobie. Tu zvážime obe strany debaty a vy sa môžete rozhodnúť, v ktorom tábore pristanete.

Do toho všetkého prichádza množstvo úvah o etike AI a zákonoch o AI.

Uvedomte si, že neustále prebieha úsilie o začlenenie etických princípov AI do vývoja a zavádzania aplikácií AI. Rastúci kontingent zainteresovaných a bývalých etiológov AI sa snaží zabezpečiť, aby snahy o navrhnutie a prijatie AI zohľadňovali AI pre dobro a odvrátenie AI pre zlé. Podobne sa navrhujú nové zákony o umelej inteligencii, o ktorých sa hovorí ako o potenciálnych riešeniach, ktoré zabránia snahám umelej inteligencie ohroziť ľudské práva a podobne. Moje pokračujúce a rozsiahle pokrytie etiky AI a práva AI nájdete v časti odkaz tu a odkaz tu, Len aby sme vymenovali niekoľko.

Rastú pochybnosti o tom, že ChatGPT a ďalšie podobné aplikácie AI majú škaredý základ, ktorý možno nie sme pripravení zvládnuť. Napríklad ste mohli počuť, že študenti v školách sú potenciálne schopní podvádzať, pokiaľ ide o písanie pridelených esejí pomocou ChatGPT. Všetko píše za nich AI. Medzitým je študent schopný zdanlivo bez problémov otáčať v eseji, ako keby písal z vlastného nogginu. Nie to, čo by sme chceli, aby AI urobila pre ľudstvo.

Niekoľko kľúčových zásad môže pomôcť pripraviť pôdu pre to, o čo tu ide.

ChatGPT je typ AI bežne označovaný ako Generatívna AI. Tieto trendy generatívne aplikácie AI vám umožňujú zadať krátku výzvu a nechať aplikáciu vygenerovať výstupy za vás. V prípade ChatGPT je výstupom text. Zadáte teda textovú výzvu a aplikácia ChatGPT vytvorí text za vás. Mám tendenciu to opísať ako konkrétny podtyp generatívnej AI, ktorý je zdokonaľovaný tak, aby generoval výstupy z textu na esej (existujú aj iné podtypy, ako napríklad text-to-obrázky, text-to-video atď.).

Výrobca AI ChatGPT uviedol, že čoskoro bude pre aplikáciu AI k dispozícii rozhranie API (Application Programming Interface). Stručne povedané, API je prostriedok, ktorý umožňuje iným programom pokračovať a používať program, ktorý sprístupňuje portál do danej aplikácie. To znamená, že takmer akýkoľvek iný program na tejto planéte môže potenciálne využiť používanie ChatGPT (tak, ako je licencovaný a po schválení výrobcom AI ChatGPT, ako sa tu teraz bude ďalej diskutovať).

Výsledkom je, že použitie a využitie ChatGPT by mohlo potenciálne prestreliť strechu.

Zatiaľ čo dnes existuje impozantný počet registrácií, ktoré zahŕňajú ľudí, ktorí na individuálne základ môže používať ChatGPT, obmedzený výrobcom AI na milión používateľov, v skutočnosti to bude pravdepodobne kvapka z toho, čo príde.

Uvedomte si, že tieto existujúce milióny registrácií pozostávajú z určitej časti, ktorá používala ChatGPT na jednorazové vybláznenie a potom, čo vzrušenie vyprchalo, odvtedy ho nepoužívali. Mnohých pravdepodobne prilákala aplikácia AI ako vírusová reaktívna reakcia sociálnych médií. Stručne povedané, ak to všetci ostatní chceli používať, chceli to urobiť tiež. Po počiatočnom experimentovaní s generatívnou AI sa cítili spokojní, že odvrátili svoju FOMO (strach z premeškania).

Aby to bolo čo najjasnejšie, nenaznačujem, že ľudia nepoužívajú ChatGPT. Oni sú. Tí, ktorí sa zaregistrovali, čoraz častejšie zisťujú, že aplikácia AI je preťažená. Aplikáciu používa veľa a veľa ľudí. Z času na čas dostanete niekoľko šikovne komponovaných smutných náznakov, že systém je zaneprázdnený a mali by ste to skúsiť neskôr. Na ulici sa hovorí, že existujúca infraštruktúra pre ChatGPT sa snaží vyrovnať sa s nadšenými fanúšikmi pomocou aplikácie AI.

A hoci mať milión potenciálnych používateľov nie je nič, na čo by ste sa mali vykašľať, po sprístupnení rozhrania API sa počet pravdepodobne mnohonásobne zatieni. Vývojári iných programov, ktoré dnes nemajú nič spoločné s generatívnou AI, budú chcieť využiť generatívnu AI. Chcú prepojiť svoj program s ChatGPT. V srdci dúfajú, že to posunie ich existujúci program do stratosféry popularity.

Myslite na to takto. Predpokladajme, že všetky druhy softvérových spoločností, ktoré dnes vyrábajú programy, ktoré oslovia mnoho miliónov používateľov, pričom často zasahujú do desiatok a stoviek miliónov používateľov, sa rozhodnú spárovať svoje príslušné programy s ChatGPT. To naznačuje, že objem používateľov, ktorí používajú ChatGPT, by mohol ísť do neba.

Kraken je prepustený.

Možno by vás zaujímalo, prečo by sa rôzne softvérové ​​spoločnosti chceli spárovať s ChatGPT?

Priama odpoveď je, že by mohli využiť aj úžasné zadné vetry, ktoré tlačia ChatGPT dopredu a nahor. Niektorí tak urobia z rozumných a nadštandardných dôvodov. Iní to urobia len preto, aby sa pokúsili získať vlastné zdanie pätnástich minút slávy.

Rád by som rozvrstvil páry na ChatGPT, ktoré pozostávajú z dvoch hlavných zámerov:

• Originálne párovanie s ChatGPT
• Falošné párovanie s ChatGPT

V prvom prípade ide o to, že existuje bona fide základ pre spárovanie s ChatGPT. Tvorcovia daného programu sú schopní dobre formulovať hmatateľné a funkčné výhody, ktoré vzniknú spárovaním ich programu s ChatGPT. Všetci v rozumnom rozpoložení môžeme vidieť, že párovanie je zhoda v nebi.

V druhom prípade, ktorý pozostáva z toho, čo označujem ako falošný, sa niektorí budú snažiť spárovať s ChatGPT na prchavej alebo neistej báze. Obchodný prípad nepozostáva z ničoho zvlášť podstatného. Párovanie je zúfalým pokusom jazdiť na chvoste ChatGPT. Akákoľvek primeraná kontrola by odhalila, že hodnota párovania je okrajová. Či si teda myslíte, že ide o správnu alebo nevhodnú formu párovania, visí to trochu vo vzduchu. Niekto by sa mohol pokúsiť tvrdiť, že konkrétne párovanie s ChatGPT, aj keď párovanie nedosahuje nič iné ako zvýšenie používania a nemá žiadnu inú funkčnú aditívnu hodnotu, je pravdepodobne párovanie stále hodné vykonania.

Trochu nevýhodou budú tie, ktoré falošne zobrazujú párovanie a vedú ľudí k presvedčeniu, že sa deje niečo pozoruhodné, aj keď to v skutočnosti nie je. Určite môžeme očakávať, že to niektorí vyskúšajú. Tí, ktorí sa zaoberajú etikou umelej inteligencie, sú veľmi znepokojení používaním hadieho oleja, ktorý bude pochádzať z dreva. Existuje tiež šanca, že ak sa to vymkne spod kontroly, mohli by sme vidieť nové zákony týkajúce sa AI, ktoré budú podnietené k vypracovaniu a prijatiu.

Poďme sa bližšie pozrieť na to, čo predstavuje skutočné párovanie a čo tiež predstavuje falošné párovanie.

Po prvé, mali by sme sa uistiť, že sme všetci na rovnakej stránke o tom, z čoho pozostáva generatívna AI, a tiež o tom, o čom je ChatGPT. Keď pokryjeme tento základný aspekt, môžeme vykonať presvedčivé posúdenie toho, ako API do ChatGPT radikálne zmení veci.

Ak ste už dostatočne oboznámení s Generatívnou AI a ChatGPT, môžete si možno prelistovať ďalšiu časť a pokračovať časťou, ktorá po nej nasleduje. Verím, že všetci ostatní nájdu poučenie o životne dôležitých podrobnostiach o týchto záležitostiach, keď si pozorne prečítajú túto časť a zorientujú sa v nej.

Rýchly základ o generatívnej AI a ChatGPT

ChatGPT je univerzálny interaktívny konverzačne orientovaný systém AI, v podstate zdanlivo neškodný všeobecný chatbot, napriek tomu ho ľudia aktívne a vášnivo používajú spôsobmi, ktoré mnohých úplne zaskočia, ako v krátkosti rozvediem. Táto aplikácia AI využíva techniku ​​a technológiu v oblasti AI, ktorá sa často označuje ako Generatívna AI. AI generuje výstupy, ako je text, čo robí ChatGPT. Iné generatívne aplikácie AI vytvárajú obrázky, ako sú obrázky alebo umelecké diela, zatiaľ čo iné vytvárajú zvukové súbory alebo videá.

V tejto diskusii sa zameriam na textové generatívne aplikácie AI, pretože to robí ChatGPT.

Generatívne aplikácie AI sa používajú mimoriadne jednoducho.

Všetko, čo musíte urobiť, je zadať výzvu a aplikácia AI vám vygeneruje esej, ktorá sa pokúsi reagovať na vašu výzvu. Komponovaný text bude pôsobiť, akoby esej bola napísaná ľudskou rukou a mysľou. Ak by ste zadali výzvu, ktorá hovorila „Povedz mi o Abrahamovi Lincolnovi“, generatívna AI vám poskytne esej o Lincolnovi. Toto sa bežne klasifikuje ako generatívna AI, ktorá funguje text-to-text alebo to niektorí radšej volajú prevod textu na esej výkon. Ako už bolo spomenuté, existujú aj iné režimy generatívnej AI, ako je text-to-art a text-to-video.

Vaša prvá myšlienka môže byť, že táto generatívna schopnosť sa nezdá byť až taká veľká, pokiaľ ide o tvorbu esejí. Môžete ľahko vyhľadávať online na internete a ľahko nájsť tony a tony esejí o prezidentovi Lincolnovi. Nakopnutím v prípade generatívnej AI je to, že vygenerovaná esej je relatívne jedinečná a poskytuje skôr originálnu kompozíciu než napodobeninu. Ak by ste sa pokúsili nájsť niekde online esej vytvorenú AI, je nepravdepodobné, že by ste ju objavili.

Generatívna AI je vopred vyškolená a využíva komplexnú matematickú a výpočtovú formuláciu, ktorá bola vytvorená skúmaním vzorov v písaných slovách a príbehoch na webe. V dôsledku skúmania tisícov a miliónov napísaných pasáží môže AI vychrliť nové eseje a príbehy, ktoré sú zmiešané s tým, čo sa našlo. Pridaním rôznych pravdepodobnostných funkcií je výsledný text do značnej miery jedinečný v porovnaní s tým, čo bolo použité v trénovacej sade.

Preto nastal rozruch okolo toho, že študenti môžu podvádzať pri písaní esejí mimo vyučovania. Učiteľ nemôže jednoducho vziať esej, o ktorej klamliví študenti tvrdia, že je to ich vlastný text, a snažiť sa zistiť, či nebola skopírovaná z nejakého iného online zdroja. Celkovo nebude existovať žiadna definitívna už existujúca esej online, ktorá by vyhovovala eseji vygenerovanej AI. Celkovo vzaté, učiteľ bude musieť s nevôľou akceptovať, že študent napísal esej ako originálnu prácu.

Existujú ďalšie obavy týkajúce sa generatívnej AI.

Jednou zásadnou nevýhodou je, že eseje vytvorené generatívnou aplikáciou AI môžu obsahovať rôzne nepravdy, vrátane zjavne nepravdivých faktov, faktov, ktoré sú klamlivo zobrazené, a zdanlivých faktov, ktoré sú úplne vymyslené. Tieto vymyslené aspekty sa často označujú ako forma AI halucinácie, fráza, ktorú nemám v obľube, ale zdá sa, že aj tak si získava na popularite (podrobné vysvetlenie, prečo je to mizerná a nevhodná terminológia, nájdete v mojom príspevku na odkaz tu).

Chcel by som objasniť jeden dôležitý aspekt predtým, než sa dostaneme k tejto téme.

Na sociálnych sieťach sa objavilo niekoľko šialených prehnaných tvrdení Generatívna AI tvrdenie, že táto najnovšia verzia AI je v skutočnosti vnímavá AI (nie, mýlia sa!). Tí, ktorí sa zaoberajú etikou AI a zákonom o umelej inteligencii, sa obzvlášť obávajú tohto rastúceho trendu rozšírených nárokov. Môžete zdvorilo povedať, že niektorí ľudia preháňajú, čo vlastne dnešná AI dokáže. Predpokladajú, že AI má schopnosti, ktoré sme ešte nedokázali dosiahnuť. To je nešťastie. Čo je ešte horšie, môžu dovoliť sebe a ostatným, aby sa dostali do zúfalých situácií, pretože predpokladajú, že AI bude vnímavá alebo podobná ľuďom, keď bude schopná konať.

Neantropomorfizujte AI.

Ak tak urobíte, dostanete sa do lepkavej a neústupnej pasce spoliehania sa na očakávanie, že AI bude robiť veci, ktoré nie je schopná vykonať. Ako už bolo povedané, najnovšia generatívna AI je relatívne pôsobivá na to, čo dokáže. Uvedomte si však, že existujú významné obmedzenia, ktoré by ste mali mať neustále na pamäti pri používaní akejkoľvek generatívnej aplikácie AI.

Ak vás zaujíma rýchlo sa rozširujúci rozruch o ChatGPT a generatívnej AI, vo svojom stĺpci som robil sústredenú sériu, ktorá by vám mohla poskytnúť informácie. Tu je pohľad pre prípad, že by vás niektorá z týchto tém zaujala:

• 1) Prichádzajú predpovede generatívnych pokrokov AI. Ak chcete vedieť, čo sa pravdepodobne objaví v súvislosti s AI v roku 2023 a neskôr, vrátane pripravovaných pokrokov v generatívnej AI a ChatGPT, budete si chcieť prečítať môj úplný zoznam predpovedí na rok 2023 na adrese odkaz tu.
• 2) Generatívna umelá inteligencia a poradenstvo v oblasti duševného zdravia. Rozhodol som sa skontrolovať, ako sa generatívna AI a ChatGPT používajú na poradenstvo v oblasti duševného zdravia, čo je problematický trend, podľa mojej cielenej analýzy na adrese odkaz tu.
• 3) Základy generatívnej AI a ChatGPT. Tento diel skúma kľúčové prvky fungovania generatívnej AI a konkrétne sa ponorí do aplikácie ChatGPT, vrátane analýzy buzzu a fanfár na odkaz tu.
• 4) Napätie medzi učiteľmi a študentmi kvôli generatívnej AI a ChatGPT. Tu sú spôsoby, ako budú študenti úskočne používať generatívnu AI a ChatGPT. Okrem toho sú tu spôsoby, ako môžu učitelia s touto prílivovou vlnou bojovať. Pozri odkaz tu.
• 5) Kontextové a generatívne používanie AI. Urobil som tiež sezónne ochutený test o kontexte súvisiacom so Santom, ktorý zahŕňa ChatGPT a generatívnu AI na odkaz tu.
• 6) Podvodníci používajúci generatívnu AI. Zlovestnou poznámkou je, že niektorí podvodníci prišli na to, ako používať generatívnu AI a ChatGPT na páchanie nekalých činov, vrátane generovania podvodných e-mailov a dokonca vytvárania programovacieho kódu pre malvér, pozri moju analýzu na odkaz tu.
• 7) Začiatočnícke chyby pri používaní generatívnej AI. Veľa ľudí preháňa aj prekvapivo podceňuje to, čo dokáže generatívna AI a ChatGPT, preto som sa pozrel najmä na podstrelenie, ktoré zvyknú robiť nováčikovia AI, pozri diskusiu na odkaz tu.
• 8) Vyrovnanie sa s generatívnymi výzvami AI a halucináciami AI. Opisujem špičkový prístup k používaniu doplnkov AI na riešenie rôznych problémov spojených so snahou zadávať vhodné výzvy do generatívnej AI, plus sú tu ďalšie doplnky AI na detekciu takzvaných AI halucinovaných výstupov a nepravd, ako napr. pokrytý pri odkaz tu.
• 9) Odhaľovanie tvrdení Bonehead o zisťovaní generatívnych esejí produkovaných AI. Existuje pomýlená zlatá horúčka aplikácií AI, ktoré tvrdia, že dokážu zistiť, či niektorú danú esej vyrobil človek alebo či vytvorila AI. Celkovo je to zavádzajúce a v niektorých prípadoch hlúpe a neudržateľné tvrdenie, pozri moje pokrytie na odkaz tu.
• 10) Hranie rolí prostredníctvom generatívnej AI môže predstavovať nevýhody duševného zdravia. Niektorí používajú generatívnu AI, ako je ChatGPT, na hranie rolí, pričom aplikácia AI reaguje na človeka, ako keby existoval vo svete fantázie alebo v inom vymyslenom prostredí. To by mohlo mať následky na duševné zdravie, viď odkaz tu.
• 11) Odhalenie rozsahu výstupných chýb a nepravd. Zhromažďujú sa rôzne zhromaždené zoznamy, aby sa pokúsili predviesť povahu chýb a nepravd, ktoré vytvára ChatGPT. Niektorí veria, že je to nevyhnutné, zatiaľ čo iní tvrdia, že cvičenie je zbytočné, pozri moju analýzu na odkaz tu.
• 12) Školám, ktoré zakazujú generatívnu AI ChatGPT, chýba loď. Možno viete, že rôzne školy, ako napríklad ministerstvo školstva v New Yorku (NYC), vyhlásili zákaz používania ChatGPT vo svojej sieti a súvisiacich zariadeniach. Hoci sa to môže zdať ako užitočné opatrenie, nepohne to ihlou a bohužiaľ úplne minie loď, pozrite si moje pokrytie na odkaz tu.

Možno vás bude zaujímať, že ChatGPT je založený na verzii predchádzajúcej aplikácie AI známej ako GPT-3. ChatGPT sa považuje za mierne ďalší krok, ktorý sa označuje ako GPT-3.5. Očakáva sa, že GPT-4 bude pravdepodobne vydaný na jar 2023. GPT-4 bude pravdepodobne predstavovať pôsobivý krok vpred, pokiaľ ide o schopnosť produkovať zdanlivo ešte plynulejšie eseje, ísť hlbšie a byť úžasným - inšpirujúci zázrak, pokiaľ ide o kompozície, ktoré dokáže vytvoriť.

Môžete očakávať nové kolo vyjadreného úžasu, keď príde jar a bude vydaná najnovšia generatívna AI.

Uvádzam to, pretože je potrebné mať na pamäti ďalší uhol, ktorý pozostáva z potenciálnej Achillovej päty týchto lepších a väčších generatívnych aplikácií AI. Ak ktorýkoľvek predajca AI sprístupní generatívnu aplikáciu AI, ktorá spenlivo chrlí nečistoty, mohlo by to zničiť nádeje týchto tvorcov AI. Presah do spoločnosti môže spôsobiť, že všetka generatívna AI dostane vážne čierne oči. Ľudia budú nepochybne dosť naštvaní na nečestné výstupy, ktoré sa už stali mnohokrát a viedli k búrlivým odporom spoločnosti voči AI.

Zatiaľ posledné varovanie.

Čokoľvek vidíte alebo čítate v generatívnej AI reakcii, že Zdá sa Ak chcete, aby boli vyjadrené ako čisto faktické (dátumy, miesta, ľudia atď.), nezabudnite zostať skeptickí a buďte ochotní ešte raz skontrolovať, čo vidíte.

Áno, dátumy sa dajú vymyslieť, miesta sa dajú vymyslieť a prvky, od ktorých zvyčajne očakávame, že budú bez výčitiek, sú všetko podlieha podozreniam. Neverte tomu, čo čítate, a buďte skeptický pri skúmaní akýchkoľvek generatívnych esejí alebo výstupov AI. Ak vám generatívna aplikácia AI povie, že Abraham Lincoln lietal po krajine vo svojom súkromnom lietadle, nepochybne by ste vedeli, že je to malátnosť. Žiaľ, niektorí ľudia si možno neuvedomujú, že lietadlá v jeho dobe neboli, alebo možno vedia, ale nevšimli si, že esej uvádza toto drzé a neuveriteľne nepravdivé tvrdenie.

Silná dávka zdravého skepticizmu a vytrvalá nedôverčivosť budú vašou najlepšou devízou pri používaní generatívnej AI.

Sme pripravení prejsť do ďalšej fázy tohto objasňovania.

Unleashing The Beast

Teraz, keď sme stanovili základy, môžeme sa ponoriť do obchodných a spoločenských dôsledkov vďaka aspektom rozhrania ChatGPT API.

Spoločnosť Microsoft nedávno oznámila v spojení s OpenAI o nadchádzajúcej dostupnosti ChatGPT na cloudovej platforme Azure od spoločnosti Microsoft (podľa online príspevku s názvom „Všeobecná dostupnosť služby Azure OpenAI rozširuje prístup k veľkým, pokročilým modelom AI s pridanými podnikovými výhodami“, 16. januára 2023):

• „Veľké jazykové modely sa rýchlo stávajú základnou platformou pre ľudí, aby inovovali, používali AI na riešenie veľkých problémov a predstavovali si, čo je možné. Dnes s potešením oznamujeme všeobecnú dostupnosť služby Azure OpenAI ako súčasť pokračujúceho záväzku spoločnosti Microsoft k demokratizácii AI a pokračujúceho partnerstva s OpenAI. Vďaka službe Azure OpenAI, ktorá je teraz všeobecne dostupná, môže viac firiem požiadať o prístup k najpokročilejším modelom AI na svete – vrátane GPT-3.5, Codex a DALL•E 2 – s podporou dôveryhodných podnikových funkcií a infraštruktúry optimalizovanej pre AI. Microsoft Azure na vytváranie špičkových aplikácií. Zákazníci budú mať už čoskoro prístup k ChatGPT – vyladenej verzii GPT-3.5, ktorá bola vyškolená a spúšťa odvodenie z infraštruktúry Azure AI – prostredníctvom služby Azure OpenAI.

V tomto vyhlásení ste si mohli všimnúť, že k dispozícii budú aj ďalšie rôzne aplikácie AI, ktoré vyvinul OpenAI. Niektoré z týchto aplikácií AI sú skutočne dostupné už nejaký čas, ako sa uvádza ďalej v nedávnom vyhlásení vyššie: „Službu Azure OpenAI sme debutovali v novembri 2021, aby sme zákazníkom umožnili využiť silu rozsiahlych generatívnych modelov AI s podnik sľubuje, že zákazníci od našej cloudovej a výpočtovej infraštruktúry Azure očakávajú – bezpečnosť, spoľahlivosť, súlad, súkromie údajov a vstavané funkcie zodpovednej AI“ (ibid).

Už som spomenul, že etika AI aj právo AI sa snažia vyvážiť AI pre dobro ašpirácie s potenciálom AI pre zlé ktoré môžu občas nastať. Vo sfére AI prebieha pohyb smerom k mateniu Zodpovedná AI alebo niekedy označované ako Trustworthy AI alebo Human-Centered AI, pozri moje pokrytie na odkaz tu. Všetci tvorcovia AI sú vyzývaní, aby navrhli a nasmerovali svoju AI AI pre dobro a otvorene sa snažiť obmedziť alebo zmierniť akékoľvek AI pre zlé to by sa mohlo objaviť.

Toto je vysoká úloha.

V každom prípade sa vyššie uvedené vyhlásenie zaoberalo úvahami o zodpovednej AI:

• „Ako líder v odvetví si uvedomujeme, že každá inovácia v oblasti AI sa musí robiť zodpovedne. To sa stáva ešte dôležitejším s výkonnými, novými technológiami, ako sú generatívne modely. K veľkým modelom sme zvolili iteratívny prístup, pričom sme úzko spolupracovali s naším partnerom OpenAI a našimi zákazníkmi, aby sme starostlivo posúdili prípady použitia, naučili sa a riešili potenciálne riziká. Okrem toho sme implementovali naše vlastné ochranné zábradlia pre službu Azure OpenAI, ktoré sú v súlade s našimi princípmi zodpovednej AI. V rámci nášho rámca obmedzeného prístupu sa od vývojárov vyžaduje, aby požiadali o prístup a opísali zamýšľaný prípad použitia alebo aplikáciu predtým, ako im bude udelený prístup k službe. Filtre obsahu jedinečne navrhnuté na zachytenie urážlivého, nenávistného a urážlivého obsahu neustále monitorujú vstupy poskytované službe, ako aj generovaný obsah. V prípade potvrdeného porušenia pravidiel môžeme vývojára požiadať, aby okamžite podnikol kroky na zabránenie ďalšiemu zneužívaniu“ (ibid).

Jadrom perspektívy zodpovednej AI je, že vyžadovaním formálnej žiadosti o prístup k ChatGPT na základe programového API existuje šanca na odstránenie nepríjemných príspevkov. Ak pri výbere toho, ktoré ďalšie firmy a ich programy majú prístup k ChatGPT, je potrebná náležitá starostlivosť, možno existuje šanca zabrániť plnému hnevu vydaného Krakena.

Možno áno, možno nie.

Niektorí učenci lomcujú rukami, že možnosti zarábania peňazí, ktoré umožňujú uvedenie do používania ChatGPT API, narušia protiváhu, že chce zviera primerane a bezpečne držať pod kontrolou. Bude kontrola skutočne vopred dostatočne opatrná? Mohli by sme namiesto toho vidieť, že proces schvaľovania nastáva rozvláčny, nehybný a kolísavý, keď sa množstvo žiadostí vymkne spod kontroly? Niektorí sa obávajú, že až keď je mačka vytiahnutá z vaku, môže skutočne dôjsť k neskoršiemu dôkladnejšiemu skúmaniu, hoci vtedy už bude škoda napáchaná.

Môžete prinajmenšom priznať uznanie, že ide o proces preverovania. Existujú niektoré generatívne aplikácie AI, ktorým buď chýba koherentný proces preverovania, alebo majú povrchný povrchný charakter. Okrem toho existujú verzie generatívnej AI s otvoreným zdrojovým kódom, ktoré môže vo všeobecnosti používať takmer každý, kto tak chce urobiť, aj keď sa predpokladá, že bude dodržané určité obmedzenie licenčných obmedzení (pokúšať sa presadiť to je ťažšie, ako by sa mohlo zdať).

Poďme sa rýchlo pozrieť na existujúce pravidlá týkajúce sa obmedzenia prístupu k službe Azure OpenAI, aby sme zistili, čo budú musieť urobiť iní tvorcovia softvéru, aby sa mohli potenciálne pripojiť k ChatGPT. Podľa online zverejnených zásad spoločnosti Microsoft (najnovšie zverejnené 14. decembra 2022):

• „Ako súčasť záväzku spoločnosti Microsoft k zodpovednej AI navrhujeme a vydávame službu Azure OpenAI so zámerom chrániť práva jednotlivcov a spoločnosti a podporovať transparentnú interakciu medzi človekom a počítačom. Z tohto dôvodu v súčasnosti obmedzujeme prístup a používanie Azure OpenAI vrátane obmedzenia prístupu k možnosti upravovať filtre obsahu a upravovať monitorovanie zneužívania. Azure OpenAI vyžaduje registráciu a momentálne je k dispozícii len pre spravovaných zákazníkov a partnerov pracujúcich s tímami účtov Microsoft. Zákazníci, ktorí chcú používať Azure OpenAI, musia odoslať registračný formulár na počiatočný prístup na experimentovanie a na schválenie prechodu z experimentovania do produkcie.
• „Na účely experimentovania zákazníci potvrdia, že budú službu používať iba na zamýšľané účely predložené v čase registrácie, a zaviažu sa začleniť ľudský dohľad, prísne technické limity na vstupy a výstupy, kanály spätnej väzby a dôkladné testovanie. Pre výrobu zákazníci vysvetľujú, ako boli implementované na zmiernenie rizika. Zákazníci, ktorí si želajú upraviť filtre obsahu a upraviť monitorovanie zneužívania po tom, ako sa zaregistrovali do služby, podliehajú ďalším obmedzeniam scenára a musia sa zaregistrovať tu.“
• „Prístup k službe Azure OpenAI podlieha výhradnému uváženiu spoločnosti Microsoft na základe kritérií oprávnenosti a procesu preverovania a zákazníci musia potvrdiť, že si prečítali a súhlasili s podmienkami služby Azure pre službu Azure OpenAI. Spoločnosť Microsoft môže od zákazníkov vyžadovať opätovné overenie týchto informácií. Služba Azure OpenAI je sprístupnená zákazníkom na základe podmienok upravujúcich ich predplatné služieb Microsoft Azure, vrátane sekcie Azure OpenAI v podmienkach produktu spoločnosti Microsoft. Pozorne si prečítajte tieto podmienky, pretože obsahujú dôležité podmienky a povinnosti, ktorými sa riadi vaše používanie služby Azure OpenAI.

To je na strane Microsoftu.

OpenAI má tiež svoje pravidlá používania spojené s jeho API:

• „Chceme, aby každý mohol používať naše API bezpečne a zodpovedne. Na tento účel sme vytvorili pravidlá pre prípady použitia a obsah. Tým, že ich budete dodržiavať, nám pomôžete zabezpečiť, aby sa naša technológia používala pre dobro. Ak zistíme, že váš produkt nespĺňa tieto pravidlá, požiadame vás o vykonanie potrebných zmien. Ak nevyhoviete, môžeme podniknúť ďalšie kroky vrátane zrušenia vášho účtu.“
• „Zakazujeme stavebné produkty, ktoré sú zamerané na nasledujúce prípady použitia:“
• „– Nezákonný alebo škodlivý priemysel“
• “— Zneužitie osobných údajov”
• "— Podpora nečestnosti"
• „— Klamanie alebo manipulácia používateľov“
• „– Snažím sa ovplyvňovať politiku“
• „Nasledujúca skupina prípadov použitia prináša väčšie riziko potenciálnej ujmy: trestné súdnictvo, presadzovanie práva, právne, vládne a štátne služby, zdravotná starostlivosť, terapia, wellness, koučovanie, financie, správy. Pre tieto prípady použitia musíte:
• „1) Dôkladne otestujte presnosť našich modelov vo vašom prípade použitia a buďte transparentní voči svojim používateľom o obmedzeniach.“
• „2) Uistite sa, že váš tím má odborné znalosti v danej oblasti a rozumie/dodržiava príslušné zákony“
• „Nedovoľujeme vám ani koncovým používateľom vašej aplikácie vytvárať nasledujúce typy obsahu:“
• "- Nenávisť"
• "- obťažovanie"
• "— Násilie"
• "- Sebapoškodzovanie"
• "- Sexuálne"
• “— Politický”
• "- Nevyžiadaná pošta"
• "- Klam"
• “— malvér”

Veľkou otázkou bude, či sa tieto ideály dajú pozorovať, ak dôjde k horlivému náporu žiadostí o spojenie s ChatGPT. Možno príde ohromujúca vlna tsunami žiadostí. Ľudská práca na preskúmaní a dôkladnom preverení každého z nich môže byť nákladná a ťažko zvládnuteľná. Oslabí sa túžba byť primerane reštriktívny, neúmyselne zoči-voči obrovskému dopytu po prístupe?

Ako hovorí známy vtip, tie najlepšie plány sa niekedy môžu rozpadnúť pri prvom kontakte s množstvom síl.

Existuje tiež veľa voľnosti pri interpretácii uvedených pravidiel. Ako sme vo všeobecnosti videli o náraste dezinformácií a dezinformácií, snažiť sa oddeliť zrno od pliev môže byť dosť náročné. Ako sa dá určiť, či generovaný obsah dodržiava alebo porušuje ustanovenia o tom, že nie je nenávistný, politický, klamlivý a podobne?

Hroziacim problémom by mohlo byť, že ak je rozhranie ChatGPT API sprístupnené výrobcovi softvéru, ktorý spáruje svoj program s ChatGPT, a výsledný výstup jednoznačne porušuje uvedené predpisy, bude kôň už vonku zo stodoly? Niektorí naznačujú, že existuje veľká možnosť poškodenia dobrého mena, ktoré môže vzniknúť všetkým zúčastneným stranám. Či sa to dá prekonať jednoduchým odpojením API pre konkrétneho páchateľa, nie je jasné. Poškodenie v istom zmysle môže pretrvávať a pokaziť sud. Všetkým prichádzajúcim bude veľa viny.

Stratifikácia párov API

Už som si všimol, že párovanie s ChatGPT možno pohodlne zoskupiť do dvoch hlavných zámerov:

• Originálne párovanie s ChatGPT
• Falošné párovanie s ChatGPT

Poďme najprv preskúmať skutočné alebo bona fide páry.

Ako pozadie je spôsob, akým sa to deje, trochu jednoduchý. Aplikácia ChatGPT umožňuje iným programom vyvolať aplikáciu. Typicky by to pozostávalo povedzme z programu, ktorý budeme nazývať Widget, ktorý ChatGPT odovzdá výzvu v textovom formáte a potom, čo ChatGPT urobí svoju vec, esej alebo text sa vráti do programu Widget. Je to skoro ako keď človek robí to isté, aj keď budeme mať program, ktorý bude robiť tieto akcie namiesto toho, kto to urobí.

Predpokladajme napríklad, že niekto vymyslí program, ktorý vyhľadáva na webe. Program sa opýta používateľa, čo chce hľadať. Program potom používateľovi poskytne zoznam rôznych vyhľadávacích zásahov alebo nálezov, ktoré, dúfajme, predstavujú relevantné webové stránky na základe dopytu používateľa.

Predstavte si, že firma, ktorá vyrába tento program na vyhľadávanie na webe, chce vylepšiť svoju aplikáciu.

Požadujú prístup k API ChatGPT. Predpokladajme, že urobia všetky náležité papierovanie a nakoniec dostanú schválenie. Ich program, ktorý vykonáva vyhľadávanie na webe, by sa potom musel upraviť tak, aby obsahoval výzvu na aplikáciu ChatGPT cez rozhranie API. Predpokladajme, že sa rozhodnú urobiť tieto mody.

Tu je návod, ako by to potom mohlo celkom fungovať. Keď používateľ zadá dotaz na vyhľadávanie na webe do základného programu, tento program nielenže vykoná konvenčné vyhľadávanie na webe, ale tiež odošle dotaz do ChatGPT cez API. ChatGPT potom spracuje text a vráti výslednú esej do základného programu. Hlavný program vyhľadávania na webe teraz používateľovi predstavuje dva aspekty, konkrétne výsledky vyhľadávania na webe a dodatočnú esej, ktorá sa odošle z ChatGPT.

Osoba používajúca tento základný program nemusí nevyhnutne vedieť, že na backende sa používal ChatGPT. Môže sa to stať v rámci základného programu a používateľ si blažene neuvedomuje, že bol zapojený ChatGPT. Na druhej strane, základný program by mohol byť navrhnutý tak, aby informoval používateľa, že sa používa ChatGPT. Zvyčajne to závisí od toho, či tvorcovia základného programu chcú odhaliť, že bola použitá iná aplikácia, v tomto prípade ChatGPT. V niektorých usporiadaniach výrobca vyvolávaného programu trvá na tom, že program vyvolávajúci API musí dať používateľom vedieť, že sa používa druhý program. Všetko závisí od preferencií a podrobností o licenciách.

Pre skutočné párovanie sú tu obvyklé prístupy:

• 1) Priamy prechod na ChatGPT
• 2) Doplnok na rozšírenie ChatGPT
• 3) Spojenecká aplikácia, ktorá sa zhoduje s ChatGPT
• 4) Plne integračné ponorenie s ChatGPT

Stručne povedané, v prvom uvedenom prístupe ide o to, že by som mohol navrhnúť program, ktorý je len frontendom pre ChatGPT, a preto všetko, čo môj program robí, je odovzdať text do ChatGPT a získať text späť z ChatGPT. Sprístupňujem svoj program každému, kto chce používať ChatGPT a kto sa inak neprihlásil na jeho používanie. Toto je jeden prístup.

Po druhé, mohol by som vymyslieť program, ktorý by slúžil ako doplnok k ChatGPT. Napríklad, keď ChatGPT vygeneruje esej, môže obsahovať nepravdy. Predpokladajme, že vytvorím program, ktorý preskúma výstup ChatGPT a pokúsi sa odhaliť nepravdy. Sprístupňujem svoj program tak, že ľudia do môjho programu zadajú textovú výzvu, ktorá potom odošle výzvu do ChatGPT. ChatGPT vytvorí esej, ktorá sa vráti do môjho programu. Predtým, ako vám môj program ukáže esej, predbežne esej prescreenuje a pokúsi sa označiť alebo odstrániť nepravdy. Potom uvidíte výslednú esej po tom, čo môj program vykonal skríning.

Tretí prístup spočíva v tom, že máte spriaznenú aplikáciu, ktorá sa v zmysle zhoduje s ChatGPT. Predpokladajme, že vytvorím program, ktorý ľuďom pomáha pri tvorivom písaní. Môj program poskytuje vopred pripravené tipy a návrhy, ako kreatívne písať. Program iba podnecuje alebo povzbudzuje používateľa, aby tak urobil. Medzitým by som chcel byť schopný ukázať používateľovi, z čoho pozostáva tvorivé písanie. Ako taký vytváram API s ChatGPT. Môj program potom prevezme výzvu od používateľa a vyvolá ChatGPT, aby poskytol esej, ktorá by mohla demonštrovať tvorivé písanie. Dalo by sa to urobiť iteratívne a vyvolať ChatGPT viackrát v procese.

V prípade štvrtého uvedeného prístupu je ChatGPT plne integrovaný do iného programu alebo súboru programov. Ak by som mal napríklad aplikáciu na spracovanie textu a tabuľkový procesor, možno by som chcel integrovať ChatGPT do týchto aplikácií. V spôsobe rozprávania by spolu fungovali ruka v ruke. Budem pokrývať v nadchádzajúcom stĺpci zverejňovanie možnosti, že by sa Microsoft mohol rozhodnúť vložiť ChatGPT do svojho balíka kancelárskej produktivity, takže čakajte na prichádzajúcu analýzu.

To sú potom kľúčové spôsoby, ako môže dôjsť k skutočnému párovaniu.

Pozrime sa ďalej na niektoré falošné párovania.

Tu je niekoľko celkových falošných párov, na ktoré by ste si mali dávať pozor:

• Gimmickry párovanie s ChatGPT – okrajovo využíva ChatGPT, robený hlavne na predvádzanie a získavanie publicity bez pridanej hodnoty
• Zvodné sľuby o párovaní ChatGPT – Dodávateľ softvéru tvrdí, že sú uprostred párovania s ChatGPT a snažia sa byť v žiariacom svetle reflektorov, aj keď realita je taká, že to neurobia a robia klasický falošný klam a falošný sľub
• Knockoffs Proclaiming To Be ChatGPT-like – niektorí dodávatelia softvéru namiesto spárovania s ChatGPT použijú niečo iné, čo je v poriadku, ale pokúsia sa naznačiť, že je to ChatGPT, keď to tak nie je, dúfajúc, že ​​získajú nejaké dozvuky ChatGPT
• ostatné – je možné si predstaviť množstvo ďalších pretiahnutých a úskočných schém

O tom všetkom sa nepochybne bude diať veľa podvodov. Bude to neoddeliteľná súčasť vydania Krakena.

záver

Dovoľte mi hodiť do tejto záležitosti nejaké kľúče a iné prekážky.

A čo náklady?

V súčasnosti tí, ktorí sa prihlásili na používanie ChatGPT, to robia zadarmo. Už som predtým poznamenal, že v určitom bode bude musieť byť zahrnuté priame speňaženie. Môže to znamenať účtovanie poplatku za transakciu alebo platbu za predplatné. Ďalšou možnosťou je, že na prinesenie cesta môžu byť použité reklamy, pričom pri každom použití ChatGPT sa zobrazí reklama. Atď.

Tí, ktorí sa rozhodnú vytvoriť párovanie s ChatGPT prostredníctvom rozhrania API, by mali vážne uvažovať o možných nákladoch. Pravdepodobne existujú náklady súvisiace s používaním cloudu Microsoft Azure na prevádzku aplikácie ChatGPT. Za používanie rozhrania ChatGPT API a spustenie aplikácie AI bude OpenAI nevyhnutne stáť. Predajca softvéru bude tiež znášať svoje vlastné interné náklady, ako je úprava svojich existujúcich programov na používanie API alebo vývoj nových programov v súvislosti s párovaním s ChatGPT. Predstavte si aj počiatočné náklady, ako aj náklady na priebežnú údržbu.

Podstatou je, že toto vrstvenie nákladov do určitej miery zmierni zlatú horúčku smerom k využitiu ChatGPT API. Predajcovia softvéru by pravdepodobne mali urobiť obozretný výpočet ROI (návratnosť investícií). Prinesie čokoľvek, čo dokážu zarobiť prostredníctvom rozšírenia svojho programu pomocou ChatGPT, dostatočné dodatočné peniaze na kompenzáciu nákladov?

Nie každý musí byť nevyhnutne taký ohľaduplný k nákladom. Ak máte hlboko do vrecka a veríte, že vaše používanie ChatGPT posunie váš program do najznámejšej alebo najuznávanejšej sféry aplikácií, možno sa rozhodnete, že cena práve teraz stojí za to. Vytvorte si meno pre svoju aplikáciu tým, že budete jazdiť na chvostoch ChatGPT. Keď sa váš program stane populárnym alebo iným spôsobom zarobíte peniaze, buď kompenzujete predchádzajúci nedostatok zisku, alebo ho odpíšete ako náklady potrebné na to, aby ste sa dostali do veľkého zisku.

Malý startup podporovaný firmou Venture Capital (VC) môže byť ochotný investovať časť svojej počiatočnej investície, aby sa spojil s API ChatGPT. Sláva môže vzniknúť okamžite. K šťastiu môže byť dlhá cesta, ale s tým sa treba vysporiadať neskôr. Ako sa hovorí, chyťte sa do popredia, keď sa vám darí.

Dá sa predpokladať, že by sa mohli nájsť neziskovky a sociálne podniky, ktoré sa rozhodnú aj v tomto prekopať pneumatiky. Predpokladajme, že nezisková firma identifikuje prospešné použitie vyvolania rozhrania ChatGPT API, ktoré zdanlivo podporí ich altruistické alebo spoločensky prospešné ciele. Možno na to získavajú prostriedky prostredníctvom online finančnej kampane. Možno sa pokúsia uzavrieť dohodu s predajcami tak, aby zaplatili nominálnu sumu alebo získali používanie zadarmo.

Čas ukáže.

Posledným ukazovateľom, ktorý vám nechám, je rizikový faktor.

Nechcem pôsobiť príliš ponižujúco, ale už som spomenul, že výstupy z ChatGPT môžu obsahovať nepravdy a mať ďalšie potenciálne nevýhody. Ide o to, že ak sa dodávateľ softvéru, ktorý vytvára aplikáciu, zamieša do používania rozhrania ChatGPT API, riskuje, že bude mať kyslé a nechutné výstupy, ktoré by mali očakávať. Nestrkajte hlavu do piesku.

Problémom je, že tieto výstupy by mohli pošpiniť aplikáciu, ktorá sa ich rozhodla využiť. V tomto zmysle by vaša aplikácia, ktorá je na prvom mieste na koni slávy ChatGPT, mohla tiež skončiť oraním do tehlovej steny, ak sa spoliehate na výstupy poskytované prostredníctvom ChatGPT. Možno sú výstupy prezentované používateľom a to spôsobuje strašný rozruch. Zbavia sa vás a vašej aplikácie.

Na druhej strane sa pokúsite ukázať prstom na ChatGPT. Dostane vás to z rébusu? Keď sa raz objaví smrad, preniká široko a málokto je ušetrený. V tejto súvislosti by sa mohlo stať, že prostredníctvom rozšíreného používania ChatGPT sa povedomie o chybných výstupoch stane bežnejším. Napodiv, alebo ironicky, rozšírené používanie ChatGPT vďaka API by mohlo vystreliť vlastnú nohu.

Nechcem svoje poznámky uzatvárať smutnou tvárou, takže sa skúsme preorientovať na šťastnú tvár.

Ak sú všetky ašpiračné limity a obmedzenia pozorne a uvážlivo dodržiavané a dôsledne dodržiavané, môže byť dobré využiť ChatGPT cez API. Je tiež pravdepodobné, že to ešte viac podnieti ďalšie generatívne aplikácie AI do akcie. Stúpajúci príliv mohol zdvihnúť všetky lode.

Vyzerá to optimisticky.

Možno viete, že o Zeusovi sa hovorilo, že ovláda Krakena. Staroveký grécky dramatik Sofokles povedal o Diovi toto: „Zeusove kocky vždy šťastne padnú.

Možno sa to isté povie o tom, ako generatívna AI nevyhnutne pristane, aspoň v to dúfajme.