Generatívny AI ChatGPT môže znepokojivo pohltiť vaše súkromné ​​a dôverné údaje, varuje pred etikou AI a zákonom o AI

Teraz svoje údaje vidíte, teraz nie.

Medzitým sa vaše vzácne údaje stali súčasťou kolektívu.

Mám na mysli aspekt, ktorý môže byť celkom prekvapivý pre tých z vás, ktorí horlivo a vážne využívajú najnovšie poznatky z oblasti umelej inteligencie (AI). Údaje, ktoré zadáte do aplikácie AI, potenciálne vôbec nie sú úplne súkromné ​​pre vás a vás. Je možné, že vaše údaje použije výrobca AI na pravdepodobne snahu o zlepšenie svojich služieb AI, alebo ich môžu použiť oni a/alebo ich spriaznení partneri na rôzne účely.

Teraz ste boli vopred varovaní.

Toto odovzdanie vašich údajov sa deje tými najneškodnejšími spôsobmi a potenciálne tisíckami alebo rádovo miliónmi ľudí. Ako to? Existuje druh umelej inteligencie známy ako generatívna umelá inteligencia, ktorá si nedávno získala veľké titulky a upútala pozornosť širokej verejnosti. Najpozoruhodnejšia z existujúcich generatívnych aplikácií AI je aplikácia s názvom ChatGPT, ktorú navrhla firma OpenAI.

Pre ChatGPT je údajne okolo milióna registrovaných používateľov. Zdá sa, že mnohí z týchto používateľov s potešením vyskúšajú túto najhorúcejšiu a najnovšiu generatívnu aplikáciu AI. Proces je mimoriadne jednoduchý. Zadáte nejaký text ako výzvu a voila, aplikácia ChatGPT vygeneruje textový výstup, ktorý je zvyčajne vo forme eseje. Niektorí to označujú ako prevod textu na text, aj keď ja to radšej označujem ako prevod textu na esej, pretože táto slovesnosť dáva každodennejší zmysel.

Najprv používateľ začiatočník pravdepodobne zadá niečo zábavné a bezstarostné. Povedzte mi o živote a časoch Georga Washingtona, niekto môže vstúpiť ako výzva. ChatGPT by potom vytvoril esej o našom legendárnom prvom prezidentovi. Esej by bola úplne plynulá a ťažko by ste rozpoznali, že ju vytvorila aplikácia AI. Je to vzrušujúca vec.

Je pravdepodobné, že po chvíli hrania sa segment začínajúcich používateľov naplní a potenciálne sa rozhodne prestať sa hrať s ChatGPT. Teraz prekonali svoj FOMO (strach z premeškania), pričom tak urobili po experimentovaní s aplikáciou AI, o ktorej sa zdá, že takmer každý rozpráva. Skutok vykonaný.

Niektorí však začnú uvažovať o iných a serióznejších spôsoboch využitia generatívnej AI.

Možno použite ChatGPT na napísanie poznámky, ktorú vám váš šéf nahováral. Všetko, čo musíte urobiť, je poskytnúť výzvu s odrážkami, ktoré máte na mysli, a ďalšia vec, o ktorej viete, že služba ChatGPT vygenerovala celú poznámku, vďaka ktorej by bol na vás váš šéf hrdý. Skopírujete vytlačenú esej z ChatGPT, vložíte ju do oficiálnej šablóny spoločnosti v balíku na spracovanie textu a pošlete e-mailom elegantné memorandum svojmu manažérovi. Máte hodnotu milióna dolárov. A použili ste svoj mozog, aby ste našli praktický nástroj, ktorý za vás urobí ťažkú ​​prácu. Potľapkajte sa po chrbte.

To nie je všetko.

Áno, je toho viac.

Majte na pamäti, že generatívna AI môže vykonávať množstvo ďalších úloh súvisiacich s písaním.

Predpokladajme napríklad, že ste napísali nejaký príbeh pre váženého klienta a veľmi si želáte, aby bol materiál spracovaný skôr, ako vyjde von.

Brnkačka.

Text svojho príbehu prilepíte do výzvy ChatGPT a potom prikážete ChatGPT, aby analyzoval text, ktorý ste vytvorili. Výsledná esej sa môže hlboko ponoriť do vašej formulácie a na vaše milé prekvapenie sa pokúsi zdanlivo preskúmať význam toho, čo ste povedali (ide ďaleko za hranice pôsobenia ako kontrolór pravopisu alebo analyzátor gramatiky). Aplikácia AI môže odhaliť chyby v logike vášho rozprávania alebo môže objaviť rozpory, o ktorých ste si neuvedomili, že sú vo vašom vlastnom písaní. Je to takmer ako keby ste si najali prefíkaného ľudského editora, aby si prezrel váš návrh a poskytol množstvo užitočných návrhov a poznámok (no, chcem kategoricky povedať, že sa nesnažím antropomorfizovať aplikáciu AI, najmä že ľudský editor je človek, zatiaľ čo aplikácia AI je iba počítačový program).

Vďaka bohu, že ste použili generatívnu aplikáciu AI na preskúmanie vášho vzácneho napísaného príbehu. Nepochybne by ste uprednostnili, keby AI našla tieto znepokojujúce písomné problémy, a nie po odoslaní dokumentu vášmu oceňovanému klientovi. Predstavte si, že ste skomponovali príbeh pre niekoho, kto vás najal, aby ste vymysleli celkom dôležité zobrazenie. Ak ste pred kontrolou aplikácie AI poskytli klientovi pôvodnú verziu, mohli by ste utrpieť veľké rozpaky. Klient by takmer určite mal vážne pochybnosti o vašich schopnostiach vykonávať požadovanú prácu.

Zvýšime predstih.

Zvážte vytvorenie právnych dokumentov. To je zjavne obzvlášť vážna vec. Slová a to, ako sú zložené, môžu znamenať ráznu právnu obranu alebo skľučujúcu právnu katastrofu.

V rámci môjho prebiehajúceho výskumu a poradenstva pravidelne komunikujem s mnohými právnikmi, ktorí majú veľký záujem o používanie AI v oblasti práva. Rôzne programy LegalTech sa pripájajú k schopnostiam AI. Právnik môže použiť generatívnu AI na zostavenie návrhu zmluvy alebo na zostavenie iných právnych dokumentov. Okrem toho, ak právnik sám vytvoril počiatočný návrh, môže odovzdať text do generatívnej aplikácie AI, ako je ChatGPT, aby sa pozrel a zistil, aké diery alebo medzery môžu byť zistené. Viac o tom, ako sa právnici a právna oblasť rozhodnú využívať AI, nájdete v mojej diskusii na adrese odkaz tu.

Sme však pripravení na to.

Právnik vezme vypracovanú zmluvu a skopíruje text do výzvy pre ChatGPT. Aplikácia AI vytvorí recenziu pre právnika. Ukázalo sa, že ChatGPT nájde niekoľko gotchov. Advokát upraví zmluvu. Môžu tiež požiadať ChatGPT, aby im navrhol preformulovanie alebo prerobenie zloženého textu. Generatívna aplikácia AI potom vytvorí novú a lepšiu verziu zmluvy. Právnik vezme výstupný text a vloží ho do súboru na spracovanie textu. Poslanec ide k ich klientovi. Misia splnená.

Uhádnete, čo sa práve stalo?

V zákulisí a pod kapotou mohla byť zmluva pohltená ako ryba do tlamy veľryby. Aj keď si to tento právnik využívajúci AI nemusí uvedomovať, text zmluvy, ktorý je umiestnený ako výzva do ChatGPT, môže aplikácia AI potenciálne zhltnúť. Teraz je to krmivo pre porovnávanie vzorov a ďalšie výpočtové zložitosti aplikácie AI. To by sa zase dalo využiť rôznymi spôsobmi. Ak sú v návrhu dôverné údaje, aj to je teraz potenciálne v medziach ChatGPT. Vaša výzva poskytnutá aplikácii AI je teraz zdanlivo súčasťou kolektívu tak či onak.

Okrem toho sa za súčasť kolektívu považuje aj vydaná esej. Ak ste požiadali ChatGPT, aby za vás upravil návrh a predložil novú verziu zmluvy, považuje sa to za výstupnú esej. Výstupy ChatGPT sú tiež typom obsahu, ktorý môže aplikácia AI zachovať alebo inak transformovať.

Fuj, možno ste nevinne prezradili súkromné ​​alebo dôverné informácie. Nie dobré. Navyše by ste si ani neuvedomili, že ste to urobili. Neboli vztýčené žiadne vlajky. Nezaznel klaksón. Žiadne blikajúce svetlá nezhasli, aby vás šokovali do reality.

Mohli by sme predpokladať, že takúto chybu môžu ľahko urobiť aj neprávnici, ale pre skúseného právnika je takmer nepredstaviteľné, aby urobil rovnakú začiatočnícku chybu. Napriek tomu existuje pravdepodobná právnická profesia, ktorá práve teraz robí rovnakú potenciálnu chybu. Riskujú, že porušia pozoruhodný prvok privilégia advokáta a klienta a pravdepodobne porušia Modelové pravidlá profesionálneho správania (MRPC) Americkej advokátskej komory (ABA). Najmä: „Advokát neprezradí informácie týkajúce sa zastupovania klienta, pokiaľ klient nedá informovaný súhlas, sprístupnenie je implicitne oprávnené na vykonanie zastupovania alebo sprístupnenie povoľuje odsek b)“ (cit. MRPC a pre ktoré výnimky spojené s pododdielom b zrejme nezahŕňajú používanie generatívnej aplikácie AI nezabezpečeným spôsobom).

Niektorí právnici sa môžu snažiť ospravedlniť svoj priestupok tvrdením, že nie sú technickí čarodejníci a že by nemali pripravené prostriedky na to, aby vedeli, že ich zadávanie dôverných informácií do generatívnej aplikácie AI môže byť istým spôsobom porušením pravidiel. ABA objasnila, že povinnosťou právnikov je byť informovaný o umelej inteligencii a technológiách z právneho hľadiska: „Aby si právnik udržal potrebné znalosti a zručnosti, mal by držať krok so zmenami v práve a jeho praxi, vrátane výhody a riziká spojené s príslušnou technológiou, zapájať sa do ďalšieho štúdia a vzdelávania a dodržiavať všetky požiadavky na sústavné právnické vzdelanie, ktorým právnik podlieha“ (podľa MRPC).

Do tohto zdania zákonnej povinnosti vstupuje niekoľko ustanovení, vrátane zachovávania dôverných informácií klienta (pravidlo 1.6), ochrany majetku klienta, ako sú údaje (pravidlo 1.15), riadnej komunikácie s klientom (pravidlo 1.4), získavania informovaného súhlasu klienta (pravidlo 1.6), a zabezpečenie kompetentného zastupovania v mene klienta (pravidlo 1.1). A je tu aj málo známe, ale veľmi pozoruhodné uznesenie zamerané na AI, ktoré schválila ABA: „Americká advokátska komora nalieha na súdy a právnikov, aby riešili vznikajúce etické a právne problémy súvisiace s používaním umelej inteligencie („AI“). v praxi práva vrátane: (1) zaujatosti, vysvetliteľnosti a transparentnosti automatizovaných rozhodnutí, ktoré robí AI; (2) etické a prospešné používanie AI; a (3) kontrola a dohľad nad AI a dodávateľmi, ktorí poskytujú AI.“

Slová múdrym pre mojich právnických priateľov a kolegov.

Jadrom veci je, že pri používaní generatívnej AI sa môže dostať do zápchy takmer každý. Neprávnici tak môžu urobiť na základe ich predpokladaného nedostatku právnej bystrosti. Môžu to urobiť aj právnici, možno sú zamilovaní do AI alebo sa zhlboka nadýchnuť a premýšľať o tom, aké právne dôsledky môže mať používanie generatívnej AI.

Všetci sme potenciálne na jednej lodi.

Mali by ste si tiež uvedomiť, že ChatGPT nie je jedinou generatívnou aplikáciou AI v bloku. Existujú aj iné generatívne aplikácie AI, ktoré môžete použiť. Aj oni sú pravdepodobne vystrihnuté z toho istého plátna, konkrétne to, že vstupy, ktoré zadáte ako výzvy, a výstupy, ktoré dostanete ako vygenerované výstupné eseje, sa považujú za súčasť kolektívu a môže ich použiť tvorca AI.

V dnešnom stĺpci sa chystám rozbaliť povahu toho, ako môžu byť údaje, ktoré zadávate, a údaje, ktoré prijímate z generatívnej AI, potenciálne ohrozené s ohľadom na súkromie a dôvernosť. Výrobcovia AI sprístupňujú svoje licenčné požiadavky a bolo by múdre, aby ste si prečítali tieto životne dôležité ustanovenia skôr, ako začnete aktívne používať aplikáciu AI s akoukoľvek zdanlivou skutočnou dáta. Prevediem vás príkladom takéhoto licencovania, a to pre aplikáciu ChatGPT AI.

Do toho všetkého prichádza množstvo úvah o etike AI a zákonoch o AI.

Uvedomte si, že neustále prebieha úsilie o začlenenie etických princípov AI do vývoja a zavádzania aplikácií AI. Rastúci kontingent zainteresovaných a bývalých etiológov AI sa snaží zabezpečiť, aby snahy o navrhnutie a prijatie AI zohľadňovali AI pre dobro a odvrátenie AI pre zlé. Podobne sa navrhujú nové zákony o umelej inteligencii, o ktorých sa hovorí ako o potenciálnych riešeniach, ktoré zabránia snahám umelej inteligencie ohroziť ľudské práva a podobne. Moje pokračujúce a rozsiahle pokrytie etiky AI a práva AI nájdete v časti odkaz tu a odkaz tu, Len aby sme vymenovali niekoľko.

Existujú významné etické nuansy a ustanovenia súvisiace s tým, ako môžu alebo by mali tvorcovia AI nakladať s údajmi alebo informáciami, ktoré sa ich používateľom zdajú súkromné ​​alebo dôverné. Pravdepodobne tiež viete, že množstvo existujúcich zákonov zasahuje do jadra toho, ako by technologické subjekty mali zaobchádzať s údajmi. Je tiež pravdepodobné, že novonavrhované zákony o AI preniknú aj na rovnaké územie. Pozrite si napríklad moje pokrytie Listina práv AI a ďalšie právne hádky o AI, at odkaz tu.

Tu je hlavný záver z tejto diskusie:

• Buďte veľmi, veľmi, veľmi opatrní pri tom, aké údaje alebo informácie sa rozhodnete vložiť do výziev pri používaní generatívnej AI, a podobne buďte mimoriadne opatrní a predvídajte, aké druhy výstupných esejí môžete získať, pretože výstupy môžu byť tiež absorbované.

Znamená to, že by ste nemali používať generatívnu AI?

Nie, to vôbec nie je to, čo hovorím.

Používajte generatívnu AI podľa svojich predstáv. Podstatou je, že si musíte dávať pozor na to, ako ho používate. Zistite, aké licenčné podmienky sú spojené s používaním. Rozhodnite sa, či dokážete žiť s týmito podmienkami. Ak existujú spôsoby, ako informovať výrobcu AI, že chcete použiť určité druhy dodatočnej ochrany alebo úľav, uistite sa, že tak urobíte.

Spomeniem aj jeden ďalší aspekt, o ktorom si uvedomujem, že niektorých ľudí dostane do varu. Tu ide. Bez ohľadu na licenčné podmienky musíte tiež predpokladať, že existuje možnosť, že tieto požiadavky nebudú úplne dodržané. Veci sa môžu zvrtnúť. Veci môžu medzi prasklinami skĺznuť. Nakoniec, iste, môžete mať súdny spor proti výrobcovi AI za to, že nedodržiava ich ustanovenia, ale to je trochu po tom, čo kôň už vyšiel zo stodoly.

Potenciálne vysoko bezpečným spôsobom, ako postupovať, by bolo nastavenie vlastnej inštancie na vašich vlastných systémoch, či už v cloude alebo interne (a za predpokladu, že budete dodržiavať správne opatrenia kybernetickej bezpečnosti, ktoré, pravdaže, niektorí nerobia a sú horšie vypnúť vo vlastnom cloude, ako používať cloud dodávateľa softvéru). Trochu nepríjemným problémom však je, že to v súčasnosti umožňuje len málo generatívnych aplikácií AI vo veľkom meradle. Všetky do značnej miery fungujú iba na báze nášho cloudu. Málokto sprístupnil možnosť nechať si vyrezať celú inštanciu len pre vás. Predpovedal som, že túto možnosť postupne uvidíme, aj keď spočiatku bude dosť nákladná a trochu komplikovaná, pozri moje predpovede na odkaz tu.

Ako sa inak obzvlášť bystrí a mimoriadne bystrí ľudia dostanú do bahna narúšajúceho dôvernosť údajov alebo informácií?

Kúzlo týchto generatívnych aplikácií AI je celkom magnetické, keď ich začnete používať. Krok za krokom zistíte, že ste očarení a rozhodli ste sa vložiť prsty na nohách stále ďalej do generatívnych vôd AI. Ďalšia vec, ktorú viete, je, že do generatívnej aplikácie AI pohotovo odovzdávate proprietárny obsah, ktorý má byť dôverný a dôverný.

Odolajte nutkaniu a prosím, zdržte sa postupného pádu do nechutnej pasce.

Pre obchodných lídrov a vrcholových manažérov platí rovnaké varovanie pre vás a všetkých ľudí vo vašej spoločnosti. Senioroví riaditelia sú nadšení a úžas z používania generatívnej AI. Môžu skutočne pokaziť a potenciálne zadávať tajné informácie najvyššej úrovne do aplikácie AI.

Okrem toho môžu mať široké ligy svojich zamestnancov, ktorí sa tiež hrajú s generatívnou AI. Mnohí z týchto inak všímavých zamestnancov bezhlavo a blažene zadávajú súkromné ​​a dôverné informácie spoločnosti do týchto aplikácií AI. Podľa nedávnych správ Amazon zrejme zistil, že niektorí zamestnanci zadávali do ChatGPT rôzne vlastnícke informácie. Uvádzalo sa, že interne bolo zaslané právne orientované varovanie, aby sme boli opatrní pri používaní neodolateľnej aplikácie AI.

Celkovo prichádza trochu irónie do rastúceho fenoménu, keď zamestnanci chtiac-nechtiac zadávajú dôverné údaje do ChatGPT a inej generatívnej AI. Dovoľte mi to upresniť. Dnešné moderné spoločnosti majú zvyčajne prísne zásady kybernetickej bezpečnosti, ktoré starostlivo vytvorili a implementovali. Existuje množstvo technologických ochrán. Nádejou je zabrániť náhodnému uvoľneniu dôležitých vecí. Neustále bubnovanie znamená byť opatrný pri návšteve webových stránok, byť opatrný, keď používate akékoľvek neschválené aplikácie atď.

Prichádzajú generatívne aplikácie AI, ako je ChatGPT. Správy o aplikácii AI prechádzajú strechou a získavajú širokú pozornosť. Vzniká šialenstvo. Ľudia v týchto spoločnostiach, ktoré majú všetky tieto ochrany kybernetickej bezpečnosti, sa rozhodnú prejsť na generatívnu aplikáciu AI. Najprv sa s tým nečinne hrajú. Potom začnú zadávať firemné údaje. Wham, teraz potenciálne odhalili informácie, ktoré nemali byť zverejnené.

Nablýskaná nová hračka, ktorá magicky obchádza milióny dolárov výdavkov na ochranu kybernetickej bezpečnosti a prebiehajúce školenia o tom, čo nerobiť. Ale hej, je vzrušujúce používať generatívnu AI a byť súčasťou „in“ davu. To sa zrejme počíta.

Verím, že pochopíte môj názor na to, že ste výrazne opatrný.

Pozrime sa teraz bližšie na to, ako sa generatívna AI technicky zaoberá textom výziev a výstupmi esejí. Preskúmame tiež niektoré licenčné podmienky, pričom ako príklad použijeme ChatGPT. Prosím, uvedomte si, že nepokryjem celú škálu týchto licenčných prvkov. Nezabudnite zapojiť svojho právneho poradcu pre všetky generatívne aplikácie AI, ktoré sa rozhodnete použiť. Licencovanie sa tiež líši od výrobcu AI k výrobcovi AI, navyše daný výrobca AI sa môže rozhodnúť zmeniť svoje licencovanie, takže buďte opatrní pri tom, čo stanovuje najnovšia verzia licencovania.

Máme pred sebou vzrušujúce rozbalenie tejto opojnej témy.

Po prvé, mali by sme sa uistiť, že sme všetci na rovnakej stránke o tom, z čoho pozostáva generatívna AI, a tiež o tom, o čom je ChatGPT. Keď pokryjeme tento základný aspekt, môžeme vykonať presvedčivé posúdenie zrkadlovej metafory spojenej s týmto typom AI.

Ak ste už dostatočne oboznámení s Generatívnou AI a ChatGPT, môžete si možno prelistovať ďalšiu časť a pokračovať časťou, ktorá po nej nasleduje. Verím, že všetci ostatní nájdu poučenie o životne dôležitých podrobnostiach o týchto záležitostiach, keď si pozorne prečítajú túto časť a zorientujú sa v nej.

Rýchly základ o generatívnej AI a ChatGPT

ChatGPT je univerzálny interaktívny konverzačne orientovaný systém AI, v podstate zdanlivo neškodný všeobecný chatbot, napriek tomu ho ľudia aktívne a vášnivo používajú spôsobmi, ktoré mnohých úplne zaskočia, ako v krátkosti rozvediem. Táto aplikácia AI využíva techniku ​​a technológiu v oblasti AI, ktorá sa často označuje ako Generatívna AI. AI generuje výstupy, ako je text, čo robí ChatGPT. Iné generatívne aplikácie AI vytvárajú obrázky, ako sú obrázky alebo umelecké diela, zatiaľ čo iné vytvárajú zvukové súbory alebo videá.

V tejto diskusii sa zameriam na textové generatívne aplikácie AI, pretože to robí ChatGPT.

Generatívne aplikácie AI sa používajú mimoriadne jednoducho.

Všetko, čo musíte urobiť, je zadať výzvu a aplikácia AI vám vygeneruje esej, ktorá sa pokúsi reagovať na vašu výzvu. Komponovaný text bude pôsobiť, akoby esej bola napísaná ľudskou rukou a mysľou. Ak by ste zadali výzvu, ktorá hovorila „Povedz mi o Abrahamovi Lincolnovi“, generatívna AI vám poskytne esej o Lincolnovi. Toto sa bežne klasifikuje ako generatívna AI, ktorá funguje text-to-text alebo to niektorí radšej volajú prevod textu na esej výkon. Ako už bolo spomenuté, existujú aj iné režimy generatívnej AI, ako je text-to-art a text-to-video.

Vaša prvá myšlienka môže byť, že táto generatívna schopnosť sa nezdá byť až taká veľká, pokiaľ ide o tvorbu esejí. Môžete ľahko vyhľadávať online na internete a ľahko nájsť tony a tony esejí o prezidentovi Lincolnovi. Nakopnutím v prípade generatívnej AI je to, že vygenerovaná esej je relatívne jedinečná a poskytuje skôr originálnu kompozíciu než napodobeninu. Ak by ste sa pokúsili nájsť niekde online esej vytvorenú AI, je nepravdepodobné, že by ste ju objavili.

Generatívna AI je vopred vyškolená a využíva komplexnú matematickú a výpočtovú formuláciu, ktorá bola vytvorená skúmaním vzorov v písaných slovách a príbehoch na webe. V dôsledku skúmania tisícov a miliónov napísaných pasáží môže AI vychrliť nové eseje a príbehy, ktoré sú zmiešané s tým, čo sa našlo. Pridaním rôznych pravdepodobnostných funkcií je výsledný text do značnej miery jedinečný v porovnaní s tým, čo bolo použité v trénovacej sade.

Preto nastal rozruch okolo toho, že študenti môžu podvádzať pri písaní esejí mimo vyučovania. Učiteľ nemôže jednoducho vziať esej, o ktorej klamliví študenti tvrdia, že je to ich vlastný text, a snažiť sa zistiť, či nebola skopírovaná z nejakého iného online zdroja. Celkovo nebude existovať žiadna definitívna už existujúca esej online, ktorá by vyhovovala eseji vygenerovanej AI. Celkovo vzaté, učiteľ bude musieť s nevôľou akceptovať, že študent napísal esej ako originálnu prácu.

Existujú ďalšie obavy týkajúce sa generatívnej AI.

Jednou zásadnou nevýhodou je, že eseje vytvorené generatívnou aplikáciou AI môžu obsahovať rôzne nepravdy, vrátane zjavne nepravdivých faktov, faktov, ktoré sú klamlivo zobrazené, a zdanlivých faktov, ktoré sú úplne vymyslené. Tieto vymyslené aspekty sa často označujú ako forma AI halucinácie, fráza, ktorú nemám v obľube, ale zdá sa, že aj tak si získava na popularite (podrobné vysvetlenie, prečo je to mizerná a nevhodná terminológia, nájdete v mojom príspevku na odkaz tu).

Chcel by som objasniť jeden dôležitý aspekt predtým, než sa dostaneme k tejto téme.

Na sociálnych sieťach sa objavilo niekoľko šialených prehnaných tvrdení Generatívna AI tvrdenie, že táto najnovšia verzia AI je v skutočnosti vnímavá AI (nie, mýlia sa!). Tí, ktorí sa zaoberajú etikou AI a zákonom o umelej inteligencii, sa obzvlášť obávajú tohto rastúceho trendu rozšírených nárokov. Môžete zdvorilo povedať, že niektorí ľudia preháňajú, čo vlastne dnešná AI dokáže. Predpokladajú, že AI má schopnosti, ktoré sme ešte nedokázali dosiahnuť. To je nešťastie. Čo je ešte horšie, môžu dovoliť sebe a ostatným, aby sa dostali do zúfalých situácií, pretože predpokladajú, že AI bude vnímavá alebo podobná ľuďom, keď bude schopná konať.

Neantropomorfizujte AI.

Ak tak urobíte, dostanete sa do lepkavej a neústupnej pasce spoliehania sa na očakávanie, že AI bude robiť veci, ktoré nie je schopná vykonať. Ako už bolo povedané, najnovšia generatívna AI je relatívne pôsobivá na to, čo dokáže. Uvedomte si však, že existujú významné obmedzenia, ktoré by ste mali mať neustále na pamäti pri používaní akejkoľvek generatívnej aplikácie AI.

Ak vás zaujíma rýchlo sa rozširujúci rozruch o ChatGPT a generatívnej AI, vo svojom stĺpci som robil sústredenú sériu, ktorá by vám mohla poskytnúť informácie. Tu je pohľad pre prípad, že by vás niektorá z týchto tém zaujala:

• 1) Prichádzajú predpovede generatívnych pokrokov AI. Ak chcete vedieť, čo sa pravdepodobne objaví v súvislosti s AI v roku 2023 a neskôr, vrátane pripravovaných pokrokov v generatívnej AI a ChatGPT, budete si chcieť prečítať môj úplný zoznam predpovedí na rok 2023 na adrese odkaz tu.
• 2) Generatívna umelá inteligencia a poradenstvo v oblasti duševného zdravia. Rozhodol som sa skontrolovať, ako sa generatívna AI a ChatGPT používajú na poradenstvo v oblasti duševného zdravia, čo je problematický trend, podľa mojej cielenej analýzy na adrese odkaz tu.
• 3) Základy generatívnej AI a ChatGPT. Tento diel skúma kľúčové prvky fungovania generatívnej AI a konkrétne sa ponorí do aplikácie ChatGPT, vrátane analýzy buzzu a fanfár na odkaz tu.
• 4) Napätie medzi učiteľmi a študentmi kvôli generatívnej AI a ChatGPT. Tu sú spôsoby, ako budú študenti úskočne používať generatívnu AI a ChatGPT. Okrem toho existuje niekoľko spôsobov, ako môžu učitelia s touto prílivovou vlnou bojovať. Pozri odkaz tu.
• 5) Kontextové a generatívne používanie AI. Urobil som tiež sezónne ochutený test o kontexte súvisiacom so Santom, ktorý zahŕňa ChatGPT a generatívnu AI na odkaz tu.
• 6) Podvodníci používajúci generatívnu AI. Zlovestnou poznámkou je, že niektorí podvodníci prišli na to, ako používať generatívnu AI a ChatGPT na páchanie nekalých činov, vrátane generovania podvodných e-mailov a dokonca vytvárania programovacieho kódu pre malvér, pozri moju analýzu na odkaz tu.
• 7) Začiatočnícke chyby pri používaní generatívnej AI. Veľa ľudí preháňa aj prekvapivo podceňuje to, čo dokáže generatívna AI a ChatGPT, preto som sa pozrel najmä na podstrelenie, ktoré zvyknú robiť nováčikovia AI, pozri diskusiu na odkaz tu.
• 8) Vyrovnanie sa s generatívnymi výzvami AI a halucináciami AI. Opisujem špičkový prístup k používaniu doplnkov AI na riešenie rôznych problémov spojených so snahou zadávať vhodné výzvy do generatívnej AI, plus sú tu ďalšie doplnky AI na detekciu takzvaných AI halucinovaných výstupov a nepravd, ako napr. pokrytý pri odkaz tu.
• 9) Odhaľovanie tvrdení Bonehead o zisťovaní generatívnych esejí produkovaných AI. Existuje pomýlená zlatá horúčka aplikácií AI, ktoré tvrdia, že dokážu zistiť, či niektorú danú esej vyrobil človek alebo či vytvorila AI. Celkovo je to zavádzajúce a v niektorých prípadoch hlúpe a neudržateľné tvrdenie, pozri moje pokrytie na odkaz tu.
• 10) Hranie rolí prostredníctvom generatívnej AI môže predstavovať nevýhody duševného zdravia. Niektorí používajú generatívnu AI, ako je ChatGPT, na hranie rolí, pričom aplikácia AI reaguje na človeka, ako keby existoval vo svete fantázie alebo v inom vymyslenom prostredí. To by mohlo mať následky na duševné zdravie, viď odkaz tu.
• 11) Odhalenie rozsahu výstupných chýb a nepravd. Zhromažďujú sa rôzne zhromaždené zoznamy, aby sa pokúsili predviesť povahu chýb a nepravd, ktoré vytvára ChatGPT. Niektorí veria, že je to nevyhnutné, zatiaľ čo iní tvrdia, že cvičenie je zbytočné, pozri moju analýzu na odkaz tu.
• 12) Školám, ktoré zakazujú generatívnu AI ChatGPT, chýba loď. Možno viete, že rôzne školy, ako napríklad ministerstvo školstva v New Yorku (NYC), vyhlásili zákaz používania ChatGPT vo svojej sieti a súvisiacich zariadeniach. Hoci sa to môže zdať ako užitočné opatrenie, nepohne to ihlou a bohužiaľ úplne minie loď, pozrite si moje pokrytie na odkaz tu.
• 13) Generatívny AI ChatGPT bude všade vďaka pripravovanému API. V súvislosti s používaním ChatGPT prichádza dôležitý zvrat, konkrétne to, že prostredníctvom použitia portálu API do tejto konkrétnej aplikácie AI budú môcť iné softvérové ​​programy vyvolať a využiť ChatGPT. Toto dramaticky rozšíri používanie generatívnej AI a bude to mať pozoruhodné dôsledky, pozri moje rozpracovanie na odkaz tu.
• 14) Spôsoby, ako môže ChatGPT spadnúť alebo sa roztopiť. ChatGPT má pred sebou niekoľko potenciálnych nepríjemných problémov, pokiaľ ide o podkopávanie doterajšej obrovskej chvály, ktorú dostal. Táto analýza podrobne skúma osem možných problémov, ktoré by mohli spôsobiť, že ChatGPT stratí dych a dokonca skončí v psej búde, pozri odkaz tu.

Možno vás bude zaujímať, že ChatGPT je založený na verzii predchádzajúcej aplikácie AI známej ako GPT-3. ChatGPT sa považuje za mierne ďalší krok, ktorý sa označuje ako GPT-3.5. Očakáva sa, že GPT-4 bude pravdepodobne vydaný na jar 2023. GPT-4 bude pravdepodobne predstavovať pôsobivý krok vpred, pokiaľ ide o schopnosť produkovať zdanlivo ešte plynulejšie eseje, ísť hlbšie a byť úžasným - inšpirujúci zázrak, pokiaľ ide o kompozície, ktoré dokáže vytvoriť.

Môžete očakávať nové kolo vyjadreného úžasu, keď príde jar a bude vydaná najnovšia generatívna AI.

Uvádzam to, pretože je potrebné mať na pamäti ďalší uhol, ktorý pozostáva z potenciálnej Achillovej päty týchto lepších a väčších generatívnych aplikácií AI. Ak ktorýkoľvek predajca AI sprístupní generatívnu aplikáciu AI, ktorá spenlivo chrlí nečistoty, mohlo by to zničiť nádeje týchto tvorcov AI. Presah do spoločnosti môže spôsobiť, že všetka generatívna AI dostane vážne čierne oči. Ľudia budú nepochybne dosť naštvaní na nečestné výstupy, ktoré sa už stali mnohokrát a viedli k búrlivým odporom spoločnosti voči AI.

Zatiaľ posledné varovanie.

Čokoľvek vidíte alebo čítate v generatívnej AI reakcii, že Zdá sa Ak chcete, aby boli vyjadrené ako čisto faktické (dátumy, miesta, ľudia atď.), nezabudnite zostať skeptickí a buďte ochotní ešte raz skontrolovať, čo vidíte.

Áno, dátumy sa dajú vymyslieť, miesta sa dajú vymyslieť a prvky, od ktorých zvyčajne očakávame, že budú bez výčitiek, sú všetko podlieha podozreniam. Neverte tomu, čo čítate, a buďte skeptický pri skúmaní akýchkoľvek generatívnych esejí alebo výstupov AI. Ak vám generatívna aplikácia AI povie, že Abraham Lincoln lietal po krajine vo svojom súkromnom lietadle, nepochybne by ste vedeli, že je to malátnosť. Žiaľ, niektorí ľudia si možno neuvedomujú, že lietadlá v jeho dobe neboli, alebo možno vedia, ale nevšimli si, že esej uvádza toto drzé a neuveriteľne nepravdivé tvrdenie.

Silná dávka zdravého skepticizmu a vytrvalá nedôverčivosť budú vašou najlepšou devízou pri používaní generatívnej AI.

Sme pripravení prejsť do ďalšej fázy tohto objasňovania.

Vedieť, čo sa diabol stane s týmto textom

Teraz, keď máme stanovené základy, môžeme sa ponoriť do úvah o údajoch a informáciách pri používaní generatívnej AI.

Najprv sa stručne zamyslime nad tým, čo sa stane, keď do výzvy pre ChatGPT zadáte nejaký text. Nevieme s istotou, čo sa deje vo vnútri ChatGPT, pretože program je považovaný za proprietárny. Niektorí poukázali na to, že to podkopáva pocit transparentnosti aplikácie AI. Trochu smiešna poznámka je, že pre spoločnosť, ktorá sa nazýva OpenAI, je ich AI v skutočnosti uzavretá pre verejný prístup a nie je dostupná ako open source.

Poďme diskutovať o tokenizácii.

Keď do výzvy zadáte obyčajný text a stlačíte return, pravdepodobne dôjde ku konverzii, ku ktorej dôjde okamžite. Text sa prevedie do formátu pozostávajúceho z tokenov. Tokeny sú podčasti slov. Napríklad slovo „hamburger“ by sa normálne rozdelilo na tri žetóny pozostávajúce z časti „šunka“, „bur“ a „ger“. Pravidlom je, že tokeny majú tendenciu predstavovať asi štyri znaky alebo sa považujú za približne 75 % bežného anglického slova.

Každý token sa potom preformuluje ako číslo. Rôzne interné tabuľky určujú, ktorý token je priradený ku konkrétnemu číslu. Povzbudenie je v tom, že text, ktorý ste zadali, je teraz celý súbor čísel. Tieto čísla sa používajú na výpočtovú analýzu výzvy. Okrem toho sieť na porovnávanie vzorov, ktorú som už spomenul, je tiež založená na tokenizovaných hodnotách. Nakoniec, pri zostavovaní alebo generovaní výstupnej eseje sa tieto číselné symboly najskôr použijú a potom sa pred zobrazením skonvertujú späť na sady písmen a slov.

Zamyslite sa nad tým chvíľu.

Keď ľuďom poviem, že takto funguje mechanika spracovania, často ich to zarazí. Predpokladali, že generatívna aplikácia AI, ako je ChatGPT, musí používať úplne integratívne slová. Logicky predpokladáme, že slová fungujú ako základný kameň pre štatistickú identifikáciu vzťahov v písaných naratívoch a kompozíciách. Ukazuje sa, že spracovanie má v skutočnosti tendenciu používať tokeny. Možno to prispieva k úžasu nad tým, ako sa zdá, že výpočtový proces dokáže celkom presvedčivo napodobňovať ľudský jazyk.

Previedol som vás týmto procesom kvôli jednej bežnej mylnej predstave, ktorá sa zrejme šíri. Zdá sa, že niektorí ľudia veria, že keďže sa váš text výzvy konvertuje na číselné tokeny, máte istotu, že interné časti aplikácie AI už nejakým spôsobom neobsahujú váš pôvodne zadaný text. Nárok teda platí, aj keď ste do výzvy zadali dôverné informácie, nemusíte sa obávať, pretože všetko bolo zdanlivo tokenizované.

Táto predstava je mylná. Práve som poukázal na to, že číselné znaky možno ľahko vrátiť do textového formátu písmen a slov. To isté možno urobiť s konvertovanou výzvou, ktorá bola tokenizovaná. Na tokenizovaní nie je nič magicky ochranné. Ako už bolo povedané, po konverzii na žetóny, ak existuje ďalší proces, ktorý sa rozhodne žetóny vyhodiť, presunúť ich a inak premiešať alebo rozsekať veci, v takom prípade existuje skutočne možnosť, že niektoré časti originálu výzva už nie sú nedotknuté (a za predpokladu, že originálna kópia nie je inak uchovávaná alebo uložená niekde interne).

Ďalej by som sa rád pozrel na rôzne upozornenia a licenčné podmienky ChatGPT.

Keď sa prihlásite do ChatGPT, zobrazí sa séria upozornení a informačných komentárov.

Tu sú:

• "Príležitostne môže generovať nesprávne informácie."
• "Príležitostne môže produkovať škodlivé pokyny alebo neobjektívny obsah."
• "Vyškolení na odmietanie nevhodných žiadostí."
• "Naším cieľom je získať externú spätnú väzbu, aby sme zlepšili naše systémy a urobili ich bezpečnejšími."
• „Aj keď máme zavedené bezpečnostné opatrenia, systém môže príležitostne generovať nesprávne alebo zavádzajúce informácie a vytvárať urážlivý alebo neobjektívny obsah. Nie je to určené na poskytovanie rád."
• „Konverzácie môžu kontrolovať naši školitelia AI, aby zlepšili naše systémy.“
• "Prosím, nezdieľajte vo svojich konverzáciách žiadne citlivé informácie."
• „Tento systém je optimalizovaný pre dialóg. Dajte nám vedieť, či bola konkrétna odpoveď dobrá alebo nepomohla.“
• "Obmedzené znalosti o svete a udalostiach po roku 2021."

Dve z uvedených upozornení sú pre túto diskusiu obzvlášť dôležité. Pozrite sa na šiesty odrážkový bod a siedmy odrážkový bod.

Poďme si rozbaliť tieto dva:

„Konverzácie môžu kontrolovať naši školitelia AI, aby zlepšili naše systémy.“

Táto šiesta odrážka vysvetľuje, že textové konverzácie pri používaní ChatGPT môže ChatGPT kontrolovať prostredníctvom svojich „trénerov AI“, čo sa robí na zlepšenie ich systémov. Týmto vás informujeme, že všetky vami zadané textové výzvy a zodpovedajúce výstupné eseje, z ktorých všetky sú súčasťou „konverzácie“, ktorú vediete s ChatGPT, ich môžu úplne vidieť ich ľudia. Ponúkané zdôvodnenie je, že sa to robí s cieľom zlepšiť aplikáciu AI a tiež nám bolo povedané, že ide o typ pracovnej úlohy, ktorú vykonávajú ich tréneri AI. Možno áno, ale výsledkom je, že vás upozornili, že si môžu pozrieť váš text. Bodka, bodka.

Ak by s vaším textom urobili niečo iné, pravdepodobne by ste vyhľadali právnu radu o tom, či neprekročili navrhované hranice, a to len preskúmanie textu na účely vylepšenia systému (za predpokladu, že sa vám podarilo zistiť, že tak urobili, ktorý z sa zdá byť nepravdepodobné). Každopádne, viete si predstaviť právnu hádku, keď sa ich na to snažia upozorniť, a ich pokusy dostať sa von z toho, že ich chytili za to, že nejakým spôsobom porušili hranice ich zrieknutia sa zodpovednosti.

"Prosím, nezdieľajte vo svojich konverzáciách žiadne citlivé informácie."

Siedmy bod s odrážkou znamená, že vo svojich konverzáciách nemáte zdieľať žiadne citlivé informácie. Zdá sa to byť pomerne jednoduché. Predpokladám, že by ste mohli pochybovať o tom, z čoho pozostáva definícia citlivých informácií. Odrážka vám tiež nehovorí, prečo by ste nemali zdieľať žiadne citlivé informácie. Ak sa jedného dňa budete musieť pokúsiť vysvetliť, prečo ste hlúpo zadali dôverné údaje, môžete skúsiť so zdvihnutým obočím tvrdenie, že varovanie bolo nekonkrétne, a preto ste nepochopili jeho význam. Zadržte pri tom dych.

Celkovo si dovolím tvrdiť, že väčšina ľudí, ktorých som videl používať ChatGPT, má tendenciu nečítať body s odrážkami, alebo prehliadať upozornenia s odrážkami a len prikyvovať hlavou, ako keby to bola zvyčajná hlúposť, že vidíte všetky čas. Zdá sa, že len málokto si berie varovania prísne k srdcu. Je to chyba predajcu, že nezvýšil opatrenia? Alebo by sme mali predpokladať, že používatelia by mali byť zodpovední a pozorne si prečítať, pochopiť a následne konať uvážlivo na základe varovaní?

Niektorí dokonca tvrdia, že aplikácia AI by vás mala opakovane varovať. Zakaždým, keď zadáte výzvu, softvér by mal vyskočiť varovanie a opýtať sa vás, či chcete dosiahnuť návrat. Znova a znova. Aj keď sa to môže zdať ako užitočné opatrenie, určite by to podráždilo používateľov. Ide o trpký kompromis.

Dobre, takže toto sú zrejmé upozornenia, ktoré môžu všetci používatelia ľahko vidieť.

Používatelia, ktorí by mohli byť zvedavejší, by sa mohli rozhodnúť pre niektoré z podrobných licenčných podmienok, ktoré sú tiež zverejnené online. Pochybujem, že mnohí tak robia. Domnievam sa, že len málokto sa pri prihlasovaní vážne pozerá na body s odrážkami a ešte menej z nich s veľkým náskokom si potom pozrie podrobnosti o licenciách. Opäť sme v dnešnej dobe všetci tak trochu otupení voči takýmto veciam. Neospravedlňujem správanie, len uvádzam, prečo k nemu dochádza.

Preskúmam niekoľko úryvkov zo zverejnených licenčných podmienok.

Po prvé, tu je definícia toho, čo považujú za „obsah“ spojený s používaním ChatGPT:

• „Váš obsah. Môžete poskytnúť vstup do Služieb („Vstup“) a prijímať výstup generovaný a vrátený Službami na základe Vstupu („Výstup“). Vstup a výstup sú spoločne „Obsah“. Pokiaľ ide o strany a v rozsahu povolenom príslušnými zákonmi, vlastníte všetok Vstup a za predpokladu, že budete dodržiavať tieto Podmienky, OpenAI vám týmto prideľuje všetky svoje práva, nároky a podiely na Výstupe. OpenAI môže používať Obsah podľa potreby na poskytovanie a udržiavanie Služieb, dodržiavanie platných zákonov a presadzovanie našich zásad. Zodpovedáte za obsah vrátane toho, že neporušujete žiadny platný zákon alebo tieto podmienky.“

Ak si túto definíciu dôkladne preštudujete, zistíte, že OpenAI vyhlasuje, že môže používať obsah tak, ako to považuje za potrebné na udržiavanie svojich služieb, vrátane dodržiavania platných zákonov a presadzovania svojich zásad. Toto je pre nich šikovný úlovok. V nadchádzajúcom jednom z mojich stĺpcov budem diskutovať o inej, ale súvisiacej téme, konkrétne o právach duševného vlastníctva (IP), ktoré máte v súvislosti so zadanými textovými výzvami a výstupnými esejemi (upozorňujem na to tu od definície Obsah sa týka tejto témy).

V ďalšej časti pojmov, označenej ako časť c, sa spomína tento aspekt: ​​„Jednou z hlavných výhod modelov strojového učenia je, že sa dajú časom vylepšiť. Aby ste pomohli OpenAI poskytovať a udržiavať Služby, súhlasíte a dávate pokyn, že môžeme používať Obsah na vývoj a zlepšovanie Služieb.“ Je to podobné skôr diskutovanému jednoriadkovému upozorneniu, ktoré sa objaví, keď sa prihlásite do ChatGPT.

Samostatný dokument, ktorý je s tým spojený, poskytuje niektoré ďalšie aspekty týchto závažných záležitostí:

• „V rámci tohto neustáleho zlepšovania, keď používate modely OpenAI cez naše API, môžeme použiť údaje, ktoré nám poskytnete, na zlepšenie našich modelov. Nielenže to pomáha našim modelom stať sa presnejšími a lepšími pri riešení vášho konkrétneho problému, ale tiež pomáha zlepšovať ich všeobecné schopnosti a bezpečnosť. Vieme, že súkromie a bezpečnosť údajov sú pre našich zákazníkov rozhodujúce. Veľmi dbáme na to, aby sme používali vhodné technické a procesné kontroly na zabezpečenie vašich údajov. Z údajov, ktoré máme v úmysle použiť na zlepšenie výkonu modelu, odstraňujeme akékoľvek informácie umožňujúce osobnú identifikáciu. Pri našom úsilí o zlepšenie výkonu modelu používame tiež len malú vzorku údajov na zákazníka. Napríklad pre jednu úlohu je maximálny počet žiadostí API, ktoré vzorkujeme na zákazníka, obmedzený na 200 každých 6 mesiacov“ (výňatok z dokumentu s názvom „Ako sa vaše údaje používajú na zlepšenie výkonnosti modelu“).

Upozorňujeme, že ustanovenie uvádza, že ustanovenie sa vzťahuje na používanie API ako prostriedok na pripojenie a používanie všetkých modelov OpenAI. Je trochu nejasné, či to platí aj pre koncových používateľov, ktorí priamo používajú ChatGPT.

V ešte inom dokumente, ktorý obsahuje ich zoznam rôznych často kladených otázok, poskytujú sériu otázok a odpovedí, z ktorých dve sa zdajú byť obzvlášť relevantné pre túto diskusiu:

• “(5) Kto môže vidieť moje konverzácie? Ako súčasť nášho záväzku k bezpečnej a zodpovednej AI kontrolujeme konverzácie s cieľom zlepšiť naše systémy a zabezpečiť, aby bol obsah v súlade s našimi pravidlami a bezpečnostnými požiadavkami.“
• “(8) Môžete odstrániť konkrétne výzvy? Nie, nemôžeme odstrániť konkrétne výzvy z vašej histórie. Vo svojich rozhovoroch nezdieľajte žiadne citlivé informácie.“

Existuje ďalší dokument, ktorý pokrýva ich zásady ochrany osobných údajov. Hovorí sa v ňom toto: „Zhromažďujeme informácie, ktoré samostatne alebo v kombinácii s inými informáciami, ktoré vlastníme, by sa dali použiť na vašu identifikáciu („Osobné informácie“)“ a potom vysvetlíme, že môžu použiť údaje denníka, údaje o používaní, informácie o komunikácii, informácie o zariadení, súbory cookie, analýzy a ďalšie potenciálne zhromažďovateľné informácie o vás. Nezabudnite si prečítať drobné písmo.

Myslím si, že to do značnej miery poskytuje prehliadku niektorých úvah o tom, ako by sa vaše údaje mohli použiť. Ako som spomenul na začiatku, nebudem pracne prechádzať všetkými licenčnými podmienkami.

Dúfajme, že vás to dostane do rozpoloženia na tieto záležitosti a zostanete na vrchole vašej mysle.

záver

Povedal som to už predtým a poviem to znova, nezadávajte dôverné ani súkromné ​​údaje do týchto generatívnych aplikácií AI.

Zvážte niekoľko užitočných tipov alebo možností v tejto múdrej rade:

• Pred použitím generatívnej AI premýšľajte
• Vopred odstráňte veci
• Maska alebo falošný vstup
• Nastavte si vlastnú inštanciu
• ostatné

Ďalej uvediem, z čoho pozostáva každý z nich. Nastavenie vašej vlastnej inštancie bolo uvedené vyššie. Použitie „iné“ v mojom zozname je spôsobené možnosťou iných spôsobov, ako zabrániť zahrnutiu dôverných údajov, ktorým sa budem ďalej venovať v budúcom stĺpci.

Poďme preskúmať tieto:

• Pred použitím generatívnej AI premýšľajte. Jeden prístup zahŕňa úplné vyhýbanie sa používaniu generatívnej AI. Alebo si to aspoň dvakrát rozmyslite. Predpokladám, že najbezpečnejšia cesta zahŕňa nepoužívanie týchto aplikácií AI. Ale aj to sa zdá byť dosť vážne a takmer prehnané.
• Vopred odstráňte veci. Iný prístup spočíva v odstránení dôverných alebo súkromných informácií z čohokoľvek, čo zadáte ako výzvu. V tomto zmysle, ak do nej nevstúpite, nie je šanca, že sa dostane do Borgov. Nevýhodou je, že možno odstránenie dôvernej časti nejakým spôsobom znižuje alebo podkopáva to, čo sa snažíte prinútiť generatívnu AI, aby urobila za vás.
• Maska alebo falošné vaše vstupy. Svoj navrhovaný text môžete upraviť zmenou informácií tak, aby čokoľvek, čo sa zdalo dôverné alebo súkromné, bolo teraz zobrazené inak. Napríklad namiesto zmluvy, v ktorej sa uvádza spoločnosť Widget a John Smith, zmeníte text tak, aby odkazoval na spoločnosť Specious Company a Jane Capone. Otázkou je, či urobíte dostatočne vyčerpávajúcu prácu, aby všetky dôverné a súkromné ​​aspekty boli úplne zmenené alebo sfalšované. Bolo by ľahké prehliadnuť niektoré zákalky a nechať tam veci, ktoré by tam nemali byť.

Tu je zaujímavý pridaný zvrat, ktorý by mohol váš džem ešte viac preniknúť do tejto témy. Ak môžete úplne zabezpečiť, aby žiadna z vašich vstupných výziev neobsahovala žiadne dôverné informácie, znamená to, že sa nemusíte báť, že výstupné eseje obsahujú aj vaše dôverné informácie?

To by sa zdalo axiomaticky pravdivé. Žiadny dôverný vstup, žiadny dôverný výstup.

Tu je vaša myseľ-ohýbanie twist.

Generatívna AI je často nastavená tak, aby sa výpočtovo preškolila z textových výziev, ktoré sa poskytujú. Podobne je generatívna AI často navrhnutá na výpočtovú rekvalifikáciu z výstupných esejí. Celá táto rekvalifikácia je určená na zlepšenie schopností generatívnej AI.

V jednom z mojich ďalších stĺpcov som opísal nasledujúci experiment, ktorý som vykonal. Právnik sa snažil objaviť nový spôsob riešenia právneho problému. Po dôkladnom prezretí právnickej literatúry sa zdalo, že všetky už vynorené uhly boli nájdené. Pomocou generatívnej AI sme dostali aplikáciu AI na vytvorenie nového právneho prístupu, ktorý zdanlivo predtým nebol identifikovaný. Verilo sa, že nikto iný ešte nepristál na tejto právnej pozícii. Akoby legálny zlatý nuget. Mohlo by ísť o strategicky cennú konkurenčnú právnu bonanzu, ktorú možno v správnom čase využiť a využiť.

Predstavuje táto odoslaná esej formu dôverných informácií, ktorú vytvorila AI pre túto konkrétnu osobu a obsahuje niečo zvláštne a zdanlivo jedinečné?

Aha, toto nás vedie k ďalšej spojenej a vzájomne prepojenej téme o vlastníctve a právach duševného vlastníctva spojených s generatívnou AI. Zostaňte naladení a uvidíte, ako to dopadne.

Zatiaľ posledná poznámka.

Sofokles poskytol túto múdrosť: „Nič nerob tajne; lebo Čas všetko vidí a počuje a všetko odhaľuje." Predpokladám, že by ste mohli zmodernizovať formuláciu a tvrdiť, že generatívna AI a tí, ktorí navrhujú a udržiavajú AI, sú tiež vhodné na zobrazenie.

Je to skromná symbolická rada hodná zapamätania.