Rozzúrené obavy, ktoré generatívne AI ChatGPT podnecujú študentov k obrovskému podvádzaniu pri písaní esejí, vyvolávajú očarujúcu pozornosť etike AI a zákonu o AI

Je písomná esej súčasných študentov už nikdy?

Ide študentská semestrálna práca plná úzkosti horúčkovito von oknom?

To je tá brouhaha, ktorá nedávno prepukla v totálny rozruch. Vidíte, vzhľad aplikácie AI známej ako ChatGPT si získal veľkú pozornosť a rovnako vyvolal veľa hnevu. Pre moje komplexné pokrytie ChatGPT pozri odkaz tu. Moje pokračujúce a rozsiahle pokrytie etiky AI a práva AI nájdete v časti odkaz tu a odkaz tu, Len aby sme vymenovali niekoľko.

Podstatou kričania a bučania je, že tento druh AI, zvyčajne označovaný ako generatívna AI, bude umieračik za to, že študenti budú musieť urobiť úlohy v štýle esejí.

Prečo tak?

Pretože najnovšia generatívna AI je schopná produkovať zdanlivo plynulé eseje jednoduchým zadaním jednoduchej výzvy. Ak zadáte riadok, ako napríklad „Povedz mi o Abrahamovi Lincolnovi“, AI vygeneruje esej o živote a časoch Lincolna, ktorá je často dosť dobrá na to, aby si ju mylne považovali za napísanú výlučne a výlučne ľudskými rukami. Okrem toho, a tu je skutočný základ, esej nebude duplikátom alebo nápadnou kópiou niečoho iného, ​​čo už bolo napísané na rovnakú tému. Vypracovanie eseje bude v podstate „originál“, pokiaľ sa pri náhodnej kontrole zistí.

Študent, ktorý stojí pred písaním úlohy, môže jednoducho vyvolať jednu z týchto generatívnych aplikácií AI, zadať výzvu a voila, celá jeho esej bola napísaná pre neho. Automaticky vygenerovaný text musia iba vystrihnúť a prilepiť do prázdneho dokumentu, tajne doň vložiť svoje meno a informácie o triede a s trochou odvážnej odvahy ho odovzdať ako svoje vlastné dielo.

Pravdepodobnosť, že učiteľ bude vedieť, že esej napísala AI a nie študent, je takmer nulová.

Škandalózne!

Titulky narýchlo hlásali, že sme dosiahli trpký koniec, keď študenti písali eseje alebo robili v podstate akékoľvek úlohy na písanie mimo triedy. Zdá sa, že jediným prostriedkom, ako sa so situáciou vyrovnať, je písanie esejí v triede. Keď sú študenti v kontrolovanom prostredí, ako je trieda, a predpokladajú, že nemajú prístup k notebookom alebo svojim smartfónom, zistia, že sa obmedzia na písanie esejí staromódnym spôsobom.

Aby som to objasnil, staromódny spôsob znamená, že budú musieť písať výlučne pomocou svojich vlastných noggins.

Akýkoľvek druh eseje robenej mimo triedy bude okamžite podozrivý. Napísal študent esej alebo to urobila aplikácia AI? Ako už bolo spomenuté, esej bude napísaná tak dobre, že nemôžete ľahko zistiť, že ju napísal stroj. Pravopis bude bezchybný. Syntax bude obrovská. Línia diskurzu a potenciálne koučované argumenty budú presvedčivé.

Sakra, takpovediac by ste mohli naznačiť, že generatívna AI nakloní svoju povestnú ruku tým, že urobí esej, ktorá presahuje schopnosti študenta, ktorý sa rozhodne ísť touto hanebnou cestou. Učiteľ môže mať podozrenie jednoducho preto, že esej je príliš dobrá. Dôvtipný učiteľ by bol v pokušení uhádnuť, že študent by nemohol napísať takú elegantnú a nepriedušnú prózu. Začnú zvoniť vnútorné poplašné zvončeky.

Samozrejme, spochybniť študenta jeho esej bude škaredé a môže mať nepriaznivé následky.

Predpokladajme, že študent starostlivo napísal esej, úplne sám. Možno to skontrolovali dvakrát a trikrát. Je tu tiež šanca, že možno mali priateľa alebo známeho, aby sa pozrel na niečo, čo potrebuje extra leštenie. Celkovo je to stále ich esej, ako ju napísali. Predstavte si, že učiteľ kladie tomuto serióznemu a učenlivému študentovi konkrétne otázky o eseji. Rozpaky a rozhorčenie z toho, že sme v podstate obvinení z podvádzania, sú hmatateľné, aj keď to učiteľ nahlas netvrdí. Samotná konfrontácia stačí na to, aby podkopala úctu študenta a vyvolala v ňom pocit, že ho falošne ohovárajú.

Niektorí trvajú na tom, že každý učiteľ, ktorý má podozrenie na autorstvo eseje, by mal požiadať študenta, aby vysvetlil, čo napísal. Je pravdepodobné, že ak esej napísal študent, konkrétny študent ju vie primerane vysvetliť. Učitelia robili tento druh prieskumu celé veky. Študent mohol primäť iného študenta, aby za nich napísal svoju esej. Študent mohol primäť rodiča, aby napísal svoju esej. V dnešnom svete môže študent zaplatiť niekomu cez internet, aby v jeho mene tajne napísal esej.

Požiadať študenta, aby overil autorstvo prostredníctvom prieskumu v triede, je teda zvyčajné a nie je to veľký problém.

Som rád, že si to uviedol.

Pokúsiť sa mierne alebo preukázateľne ugrilovať študenta nie je až taký jednoduchý lakmusový papierik, ako si možno myslíte. Študent si mohol dôkladne preštudovať esej vytvorenú AI a pripraviť sa na prípadný výsluch.

Myslite na to takto. Študent najprv vytvorí esej jednoduchým stlačením tlačidla. Študent potom trávi množstvo času, ktorý by venoval napísaniu eseje, namiesto toho, aby ju starostlivo skúmal a študoval. Po chvíli sa slová takmer úplne zapamätajú. Študent sa takmer klame, že verí, že esej naozaj napísali. Toto zdanie dôvery a uvedomelosti by ich mohlo ľahko dostať cez kontrolu pod vedením učiteľa.

Aha, niektorí hovoria trochu v protiklade k obavám z generatívnych aplikácií AI, poznamenávajú, že študent sa v skutočnosti niečo „naučil“ vytvorením eseje. Iste, študent nepracoval na výskume témy a ani nepísal esej, no napriek tomu, ak si esej pozorne preštudoval, zdá sa, že sa o zadanej téme dozvedel. Študent, ktorý sa zaviaže naučiť sa naspamäť esej o Lincolnovi, sa o Lincolnovi pravdepodobne naučil niečo podstatné.

Učenie sa stalo.

Hej, odpovedala, že zadanie bolo pravdepodobne dvojitým procesom. Dozvedieť sa o Lincolnovi mohlo byť relatívne druhoradé. Skutočným cieľom bolo, aby sa študent naučil písať. Táto podstatná časť zadania bola úplne podkopaná. Učitelia často zadávajú otvorené témy a v skutočnosti sa snažia len o to, aby si študent vyskúšal písanie. Musíte si rozvrhnúť, čo chcete napísať, musíte prísť na to, aké slová použijete, musíte slová poskladať do rozumnej sady viet a odsekov atď. Samotné čítanie eseje vytvorenej AI vôbec nie je v súlade s týmto základným aspektom zadania eseje.

Protipólom k tomu je tvrdenie, že študent sa potenciálne učí o písaní pozorným skúmaním písma vytvoreného AI. Neštudujeme všetci veľmajstrov písania, aby sme videli, ako píšu? Naše písanie je pokusom osloviť Shakespeara a iných veľkých spisovateľov. Štúdium písaného slova je platným prostriedkom na získanie toho, ako písať.

Podobne ako pri divokom tenisovom zápase sa loptička presunie na druhú stranu siete. Aj keď je dobré študovať dobré písanie, musíte písať, ak chcete vedieť písať. Nemôžete len donekonečna čítať a potom slepo predpokladať, že študent už vie písať. Musia písať, písať a pokračovať v písaní, kým nebudú schopní hmatateľne predviesť a zlepšiť svoje schopnosti písania.

Vidíte, ako je to celé rébus?

Uvedomte si, že v tom všetkom je asi milión alebo viac zvratov.

Pokryjem niektoré z dômyselnejších a zaujímavejších zvratov.

Ladenie eseje pomocou výzvy AI

Keď sme práve spomenuli Shakespeara, tu je aspekt generatívnej AI, ktorý by vás mohol prekvapiť. V mnohých generatívnych aplikáciách AI môžete povedať niečo také: „Napíš esej o Lincolnovi, ako keby esej napísal Shakespeare.“ AI sa pokúsi vytvoriť esej, ktorá sa zdá byť napísaná v jazyku, ktorý Shakespeare zvyčajne používa vo svojich spisoch. Vidieť to je celkom zábavný a pútavý výkon a mnohí sa z toho poriadne nakopnú.

Ako to súvisí so študentom, ktorý „podvádza“ používaním generatívnej AI na písanie svojich esejí?

V mnohých generatívnych aplikáciách AI môžete AI povedať, aby písala menej ako hviezdnym spôsobom. AI sa bude snažiť vytvoriť esej, ktorá bude trochu drsná. Tu alebo tam sú problémy so syntaxou. Logika eseje môže byť nervózna alebo mierne nesúvislá.

Bola by to šikovná lesť. Študent vezme výslednú esej a odovzdá ju. Esej je dostatočne dobrá na to, aby získala najlepšie hodnotenie, ale zatiaľ nie je taká dokonalá, aby vyvolala hnev učiteľa. Umelá inteligencia opäť urobila všetku prácu za študenta, vrátane toho, že esej urobila trochu nedokonalou.

Navyše, väčšina generatívnych aplikácií AI vám umožňuje využívať aplikáciu na toľko, koľko chcete. Tu je návod, ako sa to hrá. Študent píše, že aplikácia AI má urobiť trochu nedokonalú esej o Lincolnovi. Esej je vyrobená. Študent sa pozrie na esej a uvedomí si, že je stále príliš dokonalá. Študent zadá ďalšiu výzvu, ktorá dáva pokyn AI, aby nedokonalosti zvýraznila.

Peny, opláchnite, opakujte.

Študent neustále zadáva výzvy a kontroluje vytvorené eseje. Toto sa deje znova a znova. Nakoniec študent dostane AI na správnu úroveň nedokonalosti v eseji. Dosiahla sa verzia zlatovlásky. Je dostatočne dokonalá na získanie vysokej známky a dostatočne nedokonalá na to, aby nevzbudila podozrenie.

Som si istý, že niektorí z vás smiešne hovoria, že ak by sa študent rozhodol napísať tú prekliatu esej, možno by strávil menej času alebo aspoň rovnaký čas písaním samotnej eseje. Celé toto energeticky vyčerpávajúce využitie aplikácie AI mohlo byť zamerané na jednoduché pokračovanie v písaní eseje.

No, pamätajte, študent to nemá na mysli. Jednoduché zadávanie výziev a opakované prehliadanie a výber požadovanej eseje bude pre študenta určite oveľa jednoduchšie. Hodina tejto práce je oveľa menej náročná ako písanie eseje priamo. Šikovnosť v tomto prípade treba porovnať s realitou.

Čo sa stane, ak ostatní študenti urobia to isté

Stavil by som sa, že pri čítaní predchádzajúcej analýzy o esejach a generatívnych aplikáciách umelej inteligencie ste mali na mysli túto múdru myšlienku, konkrétne to, že študenta to nepochybne chytí, ak veľa iných študentov robí to isté.

Dovoľte mi to vysvetliť.

Učiteľ poverí celú triedu, aby napísala esej o Lincolnovi. Predpokladajme, že 90 % študentov sa rozhodne pre túto úlohu použiť generatívnu aplikáciu AI. Ak sa vám zdá 90 % príliš depresívnych, pokračujte a použite namiesto toho 10 %. Len majte na pamäti, že keď sa študenti dozvedia o užitočnosti generatívnych aplikácií AI, pokušenie používať ich bude ako húb.

Dobre, takže značné percento triedy používa generatívnu aplikáciu AI. Predpokladali by ste, že ergo študenti budú odovzdávať zhruba rovnakú Lincolnovu esej. Učiteľ si všimne, keď klasifikujú tretiu alebo štvrtú esej, že všetky eseje sú takmer rovnaké. To bude obrovská stopa, že niečo nie je v poriadku.

Prepáčte, ale takéto šťastie pravdepodobne nebudete mať.

Väčšina generatívnych aplikácií AI je veľmi citlivá na to, ako je výzva konkrétne zložená. Ak napíšem „Povedz mi o Lincolnovi“ a keď napíšem „Povedz mi o Lincolnovom živote“, je pravdepodobné, že eseje sa budú podstatne líšiť. V prvom rade sa možno esej produkovaná AI zameriava na prezidenta Lincolna počas jeho funkčného obdobia v Bielom dome a vynecháva čokoľvek o jeho detstve. Druhá výzva by mohla priniesť esej o jeho narodení až po smrť.

Študenti pravdepodobne nezadajú presne to, čo im učiteľ dal ako výzvu na esej. Ako podvodník by sa zdalo rozumné vyskúšať variácie. Ale aj keď všetci študenti zadajú presne tú istú výzvu, je pravdepodobné, že každá esej bude trochu odlišná od ostatných.

Tieto aplikácie AI využívajú rozsiahlu interne vytvorenú matematickú a výpočtovú sieť, ktorá má v zásade široký vzor zhodný s textom nachádzajúcim sa na internete. V procese vytvárania eseje je zahrnutý pravdepodobnostný faktor. Je nepravdepodobné, že vybrané slová budú v rovnakom poradí a v rovnakom presnom znení. Každá vytvorená esej bude vo všeobecnosti iná.

Má to však jeden háčik. Ak je zvolená téma dosť nejasná, existuje šanca, že niektoré vytvorené eseje sa budú navzájom podobať. Čiastočne by to bolo preto, že vzor v koreni textu bol na začiatku tenký. Ako už bolo povedané, spôsob, akým je esej zostavená, môže byť stále celkom odlišný. Hovorím len to, že podstata obsahu ako takého by mohla byť približne rovnaká.

Nechcete pôsobiť zachmúrene, ale potenciálne by ste mohli tvrdiť to isté o bežnej téme, akou je život Lincolna. Koľkými rôznymi spôsobmi môžete rozviesť celkové aspekty jeho života? Ak ste nejakým spôsobom zabezpečili študentov v zamknutej triede, aby písali o Lincolnovi, a dali ste im online prístup k skúmaniu jeho života, dovolím si tvrdiť, že šanca, že eseje budú do istej miery podobné, sa môžu vyskytnúť aj tak.

Bezplatný a jednoduchý faktor je podstatný

Ak chce študent v dnešnej dobe podvádzať tým, že niekomu zaplatí cez internet za napísanie eseje, je to veľmi jednoduché (dúfam, že vás to nešokuje, možno som mal vopred upozorniť na spúšťač).

Problém je však v tom, že za esej musíte zaplatiť. Existuje tiež malá šanca, že by ste sa mohli neskôr chytiť. Použili ste na platbu za esej kreditnú kartu? Možno je lepšie použiť nejakú formu spracovania podzemných platieb, aby ste sa pokúsili udržať svoje stopy čisté.

Krása alebo možno dráždivý faktor generatívnej AI je v tom, že väčšina z nich je v súčasnosti k dispozícii zadarmo. Nevyžaduje sa žiadna platba. Žiadny konkrétny záznam o vašom používaní (no, aby bolo jasné, aplikácia AI môže sledovať vaše používanie, najmä preto, že mnohé z aplikácií AI vyžadujú, aby ste sa prihlásili pomocou e-mailovej adresy, ale samozrejme to môžete tiež predstierať. ).

Niektorí ľudia prirodzene predpokladajú, že na používanie generatívnej aplikácie AI musíte byť sprievodcom AI.

Nie tak.

Vo všeobecnosti sú generatívne aplikácie AI úžasne jednoduché na používanie. Vyvoláte aplikáciu AI. Ponúka vám otvorené textové pole, do ktorého môžete zadať výzvu. Zadáte výzvu a stlačíte odoslať. Aplikácia AI vygeneruje text.

To je asi tak všetko.

Nie sú potrebné žiadne špecializované počítačové jazyky. Žiadne znalosti databáz alebo vedy o údajoch. Uisťujem vás, že takmer každé dieťa v škole môže ľahko používať generatívnu aplikáciu AI. Ak dieťa vie písať, môže tieto aplikácie používať.

Niektorí tvrdia, že spoločnosti, ktoré poskytujú generatívne aplikácie AI, by si mali najprv overiť vek používateľa, pravdepodobne preto, aby zabránili tomu, aby pri písaní esejí používali AI na účely podvádzania. Ak používateľ uvedie, že nie je dospelý, nedovoľte mu používať aplikáciu AI. Úprimne povedané, je to nepravdepodobný scenár prevencie, pokiaľ neboli prijaté nejaké zákony súvisiace s AI, ktoré sa pokúšajú zaviesť tieto druhy obmedzení. Aj keď sú takéto zákony prijaté, pravdepodobne to môžete obísť pomocou generatívnej aplikácie AI, ktorá je hosťovaná v inej krajine atď.

Ďalším zakázaným uhlom by bolo, keby používanie generatívnych aplikácií AI stálo peniaze. Predpokladajme, že existoval poplatok za transakciu alebo poplatok za predplatné. Tým by sa generatívna aplikácia AI dostala na rovnakú úroveň ako ľudia na internete, ktorí za vás napíšu esej, ktorá vás za to bude účtovať. Labouristi by sa stretli s AI (okrem toho, toto všetko naznačuje, že ľudia, ktorí sa živia písaním esejí pre študentov, budú nahradení AI, ktorá robí to isté; otázkou je, či nás to zarmúti alebo poteší? že ľudia, ktorí si zarábajú na živobytie, to už nebudú môcť robiť týmto spôsobom).

Spoločnosti, ktoré vyrábajú generatívne aplikácie AI, si určite želajú zarábať peniaze na týchto aplikáciách, aj keď ako to urobiť, je stále vo vzduchu. Účtovanie transakčného poplatku, poplatku za predplatné alebo možno účtovanie za vygenerované slovo sú na stole. Namiesto spoplatňovania ľudí sa speňaženie môže vykonávať pomocou reklám. Možno vždy, keď použijete konkrétnu generatívnu aplikáciu AI, musíte najskôr vidieť reklamu. To môže byť tvorca peňazí.

Nerád na to rozlievam mlieko, ale ako prostriedok na prekonanie študentského podvádzania to nebude žiadny druh striebornej guľky. Ani zďaleka.

Existujú verzie s otvoreným zdrojom generatívnej AI. Ľudia ich vydávajú a iní sú ochotní sprístupniť aplikáciu zadarmo. Tak či onak, aj keď niektoré spoločnosti účtujú poplatok, budete môcť nájsť varianty, ktoré sa dajú použiť zadarmo, aj keď možno budete musieť vidieť reklamy alebo sa možno zaregistrovať a poskytnúť nejaké informácie o sebe na marketingové účely.

Pomáha tomu viackrokový

Študent sa rozhodne použiť generatívnu aplikáciu AI na vytvorenie svojej eseje.

Namiesto priameho zadávania eseje sa študent rozhodne esej upraviť. Rozumne tu vypustia pár slov. Dajte tam pár slov. Posunúť vetu nahor. Posuňte o vetu nižšie. Po troche úprav a dolaďovania majú teraz esej, ktorú sú pripravení odovzdať.

Je táto esej prácou študenta alebo nie?

Priviedol som vás k veľkej miliónovej nezodpovedanej nevyriešenej otázke.

Poďme sa rýchlo dozvedieť o zákonných právach a porušovaní. Toto je téma, ktorej som sa už dosť venoval, ako napr odkaz tu a odkaz tu, Napr.

Pravdepodobne už viete niečo o autorských právach a o tom, čo je známe ako duševné vlastníctvo (IP). Niekto, kto má príbeh chránený autorskými právami, si má ponechať rôzne zákonné práva spojené s týmto príbehom. Nemajú úplne železné, všetko zahŕňajúce zdanie zákonných práv. Existujú výnimky a výnimky.

Jedným z najťažších problémov pri porušovaní autorských práv niekoho materiálu je blízkosť toho, čo môžete mať v porovnaní s pôvodným zdrojom. Možno ste čítali alebo videli správy o slávnych spevákoch a ich textoch, v ktorých niekto iný napísal pieseň so zdanlivo podobným textom a či to bolo právne správne alebo nie.

Už som spomenul, že generatívna aplikácia AI zvyčajne nevytvára esej, ktorá je kópiou iných materiálov, na ktoré bola predtým vyškolená prostredníctvom skúmania obsahu na internete. Je pravdepodobné, že materiál je zovšeobecnený a celý spojený tak, že sa už veľmi nepodobá na čokoľvek, z čoho pozostával zdrojový obsah.

Budeme musieť počkať a uvidíme, ako sa s tým vysporiada právny proces. Ak generatívna aplikácia AI vytvára umelecké dielo, ktoré je vizuálne očividne podobné nejakému zdroju umeleckého diela, pravdepodobne by sme sa priklonili k obvineniu AI a tvorcov AI z porušenia autorských práv spojených s pôvodným dielom. Môžeme to vidieť na vlastné oči.

Pokiaľ ide o eseje, môže to byť zložitejšie. Zjavné prípady sú, keď sú celé vety a odseky od slova do slova identické. Všetci to vidíme. Ale keď sa formulácia s malými rozdielmi líši, dostávame sa do šedých oblastí.

Ako ďaleko od pôvodného zdrojového materiálu musí byť novovytvorený materiál, aby bolo možné vyhlásiť, že ide o bona fide originál sám o sebe?

To je vážna otázka.

Spojme to so študentom, ktorý používa generatívnu aplikáciu AI pre svoju esej.

Predstierajte, že konkrétna esej vygenerovaná aplikáciou AI bude považovaná za „pôvodnú“ esej. Hovorím, že predpokladám, že to žiadnym zjavným spôsobom neporušuje žiadnu inú už existujúcu esej alebo textový príbeh kdekoľvek na svete.

Študent potom začína s originálnym zdrojom materiálu. Ako už bolo naznačené, študent tento materiál upravuje a dolaďuje. Veci dosiahnu bod, v ktorom sa originál vytvorený aplikáciou AI teraz líši od vylepšenej verzie, ktorú študent vymyslel.

Je to podvod?

Možno áno možno nie.

Môžete namietať, že áno. Študent začal tým, že AI za nich napísala esej. Všetko, čo študent urobil, sa mechanicky pohralo s esejou. Očakávame od študenta, že esej napíše zo vzduchu a použije na to svoje vlastné šklbanie. Používanie aplikácie AI na generovanie ich základnej línie je jednoznačne podvod. Priraďte študentovi známku „F“.

Nie tak rýchlo. Môžete namietať, že to nie je podvádzanie. Študent prepracoval zdrojový materiál. Ak je porovnanie medzi esejou vytvorenou v AI a verziou prepracovanou študentmi dostatočne veľký rozdiel, povedali by sme, že esej napísal študent. Je pravda, že pri tom použili iný materiál, ale nemôžete povedať to isté, ak by použili encyklopédiu alebo iný zdroj? Tento študent si zaslúži známku „A“ za to, že napísal esej vlastným rozumom (bez ohľadu na to, že na to odkazoval iné materiály).

Učitelia budú pristihnutí uprostred tejto už aj tak znepokojujúcej otázky.

Jedným z prístupov je, že učiteľ môže kategoricky vyhlásiť, že študenti musia uviesť všetky referenčné materiály vrátane toho, či bola alebo nebola použitá generatívna aplikácia AI. Ak študent priamo neuvedie generatívnu umelú inteligenciu ako referenciu a ak učiteľ zistí, že ju neuviedol, študent v súhrne dostane za úlohu známku „F“. Alebo to možno niektoré školy budú považovať za akt podvádzania, ktorý spôsobí, že študent automaticky prepadne. Alebo možno vylúčený. Uvidíme, ako ďaleko zájdu školy v týchto veciach.

Vo všeobecnosti smerujeme do prevráteného sveta duševného vlastníctva a zákonného vlastníctva diel, ako sú eseje (text), umenie (obrázky) a video, vrátane:

• Niektorí budú od tvorcov generatívnej umelej inteligencie žiadať právnu nápravu, pokiaľ ide o zdroje obsahu, ktoré umelá inteligencia použila na generovanie vytvoreného výstupu.
• Niektorí vezmú výstup generatívnej AI a budú považovať výsledok za svoje vlastné diela a potom sa pokúsia získať právnu nápravu od každého, kto poruší ich „pôvodnú“ prácu.
• Mohlo by sa to zacykliť, takže niekto vytvorí výstup z generatívnej AI, ktorý sa zverejní na internete, a potom príde nejaká iná generatívna AI a použije to vo svojom tréningu výroby podobných diel.

Premena negatívu na pozitívum

Všetky tieto reči o škodlivosti generatívnej AI, pokiaľ ide o podvádzanie študentov, možno zahmlievajú našu myseľ, niektorí nabádajú.

Vezmite to iným smerom.

sedíš?

Možno by učitelia mali úmyselne zvážiť, či študenti budú používať generatívnu AI ako súčasť procesu učenia o tom, ako písať eseje.

Už som predtým písal o tzv duálne použitie AI, viď odkaz tu. Predstava je taká, že niekedy môže byť systém AI použitý na zlé a niekedy ho možno zmeniť a použiť na dobré. Znepokojivým aspektom je, keď niekto napíše AI pre dobro a blažene si neuvedomuje, ako ľahko sa dá jeho AI zmeniť na prízrak zla. Časť Etická AI je uvedomenie si, že AI by mala byť navrhnutá tak, aby sa nemohla cez noc zmeniť na kliatbu. Ide o pretrvávajúcu obavu.

Späť ku generatívnej AI na tvorbu esejí.

Predtým som prišiel s myšlienkou, že študent by sa mohol naučiť o písaní tak, že sa pozrie na písané diela, ktoré už existujú. To dáva veľký zmysel. V zásade, čím viac čítate, je pravdepodobné, že rozšírite svoje duševné zdanie smerom k schopnosti písať. Ako už bolo spomenuté, stále musíte písať, pretože všetko čítanie na svete z vás nemusí nutne priviesť dobrého spisovateľa, ak nebudete písať.

Na podporu tohto spojenia čítania a zápisu by sme mohli použiť generatívnu AI. Nechajte študenta, aby zámerne používal generatívnu AI. AI vytvorí esej. Študent dostane zadanie, aby kritizoval esej vytvorenú AI. Ďalej je študentovi pridelené napísanie novej eseje, možno na inú tému, ale môže použiť štruktúru a ďalšie všeobecné prvky predchádzajúcej eseje vytvorenej AI.

Niektorí navrhujú, že to môže byť pre študentov ešte produktívnejšie, ako jednoduché čítanie kníh alebo iných textov od spisovateľov, s ktorými študent nemá prístup. Pomocou aplikácie AI si študent mohol skúsiť zopakovať a vytvoriť úvodnú esej pomocou množstva výziev, jednej po druhej. Študent môže povedať AI, aby napísala barebones esej o Lincolnovi. Ďalej študent požiada o dlhú esej o Lincolnovi, ktorá je napísaná neformálnym hlasom. Potom, čo si to študent prezrel, naznačuje aplikácii AI, aby vytvorila vysoko formalizovanú verziu Lincolnovej eseje. Atď.

Tvrdí sa, že by to mohlo študentovi materiálne pomôcť naučiť sa písať a ako môže písanie prebiehať.

Nedávny výskumný dokument navrhuje práve tento bod: „Autori tohto článku sa domnievajú, že AI sa dá použiť na prekonanie troch prekážok učenia sa v triede: zlepšenie prenosu, prelomenie ilúzie hĺbky vysvetlenia a školenie študentov, aby kriticky hodnotili vysvetlenia“ ( v článku s názvom „Nové spôsoby učenia, ktoré umožňujú AI Chatbots: Tri metódy a úlohy“, Dr. Ethan Mollick a Dr. Lilach Mollick, Wharton School of the University of Pennsylvania & Wharton Interactive, 12. decembra 2022)

Poukazujú napríklad na to, že zlepšenie prenosu učenia sa môže uskutočniť takto: „AI je lacný spôsob, ako poskytnúť študentom veľa príkladov, z ktorých niektoré môžu byť nepresné, vyžadujú si ďalšie vysvetlenie, alebo môžu byť jednoducho vymyslené. Pre študentov so základnými znalosťami témy môžete použiť AI, aby im pomohla otestovať ich pochopenie a explicitne ich prinútiť pomenovať a vysvetliť nepresnosti, medzery a chýbajúce aspekty témy. Umelá inteligencia môže poskytnúť nekonečný rad príkladov konceptov a aplikácií týchto konceptov a študentov môžete prinútiť: porovnávať príklady v rôznych kontextoch, vysvetľovať jadro konceptu a poukazovať na nezrovnalosti a chýbajúce informácie v spôsobe, akým AI aplikuje koncepty. do nových situácií“ (tamže).

Je to obdoba starého refrénu, ak ich nedokážete poraziť, pridajte sa k nim.

Premeňte generatívnu AI na vzdelávací nástroj.

Fuj, prichádza rýchla odpoveď.

Dáš líšku do kurníka. Študenti, ktorí netušili, čo je to generatívna AI, to teraz otvorene ukážu zjavnými činmi učiteľa a ich škôl. Ak študenti nevedeli o možnostiach podvádzania, vkladáte im to priamo do tváre a rúk.

Zdá sa byť úplne odpudivé, že tí, ktorí majú autoritu, by študentov oboznamovali s prostriedkom podvádzania. Navždy teda postavíte tých najčestnejších študentov do sféry podvodných pokušení. Každý bude mať prístup k podvádzaciemu stroju. Je im povedané, aby tak urobili. Netreba to skrývať. Nemusíte predstierať, že nepoužívate generatívnu AI. Škola a učiteľ ťa prinútili využiť to.

Odpoveď na to je, že musíte slepo a nevedome mať hlavu v piesku, aby ste si mysleli, že študenti sa s generatívnou AI nezoznámia. Zatiaľ čo vy sa hlúpo tvárite, že o tom nevedia, oni sa túlia mimo školy, aby to využili. Vašou lepšou voľbou je predstaviť im vec, prediskutovať, na čo sa dá a na čo nie, a vniesť do celého rébusu jasné lesklé svetlo.

Je to celkom šialené.

Pre tých z vás, ktorí robia výskum v oblasti vzdelávacích inovácií technológií, možno budete chcieť pozrieť na generatívnu AI a ako môže zmeniť povahu vzdelávacích prístupov a ovplyvniť učenie študentov. Už to príde dosť skoro.

Použitie detekcie na záchranu pred skazou

Vymeňte klobúky a poďme sa na chvíľu zamyslieť nad digitálnym umeleckým dielom.

Ak vytvoríte dielo digitálneho umenia, možno ho budete chcieť nejakým spôsobom označiť, aby ste neskôr mohli rozlíšiť, či sa niekto rozhodol použiť alebo opätovne použiť vaše umenie. Jednoduchý spôsob, ako to urobiť, pozostáva zo zmeny niektorých pixelov alebo bodov vo vašej digitálnej kresbe. Ak ich urobíte niekoľko tu alebo tam, vzhľad umeleckého diela sa bude ľuďom zdať stále rovnaký. Nevšimnú si tie pixely, ktoré sú tínedžerské a boli nastavené na nejakú špeciálnu farbu, ktorú je možné vidieť iba pri podrobnej kontrole pomocou digitálnych nástrojov.

Možno poznáte tieto techniky ako formu vodoznaku. Rovnako ako v dávnych dobách existovali pokusy o vodotlač papierových materiálov a iného nedigitalizovaného obsahu, postupne sme boli svedkami vzostupu digitálnych vodoznakov.

Digitálny vodoznak môže byť skrytý v obrázku digitálneho umeleckého diela. Ak by sa to mohlo zdať rušivé pre obrázok, môžete skúsiť vložiť vodoznak do súboru, ktorý obsahuje digitálne umelecké dielo (takzvané „metaúdaje“ digitálneho diela).

Môže vzniknúť hra na mačku a myš.

Príde nejaký zločinec a objaví váš digitálny vodoznak. Odstraňujú to. Teraz môžu zdanlivo voľne používať vaše digitálne umelecké diela bez obáv, že sa do nich neskôr budete môcť pustiť a ukázať, že je to jednoznačne podvod vo vašom úsilí. Tí darebáci!

Potrebujeme zlepšiť digitálny vodoznak, čo môžeme urobiť pomocou kryptografických techník a technológií. Myslite na tajné správy a kódovanie.

Myšlienkou je, že digitálny vodoznak zakódujeme tak, aby ho bolo ťažké nájsť. Je tiež potenciálne ťažké ho odstrániť. Mohli by sme sa dokonca pokúsiť zabezpečiť, aby softvér, ktorý zobrazí alebo umožní použitie digitálneho umeleckého diela, najprv skontroloval a zistil, či v diele existuje platný kódovaný digitálny vodoznak, inak sa to považuje za nevhodnú kópiu. Prichytili ťa pri čine.

Môžeme urobiť to isté pre generatívnu AI, ktorá produkuje text?

Bola položená rukavica. Problém však môže byť do určitej miery ťažší ako pri zvažovaní digitálnych vodoznakov pre umelecké diela.

Tu je dôvod.

Predpokladajme, že jediné miesto, kde môžete vodoznak umiestniť, je priamo do samotného textu. Hovorím to preto, že vygenerovaný text nemusí nutne ísť do súboru. Text je len text. Môžete ho vystrihnúť a vložiť z generatívneho nástroja AI. V tomto zmysle zvyčajne neexistujú žiadne metaúdaje alebo súbor, do ktorého je možné vodoznak vložiť.

Musíte sa sústrediť iba na text. Čistý text.

Jednou z možností by bolo, aby generatívna AI produkovala text spôsobom, ktorý je možné vysledovať. Ako hrubý, ale nepraktický príklad si predstavte, že sme sa rozhodli začať každú tretiu vetu slovom „A“ na začiatku vety. Stále by sme vytvorili zdanlivo úplne plynulú esej. Jediným trikom je, že každá tretia veta začína nami vybraným čarovným slovíčkom. Nikto iný nevie, na čom sme.

Študent používa generatívnu AI na vytvorenie zadanej eseje o Lincolnovi. Študent si ho vezme priamo z aplikácie AI a pošle ho e-mailom učiteľovi. Ukázalo sa, že študent čakal do poslednej chvíle a bol proti zverejnenému termínu. Nie je čas recenzovať esej. Stačí poslať a dúfať v to najlepšie.

Učiteľ sa pozrie na esej. Predpokladajme, že sme jej povedali, že náš vodoznak pozostáva z magického slova použitého na začiatku každej tretej vety. Učiteľ zistí, že je to tak aj v tejto predloženej eseji. Aj keď je možno neuveriteľne malá šanca, že študent napísal esej a možno rád používa toto konkrétne slovo na začiatku každej tretej vety, myslím, že sa môžeme primerane zhodnúť na tom, že je to veľmi nepravdepodobné a namiesto toho študent pravdepodobne použil generatívnu AI. na vypracovanie eseje.

Vidíš ako to funguje?

Verím, že áno.

Problémom teraz je, ako prísť s vodoznakom, ktorý nie je až taký zrejmý. Študent si môže všimnúť, že sa zdá, že vety používajú konkrétne slovo. Mohli by hádať, čo sa deje. Na druhej strane sa študent môže pohybovať vo vetách a urobiť nejaké preformulovanie. To potom do značnej miery potopí tento konkrétny vodoznak, pretože esej už nie je ľahko rozpoznateľná, že ju napísala generatívna AI.

Hra na mačku a myš sa opäť tlačí dopredu.

Musíme vytvoriť plynulý text, ktorý nejakým spôsobom obsahuje „vodoznak“ spôsobom, ktorý nemožno ľahko rozpoznať. Ďalej, ak je to možné, vodoznak by mal zostať zachovaný, aj keď je esej mierne upravená. Kompletná revízia pravdepodobne neumožní, aby vodoznak prežil. Chceme však určitú redundanciu a pružnosť, aby bol vodoznak prednostne zistiteľný, aj keď sa v textovej oblasti vykonajú určité zmeny.

Výskumník, ktorý robí nejakú prácu pre spoločnosť, ktorá vyrába ChatGPT (aplikáciu AI od OpenAI), skúma niektoré zaujímavé kryptografické snahy v súvislosti s týmito úvahami o vodoznaku. Scott Aaronson je profesorom počítačovej vedy na Texaskej univerzite v Austine a nedávno prednášal o niektorých prácach, ktoré prebiehajú (prepis je zverejnený na jeho blogu).

Zamyslite sa nad týmto úryvkom, v ktorom stručne vysvetľuje existujúci prístup: „Ako to funguje? V prípade značky GPT je každý vstup a výstup reťazec tokenov, ktorými môžu byť slová, ale aj interpunkčné znamienka, časti slov alebo viac – celkovo je to asi 100,000 XNUMX tokenov. Vo svojom jadre GPT neustále generuje rozdelenie pravdepodobnosti pre ďalší token, ktorý sa má vygenerovať, podmienené reťazcom predchádzajúcich tokenov. Keď neurónová sieť vygeneruje distribúciu, server OpenAI potom skutočne vzorkuje token podľa tejto distribúcie – alebo nejakú upravenú verziu distribúcie v závislosti od parametra nazývaného „teplota“. Pokiaľ je však teplota nenulová, vo výbere ďalšieho tokenu bude zvyčajne určitá náhodnosť: môžete bežať znova a znova s ​​rovnakou výzvou a zakaždým získať iné dokončenie (tj reťazec výstupných tokenov). .“

Ako bolo uvedené, existuje určitá náhodnosť, pokiaľ ide o to, ktoré slová budú umiestnené vedľa eseje, ktorú odvodzuje aplikácia ChatGPT. To tiež vysvetľuje predchádzajúci bod, že každá esej bude pravdepodobne trochu odlišná, aj keď na rovnakú tému. Pri vytváraní esejí sa skrýva cieľavedomé používanie prístupu náhodného výberu, ktorý je v určitých medziach.

Teraz sa dostávame k šťavnatej časti, kryptografickému zmiešaniu: „Takže potom k vodoznaku, namiesto náhodného výberu ďalšieho tokenu, ide o to, vybrať ho pseudonáhodným spôsobom pomocou kryptografickej pseudonáhodnej funkcie, ktorej kľúč pozná iba OpenAI. . Pre koncového používateľa to nebude znamenať žiadny zistiteľný rozdiel, za predpokladu, že koncový používateľ nedokáže rozlíšiť pseudonáhodné čísla od skutočne náhodných. Teraz si však môžete vybrať pseudonáhodnú funkciu, ktorá tajne upraví určité skóre – súčet v porovnaní s určitou funkciou g vyhodnotenou v každom n-grame (sekvencia n po sebe idúcich tokenov), pre niektoré malé n – ktoré skóre môžete tiež vypočítať, ak viete kľúč pre túto pseudonáhodnú funkciu."

Uvedomujem si, že sa to môže zdať trochu technologicky preplnené.

Podstatou je, že vytvorená esej sa bude javiť ako plynulá a pri čítaní eseje nebudete vedieť ľahko rozoznať, že obsahuje digitálny vodoznak. Ak chcete zistiť, či daná esej obsahuje vodoznak, budete musieť vložiť esej do špeciálne navrhnutého detektora. Program, ktorý vykonáva detekciu, vypočíta hodnotu na základe textu a dokáže ju porovnať s uloženým kľúčom. V opísanom prístupe by kľúče držal predajca a inak by neboli dostupné, takže za predpokladu, že kľúče sú utajené, iba pomazaný detekčný program by mohol vypočítať, či bola esej v tomto prípade pravdepodobne odvodená z ChatGPT.

Pokračuje priznávaním, že to nie je spoľahlivé: „Teraz sa to všetko dá poraziť s dostatočným úsilím. Ak ste napríklad použili inú AI na parafrázovanie výstupu GPT – dobre, nebudeme to schopní zistiť. Na druhej strane, ak sem-tam vložíte alebo vymažete pár slov alebo zmeníte poradie niektorých viet, signál vodoznaku tam bude stále. Pretože to závisí iba od súčtu nad n-gramy, je odolný voči takýmto druhom zásahov.“

Učiteľovi môže byť udelený prístup k programu detektora, ktorý by kontroloval študentské eseje. Predpokladajme, že vec je relatívne jednoduchá v tom, že učiteľ nechá študentov poslať svoje eseje e-mailom učiteľovi a automatickému detektoru. Aplikácia detektora potom informuje učiteľa o pravdepodobnosti, že v tomto prípade bude esej vytvorená službou ChatGPT.

Teraz, ak je detektor otvorene dostupný len pre kohokoľvek, mali by ste „prekračujúcich“ študentských podvodníkov, ktorí by jednoducho vložili svoje eseje do detektora a urobili sériu zmien, kým detektor neukázal nízku pravdepodobnosť, že esej bola odvodená generatívnym AI. Viac o mačke a myši. Pravdepodobne musí byť detektor prísne chránený použitím hesla, alebo sú potrebné nejaké iné prostriedky alebo metódy na riešenie kryptografických prístupov (existuje celý rad metód založených na kľúčoch aj metód zameraných na kľúč, ktoré možno použiť).

Učiteľ môže čeliť možnosti desiatok alebo stoviek generatívnych aplikácií AI dostupných na použitie na internete. V takom prípade, snažiť sa prinútiť všetkých, aby používali nejaké digitálne vodoznaky a do všetkých z nich vložiť esej, je to jednoducho očarujúce a logisticky komplikovanejšie.

Už žiadne eseje mimo triedy

Perspektíva skazy a temnoty je, že učitelia možno budú musieť opustiť používanie externého písania esejí. Všetky eseje musia byť napísané iba v kontrolovanom prostredí triedy.

To má veľa a veľa problémov.

Predpokladajme, že študent zvyčajne potrebuje desať hodín na napísanie konkrétnej plnohodnotnej eseje, ktorá je triednym projektom. Ako by sa to robilo v triede? Chystáte sa to rozdeliť a nechať študenta napísať malý kúsok eseje v priebehu niekoľkých dní? Zamyslite sa nad ťažkosťami, ktoré to prináša.

Niektorí tvrdia, že táto záležitosť sa možno preháňa.

Učitelia by mali postupovať tak, ako vždy robili pri plagiátorstve študentov. Učiteľ vopred vyhlási, že plagiátorstvo je vážny problém podvádzania. Zdôraznite, že použitie generatívnej AI akýmkoľvek spôsobom sa bude považovať za podvádzanie.

Urobte tresty, ktoré majú značnú váhu, ako napríklad nízka známka, prepadnutie triedy alebo vylúčenie zo školy, ak to dôjde tak ďaleko. Vyžadujte od študentov, aby pri každej externej úlohe písomne ​​potvrdili, že to, čo odovzdali, je ich práca (bez pomôcok, ako je generatívna umelá inteligencia, kopírovanie z internetu, používanie spolužiakov, používanie rodiča, platenie za vykonanie úlohy a tak ďalej). Požadujte tiež, aby študenti uviedli všetky online nástroje použité pri príprave práce, vrátane toho, že si musia osobitne všímať akékoľvek generatívne využitie AI.

Učiteľ môže alebo nemusí použiť aplikáciu detektora, aby sa pokúsil rozlíšiť, či odoslaná esej pravdepodobne pochádza z generatívnej aplikácie AI. Toto je potenciálne zaťažujúci krok v závislosti od toho, aké ľahké sú detektory používať a aké sú prístupné.

Učitelia by už podľa všetkého mali podniknúť kroky na zistenie, či sa externé eseje zdajú byť legitímne. Písaním esejí v triede je možné porovnávať a porovnávať, uvedomujúc si však, že čas na písanie v triede je kratší a môže byť tiež brzdený obmedzením neumožnenia prístupu k online referenčným materiálom.

Podstatou je, že by sme sa nemali vydať cestou náhleho vylúčenia používania externého písania esejí. Niektorí by to odsúdili ako unáhlený čin, ktorý pripomína vyhadzovanie dieťaťa spolu s vodou (staré príslovie, ktoré možno stojí za to odísť do dôchodku).

Ak sa vonkajšie písanie úplne preruší ako vzdelávacia aktivita, odstránenie tejto zdanlivo každodennej vzdelávacej aktivity z učebných osnov bude mať pravdepodobne vážne a dlhodobé nevýhody. Je s tým spojený kompromis. Koľko študentov bude podvádzať napriek všetkým vyššie uvedeným kontrolám a protiváham? Koľko študentov nebude podvádzať, a preto bude aj naďalej využívať prospešný vzdelávací prístup na zlepšenie svojich schopností v písaní?

Dúfajme, že teoreticky bude percento podvodníkov dostatočne malé na to, aby vonkajšie písanie bolo stále cenné pre prevahu študentov.

záver

AI vie poriadne bolieť hlava.

Pre učiteľov môže byť AI požehnaním aj prekliatím. Či tak alebo onak, znamená to, že učitelia musia vedieť o AI, ako aj o tom, ako sa vysporiadať so zvratmi AI spojenými s ich vyučovacími aktivitami, čo predstavuje ďalšiu pridanú záťaž na ich už aj tak pretiahnutý chrbát a ramená. Krik učiteľom všade.

Možno si môžeme priať, aby AI odišla.

Nie.

Vidíte, nevrátime čas a nevymažeme generatívnu AI. Každý, kto po tom volá, je snílek. A okrem toho používam slovo „A“ ako prvé slovo tretej vety tohto odseku (hops, prezrádzam kľúč!), generatívna AI tu zostane.

Tu je podnet na rozbehnutie vášnivých diskusií: Generatívna AI sa stane všadeprítomnejšou a bude mať ešte úžasnejšie a znervózňujúce schopnosti.

Pokles mikrofónu.

Zatiaľ posledná myšlienka.

Shakespeare slávne napísal, že „Byť či nebyť: to je otázka.

Uisťujem vás, že generatívna AI bude. Už je.

Musíme prísť na to, ako chceme, aby generatívna AI vstúpila do našich životov, a ako sa spoločnosť rozhodne formovať a riadiť takéto používanie. Ak ste niekedy potrebovali dôvod premýšľať o etike umelej inteligencie a zákone umelej inteligencie, možno vás generatívna umelá inteligencia podnieti k hľadaniu toho, čo sme, aj keď nevieme, čo môžeme byť (skrytý odkaz na Shakespeara).