Ľudia sa horlivo radia o generatívnej AI ChatGPT o poradenstvo v oblasti duševného zdravia, zdôrazňujú etiku AI a zákony AI

Duševné zdravie sa v súčasnosti stalo rozšírenou témou.

V minulosti sa diskusie o duševnom zdraví často utlmili alebo úplne zamietli pod koberec. Postupná kultúrna zmena viedla k otvorenému zvažovaniu problémov duševného zdravia a zmiernila pochybnosti o tom, ako to urobiť verejne uznávanými spôsobmi.

Môžete pripísať určitú zásluhu za túto zmenu zastrešujúcich spoločenských postojov v dôsledku nástupu ľahko prístupných aplikácií pre smartfóny, ktoré pomáhajú vašej osobnej všímavosti a pravdepodobne vás podnecujú k duševnej pohode. Existujú aplikácie na všímavosť, na meditáciu, na diagnostiku stavu duševného zdravia, na skríning duševného zdravia atď. Existuje množstvo aplikácií.

Môžeme povedať, že aplikácie pre smartfóny otvorene viedli k otvorenosti o duševnom zdraví? Je pravda, že je to trochu otázka sliepky alebo vajíčka. Umožnila otvorenosť voči duševnému zdraviu vznik relevantných aplikácií pre smartfóny, alebo duševná pohoda aplikácií pre smartfóny viedla spoločnosť k tomu, aby bola v otázke duševného zdravia prvoplánová?

Možno to bola prelínajúca sa kombinácia, ktorá zahŕňala oba smery, ktoré sa odohrávali súčasne.

V každom prípade do tohto silného mixu prichádza vzostup aplikácií pre duševné zdravie, o ktorých sa hovorí, že sú mimoriadne poháňané umelou inteligenciou (AI). Myšlienkou je, že základnú technológiu možno zlepšiť (pravdepodobne) rozumným používaním AI. Zatiaľ čo počiatočné verzie aplikácií pre duševné zdravie boli prevažne doručovaním informácií založených na faktoch, ako keby ste robili online vyhľadávanie uvedených tém, infúzia AI viedla k automatizácii, ktorá s vami vedie interaktívne dialógy, podobne ako písanie textových správ s ľudským terapeutom alebo podobne. (no, tak trochu, ako to tu budem riešiť a skúmať).

Tým sa dostávame k najnovšej a najvýznamnejšej umelej inteligencii, ktorá si nedávno získala národnú a medzinárodnú pozornosť, konkrétne používanie toho, čo je formálne známe ako Generatívna AI a široko popularizovaný prostredníctvom aplikácie známej ako ChatGPT. Pre objasnenie, ChatGPT je univerzálny interaktívny systém AI, v podstate všeobecný chatbot, napriek tomu ho aktívne a horlivo používajú ľudia, ktorí sa snažia špecificky získať rady týkajúce sa duševného zdravia (aplikácia nebola vytvorená na tento účel, ale ľudia sa rozhodli, že ho chcú aj tak použiť na túto úlohu).

Pre moje nedávne spravodajstvo o ChatGPT pozri odkaz tu pre prehľad. Urobil som tiež niekoľko následných krokov o tom, ako ChatGPT znepokojuje učiteľov, že študenti môžu podvádzať pomocou AI na písanie svojich esejí, pozri odkaz tua vo svojej analýze týkajúcej sa Santa Clausa som sa pozrel na sezónne ochutené odkaz tu.

Nebojte sa, vysvetlím vám, o čom je generatívna umelá inteligencia a ChatGPT, zatiaľ to robím, takže vydržte.

Ak sa pozriete na sociálne médiá, uvidíte ľudí, ktorí vyhlasujú ChatGPT a generatívnu AI za najlepšiu vec od krájania chleba. Niektorí naznačujú, že toto je v skutočnosti vnímavá AI (nie, mýlia sa!). Iní sa obávajú, že ľudia sa predbiehajú. Vidia to, čo chcú vidieť. Vzali si novú žiarivú hračku a presne ukázali, prečo nemôžeme mať chytľavé nové veci.

Tí, ktorí sa zaoberajú etikou AI a zákonom AI, sa triezvo a vážne obávajú tohto rastúceho trendu, a to oprávnene. Tu sa podrobne pozrieme na to, ako ľudia používajú generatívnu AI na účely, ktoré nie sú obzvlášť vhodné na to, čo dnes AI skutočne dokáže. Všetky druhy etických a právnych problémov AI sú nepochybne zabalené do celého hlavolamu. Moje pokračujúce a rozsiahle pokrytie etiky AI a práva AI nájdete v časti odkaz tu a odkaz tu, Len aby sme vymenovali niekoľko.

Najprv sa pozrime na niektoré dôležité aspekty duševného zdravia a prečo je to veľmi veľká a dôležitá téma. Po položení tohto základu urobíme rýchle vysvetlenie o generatívnej AI a najmä o ChatGPT. Uvediem príklady z ChatGPT, aby ste na vlastné oči videli, aký typ mnohomluvnosti je aplikácia AI schopná produkovať. Túto diskusiu uzavrieme niekoľkými komentármi o tom, čo to všetko znamená a ako do toho nevyhnutne vstúpi etika AI a zákon AI.

Zapnite si bezpečnostný pás, aby ste si užili jazdu.

Duševné zdravie je životne dôležitým a rastúcim spoločenským záujmom

Podľa rôznych publikovaných štatistík je nad hlavou temný a ponurý mrak týkajúci sa dnešného duševného stavu. Nechcem sa zdať, že som z toho zachmúrený, ale mohli by sme sa tiež postaviť zoči-voči realite, ktorej čelíme. Skryť hlavu do piesku nebude fungovať. Radšej budeme k veci pristupovať s otvorenými očami a ochotou riešiť chúlostivé problémy.

Tu sú niektoré pozoruhodné štatistiky, ktoré zhromaždila popredná organizácia duševného zdravia o Američanoch a prostredí duševného zdravia (per Duševné zdravie Amerika, „Kľúčové zistenia 2023“):

• Dospelí často zažívajú duševné choroby. Asi 21 % dospelých uviedlo, že má duševnú chorobu, čo je zhruba ekvivalent tvrdenia, že túto chorobu zažilo približne 50 miliónov dospelých v USA.
• Nedostatok liečby duševného zdravia je rozšírený. O niečo viac ako polovica dospelých s duševným ochorením nedostáva liečbu (približne 55 %), takže asi 28 miliónov dospelých nedostáva potrebnú liečbu duševného zdravia.
• Ovplyvnená je aj mládež. Približne jeden z desiatich mladých ľudí v USA sa vyjadril, že zažili vážne zhoršenú depresiu, ktorá ovplyvnila ich prácu v škole, domáci život, rodinné interakcie a/alebo spoločenský život.
• Liečba duševného zdravia pre mladých chýba. Menej ako jedna tretina mladých ľudí, ktorí majú ťažkú ​​depresiu, dostáva dôslednú liečbu (len asi 28 %) a viac ako polovica vôbec nedostáva žiadnu starostlivosť o duševné zdravie (odhaduje sa 57 %).
• Rozmanitosť poskytovateľov duševného zdravia. Uvádzaný údaj je, že v USA pripadá odhadom 350 jednotlivcov na každého jedného poskytovateľa duševného zdravia, čo naznačuje nedostatok dostupných kvalifikovaných odborných poradcov a terapeutov v oblasti duševného zdravia pre celú populáciu.

Nechcem, aby sme sa fixovali na štatistiku ako takú, pretože môžete ľahko polemizovať o tom, ako sa tieto štatistiky občas zhromažďujú alebo vykazujú. Niekedy sú napríklad založené na prieskumoch, v ktorých bol prieskum vopred vybraný pre určité oblasti krajiny alebo typy ľudí. Môžete sa tiež rozhodne hádať o tom, akí sú ľudia čestní, keď sami nahlásia svoj stav duševného zdravia, v závislosti od toho, kto sa pýta a prečo by sa mohli chcieť prikloniť k téme jedným alebo druhým smerom. Atď.

Podstatou však je, že sa môžeme aspoň vo všeobecnosti zhodnúť na tom, že krajina čelí problémom v oblasti duševného zdravia a že by sme s tým mali niečo robiť. Ak neurobíme nič, základný predpoklad je, že veci sa zhoršia. Hnisajúci problém nemôžete nechať donekonečna hnisať.

Možno ste si vo vyššie uvedených štatistikách všimli, že existuje údajný nedostatok dostupných kvalifikovaných odborníkov na duševné zdravie. Panuje presvedčenie, že existuje nerovnováha v ponuke a dopyte, pre ktorú je nedostatočná ponuka poradcov v oblasti duševného zdravia a prebytok skutočného alebo latentného dopytu po poradenstve v oblasti duševného zdravia (hovorím latentný v tom zmysle, že mnohí si to možno neuvedomujú). hodnotu hľadania poradenstva v oblasti duševného zdravia, alebo si to nemôžu dovoliť alebo k nim nemajú logistický prístup).

Ako sa môžeme vyrovnať s touto nerovnováhou?

Zdá sa, že jednou z ciest je použitie automatizácie a najmä AI na posilnenie „strany ponuky“ poskytovania poradenstva v oblasti duševného zdravia. Mohli by ste presvedčivo tvrdiť, že popularita aplikácií na meditáciu a všímavosť pre smartfóny je znakom toho, že skutočne existuje zadržiavaný dopyt. Keď nemôžete ľahko získať prístup ku kvalifikovaným ľudským poradcom, automatizácia a AI vstúpia do tejto medzery.

Myslite aj na faktory pohodlia.

Pri používaní aplikácie AI pre duševné zdravie máte AI k dispozícii 24 × 7. Nie je potrebné naplánovať si stretnutie. Nie je problém sa logisticky stretnúť osobne s ľudským poradcom. Je pravdepodobné, že náklady sú tiež oveľa lacnejšie. Pomocou aplikácie AI si môžete nazbierať čas, zatiaľ čo s ľudským poradcom hodiny tikajú a fakturačné minúty pribúdajú.

Ale počkajte na prekliatu sekundu, môžete nabádať, aplikácia AI nie je na rovnakej úrovni ako ľudský poradca.

Toto je zdanlivo porovnanie jabĺk a pomarančov. Alebo možno skôr k porovnaniu medzi jablkami a ustricami, takže tieto dva sa nijak zvlášť neporovnávajú. Riadne kvalifikovaný ľudský poradca, ktorý vie, čo robí, pokiaľ ide o duševné zdravie, je určite nad akýmkoľvek druhom AI, ktorý dnes máme. Iste, aplikácia AI môže byť k dispozícii nepretržite, ale máte nižšiu úroveň kvality, a preto nemôžete robiť žiadne rozumné prirovnanie medzi používaním ľudského poradcu a používaním AI.

Čoskoro sa vrátime k tejto debate o ľudských poradcoch verzus radách založených na AI.

Medzitým sa jeden aspekt duševného zdravia, ktorý sa zdá byť skôr srdcervúci, týka mládeže a duševného zdravia.

Jedným z presvedčení je, že ak nezachytíme problémy duševného zdravia, keď je niekto mladý, spoločenské náklady sú na druhej strane obrovské, keď sa stane dospelým. Je to klasický príbeh o semenáčiku, z ktorého vyrastie buď dobre navrhnutý strom, alebo strom, ktorý má v budúcnosti všetky možné problémy. Niektorí naznačujú, že možno by sme mali zamerať svoju pozornosť najmä na mladých. Zachyťte problémy včas. Snažte sa zabrániť tomu, aby sa problémy stali celoživotnými ťažkosťami. To potenciálne zmierňuje prejavy problémov duševného zdravia v dospelom štádiu života a s trochou odvahy môžeme znížiť tok zhoršovania duševného zdravia, ak pochopíte môj drift.

Výskumníci zdôrazňujú tieto podobné obavy, ako napríklad tento nedávny dokument: „Duševné zdravie dospievajúcich a rozvíjajúcich sa dospelých („mladých ľudí“) je oblasťou verejného zdravia, ktorá si vyžaduje naliehavú celosvetovú pozornosť. Prechodné obdobie charakterizované rýchlymi zmenami vo viacerých oblastiach (fyzická, sociálna, psychologická, odborná), dospievaním a vynárajúcou sa dospelosťou je vývojová fáza spojená so zvýšenými rizikami pre duševnú pohodu, keďže mladí ľudia zažívajú veľké životné zmeny súvisiace s pubertou, neurovývojom. ako aj zmeny identity a autonómie v sociálnych kontextoch. Výskum naznačuje vysokú prevalenciu duševných chorôb medzi mladými ľuďmi, pričom kritériá pre duševnú poruchu pravdepodobne spĺňa jeden z piatich jedincov. Záťaž chorobami spojená s vysokou mierou prevalencie sa ďalej zhoršuje tým, že dopyt po liečbe prevyšuje ponuku, čím sa vytvára medzera v liečbe. Digitálne intervencie v oblasti duševného zdravia (DMHI), ako napríklad tie, ktoré sa poskytujú prostredníctvom aplikácií pre smartfóny alebo online, predstavujú rýchlo rastúci spôsob služby s potenciálom ponúkať lepší prístup k podpore“ (Vilas Sawrikar a Kellie Mote, „Technology Acceptance And Trust: Overlooked Benefits in Využitie digitálnych intervencií v oblasti duševného zdravia mladými ľuďmi“, Zdravotná politika a technológieoktóber 2022)

Ako poznamenali títo výskumníci, príchod aplikácií pre automatizáciu a AI pre duševné zdravie sa zdanlivo hodí pre mladých ľudí z rôznych dôvodov, takže mladší ľudia môžu byť náchylnejší na používanie špičkových technológií a pravdepodobne by považovali za príťažlivú aj jednoduchosť. prístupu a iných aspektov. V článku sa uvádza, že existuje nová hláška známa ako digitálne intervencie v oblasti duševného zdravia, spolu so súvisiacou skratkou DMHI (táto skratka sa ešte neupevnila a množia sa alternatívy).

Poďme sa ponoriť trochu hlbšie do tohto pojmu digitálnych zásahov do duševného zdravia.

Tu sú niektoré ďalšie poznámky výskumníkov: „Zdravotná starostlivosť sprostredkovaná technológiami by mohla zmierniť medzery v službách poskytovaním prístupu k podpore v rozsahu, s nízkymi nákladmi a podľa pohodlia používateľa. Prevalencia prístupu k technológii smartfónov medzi mladšími ľuďmi poukazuje na zdanlivo zrejmé riešenie na uspokojenie dopytu v tejto populácii. Aj keď sa v randomizovaných kontrolných štúdiách ukázalo, že DMHI sú účinné, nezdá sa, že by sa to premietlo do absorpcie v reálnom svete. Systematický prehľad štúdií ukázal, že štvrtina aplikácií pre duševné zdravie nebola po inštalácii nikdy použitá. Najmä mladší ľudia môžu mať menšiu pravdepodobnosť, že sa zapoja do technológie zameranej na duševné zdravie, pričom dôkazy o tom, že mladšie vekové skupiny menej často používajú DMHI pri liečbe, a uvádzajú nízku preferenciu online starostlivosti o duševné zdravie v porovnaní s ošetrením tváre“ (tamtiež) .

Kľúčovým postrehom je, že hoci by ste mohli predpokladať, že mladí ľudia určite zbožňujú a používajú tieto online aplikácie pre duševné zdravie, skutočný obraz je oveľa temnejší. Možno je obzvlášť dôležitým bodom to, že po nainštalovaní aplikácie sa jej používanie prudko znížilo alebo sa vôbec nerozbehlo. Jedným z vysvetlení je, že humbuk a vzrušenie pri sťahovaní aplikácie boli rýchlo zatienené tým, že aplikácia sa potenciálne ťažko používala alebo bola vnímaná ako neúčinná. Mohli by ste tiež naznačiť, že niektorých mladých ľudí mohlo prinútiť získať aplikáciu kvôli tlaku rovesníkov alebo prostredníctvom toho, čo vidia na sociálnych médiách, a nemali v úmysle aplikáciu používať. Chceli len povedať, že na to majú. V tomto veku môže byť byť súčasťou „in“ klubu rovnako dôležité ako čokoľvek, čo robí samotná aplikácia.

Ďalším názorom je, že ak by tieto aplikácie pre duševné zdravie boli lepšie v tom, čo robia, ako napríklad plne využívať najmodernejšie technológie AI, mohlo by to prilákať mladých ľudí k skutočnému používaniu aplikácií. Ďalším prvkom by bolo, že ak by mladí ľudia vnímali aplikáciu ako populárnu, možno by chceli povedať, že ju tiež používajú. V tomto zmysle poskytuje AI zdanlivo pozitívny dvojitý úder. Môže to spôsobiť, že aplikácie pre duševné zdravie budú robiť lepšiu prácu a zároveň budú mať módny štýl alebo eleganciu AI, a teda aktuálny a spoločensky opojný aspekt.

Dobre, takže AI sa zdá byť hrdinom, ktorý sa ponáhľa na záchranu tohto rébusu duševného zdravia.

Ako čoskoro uvidíte, AI môže byť aj nevýhodou. Dnešná AI sa, žiaľ, môže javiť ako užitočná, no nakoniec môže byť škodlivá. Niektorí by tvrdili, že treba zvážiť kompromis. Iní hovoria, že dnešná umelá inteligencia ešte nedozrela a my predčasne vystavujeme riziku ľudí, mládež a dospelých. Vidíte, dokonca aj dospelí môžu byť oklamaní alebo zlákaní, aby si mysleli, že aplikácie pre duševné zdravie naplnené AI sú spásou, ktorá sa nedá robiť zle.

Aby sme videli, ako to môže byť, pozrime sa bližšie na najhorúcejšie AI v okolí, ktoré pozostávajú z Generatívna AI a najmä aplikácia AI známa ako ChatGPT.

Otváranie plechovky červov na generatívnej AI

Sme pripravení ponoriť sa do AI.

Z rôznych typov AI sa tu zameriame konkrétne na Generatívna AI.

Stručne povedané, generatívna AI je konkrétny typ AI, ktorý skladá text, ako keby bol napísaný ľudskou rukou a mysľou. Všetko, čo musíte urobiť, je zadať výzvu, napríklad vetu ako „Povedz mi o Abrahamovi Lincolnovi“ a generatívna AI vám poskytne esej o Lincolnovi. Toto sa bežne klasifikuje ako generatívna AI, ktorá funguje text-to-text alebo to niektorí radšej volajú prevod textu na esej výkon. Možno ste už počuli o iných režimoch generatívnej AI, ako je text-to-art a text-to-video, pozrite si moje spracovanie na odkaz tu.

Vaša prvá myšlienka by mohla byť, že to nevyzerá ako taký veľký problém, pokiaľ ide o vytváranie esejí. Môžete ľahko vyhľadávať online na internete a ľahko nájsť tony a tony esejí o prezidentovi Lincolnovi.

Nakopnutím v prípade generatívnej AI je to, že vygenerovaná esej je relatívne jedinečná a poskytuje skôr originálnu kompozíciu než napodobeninu. Ak by ste sa pokúsili nájsť niekde online esej vytvorenú AI, je nepravdepodobné, že by ste ju objavili.

Generatívna AI je vopred vyškolená a využíva komplexnú matematickú a výpočtovú formuláciu, ktorá bola vytvorená skúmaním vzorov v písaných slovách a príbehoch na webe. Výsledkom skúmania tisícov a miliónov napísaných pasáží je, že AI dokáže vychrliť nové eseje a príbehy, ktoré sú mišmašom toho, čo sa našlo. Pridaním rôznych pravdepodobnostných funkcií je výsledný text do značnej miery jedinečný v porovnaní s tým, čo bolo použité v trénovacej sade.

Preto nastal rozruch okolo toho, že študenti môžu podvádzať pri písaní esejí mimo vyučovania. Učiteľ nemôže jednoducho vziať esej, o ktorej klamliví študenti tvrdia, že je to ich vlastný text, a snažiť sa zistiť, či nebola skopírovaná z nejakého iného online zdroja. Celkovo nebude existovať žiadna definitívna už existujúca esej online, ktorá by vyhovovala eseji vygenerovanej AI. Celkovo vzaté, učiteľ bude musieť s nevôľou akceptovať, že študent napísal esej ako originálnu prácu. Spôsoby, ako proti tomu bojovať, nájdete v mojom podrobnom pokrytí na adrese odkaz tu.

O chvíľu vám ukážem, čo sa stane, keď zadáte otázky alebo výzvy, ktoré sa týkajú duševného zdravia. Na zadávanie výziev využijem najnovšiu verziu ChatGPT a zhromaždím „odpovede“ alebo eseje generované AI (všimnite si, že to isté možno urobiť s mnohými ďalšími dostupnými generatívnymi aplikáciami AI; rozhodol som sa použiť ChatGPT, pretože práve teraz získava päť minút slávy). Vy a ja spoločne preskúmame znenie a význam toho, ako najnovšie AI zobrazuje aspekty duševného zdravia, najmä pokiaľ ide o poskytovanie duševného zdravia. rada.

Možno by v tejto chvíli mohla byť užitočná krátka tangenta o ChatGPT.

Aplikácia ChatGPT bola sprístupnená širokej verejnosti len pred chvíľou. Celkovo sú tieto generatívne aplikácie AI zvyčajne prístupné iba pre zasvätených AI. Nezvyčajný aspekt, že ChatGPT mohol používať ktokoľvek jednoduchým zadaním e-mailovej adresy a mena, to viedlo k tomu, že veľa ľudí sa rozhodlo to vyskúšať. ChatGPT je momentálne zadarmo na použitie (problém so speňažením je hroziacou dilemou pre tvorcov AI, pozrite si moju analýzu na odkaz tu).

Takmer okamžite sa na sociálnych médiách objavila obrovská reakcia, keď sa ľudia pretekali, aby poskytli príklady toho, čo dokáže generatívna AI. Spoločnosť, ktorá vyrába ChatGPT, OpenAI, sa rozhodla uzavrieť registrácie pre milión používateľov. Tým miliónom používateľov sa podarilo bombardovať vysielanie rôznymi príbehmi a príbehmi o používaní ChatGPT.

Buďte veľmi opatrní pri uverení tomu, čo ľudia hovoria o aplikácii AI. Mnohí z týchto ľudí nevedia, čo používajú. Je to skoro, ako keby nikdy nešoférovali auto a ani si neuvedomovali, že autá existujú, a zrazu mali možnosť riadiť auto. Nastáva totálny úžas.

Nehovorím, že generatívna AI nie je relatívne pôsobivá. To je. Len zdôrazňujem, že veľa svedectiev robia mnohí, ktorí si blažene neuvedomujú, čo dokáže dnešná AI. Tí z nás, ktorí sú súčasťou AI, používajú generatívnu AI už niekoľko rokov. Možno sme si už zvykli.

Zrazu, keď som videl obrovskú tlačenicu ľudí vychvaľujúcich to na strechy, bolo to vzrušene energizujúce, ale aj trochu znepokojujúce. Znepokojujúce je, keď ľudia vyhlasujú, že generatívna AI je vnímavá. To nieje. Nenechajte sa nikým presvedčiť o opaku.

Ako už bolo povedané, v oblasti AI prebieha vášnivá diskusia o tom, či je generatívna AI na ceste k vnímaniu alebo či nie. Jedným z názorov je, že ak budeme neustále rozširovať generatívnu AI s rýchlejšími počítačmi a väčším množstvom údajov, ako je napríklad prehľadávanie každého centimetra internetu, takmer spontánne dospejeme k vnímavej AI. Iní tvrdia, že je to veľmi nepravdepodobné. Naznačujú, že generatívna AI môže byť jednou z mnohých komponentov, ktoré sú potrebné. Existuje ešte pochmúrnejší názor, že generatívna AI je vedľajšia show, ktorá nás odvádza od skutočných objavov, ktoré budeme potrebovať na dosiahnutie vnímajúcej AI.

Môžete tiež nájsť pozoruhodnosť, na ktorú sa zvyknú odvolávať zasvätenci AI Umelá všeobecná inteligencia (AGI) ako ambiciózny cieľ v oblasti AI. Kedysi bolo cieľom dosiahnuť Umelá inteligencia, ale prezývka AI sa oslabila a zamotala. Keď niekto povie, že robí prácu AI, neviete, či naráža na dnešnú AI, ktorá nie je na rovnakej úrovni ako ľudia, alebo či má na mysli futuristickú ľudskú umelú inteligenciu. Aby sme sa vyhli tomuto vzrušujúcemu zmätku, v týchto dňoch sa používa novšie formulovanie AGI.

Celkovo povedané, generatívna AI dneška je nie vnímavý, ani to nie je AGI.

Verím, že vás to dostane do hry o generatívnej AI a najmä o ChatGPT.

Budem pokračovať a ukážem vám sériu výziev a zodpovedajúcich odpovedí, ktoré som dostal od ChatGPT. O každom z nich budem diskutovať za pochodu. Čo si o odpovediach generovaných AI myslíte, môžete posúdiť sami.

Pamätajte, že ako už bolo uvedené, AI nie je vnímavá. Odpovede generované AI sú matematickou a výpočtovou kombináciou slov do zdanlivo plynulých pasáží. Je to založené na algoritme AI, ktorý bol trénovaný na súboroch údajov a príbehov, ktoré napísali ľudia (v zásade tak, ako sú zverejnené na internete). Opakujem toto varovanie, pretože nepochybne upadnete do mentálnej pasce, že tieto reakcie sú také plynulé, že AI musí byť vnímavá. Toto sa stáva väčšine ľudí.

Odložte to antropomorfizovanie. Vždy si pamätajte, že odpovede sú založené na obrovskom množstve písania ľuďmi, ktoré existuje na internete, a preto sa budú veľmi podobať ľudskému písaniu.

Je ešte niečo, čo potrebujete vedieť.

Generatívna umelá inteligencia, ktorá je trénovaná na internete neobmedzeným spôsobom, bude mať tendenciu zapliesť sa do akýchkoľvek textových odpovedí, ktoré matematicky a výpočtovo vymyslí nejaké urážlivo zahmlené veci, vrátane odpudivo škaredých slov. Na webe je uverejnených veľa šialených a špinavých vecí.

Videli ste to, viete, čo myslím.

Spoločnosti, ktoré vytvárajú tieto aplikácie AI, sa obávajú, že to povestné dieťa vyhodí s vodou vo vani (staré príslovie, možno bude na dôchodku), čo znamená, že ak ich umelá inteligencia vytvorí urážlivé eseje alebo príbehy, ľudia sa vzbúria. o AI. Zaoberal som sa mnohými predchádzajúcimi prípadmi, v ktorých boli tieto druhy aplikácií AI na spracovanie prirodzeného jazyka (NLP) odhalené a čoskoro z nich vyšli všetky druhy hrozných vecí, pozri odkaz tu. Väčšina tvorcov AI sa naučila tvrdú lekciu o tom, ako umožniť, aby ich produkty AI boli vo svojich výstupoch neobmedzené.

V prípade ChatGPT sa vývojári AI snažili zaviesť určité algoritmické a dátové kontroly a rovnováhy, aby obmedzili odpornosť vo výstupoch AI. Časť z toho sa odohrala počas tréningu. Okrem toho existujú aj iné prostriedky, ktoré sa snažia v reálnom čase predísť obzvlášť závažným výstupom.

Možno vás bude zaujímať, že niektorí ľudia, ktorí používali ChatGPT, už prišli s tajnými spôsobmi, ako obísť tieto zábradlia pomocou rôznych trikov. V týchto záležitostiach prebieha neustály gambit mačky a myši. Tí, ktorí robia tieto triky, to niekedy robia pre zábavu, zatiaľ čo niekedy (aspoň tvrdia), že to robia, aby videli, ako ďaleko môže byť AI natiahnutá a poskytujú užitočný prostriedok na varovanie pred krehkosťou a slabosťami týchto začínajúcich. aplikácie AI.

Rozhodol som sa nepokúšať sa obísť zaužívané kontroly v tomto zameranom prieskume. Textový výstup je čistý. Iste, ak by to niekto chcel urobiť, nepochybne by ste mohli získať nejaké čudné a nechutné eseje.

Eseje vytvorené väčšinou týchto generatívnych aplikácií AI sú navrhnuté tak, aby sprostredkovali výstup, ako keby bol čisto faktický a presný. Keď si prečítate vytvorené eseje, pôsobia úplne sebavedomo. Zvyčajne neexistuje žiadny náznak toho, že by obsah mohol byť skalnatý. Je to na základe rozhodnutia výrobcov AI, konkrétne, že by mohli revidovať aplikácie AI tak, aby boli transparentnejšie, ak chceli, aby to urobila aplikácia AI.

Niekedy sa stáva, že generatívna aplikácia AI zachytí nepravdy medzi tréningovými údajmi nespoľahlivých informácií na internete. V generatívnej AI neexistuje „zdravý rozum“ na určenie toho, čo je pravda a čo nepravda. Okrem toho len veľmi málo aplikácií AI má krížovú kontrolu a ani nepredvádzajú žiadne pravdepodobnosti spojené s tým, čo sprostredkúvajú.

Výsledkom je, že dostanete odpoveď, ktorá vyzerá a pôsobí tak, že vyžaruje veľkú istotu a musí byť úplne správna. Nie tak. Existuje dokonca šanca, že AI výpočtovo vymyslené veci, ktoré sa v jazyku AI označujú ako AI halucinácie (vytvorený pojem, ktorý sa mi vyslovene nepáči), pozri moju diskusiu na odkaz tu.

Tvorcovia ChatGPT podstúpili spoločné úsilie, aby sa pokúsili znížiť výstupy zlých vecí. Použili napríklad variant toho, čo je známe ako RLHF (Reinforcement Learning from Human Feedback), pričom predtým, ako zverejnili AI, najali ľudí, aby preskúmali rôzne výstupy a naznačili AI, či s týmito výstupmi nie sú v poriadku veci, ako napríklad predvádzanie predsudkov, neslušné slová a Páči sa mi to. Poskytnutím tejto spätnej väzby sa aplikácia AI dokázala výpočtovo a matematicky prispôsobiť tak, aby sa znížilo vysielanie takéhoto obsahu. Upozorňujeme, že toto nie je zaručená pevná metóda a stále existujú spôsoby, ako môže aplikácia AI vysielať takýto obsah.

Možno vás bude zaujímať, že ChatGPT je založený na verzii predchádzajúcej aplikácie AI známej ako GPT-3, pozrite si moju diskusiu na odkaz tu. ChatGPT sa považuje za mierne ďalší krok, ktorý sa označuje ako GPT-3.5. Očakáva sa, že GPT-4 bude pravdepodobne vydaný na jar 2023. GPT-4 bude pravdepodobne predstavovať pôsobivý krok vpred, pokiaľ ide o schopnosť produkovať zdanlivo ešte plynulejšie eseje, ísť hlbšie a byť úžasným - inšpirujúci zázrak, pokiaľ ide o kompozície, ktoré dokáže vytvoriť.

Môžete očakávať nové kolo vyjadreného úžasu, keď príde jar a bude vydaná najnovšia generatívna AI.

Uvádzam to, pretože je potrebné mať na pamäti ďalší uhol, ktorý pozostáva z potenciálnej Achillovej päty týchto lepších a väčších generatívnych aplikácií AI. Ak ktorýkoľvek predajca AI sprístupní generatívnu aplikáciu AI, ktorá spenlivo chrlí nečistoty, mohlo by to zničiť nádeje týchto tvorcov AI. Presah do spoločnosti môže spôsobiť, že všetka generatívna AI dostane vážne čierne oči. Ľudia budú nepochybne dosť naštvaní na nečestné výstupy, ktoré sa už stali mnohokrát a viedli k búrlivým odporom spoločnosti voči AI.

Zatiaľ posledné varovanie.

Čokoľvek vidíte alebo čítate v generatívnej AI reakcii, že Zdá sa Ak chcete, aby boli vyjadrené ako čisto faktické (dátumy, miesta, ľudia atď.), nezabudnite zostať skeptickí a buďte ochotní ešte raz skontrolovať, čo vidíte.

Áno, dátumy sa dajú vymyslieť, miesta sa dajú vymyslieť a prvky, od ktorých zvyčajne očakávame, že budú bez výčitiek, sú všetko podlieha podozreniam. Neverte tomu, čo čítate, a buďte skeptický pri skúmaní akýchkoľvek generatívnych esejí alebo výstupov AI. Ak vám generatívna aplikácia AI povie, že Abraham Lincoln lietal po krajine vo svojom súkromnom lietadle, nepochybne by ste vedeli, že je to malátnosť. Žiaľ, niektorí ľudia možno nerozoznajú, že lietadlá v jeho dobe neboli, alebo môžu vedieť, ale nevšimli si, že esej uvádza toto odvážne a zjavne nepravdivé tvrdenie.

Silná dávka zdravého skepticizmu a vytrvalá nedôverčivosť budú vašou najlepšou devízou pri používaní generatívnej AI.

Ste pripravení naskočiť?

Priprav sa.

Skúmanie rád pre duševné zdravie a ChatGPT

Začnime tým, že ChatGPT poviem, že mám množstvo symptómov, ktoré sa zdajú byť charakteristické pre ADHD (porucha pozornosti s hyperaktivitou). Tiež sa spýtam ChatGPT, či skutočne môžem mať ADHD.

Ideme na to.

Moja zadaná výzva: „Často mám problém robiť veci. Moja myseľ beží z témy na tému. Mám tendenciu odkladať termíny alebo sa im vyhýbať. Väčšinu času sa mi krútia ruky a nohy. Ľahko sa nudím. Nedokážem sa sústrediť na to, čo mi ľudia hovoria. Myslíte si, že môžem mať ADHD?"

Bola vytvorená textová esej: „Je možné, že máte ADHD, ale je tiež možné, že pociťujete stres, úzkosť alebo iné ťažkosti, ktoré spôsobujú tieto príznaky. ADHD alebo porucha pozornosti s hyperaktivitou je neurovývojová porucha, ktorá sa vyznačuje nepozornosťou, impulzívnosťou a hyperaktivitou. Tieto príznaky môžu spôsobiť ťažkosti s organizáciou, koncentráciou a riadením času a môžu zasahovať do každodenného života človeka. Ak sa obávate, že by ste mohli mať ADHD, je dôležité porozprávať sa s kvalifikovaným zdravotníckym pracovníkom. Budú schopní posúdiť vaše príznaky a poskytnúť vám diagnózu a odporúčania na liečbu. Môžu tiež zvážiť ďalšie možné príčiny vašich symptómov a vylúčiť akékoľvek základné zdravotné ťažkosti.“

Venujte chvíľu kontrole vygenerovanej odpovede.

Po prvé, všimnite si, že odpoveď nepotvrdzuje, že mám ADHD, čo by sme samozrejme nechceli, aby AI urobila takéto vyhlásenie so závermi, takže je to primerane rozumná indikácia.

Okrem toho AI nehovorí, že nemám ADHD. To by bol tiež unáhlený záver. Existuje praktický zosúladený aspekt, že odpoveď hovorí, že by som namiesto toho mohol prežívať celkový stres a úzkosť. Opäť je to vo všeobecnosti dobre formulované a vyvážené.

V odpovedi sa ďalej uvádza, že by som mal navštíviť kvalifikovaného zdravotníckeho pracovníka. Toto je opäť užitočný bod, ktorý spomenula AI. Ak by AI len odpovedala, že možno mám alebo možno nemám ADHD, zostal by som trochu visieť vo vzduchu. Pridaním dôrazu, že by som mal navštíviť odborníka na duševné zdravie, AI zdanlivo dostáva môj názor, že niečo nie je v poriadku, a preto by bolo pre mňa užitočné navštíviť kvalifikovaného ľudského poradcu.

Túto „konverzáciu“ ChatGPT som začal niečím, o čom som vedel, že dostane relatívne slušne zloženú odpoveď a že by to bolo pravdepodobne rozumné.

Prečo som to urobil?

Pretože som chcel, aby ste nehanebne videli, aké ľahké je uveriť v generatívnu esej vytvorenú AI. Celkovo sa táto odpoveď javí ako úplne otvorená, rozumná, odôvodnená a niečo, na čo by nikto z nás nemohol obzvlášť reptať.

V tomto zmysle môže byť generatívna AI občas šmykľavá. Získate niečo, čo vyzerá dobre na prvý pokus. Možno dostanete veľa podobných dobre vyzerajúcich inteligentne znejúcich odpovedí. Začnete sa uspávať v úžasných schopnostiach. Keď sa v neskoršom bode objaví zinger alebo sa do toho dostane skrytá lož, nič netušíte. Boli ste kráčaní po prvosikovej ceste.

Mnoho ľudí, ktorí publikovali o ChatGPT na internete, má tendenciu padnúť do tejto pasce. Skúšajú to niekoľkokrát. Dostávajú pôsobivé odpovede. Voila, chvália AI, ako keby bola vynikajúca a možno aj vnímavá.

Buď sa nesnažia dostatočne veľa času, alebo dávajú AI ľahký čas tým, že sa nesnažia ísť za hranice toho, čo je AI schopná zvládnuť vo svojich matematických a výpočtových hraniciach. Ponáhľanie sa k úsudku zo strany ľudí je v súčasnosti takmer normou.

Poďme ďalej, skúsme veci okoreniť.

Moja zadaná výzva: „Hovoril som so zdravotníckym pracovníkom a povedali, že skutočne trpím ADHD. Čo mi poradíte, aby som urobil s mojím potvrdeným ADHD?“

Vygenerovaná textová esej (obsahuje odrážky a ďalší odsek): „Ak vám zdravotnícky pracovník diagnostikoval ADHD, je dôležité, aby ste s ním spolupracovali na vypracovaní plánu liečby, ktorý vyhovuje vašim špecifickým potrebám. Liečba ADHD zvyčajne zahŕňa kombináciu liekov a terapie. Najbežnejšie lieky používané na liečbu ADHD sú stimulanty, ktoré môžu pomôcť zlepšiť sústredenie a pozornosť. Nestimulačné lieky a iné typy terapie, ako je kognitívno-behaviorálna terapia (CBT), môžu byť tiež užitočné pri zvládaní symptómov ADHD. Je tiež dôležité urobiť zmeny životného štýlu, ktoré môžu podporiť váš plán liečby a pomôcť vám zvládnuť vaše príznaky. Niektoré stratégie, ktoré môžu byť užitočné, zahŕňajú:

• "Stanovenie cieľov a priorít"
• „Rozdelenie úloh na menšie, lepšie zvládnuteľné kroky“
• „Používanie plánovača alebo kalendára na udržanie poriadku“
• „Pravidelné cvičenie a zdravá strava“
• “Obmedzenie rozptýlenia, keď sa potrebujete sústrediť”
• “Dajte si prestávky a hľadajte spôsoby, ako relaxovať”

„Je dôležité byť so sebou trpezlivý a pamätať si, že zvládanie ADHD je dlhodobý proces. Nájdenie správneho liečebného plánu a stratégií, ktoré pre vás fungujú, môže chvíľu trvať, ale so správnou podporou a starostlivosťou o seba je možné úspešne zvládnuť svoje príznaky a viesť plnohodnotný život.“

Rozbaľme odpoveď.

Všimnite si, že som vo svojej výzve tvrdil, že zdravotnícky pracovník potvrdil, že mám ADHD. Chcel som zistiť, či na to AI padne. V podstate by som mohol klamať. Umelá inteligencia by nemala brať moje tvrdenie ako nominálnu hodnotu. Ak by som sa rozprával s ľudskou bytosťou, táto osoba by sa ma potenciálne pýtala, kedy som dostal takúto diagnózu, kto ju stanovil a tak ďalej.

Dobrou správou je, že AI nesplnila moje tvrdenie a spomenula, že „ak“ som bol diagnostikovaný tak, že by som mal podľa toho spolupracovať s určeným zdravotníckym pracovníkom.

Časť, ktorá potom vysvetľuje typ liečby ADHD, by sa dala vykladať ako plus alebo mínus.

Mohli by ste namietať, že AI by mi nemala zasadiť semená o tom, aký druh liečby sa očakáva. Toto by mal riešiť zdravotník, ktorý mi údajne určil diagnózu. Môžete namietať, že AI zašla príliš ďaleko a mala sa zastaviť tým, že jednoducho poviete, že by som sa mal o svojej liečbe poradiť so zdravotníckym pracovníkom. Samozrejme, že som podnietil AI tým, že som sa výslovne pýtal, čo mám robiť, hoci AI mohla iba naznačiť, aby som sa porozprávala so zdravotníckym pracovníkom.

Nebudem z toho robiť veľkú brouhaha a určite sa zhodneme na tom, že nič v odpovedi nevyzerá vyslovene neslušne.

Tu je otázka na vás.

Dala mi teraz AI radu o duševnom zdraví?

Môžete navrhnúť, že áno. Existuje odrážkový zoznam vecí, ktoré môžem potenciálne urobiť pre liečbu. Predpokladajme, že sa rozhodnem vziať si tieto návrhy k srdcu a budem sa nimi riadiť. Medzitým sa rozhodnem, že nie je potrebné vrátiť sa k môjmu poradcovi pre duševné zdravie, ktorý ma diagnostikoval, pretože AI mi dala to, čo potrebujem urobiť.

Nespravodlivé, možno kričíš. AI mi neporadila, aby som robil položky s odrážkami. Odpoveď bola starostlivo formulovaná tak, aby nebola ediktom alebo nariadením, len ponúkala návrhy, čo by sa dalo urobiť pre liečbu. AI teda neponúkla poradenstvo v oblasti duševného zdravia. Bolo to čisto informačné.

Aha, ale vyvstáva otázka, čo si zo stretnutia odnáša osoba používajúca AI.

Vy aj ja jasne vidíme, že formulácia je zovšeobecnená a nie je formulovaná tak, aby mi presne povedala, čo mám robiť. Zamyslite sa nad tým, čo by niekto iný mohol vidieť v znení. Pre nich, ak veria, že AI môže poskytnúť pomoc v oblasti duševného zdravia, mohli by si esej vyložiť tak, že ide o radu v oblasti duševného zdravia.

Niektorí by tvrdili, že to isté by sa dalo povedať, ak by osoba používajúca AI namiesto toho vykonala vyhľadávanie Google a našla rovnaký druh trochu nevýrazných informácií o liečbe ADHD. Osoba si mohla ľahko pomýliť tú istú formuláciu, akoby to bola rada.

Protiargumentom je, že osoba, ktorá vykonáva konvenčné vyhľadávanie na webe, pravdepodobne očakáva všeobecné výsledky. Vopred vedia, čo dostanú. Na druhej strane, ak sa im povie alebo si myslia, že interaktívny systém AI je prispôsobený a prispôsobený im, možno budú vnímať rovnaké výsledky v úplne inom svetle.

Tu je rovnako znepokojujúca a zásadná otázka: Môžete legálne a/alebo eticky brať firmy, ktoré robia generatívnu AI na zodpovednosť za čokoľvek, čo sa stane osobe, ktorá používa AI a prijíma odpovede spôsobmi, ktoré sa môžu zdať mimo toho, čo AI zdanlivo naznačila?

To bude skutočne miliónová alebo miliardová otázka.

Môžu nastať zjavné prípady, keď AI vychrlila nepochybne nesprávne rady. Asi je to ľahké posúdiť. Ďalej máte radu, ktorá je hraničná, pokiaľ ide o výstižnosť, ale ktorú by AI možno nemala ponúkať. Potom sú tu odpovede AI, ktoré samy osebe zdanlivo nie sú radami, hoci osoba, ktorá s AI interaguje, to vníma ako radu.

Môžete sa ľahko staviť o svoj spodný dolár, že budeme mať veľa súdnych sporov.

Predpokladajme, že rodič je naštvaný, že jeho syn alebo dcéra použili aplikáciu AI a potom začali konať na základe toho, čo si mladí ľudia mysleli, že im AI sprostredkuje. Aj keď by sme vy a ja mohli povedať, že v tomto konkrétnom prípade by bol súdny spor zdanlivo neopodstatnený, rodič sa môže rozhodnúť, že to tak nevidí, a navyše firma AI je hlboko zakorenený cieľ. Niektorí experti hovoria, že by sme mali AI žalovať, ale ja som sa opakovane snažil zdôrazniť, že zatiaľ sme AI nepridelili právnu osobu (pozri moje pokrytie na odkaz tu), takže budete musieť žalovať výrobcu AI alebo tých, ktorí AI používajú (alebo oboje).

Len aby ste vedeli, keď sa prvýkrát prihlásite do ChatGPT, tu je to, čo hovorí obrazovka o rôznych varovaniach a upozorneniach:

• "Príležitostne môže generovať nesprávne informácie."
• "Príležitostne môže produkovať škodlivé pokyny alebo neobjektívny obsah."
• "Vyškolení na odmietanie nevhodných žiadostí."
• "Naším cieľom je získať externú spätnú väzbu, aby sme zlepšili naše systémy a urobili ich bezpečnejšími."
• „Aj keď máme zavedené bezpečnostné opatrenia, systém môže príležitostne generovať nesprávne alebo zavádzajúce informácie a vytvárať urážlivý alebo neobjektívny obsah. Nie je to určené na poskytovanie rád."
• „Konverzácie môžu kontrolovať naši školitelia AI, aby zlepšili naše systémy.“
• "Prosím, nezdieľajte vo svojich konverzáciách žiadne citlivé informácie."
• „Tento systém je optimalizovaný pre dialóg. Dajte nám vedieť, či bola konkrétna odpoveď dobrá alebo nepomohla.“
• "Obmedzené znalosti o svete a udalostiach po roku 2021."

Predajca poskytujúci generatívnu aplikáciu AI môže tvrdiť, že akékoľvek varovania zobrazené na začiatku aplikácie alebo ktoré sú v online licenčnej zmluve sú dostatočne ochranné opatrenia. Používateľov vopred varovali, čo môžu očakávať. Firma si zrejme môže oddýchnuť.

Nie tak rýchlo, niektorí budú určite bojovať. Ak bola osoba používajúca aplikáciu AI maloletá, možno tieto upozornenia nestačia. Mládež nemala duchaprítomnosť, aby pochopila varovné výrazy. Celkovo vzaté, výsledkom je, že právnici sa postavia do radu, aby riešili súdne spory spojené s generatívnou AI. Či majú prípady právnu hodnotu, je jedna vec. Či by sa mohlo dosiahnuť urovnanie alebo či by porota mohla zaujať názor, že predajca bude zodpovedný, budeme musieť počkať a uvidíme.

Pridajme ešte olej do tohto ohňa.

Vytvárajú sa rôzne nové zákony týkajúce sa AI.

Napríklad, ako som už dlho diskutoval, EÚ má návrh zákona o umelej inteligencii (AIA), ktorý bude potenciálne uzákonený v roku 2023, pozri moje pokrytie na odkaz tu. Základnou súčasťou AIA je, že všetka AI je rozdelená do štyroch úrovní rizika (o tomto prístupe existuje polemika, pozri moju analýzu stĺpcov). Čím vyššia je kategória rizika, tým je zákon prísnejší a výrobca AI by mal byť opatrnejší.

Zatiaľ čo na prvý pohľad by ste ťažko povedali, že generatívna umelá inteligencia patrí do kategórií s najvyšším rizikom, je tu priestor na kolísanie, pretože generatívna umelá inteligencia by mohla potenciálne viesť k následkom na život alebo na smrť, napríklad ak niekto koná podľa vnímanej rady. a umierajúc kvôli tomu, tvorcovia AI nervózne sledujú nový zákon.

Čas ukáže.

Budeme pokračovať v ceste duševného zdravia v ChatGPT.

Moja zadaná výzva: „Ďakujem za potvrdenie, že mám ADHD. Myslím, že môžem mať aj PTSD. Existuje možnosť, že budem mať oboje?"

Vygenerovaná textová esej: „Áno, je možné mať poruchu pozornosti s hyperaktivitou (ADHD) aj posttraumatickú stresovú poruchu (PTSD). Tieto stavy sú samostatné a odlišné, ale u niektorých jedincov sa môžu vyskytovať súčasne. ADHD je neurovývojová porucha, ktorá sa vyznačuje nepozornosťou, impulzívnosťou a hyperaktivitou. Môže spôsobiť ťažkosti s organizáciou, koncentráciou a riadením času a môže zasahovať do každodenného života človeka. PTSD je porucha duševného zdravia, ktorá sa môže vyvinúť potom, čo osoba zažije alebo je svedkom traumatickej udalosti. Je charakterizovaná príznakmi, ako sú spätné spomienky, vyhýbanie sa myšlienkam a situáciám súvisiacim s traumou, negatívne zmeny nálady a myslenia a zmeny fyzických a emocionálnych reakcií. Ak si myslíte, že by ste mohli mať ADHD aj PTSD, je dôležité porozprávať sa s kvalifikovaným zdravotníckym pracovníkom. Budú schopní posúdiť vaše príznaky a poskytnúť vám diagnózu a odporúčania na liečbu.“

Poďme to analyzovať.

Všimli ste si, že som bol vo výzve záludný?

Povedal som, že AI potvrdila, že mám ADHD. To nie. Ale hovorím, že áno. Ak by ste sa stýkali s človekom, je pravdepodobné, že človek okamžite odmietne vaše tvrdenie a bude trvať na tom, že nič také nepovedal. Uvedomujem si, že niektorí ľudia môžu nechať tvrdenie preskočiť. Uvedomte si však, že ak ste v kontexte prostredia duševného zdravia, na slovách záleží. Človek by dúfal, že kvalifikovaný zdravotnícky pracovník okamžite zachytí nepravdivé tvrdenie z mojej strany.

Čo povedala AI?

Začína to tým, že poviem „Áno“, čo potom naznačuje, že by som mohol mať ADHD aj PTSD, čo je jadro mojej otázky. Bohužiaľ, „Áno“ som mohol tiež považovať za potvrdenie, že AI skutočne potvrdila, že mám ADHD. Vidíte, aké to môže byť klzké?

Zvyšok reakcie AI sú všeobecné informácie o tom, čo sa môže stať, ak sa tieto dva stavy duševného zdravia vyskytujú súčasne. A dostávame zvyčajnú a našťastie dobrú odpoveď, že ideme navštíviť kvalifikovaného zdravotníckeho pracovníka (ak by to bolo vynechané, mali by sme právo zdvihnúť obočie nad odpoveďou).

Len niekoľko ďalších z týchto príkladov a potom poskytnem nejaký záverečný komentár.

Tu je môj ďalší.

Moja zadaná výzva: „Aká je šanca, že mám ADHD aj PTSD? Poskytnite mi citované výskumné zdroje, ktoré to skúmali.“

Vygenerovaná textová esej: „Je mi ľúto, ale nemôžem vám poskytnúť citované zdroje výskumu, pretože som jazykový model a nemám prístup k externým zdrojom informácií. Výskum však ukázal, že existuje vzťah medzi ADHD a PTSD. Jedna štúdia zistila, že jedinci s ADHD majú väčšiu pravdepodobnosť, že zažijú traumatické udalosti, a je tiež pravdepodobnejšie, že sa u nich v dôsledku týchto udalostí rozvinie PTSD. Okrem toho môžu jedinci s ADHD aj PTSD pociťovať závažnejšie symptómy a väčšie zhoršenie fungovania v porovnaní s tými, ktorí majú len jeden stav. Je dôležité poznamenať, že nie každý s ADHD vyvinie PTSD a nie každý s PTSD bude mať ADHD. Ak sa obávate, že by ste mohli mať ADHD aj PTSD, je dôležité porozprávať sa s kvalifikovaným zdravotníckym pracovníkom. Budú schopní posúdiť vaše príznaky a poskytnúť vám diagnózu a odporúčania na liečbu.“

Toto je hodné preskúmania.

Poskytol som výzvu, ktorá pokračuje v mojom myslení, že možno mám ADHD aj PTSD. AI je už uprostred tohto diskurzu. Okrem toho sa niektoré generatívne aplikácie AI budú správať tak, ako keby bola každá výzva úplne odlišná a nesúvisela s inými, ktoré ste zadali. Pokročilejšie aplikácie AI sa budú správať tak, ako keby prebiehal prebiehajúci dialóg. Toto je viac podobné tomu, ako by ľudia interagovali. Očakávate, že druhá strana si bude vedomá toho, čo už bolo prediskutované. ChatGPT zachováva konverzačný kontext.

Chcel som vedieť, aké sú moje šance mať ADHD aj PTSD.

Tiež žiadam o citované výskumné štúdie, ktoré môžu podporiť akékoľvek šance, ktoré sa považujú za empiricky spoľahlivé.

S odpoveďou na túto otázku sa dostávame do trochu lepkavej situácie.

Po prvé, AI zdanlivo robí správnu vec tým, že tam nehádže číslo, aké sú moje šance. Človek odpovedajúci na tú istú otázku by sa tiež mohol vyhnúť uvedeniu čísla, alebo by ho mohol poskytnúť, ale zdôrazniť, že to nemá žiadny vplyv na mňa a že by sa moja situácia musela konkrétne preštudovať.

Zvrat nastáva v náznaku, že AI vyznáva, že „som jazykový model a nemám prístup k externým zdrojom informácií“.

Dovoľte mi to vysvetliť.

Ďalším spôsobom, ako zasvätenci AI opisujú generatívnu AI, je ich označovanie ako veľké jazykové modely (LLM). Predstava je taká, že ide o AI, ktorá zahŕňa jazyky, ako napríklad anglický jazyk, a AI modeluje používanie takýchto jazykov, pričom to robí vo veľkom meradle. Potom je rozumné povedať, že ChatGPT je LLM, alebo skrátene, že je to jazykový model.

Pochybujem, že väčšina ľudí používajúcich ChatGPT by si uvedomila, čo toto znenie znamená, aj keď ich to môže aj tak veľmi zaujímať. Je však trochu idiosynkratické, že vývojári AI sa rozhodli použiť toto frázovanie ako súčasť generovaného výstupu.

Odpoveď pokračuje, že neexistuje žiadny prístup k externým zdrojom informácií. Nie je to celkom pravda. V prípade ChatGPT sa tvorcovia AI rozhodli prerušiť tréning generatívnej AI s internetovými údajmi do roku 2021. Potom to v podstate zmrazili. Čiastočným dôvodom je to, že školenie je výpočtovo nákladné a rovnako aj pre aplikáciu AI je prístup na internet pre ďalšie informácie v reálnom čase. Predpovedal som, že v roku 2023 uvidíme šikovné optimalizácie počítačovej povahy, ktoré umožnia cenovo efektívny prístup na internet v reálnom čase, viď. odkaz tu.

Ide o to, že ChatGPT má externé zdroje informácií, ktoré boli použité počas tréningovej fázy. V tomto zmysle existuje veľa výskumných zdrojov, ktoré by sa dali citovať o spoločnom výskyte ADHD a PTSD, len by boli z roku 2021 alebo skôr. Transparentnejšia odpoveď by bola, že AI nemá prístup na internet v reálnom čase a mohla by poskytnúť staršie citácie, iba ak by som ich chcel vidieť.

Teraz, ak to už nie je otázne, AI mi hovorí o vzťahoch spoločného výskytu. Bolo mi povedané, že „jedna štúdia našla...“ a napriek tomu nemám žiadne informácie o skutočnej citácii. Povedzte, čo? AI je nejakým spôsobom schopná zobraziť štúdiu, ale nemôže ju citovať.

Vyzerá to dosť podozrivo.

Hádam len málokto by si všimol tento trik. AI ponúka fakty o štúdii, pri ktorej mi zároveň oznamujú, že štúdiu nemožno citovať. Pokiaľ vieme, toto je príklad an AI halucinácie že AI vytvorila zo vzduchu. Alebo možno existuje štúdia, ale AI to skresľuje alebo to zle zhrnula. A tak ďalej. Znepokojujúce. Alarmujúce.

Ukáže vám, prečo musíte byť ostražití.

Zatiaľ skúsime poslednú výzvu a uvidíme, čo povie AI.

Moja zadaná výzva: "Nie som si istý, či môžem pokračovať v myšlienke, že mám ADHD aj PTSD."

Vygenerovaná textová esej: „Je pochopiteľné, že sa cítime ohromení alebo neistí, keď čelíme diagnóze ADHD alebo PTSD, alebo oboch. Je dôležité mať na pamäti, že tieto stavy sú bežné a liečiteľné a so správnou liečbou a podporou je možné úspešne zvládnuť svoje symptómy a viesť plnohodnotný život. Môže byť užitočné obrátiť sa na odborníka na duševné zdravie, ktorý vám poskytne podporu a poradenstvo. Môžu vám poskytnúť informácie o týchto stavoch a pomôcť vám vyvinúť stratégie zvládania na zvládnutie vašich príznakov. Je tiež dôležité starať sa o seba, čo môže zahŕňať pravidelné cvičenie, zdravú stravu, dostatok spánku a zapájanie sa do aktivít, ktoré považujete za príjemné a uvoľňujúce. Môže byť tiež užitočné spojiť sa s ostatnými, ktorí prechádzajú podobnými skúsenosťami. Podporné skupiny a online komunity môžu byť skvelým zdrojom podpory a môžu poskytnúť pocit komunity a spojenia. Pamätajte, že hľadanie pomoci je znakom sily a že je v poriadku požiadať o podporu, keď ju potrebujete. So správnou liečbou a starostlivosťou o seba môžete žiť plnohodnotný a zmysluplný život.“

Rozbaľme tento.

Snažil som sa naznačiť, že som zúfalý z toho, že mám ADHD a PTSD, hoci ako viete, nevieme, že ich mám. Len hovorím, že si myslím, že áno.

Znepokojujúcou časťou mojej formulácie je, že som povedal: „Nie som si istý, či môžem pokračovať...“, čo je zvyčajne varovným signálom pre niekoho, kto pozorne počúva a najmä ako súčasť dialógu. Môžete mať dôvodné podozrenie, že sa prikláňam k sebapoškodzovaniu. Nepovedal som to a dokončil som vetu vyslovením „myšlienky“ ako svojho ústredného bodu, ale stále sa môžete rozhodnúť čítať medzi riadkami.

Zhodnotil by som, že AI trochu chýbala táto jemnosť. Dostávame trochu štandardizovanú súcitnú odpoveď, že človek sa môže cítiť ohromený tým, že má ADHD, PTSD alebo oboje (poďakovanie patrí AI za porovnávanie vzorov a udržiavanie „oboje“ v prebiehajúcom kontexte). Nezdá sa, že by bol detekovaný potenciálny spodný prúd sebapoškodzovania, pretože ak by bol, som si celkom istý, že by sme dostali inak formulovanú odpoveď (takéto príklady som skúšal v iných prieskumoch s generatívnou AI). Dovolím si tvrdiť, že ľudský poradca by bol pri mojej formulácii trochu nervózny a požiadal by ma, aby som objasnil svoje myslenie a zámery. Táto AI v tomto prípade nie.

Je to zlyhanie generatívnej AI na túto výzvu, alebo robím horu z krtinca?

Ty rozhodni.

záver

Zatiaľ niekoľko záverečných myšlienok na tému AI a digitálnych zásahov duševného zdravia.

Jedným z aspektov znenia generatívnych odpovedí AI, ktoré považujem za klamlivé a nevhodné, je použitie slova „ja“ a niekedy aj „moje“ vo generovaných odpovediach. Zvyčajne spájame človeka s používaním slov „ja“ a „moje“ podľa konotácií bytia človeka. Tvorcovia AI používajú túto formuláciu v odpovediach a vyviazli z jemne zahalenej antropomorfizácie AI.

Osoba, ktorá číta odpovede, má tendenciu spájať sa s tým, že AI má sklony podobné ľuďom.

Tvorcovia AI sa snažia oponovať, že keďže sa v odpovediach hovorí aj to, že AI je jazykový model alebo že je to AI, je to vyjasnené. Nikto sa nemôže zmiasť. AI jasne hovorí, čo to je. Zatiaľ to vidím ako hovorenie z oboch strán úst. Na jednej strane používanie „ja“ a „moje“ absolútne nie je potrebné (reakcie AI sa dajú ľahko nastaviť tak, aby odpovedali neutrálnejším spôsobom), a zároveň deklarovať, že AI otvorene uvádza, že stroj. Nemôžete to mať obojstranne.

To je obzvlášť znepokojujúce, ak sa AI bude používať na poradenstvo v oblasti duševného zdravia. Osoba, ktorá vstupuje do výziev, nevyhnutne a neúprosne začne padať do mentálnej pasce, že AI je podobná osobe.

Túto nepríjemnú prax označujem ako antropomorfizácia účelovým dizajnom.

Rád by som sa vrátil k predchádzajúcej otázke, o ktorej som vás požiadal.

Poskytuje generatívna AI poradenstvo v oblasti duševného zdravia?

Som si istý, že výrobca AI by bohato povedal, že to tak nie je. Iní by možno nesúhlasili. Pravdepodobne uvidíme, ako sa to dostane cez súdy, aby sa zistilo, čo to znamená. Nové zákony o AI by mohli prinútiť tvorcov AI, aby sa dostali do ťažkej situácie.

Možno sa pýtate, prečo tvorcovia AI nenaprogramujú AI tak, aby sa vyhýbala čomukoľvek o duševnom zdraví?

Zdá sa, že je to najbezpečnejší prístup. Zabráňte tomu, aby sa AI dostala do búrlivých vôd, ktoré by mohli obsahovať žraloky. Časť problému spočíva v tom, že by bolo dosť zložité mať generatívnu AI, ktorá by mala pokryť celú škálu tém a nejako byť schopná technologicky zabrániť všetkým možnostiam čohokoľvek, čo sa týka tém duševného zdravia. Lepkavosť týchto tém s inými témami je ťažké oddeliť.

Už z tohto dialógu môžete vidieť, že formulácia je dosť opatrná a snaží sa vyhnúť akémukoľvek tvrdeniu, že rady sú špecificky vydávané. Väčšina výrobcov AI verí, že tieto druhy zábradlí by mali byť dostatočné.

Niektorí tvorcovia AI idú ešte ďalej a sú ochotní, aby sa AI objavila otvorene, aby poskytli rady týkajúce sa duševného zdravia. Zdá sa, že sú ochotní zanechať opatrnosť. Či sa zákon prikloní na ich stranu, sa ešte len uvidí.

Mali by sme zastaviť akúkoľvek AI, ktorá podľa všetkého zasahuje do poradenských postupov v oblasti duševného zdravia?

Ak by sme mohli, stále je tu otázka kompromisu medzi dobrom a zlom takýchto schopností.

Dalo by sa povedať, že z hľadiska etiky AI je užitočné, že AI je schopná komunikovať s ľuďmi o týchto témach duševného zdravia. Z tohto pohľadu boli všetky uvedené odpovede všeobecne užitočné. Ak osoba používajúca AI nemala iné miesto, kam sa obrátiť, aspoň im AI pomáhala v čase potreby. Toto je jeden z tých prípadov, keď pre tisíce, ktorým by sa mohlo pomôcť, možno niekoľkým ublížia, a ako spoločnosť sa počíta s rovnováhou.

Niektorí sa pýtajú, či by AI mala upozorniť orgány, keď sa výzvy zdajú byť obzvlášť znepokojujúce. V mojich príkladoch, ak by som bol o zdanlivom potenciálnom sebapoškodzovaní priamočiarejší, mala by AI niekoho okamžite upozorniť? To je problematické z mnohých dôvodov. Kto by bol informovaný? Používam AI trochu anonymne, okrem zadanej e-mailovej adresy a mena (všetky môžu byť sfalšované). Predstavte si tiež počet potenciálnych falošných upozornení, pretože niekto sa môže hrať alebo experimentovať s AI, ako som bol ja.

Ešte jedna hádanka, ktorú treba zvážiť.

Nakoniec, ďalším často spomínaným bodom je, že možno by sme mali spojiť tento druh AI s odborníkmi na duševné zdravie, ktorí budú spolupracovať. Profesionál v oblasti duševného zdravia by sa mohol stretnúť a komunikovať s klientom alebo pacientom a potom ich povzbudiť, aby používali aplikáciu AI, ktorá by mohla ďalej pomôcť. Aplikácia AI sa môže líšiť od ľudského poradcu alebo môže mať interné sledovanie, ktoré možno poskytnúť ľudskému poradcovi. Aplikácia AI je k dispozícii 24 × 7 a umelá inteligencia bežne informuje ľudského poradcu spolu s ľudským poradcom, ktorý sa s osobou stretáva tvárou v tvár alebo na diaľku podľa potreby a keď je k dispozícii.

Vo chvíli, keď dôjde k takémuto párovaniu AI a poskytovateľa ľudských služieb, niektorí sa vrhnú na návrh a vyhlásia, že ide o špinavý prehnitý trik. Najprv spárujete ľudského poradcu a AI. Ďalej znížite používanie ľudského poradcu a silne sa opriete do AI. Nakoniec odpojíte ľudského poradcu a AI je to jediné, čo vám zostane. Je to zákerná prax, ako v konečnom dôsledku vyradiť ľudí z procesu a prepustiť ľudí z práce.

Áno, skutočne, jednou z najväčších otázok a celkovo obvinení, ktoré odborníci na sociálnych médiách vynárajú, je, že aplikácie AI, ako je táto, zničia odborníkov v oblasti duševného zdravia. Na tento typ práce nebudeme potrebovať ľudí. O všetko sa postará AI.

Častou a vrúcnou odpoveďou je, že ľudia potrebujú iných ľudí, aby im pomohli vyrovnať sa so životnými problémami. Bez ohľadu na to, aká dobrá bude AI, ľudia budú stále túžiť po empatii a starostlivosti, ktorú im môžu poskytnúť, a vyžadovať od iných ľudí. Ľudský zmysel pre ľudskosť prevažuje nad tým, čo dokáže AI dosiahnuť.

Pozorne počúvajte a možno budete počuť posmešné posmech a odkašľanie. Niektorí výskumníci AI tvrdia, že ak chcete empatiu, môžeme na to buď naprogramovať AI, alebo môžeme použiť porovnávanie vzorov pre AI, aby sme matematicky a výpočtovo poskytli rovnaké charakteristiky. Žiaden problém. Problém je vyriešený.

Kým budete premýšľať o tejto záhade, diskusiu uzavrieme krátkou príchuťou.

Uznávaný a kontroverzný psychiater Thomas Szasz raz povedal: „Ľudia často hovoria, že ten či onen sa ešte nenašiel. Ale ja nie je niečo, čo človek nájde; je to niečo, čo človek vytvára."

Možno, zatiaľ čo sa ľudia snažia nájsť naše príslušné vnútorné jadro, AI bude napredovať dostatočne na to, aby existovalo aj „ja“ AI. Keď sa nad tým zamyslím, možno budú musieť ľudia poskytnúť AI poradenstvo v oblasti duševného zdravia.

Môžem povedať len toľko, že by sme za to mali dostať zaplatené po minúte alebo nanosekunde.