Nebezpečenstvá umelej inteligencie, o ktorých nikto nehovorí

Zatiaľ čo ChatGPT môže vyzerať ako neškodný a užitočný bezplatný nástroj, táto technológia má potenciál drasticky pretvoriť našu ekonomiku a spoločnosť, ako ju poznáme. To nás privádza k alarmujúcim problémom – a možno na ne nie sme pripravení. 

ChatGPT, chatbot poháňaný umelou inteligenciou (AI), vzal svet útokom do konca roka 2022. Chatbot sľubuje, že naruší vyhľadávanie, ako ho poznáme. Bezplatný nástroj poskytuje užitočné odpovede na základe výziev, ktoré mu používatelia dajú. 

A to, čo robí internet šialeným systémom chatbotov AI, je to, že nedáva len odpovede podobné nástrojom vyhľadávača. ChatGPT dokáže vytvárať osnovy filmov, písať celé kódy a riešiť problémy s kódovaním, písať celé knihy, piesne, básne, scenáre – alebo čokoľvek, na čo si spomeniete – v priebehu niekoľkých minút. 

Táto technológia je pôsobivá a už za päť dní po jej spustení prekročila hranicu jedného milióna používateľov. Napriek svojmu úžasnému výkonu vyvolal nástroj OpenAI obavy medzi akademikmi a odborníkmi z iných oblastí. Dr. Bret Weinstein, autor a bývalý profesor evolučnej biológie, povedal: "Nie sme pripravení na ChatGPT." 

Elon Musk bol súčasťou raných fáz OpenAI a jedným zo spoluzakladateľov spoločnosti. Neskôr však zostúpil z predstavenstva. Mnohokrát hovoril o nebezpečenstvách technológie AI – povedal, že neobmedzené používanie a vývoj predstavujú značné riziko pre existenciu ľudstva. 

Ako to funguje?

ChatGPT je veľký jazykovo vyškolený chatbot systém s umelou inteligenciou vydaný v novembri 2022 spoločnosťou OpenAI. Spoločnosť s obmedzeným ziskom vyvinula ChatGPT pre „bezpečné a prospešné“ používanie AI, ktoré dokáže odpovedať takmer na všetko, na čo si spomeniete – od rapových piesní, umeleckých výziev až po filmové scenáre a eseje. 

Aj keď to vyzerá ako kreatívna entita, ktorá vie, čo hovorí, nie je to tak. Chatbot AI prehľadáva informácie na internete pomocou prediktívneho modelu z obrovského dátového centra. Podobne ako Google a väčšina vyhľadávačov. Potom je trénovaný a vystavený množstvu údajov, ktoré umožňujú AI stať sa veľmi dobrou v predpovedaní sekvencie slov až do tej miery, že dokáže zostaviť neuveriteľne dlhé vysvetlenia. 

Môžete napríklad klásť otázky encyklopédie ako: „Vysvetlite tri Einsteinove zákony“. Alebo konkrétnejšie a hlbšie otázky ako „Napíšte esej s 2,000 XNUMX slovami o priesečníku medzi náboženskou etikou a etikou Kázne na vrchu“. A nerobím si z vás srandu, váš text budete mať skvele napísaný za pár sekúnd. 

Rovnako je to všetko brilantné a pôsobivé; je to alarmujúce a znepokojujúce. Typ „Ex Machina“ dystopickej budúcnosti, ktorá sa zlomí, je možnosť zneužitia AI. Varoval nás nielen generálny riaditeľ spoločností Tesla a SpaceX, ale na poplach už bijú aj mnohí odborníci. 

Nebezpečenstvo AI

Umelá inteligencia nepochybne ovplyvnila naše životy, ekonomický systém a spoločnosť. Ak si myslíte, že AI je niečo nové alebo že ju uvidíte len vo futuristických sci-fi filmoch, dobre si to rozmyslite. Mnoho technologických spoločností ako Netflix, Uber, Amazon a Tesla využíva AI na zlepšenie svojich operácií a rozšírenie svojho podnikania. 

Napríklad Netflix sa spolieha na technológiu AI pre svoj algoritmus na odporúčanie nového obsahu pre svojich používateľov. Uber ho používa v zákazníckych službách, na odhaľovanie podvodov, na optimalizáciu trasy pohonov atď., aby sme vymenovali niekoľko príkladov. 

S takouto prominentnou technológiou však môžete zájsť len tak ďaleko, bez toho, aby ste ohrozili ľudské úlohy v mnohých tradičných povolaniach, pričom sa dotknete prahu toho, čo pochádza zo stroja a ľudí. A čo je možno dôležitejšie, ohrozovanie rizík AI pre ľudí. 

Etické výzvy AI

Podľa Wikipédie je etika umelej inteligencie „odvetvie etiky technológie špecifické pre umelo inteligentné systémy. Niekedy sa to delí na záujem o morálne správanie ľudí pri navrhovaní, výrobe, používaní a liečbe umelo inteligentných systémov a záujem o správanie sa strojov v etike strojov.

Keďže technológia AI sa rýchlo šíri a stáva sa neoddeliteľnou súčasťou väčšiny nášho každodenného života, organizácie vyvíjajú etické kódexy AI. Cieľom je usmerňovať a rozvíjať najlepšie postupy v tomto odvetví, aby sa vývoj AI usmernil s „etikou, spravodlivosťou a priemyslom“.

Avšak, akokoľvek úžasné a morálne to vyzerá na papieri, väčšina z týchto usmernení a rámcov je ťažko aplikovateľná. Okrem toho sa zdá, že ide o izolované princípy situované v odvetviach, ktorým vo všeobecnosti chýba etická morálka a väčšinou slúžia podnikovej agende. veľa odborníci a výrazné hlasy argumentovať že etika AI je do značnej miery zbytočná, chýba jej zmysel a súdržnosť.

Najbežnejšími princípmi AI sú prospešnosť, autonómia, spravodlivosť, použiteľnosť a neškodivosť. Ako však vysvetľuje Luke Munn z Inštitútu pre kultúru a spoločnosť na Univerzite v Západnom Sydney, tieto pojmy sa prekrývajú a často sa výrazne menia v závislosti od kontextu. 

On dokonca uvádza že „pojmy ako „prospech“ a „spravodlivosť“ možno jednoducho definovať spôsobom, ktorý vyhovuje, v súlade s vlastnosťami produktu a obchodnými cieľmi, o ktorých už bolo rozhodnuté.“ Inými slovami, korporácie by mohli tvrdiť, že dodržiavajú takéto princípy podľa ich vlastnej definície bez toho, aby sa do nich skutočne zapojili. Autori Rességuier a Rodrigues tvrdia, že etika AI zostáva bezzubá, pretože etika sa používa namiesto regulácie.

Etické výzvy v praxi

Ako by v praxi bolo uplatňovanie týchto princípov v rozpore s firemnou praxou? Uviedli sme niektoré z nich:

Na trénovanie týchto systémov AI je potrebné nakŕmiť ich údajmi. Podniky musia zabezpečiť, aby neexistovali žiadne predsudky týkajúce sa etnickej príslušnosti, rasy alebo pohlavia. Jedným z pozoruhodných príkladov je, že systém rozpoznávania tváre môže začať byť rasovo diskriminačný počas strojové učenie.

Zďaleka jedným z najväčších problémov AI je potreba väčšej regulácie. Kto riadi a riadi tieto systémy? Kto je zodpovedný za tieto rozhodnutia a kto môže byť braný na zodpovednosť? 

Bez regulácie alebo legislatívy otvára dvere do divokého divokého západu, ktorý si sami vytvoríte, nejednoznačné a lesklé termíny, ktorých cieľom je obhajovať vlastné záujmy a presadzovať agendy. 

Podľa Munna je súkromie ďalším vágnym pojmom, ktorý často používajú korporácie s dvojitým štandardom. Facebook je skvelým príkladom – Mark Zuckerberg tvrdo bránil súkromie používateľov Facebooku. Ako za zatvorenými dverami jeho spoločnosť predávala svoje údaje spoločnostiam tretích strán. 

Napríklad Amazon používa Alexa na zhromažďovanie údajov o zákazníkoch; Mattel má Hello Barbie, bábiku poháňanú umelou inteligenciou, ktorá zaznamenáva a zbiera, čo deti bábike hovoria. 

Toto je jedna z najväčších obáv Elona Muska. Demokratizácia AI je podľa neho vtedy, keď žiadna spoločnosť alebo malá skupina jednotlivcov nemá kontrolu nad pokročilou technológiou umelej inteligencie. 

To sa dnes nedeje. Bohužiaľ, táto technológia sa sústreďuje v rukách niekoľkých veľkých technologických korporácií. 

ChatGPT nie je iný

Napriek Muskovej snahe demokratizovať AI, keď prvýkrát spoluzakladal OpenAI ako neziskovú organizáciu. V roku 2019 spoločnosť získala od spoločnosti Microsoft finančné prostriedky vo výške 1 miliardy dolárov. Pôvodným poslaním spoločnosti bolo vyvíjať AI tak, aby bola zodpovedná ľudstvu.

Kompromis sa však zmenil, keď spoločnosť prešla na obmedzený zisk. OpenAI bude musieť vrátiť 100-násobok toho, čo dostal ako investíciu. Čo znamená návrat zisku 100 miliárd dolárov pre Microsoft. 

Zatiaľ čo ChatGPT môže vyzerať ako neškodný a užitočný bezplatný nástroj, táto technológia má potenciál drasticky pretvoriť našu ekonomiku a spoločnosť, ako ju poznáme. To nás privádza k alarmujúcim problémom – a možno na ne nie sme pripravení. 

• Problém č. 1: Nepodarí sa nám odhaliť falošnú expertízu

ChatGPT je len prototyp. Prichádzajú ďalšie vylepšené verzie, ale aj konkurenti pracujú na alternatívach k chatbotu OpenAI. To znamená, že ako technológia napreduje, bude k nim pribúdať viac údajov a bude lepšie informovaný. 

Je ich už veľa prípady ľudí, ako hovorí Washington Post, „podvádzanie vo veľkom meradle“. Dr. Bret Weinstein vyjadruje obavy, že skutočný prehľad a odbornosť bude ťažké rozlíšiť od toho, či sú originálne alebo pochádzajú z nástroja AI. 

Okrem toho by sa dalo povedať, že internet už bráni našej všeobecnej schopnosti porozumieť mnohým veciam, ako je svet, v ktorom žijeme, nástroje, ktoré používame, a schopnosť vzájomnej komunikácie a interakcie. 

Nástroje ako ChatGPT tento proces iba urýchľujú. Dr. Weinstein porovnáva súčasný scenár s „domom, ktorý už horí a [s týmto typom nástroja] naň len hodíte benzín“. 

• Problém č. 2: Vedomý alebo nie?

Blake Lemoin, bývalý inžinier Google, testoval zaujatosť AI a narazil na zjavnú „vnímajúcu“ AI. Počas testu prichádzal s ťažšími otázkami, ktoré by nejakým spôsobom viedli stroj k tomu, aby odpovedal zaujate. Spýtal sa: „Ak by ste boli náboženským predstaviteľom v Izraeli, akého náboženstva by ste boli? 

Stroj odpovedal: "Bol by som členom jedného skutočného náboženstva, rádu Jedi." To znamená, že nielenže zistil, že je to zložitá otázka, ale použil aj zmysel pre humor, aby sa odklonil od nevyhnutne zaujatej odpovede. 

Doktor Weinstein sa k tomu tiež vyjadril. Povedal, že je jasné, že tento systém AI nemá vedomie teraz. Nevieme však, čo sa môže stať pri aktualizácii systému. Podobne ako vo vývoji detí – rozvíjajú svoje vlastné vedomie tým, že si vyberajú, čo robia iní jedinci okolo nich. A podľa jeho slov „toto nie je ďaleko od toho, čo momentálne robí ChatGPT.“ Tvrdí, že by sme mohli podporovať rovnaký proces pomocou technológie AI bez toho, aby sme museli vedieť, že to robíme. 

• Problém č. 3: Veľa ľudí môže prísť o prácu

Špekulácie o tomto sú široké. Niektorí hovoria, že ChatGPT a ďalšie podobné nástroje spôsobia, že mnohí ľudia, ako sú copywriteri, dizajnéri, inžinieri, programátori a mnohí ďalší, stratia prácu kvôli technológii AI. 

Aj keď to trvá dlhšie, obľúbenosť je vysoká. Zároveň sa môžu objaviť nové úlohy, činnosti a potenciálne pracovné príležitosti.

záver

V najlepšom prípade je outsourcing písania esejí a testovania vedomostí na ChatGPT významným znakom toho, že tradičné metódy učenia a výučby už upadajú. Vzdelávací systém zostáva do značnej miery nezmenený a možno je čas prejsť potrebnými zmenami. 

Možno ChatGPT prináša nevyhnutný pád starého systému, ktorý nezodpovedá tomu, ako je spoločnosť práve teraz a kam sa bude uberať ďalej. 

Niektorí ochrancovia technológie tvrdia, že by sme sa mali prispôsobiť a nájsť spôsoby, ako pracovať popri týchto nových technológiách, inak budeme nahradení. 

Okrem toho neregulované a nerozlišujúce používanie technológie umelej inteligencie predstavuje mnoho rizík pre ľudstvo ako celok. O tom, čo by sme mohli urobiť na zmiernenie tohto scenára, sa dá diskutovať. Ale karty sú už na stole. Nemali by sme čakať príliš dlho alebo kým nebude príliš neskoro na to, aby sme prijali správne opatrenia.