Popri svojom pokroku umelá inteligencia (AI) čoraz viac napreduje a riziko takzvaného „príbuzenského kríženia“ v generatívnych systémoch AI sa stáva rizikom, ktoré je už dlho bežné medzi ľuďmi a populáciami domestikovaných zvierat.
Tento článok vnesie trochu svetla do konceptu príbuzenského kríženia vo svetle generatívnej AI a ako sa môže príbuzenské kríženie spojiť s budúcnosťou obsahu generovaného AI.
Porozumenie generatívnej AI Inbreeding Generatívne systémy AI, ako sú veľké jazykové modely (LLM), sú primárne trénované na komplexných súboroch údajov z textového, vizuálneho a zvukového obsahu dostupného na webe. Súbor údajov spočiatku zahŕňal položky vyrobené ľudskými bytosťami, ako je literatúra, články a umelecké diela. S nárastom generatívnych nástrojov AI však stále viac obsahu na internete píše samotná AI.
Tento posun vyvoláva obavy o kvalitu a rozmanitosť súborov údajov používaných na trénovanie budúcich systémov AI. S vývojom obsahu generovaného AI sa očakáva, že mnohé budúce generácie modelov AI sa budú učiť zo súborov údajov, ktoré nepredstavujú ľudský obsah, ale materiál vytvorený AI.
Dôsledky generatívneho príbuzenského kríženia AI sú mnohostranné.
Naopak, pokračovanie učenia sa systémom AI zo stále väčšieho počtu homogénnych súborov údajov by mohlo viesť k zníženiu kreativity a originality vo výstupe generovanom AI.
Ak sa tento proces opakuje – to znamená kopírovanie z kópie – postupne po generáciách, kvalita výstupu sa oslabí a výsledky riskujú, že budú menej pútavou prácou a menej pravdepodobne budú odrážať to, čo považujeme za ľudský tvorivý výstup. . S nárastom obsahu generovaného AI trénovaného na inbredných súboroch údajov by sa takéto problémy mohli zhoršiť.
Ak nie sú množiny tréningových údajov dostatočne rozmanité, vyvinuté systémy AI by slúžili iba na posilnenie a zväčšovanie predsudkov prítomných v obsahu generovanom AI, čím by sa ďalej podkopávalo dôveryhodné používanie obsahu generovaného AI ako zdroja informácií. Okrem toho nedostatok rozmanitosti v údajoch o výcviku môže obmedziť možnosť vývoja systémov umelej inteligencie, ktoré by mohli správne pochopiť a reprezentovať široké spektrum ľudských skúseností a perspektív. To môže obmedzovať pokrok v rôznych oblastiach použitia AI, ako je spracovanie prirodzeného jazyka, generovanie obsahu a rozhodovacie systémy.
Riešenie výziev generatívneho príbuzenského kríženia AI
Predovšetkým ide o skutočné riziko, najmä o kríženie generatívnych technológií AI. Napriek tomu je na výskumných pracovníkoch, vývojároch a dokonca aj na politikoch, aby konali proaktívne, pričom sa zaisťuje, že počas školenia systému umelej inteligencie sa ako najvyššia priorita používajú rôznorodé a reprezentatívne súbory údajov, pričom sa integrujú mechanizmy, ktoré budú schopné odhaliť a znížiť zaujatosti v obsahu generovanom AI a zabezpečenie efektívnej interdisciplinárnej spolupráce pri riešení a zabezpečení etických a spoločenských dôsledkov budovania AI.
Mali by ďalej uľahčovať potrebu otvorenosti a zodpovednosti pri zavádzaní systémov umelej inteligencie a vyžadovať, aby sa s používateľmi obsahu vytvoreného umelou inteligenciou zdieľalo povedomie o obmedzeniach a predsudkoch. Všetky zainteresované strany sa teda môžu proaktívne snažiť o spoluprácu pri využívaní sily generatívnej AI a zároveň zmierňovať riziká spojené s príbuzenským krížením pri vývoji AI.
Koncept príbuzenského kríženia v generatívnej AI je veľkou výzvou budúcnosti pre vývoj a nasadenie systémov AI. To im pomôže zabezpečiť, aby sa zodpovedný a etický vývoj technologického zlepšovania pre spoločnosť uspokojil pochopením dôsledkov a spôsobov, ako efektívne zlepšiť generatívne inbríding AI.
Zdroj: https://www.cryptopolitan.com/generative-ai-growing-in-ai-development/