Austrálska vláda začína konzultácie s cieľom posúdiť zákaz „vysokorizikovej“ AI – Cryptopolitan

Austrálska vláda iniciovala neočakávané osemtýždňové konzultačné obdobie zamerané na určenie, či by sa mali zakázať určité „vysokorizikové“ nástroje umelej inteligencie (AI). Tento krok nasleduje po podobných opatreniach, ktoré prijali iné regióny vrátane Spojených štátov amerických, Európskej únie a Číny pri riešení rizík spojených s rýchlym rozvojom AI.

Dňa 1. júna minister priemyslu a vedy Ed Husic predstavil dva články na verejné posúdenie: jeden o „Bezpečnej a zodpovednej AI v Austrálii“ a druhý o generatívnej AI od Národnej rady pre vedu a technológiu. Tieto dokumenty boli zverejnené počas konzultačného obdobia, ktoré bude otvorené do 26. júla.

Austrálska vláda hľadá spätnú väzbu o stratégiách na podporu „bezpečného a zodpovedného používania AI“, pričom skúma možnosti, ako sú dobrovoľné etické rámce, špecifické nariadenia alebo kombinácia oboch prístupov. Konzultácia sa priamo pýta, či by niektoré vysokorizikové aplikácie alebo technológie umelej inteligencie mali byť úplne zakázané, a hľadá informácie o kritériách na identifikáciu takýchto nástrojov.

Komplexný diskusný dokument obsahuje návrh matice rizík pre modely AI, v ktorej sa samoriadiace autá kategorizujú ako „vysoko rizikové“ a generatívne nástroje AI na vytváranie lekárskych záznamov o pacientoch ako „stredne rizikové“. Dokument zdôrazňuje pozitívne aplikácie AI v sektoroch, ako je medicína, inžinierstvo a právo, ako aj potenciálne škody spojené s hlboko falošnými nástrojmi, generovaním falošných správ a prípadmi, keď roboty AI podporovali sebapoškodzovanie.

Austrálska vláda vs AI

Diskusný dokument sa zaoberá aj obavami týkajúcimi sa zaujatosti v modeloch AI, ako aj vytvárania nezmyselných alebo nepravdivých informácií známych ako „halucinácie“ systémami AI. Uznáva, že prijatie AI v Austrálii je v súčasnosti obmedzené z dôvodu nízkej úrovne dôvery verejnosti. Dokument uvádza ako príklady nariadenia AI implementované v iných jurisdikciách a dočasný zákaz ChatGPT v Taliansku.

Správa Národnej rady pre vedu a technológiu navyše zdôrazňuje výhodné schopnosti Austrálie v oblasti robotiky a počítačového videnia, ale poukazuje na relatívne slabé stránky v kľúčových oblastiach, ako sú veľké jazykové modely. Vyvoláva obavy z koncentrácie generatívnych zdrojov AI v malom počte technologických spoločností prevažne so sídlom v USA, čo predstavuje potenciálne riziko pre Austráliu.

Správa ďalej skúma globálnu reguláciu AI, poskytuje príklady generatívnych modelov AI a naznačuje, že takéto modely budú mať pravdepodobne ďalekosiahle dopady na sektory od bankovníctva a financií až po verejné služby, vzdelávanie a kreatívny priemysel.