Tech

Generálny riaditeľ OpenAI Sam Altman svedčí na „historickom“ vypočutí Senátu o bezpečnosti AI

12 mesiacmi
Novinky o bitcoinových etéroch

Sam Altman, generálny riaditeľ OpenAI a spoluzakladateľ Worldcoin, nedávno svedčil pred Kongresom spolu so šéfkou trustu IBM Christinou Montgomeryovou a profesorom NYU Garym Marcusom. 

Zasadnutie podvýboru pre súkromie, technológie a právo v Senáte predstavovalo prvé Altmanovo oficiálne vystúpenie pred Kongresom, ktoré dalo senátorom príležitosť spýtať sa generálneho riaditeľa OpenAI na názory jeho spoločnosti na reguláciu.

Konanie nazvané „historické“ zasadnutie senátora Illinois Dicka Durbina sa zameralo na pochopenie potenciálnych hrozieb, ktoré predstavujú modely generatívnej umelej inteligencie (AI), ako je ChatGPT, a na to, ako by mali zákonodarcovia pristupovať k regulácii.

Zdá sa, že Altmanove komentáre, ktoré členovia Kongresu a kolega Marcus označili za úprimné a skutočné, prekvapili niekoľkých členov Senátu.

Obhajoval zriadenie federálnej agentúry pre dohľad s právomocou vydávať a rušiť vývojové licencie, uviedol, že verí, že tvorcovia by mali byť odškodnení, keď sa ich práca využíva na trénovanie systému umelej inteligencie, a súhlasil s tým, že spotrebitelia, ktorí sú poškodení používaním produktov AI, by mali byť oprávnený žalovať developera.

Altman pokrčil plecami otázky súvisiace s nedávnym listom „AI pauza“, ktorý vyzýval na šesťmesačné moratórium na nasadenie systémov výkonnejších ako GPT-4, systém AI, ktorý je základom ChatGPT, a uviedol, že OpenAI strávila hodnotením GPT dlhšie ako šesť mesiacov. -4 pred nasadením. Povedal, že spoločnosť neplánuje nasadiť ďalší model v priebehu nasledujúcich šiestich mesiacov.

Marcus, signatár listu o odmlke, priznal, že súhlasil viac s duchom listu ako s jeho obsahom, ale profesor NYU naliehal na Kongres, aby zvážil globálny dohľad, ako aj federálnu reguláciu – s názorom, s ktorým Altman súhlasil.

Počas vypočutia sa traja hosťujúci rečníci zhodli na väčšine tém. To zahŕňalo podporu ochrany súkromia, väčší vládny dohľad, audity tretích strán a to, ako skoro by sa vláda Spojených štátov mala snažiť regulovať toto odvetvie (okamžite).

Jeden z osamelých zdrojov nezhôd však pochádzal od Montgomeryho z IBM, ktorý nesúhlasil s názorom, že na presadzovanie predpisov v odvetví AI bude potrebná nová federálna agentúra.

Jej vyjadrenia naznačili, že IBM je za chirurgický prístup k regulácii využívajúci v súčasnosti existujúce regulačné orgány na zameranie presadzovania na konkrétne prípady použitia.

Zatiaľ čo všetci traja rečníci súhlasili s tým, že AI môže byť škodlivá a vyžaduje si bezpečnostné zásahy, Marcus dal jasne najavo, že verí, že nikto v súčasnosti nerozumie ani nedokáže predpovedať, aké škodlivé môžu byť alebo sa stanú existujúce produkty AI. Obhajoval opatrný prístup zahŕňajúci väčšiu transparentnosť.

Rečníci sa tiež zhodli s členmi Kongresu, že USA potrebujú národný zákon o ochrane súkromia podobný tým v Európe. Altman však nesúhlasil s názorom, že spotrebitelia by mali mať možnosť odmietnuť, aby boli ich verejne dostupné webové údaje zahrnuté do tréningových dát.

Altman by tiež nepovedal, že OpenAI je proti ponúkaniu verzie svojich produktov GPT založenej na reklame. Generálny riaditeľ jednoducho uviedol, že „nepovedal nikdy“.

A to aj napriek tomu, že predtým na pojednávaní povedali, že produkty OpenAI dodržiavajú štandardy ochrany súkromia spotrebiteľov, pretože spoločnosť nevytvorila používateľské profily na účely poskytovania prispôsobených reklám.

Senátor Corey Booker z New Jersey, citujúc svoje skúsenosti absolventa Stanfordu a zákonodarcu pracujúceho s decentralizovanými finančnými spoločnosťami a spoločnosťami Web3, uviedol väčší problém centralizácie ochrany osobných údajov. Spýtal sa, aké dôsledky bude mať centralizácia a monopolizácia pre priemysel, na otázku Marcus odpovedal vážnym varovaním, že krajina môže riskovať, že dá kontrolu nad vnímaním verejnosti malému počtu aktérov – popredným spoločnostiam v oblasti umelej inteligencie s dostatkom peňazí. konkurovať spoločnostiam Microsoft, Google a Amazon.

Altman, ktorého projekt Worldcoin kombinuje decentralizované kryptomenové aktívum na blockchaine Ethereum s autentifikáciou identity prostredníctvom technológie skenovania dúhovky, vysvetlil, že OpenAI poskytuje iba platformu a že k demokratizácii produktov OpenAI došlo, keď vývojári, spoločnosti a koncoví používatelia prispôsobili GPT API. „fantastické“ využitie.

Súvisiace: Generálny riaditeľ OpenAI v „pokročilých rozhovoroch“ o financovaní 100 miliónov dolárov Worldcoin: Správa