Etika AI a geopolitický zápas o to, kto vyhrá preteky o dosiahnutie skutočnej AI

Svet je v zbesilých pretekoch.

Geopolitické mocnosti tvrdia, že víťaz si domov odnesie všetku slaninu.

Aká rasa sa zúrivo vedie a usilovne prenasleduje?

Sú to preteky AI.

Možno by ste to mohli výstižnejšie nazvať ako preteky o dosiahnutie pravdivý Umelá inteligencia (AI), v súčasnosti plnšie označovaná ako umelá všeobecná inteligencia (AGI). Chceme nejako dospieť k zdanlivo najvyššej AI alebo známej ako AGI, ktorá je porovnateľná s ľudskou inteligenciou. Ešte tam nie sme. V skutočnosti, napriek všetkým druhom divokých a drzo proklamujúcich titulkov, nevieme, kedy a či vôbec dosiahneme túto vysokú latku. Dnešná AI má oveľa menšie schopnosti ako zastrešujúca ľudská inteligencia, aj keď určite existuje veľa užších spôsobov, ktorými AI urobila pôsobivé nájazdy, ako napríklad schopnosť hrať prvotriedny šach alebo robiť iné relatívne obmedzené úlohy.

Zlatým prsteňom je však príchod AI, ktorá prejavuje ľudskú inteligenciu oddanej povahy a hĺbku podobnú inteligencii ľudstva. Toto je svätý grál výskumníkov a praktizujúcich AI. Z času na čas sa vyskytli falošné tvrdenia o tom, že ste už prekročili cieľovú čiaru pretekov AI, čo som odhalil vo svojom stĺpci na odkaz tu. Tí, ktorí sa pokúšajú o prekročenie cieľovej čiary, mätú širokú verejnosť a niekedy to robia horlivou nevinnosťou, zatiaľ čo inokedy majú v rukách vážne pochybné motívy. Celkovo to vyvoláva dosť významné a dôležité úvahy o etike AI. Moje pokračujúce a rozsiahle pokrytie etiky AI a etickej AI nájdete v časti odkaz tu a odkaz tu, Len aby sme vymenovali niekoľko.

Každopádne, niet pochýb o tom, že celosvetové preteky v šprinte umelej inteligencie sú v plnom prúde. Ťažko by ste tvrdili opak.

Myslite na to takto. Ak by sa nám už podarilo dosiahnuť skutočnú AI alebo AGI, je pravdepodobné, že závod AI by bol formálne a globálne vyhlásený za úspešne ukončený. Uisťujem vás, že celosvetová pozornosť by bola pripútaná k takémuto zvučnému a otrasnému prielomu. Vedeli by ste o tom. Všetci by sme to urobili. Bláznivá pomlčka AI by teda už fakticky neexistovala, hoci by sa možno mohla objaviť sekundárna verzia zahŕňajúca tých, ktorí nedosiahli skutočnú AI, horúčkovito pracujúcu na dohnaní. Je tu tiež znepokojujúca otázka, ako skončíme pri kontrole alebo riadení AGI, ak alebo keď sa tam dostaneme.

Žiadna osoba, subjekt alebo národ si zatiaľ nemôže riadne nárokovať korunu výroby skutočnej AI alebo AGI.

Medzitým sa odohráva obrovské a neutíchajúce množstvo hádok o tom, ktorý národ (alebo národy) sú na čele svorky a kto zaostáva ďalej. Predpoklad je, že ak nie ste prvý, zostanete v špine. Budete jesť zvyšky, ktoré zostali od víťazov AI. Potenciálne budete navždy podriadení národu alebo národom, ktoré urobia ohlasovaný skok do skutočnej AI alebo AGI.

Ako rýchlu stranu a na uľahčenie znenia tejto diskusie budem odteraz používať „AGI“ vždy, keď chcem vyvolať auru skutočnej AI. Použitie o niečo novšej frázy „AGI“ je niekedy rušivé pre tých, ktorí nie sú zvyknutí ju používať. Všetci poznáme „AI“ a možno vás vyruší, keď uvidíte, že sa namiesto toho použije skratka „AGI“. Dovoľte mi vysvetliť, prečo sa to postupne objavuje ako mnohoslovný trend.

Čiastočným dôvodom, prečo sa AGI v aréne umelej inteligencie rozmohlo, je to, že len konštatovanie „AI“ sa teraz, žiaľ, stalo oslabeným formulovaním. Nikto nevie, či AI, o ktorej sa zmieňujete, je sotva umelá inteligencia alebo nejaká kvázi lepšia infúzia umelej inteligencie s pokrokom, alebo môže narážať na futuristickú umelú inteligenciu, ktorá sa bude podobať na človeka. Aby sme sa vysporiadali s preťažením „AI“ ako chytľavou frázou, prezývka AGI získala preferencie tých zasvätených v oblasti AI, ktorí chcú konkrétne a najmä narážať na skutočnú AI.

Takže v skratke považujte moju zmienku o AGI za to isté, ako keby som povedal „skutočnú AI“ robustného kalibru podobného ľudskej inteligencii, vďaka.

Rozvážne sa zhlboka nadýchnime a pozorne preskúmame niektoré aspekty pretekov o dosiahnutie AGI. Existuje dokonca aj meta-aspekt, ktorý je potrebné najprv uviesť. Uvedomte si, že použitie alegórie o údajných pretekoch alebo o nejakom inom druhu pretekárskej aktivity ako metafore pre preteky AGI je trochu trápne. Prečo tak? Okamžite vás oboznámim s komplikáciami a zložitosťami toho, prečo (niektorí hovoria) pretekanie alebo jej ekvivalent je úplne zavádzajúci a je to zákerný pohľad hlupákov.

Tu sú kľúčové body, ktoré s vami preberiem v tejto diskusii:

• Ak ide o preteky, cieľová čiara AGI sa zdá byť dosť zle definovaná
• Rasa AGI môže ísť do osoby, entity alebo národa
• Metriky a ako sa porovnávajú národy v pretekoch AGI
• Geopolitické manévrovanie a zosúladenie pre rasu AGI
• Medzinárodné zákony AI a etika AI ako rozhodcovia v pretekoch AGI

Možno si budete chcieť zapnúť bezpečnostný pás, keď skúmam naliehavo prebiehajúci AGI pretek (áno, dovolím si ho nazvať pretekom), pri ktorom sa takmer každý pohybuje závratnou rýchlosťou a zdanlivo raketovo stúpa vpred na tomto horiacom pátraní. Niektorí by mohli povedať, že ide o rasu pre zlepšenie ľudstva, zatiaľ čo iní varujú, že rasa môže znamenať absolútnu záhubu pre nás všetkých.

Čas ukáže.

Ak sú toto preteky, cieľová čiara AGI sa zdá byť dosť nepresne definovaná

Cieľová čiara je zvyčajne pomerne definitívna hranica. Buď ste došli do cieľa, alebo nie. Zdá sa, že skrátka vám to nerobí dobre. Predstavte si olympijský beh na 400 metrov a či by ste si obzvlášť pamätali, alebo by ste chválili bežcov, ktorí preteky vôbec nedokončili (nikdy neprekročili cieľovú čiaru). Nepravdepodobné.

Budeme vedieť, keď dosiahneme AGI tak, že sa všetci rozumne zhodli na dosiahnutí cieľovej čiary?

O demarkácii AGI panujú prudké nezhody.

Predpokladajme napríklad, že vymyslíme umelú inteligenciu, ktorá sa javí ako úplne schopná prejavovať ľudskú inteligenciu, ale nie je v nej ani zdanie vnímania ako takého (pozri moje pokrytie o argumentoch ohľadom vnímania AI na odkaz tu). AI je výpočtovo schopná napodobňovať alebo inak fungovať ako ľudská inteligencia. Nie je tu však iskra živosti alebo vnímavosti, ktorú si spájame s ľuďmi a inými živými tvormi. Považuje sa toto AGI za dosiahnutie cieľa, o ktorom sme si mysleli, že ho máme?

Niektorí by protiargumentovali, že by nezáležalo na tom, keby sa do tohto AGI zdalo byť zabalené aj vnímanie ako také. Pokiaľ môže prejavovať ľudskú inteligenciu, začlenenie vnímania je niečo odlišného druhu, ktorý by sme si mohli alebo nemuseli priať, aby vznikol. Citlivosť v tomto zmysle je doplnkom.

Iní vehementne tvrdia, že jediným prostriedkom na dosiahnutie ľudskej inteligencie v AGI bude integrálne stelesnenie vnímania. AGI a sentience sú buď považované za rovnaké, alebo sú zmesou neredukovateľného neoddeliteľného dvojitého stelesnenia. Aby ste získali AGI, musíte mať rozum, tvrdili by.

Odhliadnuc od tohto uhla diskusie, ďalšou perspektívou je, že by sme mohli použiť slávny Turingov test na posúdenie, či sa dosiahol AGI. Do hĺbky som prebral Turingov test na adrese odkaz tu. Stručne povedané, pojem pozostáva z toho, že človek kladie otázky AGI, a ak človek nedokáže rozlíšiť odpovede generované AGI od odpovedí ľudstva, potom by sme vyhlásili, že AGI je schopný prejavovať ľudskú inteligenciu.

S Turingovým testom sa často spája množstvo problémov alebo nedostatkov.

Predpokladajme, že človek, ktorý sa pýta, robí mizernú prácu a nedokáže klásť skúmavé otázky. Jednou z obáv je, že mnohé z dnešných zdanlivo výkonných veľkých jazykových modelov (LLM) dokážu človeku vrátiť obsah, na ktorom bol LLM vyškolený (tj textové a digitálne médiá často získavané prostredníctvom rozsiahleho zoškrabovania z internetu). Ako taký, špeciálne vybraný človek, ktorý kladie otázky bežného druhu, ktoré už boli zodpovedané a existujú online, môže byť potenciálne ľahko „zodpovedaný“ LLM, ale pravdepodobne to nie je spôsobené žiadnym stelesnením ľudskej inteligencie kalibru AGI.

Objaví sa množstvo ďalších výčitiek. Predpokladajme, že človek nie je schopný pochopiť odpovede. Alebo predpokladajme, že sa človek klame a verí, že všetky odpovede sú ukážkou ľudskej inteligencie. Dokonca som niektorými prekryl ošúchanú myšlienku, že všetko, čo musíme urobiť, je opýtať sa AI, či je to AGI alebo či je vnímavý, čo je jasné, nie je to veľmi presvedčivá forma dôkazu AGI, pozri odkaz tu.

Nakoniec, ako sa pridala myšlienka, musíme úplne dosiahnuť cieľovú čiaru, aby sme zvážili, že AGI bolo dosiahnuté?

Už som spomínal, že zvyčajne zabúdame na tých, ktorí nedorazia do cieľa. Toto nemusí byť rozumne analogické s rasou AGI. Verím, že sa dá urobiť presvedčivý prípad, že ak dokážeme dosiahnuť podstatnú cestu smerom k AGI, už sa ocitneme v stave úžasu a buďme veľkým prínosom, alebo veľkým problémom. Vidíte, veľa dôležitých a veľmi užitočných výsledkov by mohlo priniesť takmer tam AGI. Prísť nakrátko nebude také problematické ako nedokončiť 400-metrový beh, najmä preto, že to môže byť životne dôležitý základ pre našu cestu k plnšej verzii AGI (v porovnaní s tým je to možno maratón).

Metafora dosiahnutia AGI, ktorá je typom preteku alebo jeho ekvivalentom, je niekedy neuspokojivá a neadekvátna.

Rasa AGI sa môže týkať osoby, entity alebo národa

Niektorí prechovávajú zasnenú predstavu, že AGI dosiahne nejaký drotár pracujúci v garáži v pyžamách a bude výplodom šialene vynaliezavých počítačových experimentov, na ktorých sa roky a roky dria. To je klasický high-tech tróp osamelého vlka.

Ľutujeme, že toto je ponuka s extrémne nízkymi kurzami.

Väčšia pravdepodobnosť by bola, že subjekt, ako je obchod alebo nejaký výskumný tím, bude sprostredkovateľom AGI. Silné a prevládajúce presvedčenie je, že na AGI bude potrebná dedina. Osamelý vlk sám o sebe nebude mať zdroje ani poznatky na dosiahnutie AGI. Môžu prispieť k pátraniu. Môžu poskytnúť potrebné kúsky do skladačky. Nebudú schopní získať celú súpravu a caboodle.

Keď už hovoríme o dedinách, ďalším silne zastávaným názorom je, že to budú národy, ktoré budú schopné dosiahnuť iba AGI. Prostredníctvom kombinácie ľudí, podnikov, akademikov a všetkých ostatných spôsobov entít v rámci národného štátu AGI príde ako výsledok kombinovanej práce národnej totality. Jednotková úroveň pozornosti pre víťaza v týchto pretekoch je skôr na základe národného štátu než na niečom rozptýlenejšom, voľnejšom alebo individualistickom.

Stručne povedané, ak to vezme dedinu, dedina bude celoštátneho rozsahu, takže národný štát bude určeným bežcom, ktorý prekročí cieľovú čiaru v pretekoch AGI.

Metriky a ako sa porovnávajú národy v pretekoch AGI

Berte ako samozrejmosť, že úspech AGI bude založený na úrovni národného štátu.

Aby som to zopakoval, nevieme to s istotou, ale zdá sa, že ide o odôvodnený predpoklad.

Zvážte dôsledky základu národného štátu. Predpokladajme, že osamelému vlkovi sa podarí dostať sa do AGI ako prvému a verí, že ich práca presahuje prácu národného štátu, ktorého sú členom. Táto osoba vyhlasuje, že nie je zo žiadneho národného štátu v zmysle vytvoreného AGI. Stále by sme pripisovali uznanie tomuto národnému štátu a bola by AGI pod kontrolou a kompetenciou tohto národa?

Predstavte si ďalšiu alternatívu, že veľký nadnárodný konglomerát dorazí do AGI ako prvý. Ktorý národ môže povedať, že AGI je ich „vec“ na použitie a rozmiestnenie (bude to chápané ako majetok alebo zbieranie namiesto variantu právnickej osoby)? Možno všetky národy, v ktorých spoločnosť existuje, majú získať rovnaký kredit. Alebo možno len tam, kde je formálne sídlo geograficky umiestnené. Mohlo by to byť zložité štiepenie skutočného hrnca zlata.

V každom prípade je všeobecne populárny názor, že národný štát bude rozhodujúcim determinantom dosiahnutia AGI. Krajina, ktorá podporuje výskum a vývoj AI v rámci svojho národného úsilia, sa pravdepodobne dostane k AGI skôr ako iné krajiny, ktoré to nerobia podobne.

Prevláda názor, že rasa AI je národná.

Závažnou otázkou je, ako máme zistiť, či je jeden národ v rase AGI pred alebo za iným národom.

V konvenčných pretekoch by sme mohli ľahko identifikovať metriky, ktoré možno použiť na určenie, ktorým bežcom sa darí a ktorým nie. Rýchlosť bežca sa dá ľahko vypočítať. To nezaručuje, že skončia prví, ale aspoň to sľubuje. Fyzická vzdialenosť medzi bežcami a vzdialenosť zostávajúca do cieľa sú samozrejme dôležité kritériá, ktoré môžeme ľahko zmerať.

Rasa AGI nemá tieto druhy zaručených foriem metrík alebo meraní.

Používame všetky druhy náhradných opatrení, pretože neexistuje žiadny definitívny spôsob, ako vypočítať, kde je koncová čiara a ani ako ďaleko sme od nej.

Pozrime sa na typy metrík, ktoré sa bežne zvažujú. Stanfordský inštitút pre umelú inteligenciu zameranú na človeka (HAI) na Stanfordskej univerzite každoročne zhromažďuje a zverejňuje mimoriadne užitočný zdroj globálnych meraní súvisiacich s AI. Správa je k dispozícii online zadarmo a najnovšie vydanie má názov Výročná správa indexu AI za rok 2022 (na základe údajov zozbieraných za roky 2020 – 2021). O chvíľu sa s vami podelím o niektoré hlavné body národných porovnaní spomenutých v ich najnovšej kompilácii.

Metriky, ktoré sa používajú na meranie národného a medzinárodného pokroku v oblasti umelej inteligencie, zvyčajne zahŕňajú všetko, čo niekedy hraničí so zahrnutím skutočného kuchynského drezu.

Typy bežne skúmaných opatrení zahŕňajú:

• Počet článkov o výskume AI pripisovaných konkrétnemu národu
• Počet citovaných odkazov na články AI konkrétneho národa
• Počet časopisov AI v rámci konkrétnej krajiny
• Počet konferencií AI, ktoré sa konajú v rámci konkrétnej krajiny
• Počet konferencií AI sponzorovaných konkrétnou krajinou
• Počet patentov súvisiacich s AI udelených v rámci konkrétnej krajiny
• Počet spustených spoločností AI v rámci konkrétnej krajiny
• Počet úloh AI v rámci konkrétnej krajiny
• Počet nových pracovných miest alebo náborov AI v konkrétnej krajine
• Počet zákonov o umelej inteligencii alebo legislatívnych návrhov zavedených v konkrétnej krajine
• Počet prijatých alebo prijatých zákonov o AI v konkrétnej krajine
• ostatné

Zvážte tieto súčasné indikácie z indexu HAI AI 2022:

• Citácie publikácií AI: “Čo sa týka citácií publikácií v archívoch AI, Spojené štáty sú na čele zoznamu s 38.6 % celkových citácií v roku 2021, čím si vytvorili dominantný náskok pred Európskou úniou plus Spojeným kráľovstvom (20.1 %) a Čínou (16.4 %).“
• Časopisy/konferencie AI: „V roku 2021 Čína naďalej viedla svet v počte publikácií v časopisoch, konferenciách a archívoch umelej inteligencie – o 63.2 % viac ako Spojené štáty so všetkými tromi typmi publikácií dohromady. Medzičasom mali Spojené štáty dominantné prvenstvo medzi hlavnými veľmocami AI v počte citácií konferencií a repozitárov.“
• Patenty AI: „Čína teraz prihlasuje viac ako polovicu svetových patentov na umelú inteligenciu a je jej udelených približne 6 %, čo je približne rovnako ako Európska únia plus Spojené kráľovstvo. Spojené štáty, ktoré podávajú takmer všetky patenty v Severnej Amerike, tak robia tretinovým tempom ako Čína. V porovnaní so zvyšujúcim sa počtom prihlásených a udelených patentov AI má Čína oveľa väčší počet patentových prihlášok (87,343 2021 v roku 1,407) ako udelených (2021 XNUMX v roku XNUMX).
• Novo financované spoločnosti AI: „Investičné údaje podľa počtu novofinancovaných spoločností AI v každom regióne. V roku 2021 viedli Spojené štáty s 299 spoločnosťami, za nimi nasledovala Čína so 119, Spojené kráľovstvo so 49 a Izrael s 28. Rozdiely medzi nimi sú značné.“
• Tempo náboru AI: “Nový Zéland, Hongkong, Írsko, Luxembursko a Švédsko sú krajiny alebo regióny s najvyšším rastom náboru AI od roku 2016 do roku 2021.“
• Pracovné ponuky AI: „V roku 2021 boli Kalifornia, Texas, New York a Virgínia štátmi s najvyšším počtom pracovných ponúk AI v Spojených štátoch, pričom Kalifornia mala viac ako 2.35-krát vyšší počet pracovných ponúk ako Texas, ktorý je druhý najväčší. Washington, DC, mal najvyššiu mieru AI pracovných ponúk v porovnaní s celkovým počtom pracovných ponúk
• Legislatívne opatrenie AI: „Analýza AI Index legislatívnych záznamov o AI v 25 krajinách ukazuje, že počet návrhov zákonov obsahujúcich ‚umelú inteligenciu‘, ktoré boli schválené, vzrástol z iba 1 v roku 2016 na 18 v roku 2021. Španielsko, Spojené kráľovstvo a Spojené štáty V roku 2021 prešiel najvyšší počet návrhov zákonov súvisiacich s AI, pričom každý z nich prijal tri.

Môžeme veľmi obdivovať a oceniť tvrdú prácu spojenú so zostavovaním štatistík národných bežcov pre preteky AGI.

Skeptici sa však dosť dohadujú o používaní akýchkoľvek typov metrík v rasovom zapojení AGI.

Ožehavou otázkou je, či dokážete nakresliť nejakú priamu čiaru od počtu článkov o AI alebo konferencií o AI v rámci konkrétnej krajiny až po konečné dosiahnutie AGI. To isté sa hovorí o počte pracovných miest AI, počte spoločností AI a množstve ďalších metrík. Je možné, že tieto počty majú málo spoločného s dosiahnutím AGI. Argumentom je, že tieto opatrenia sú viac teplo ako svetlo.

Protiargumentom je, že musíme skúšať a merať, kde sme a kam smerujeme. Strkať hlavu do piesku sa nezdá byť veľmi životaschopným spôsobom, ako posúdiť, či smerujeme k AGI alebo možno ešte ďalej od AGI. Dúfame a všeobecne sa predpokladá, že čím viac energie a pozornosti smerom k pokroku v AI, tým bližšie sa dostaneme k AGI. Tieto metriky sú to najlepšie, čo môžeme urobiť, aby sme zistili, koľko energie a pozornosti sa prideľuje a spotrebuje v pretekoch AGI.

Dookola to ide.

Každá z metrík môže byť sama osebe tiež odpálená okolo hlavy.

Zvážte napríklad počet legislatívnych zákonov alebo zákonov o AI.

Môžete tvrdiť, že ak sa zákonodarcovia zameriavajú na zákony súvisiace s AI, je to dobré znamenie, že národ berie celkom triezvo dôležitosť AI a spoločenské dôsledky toho, kam AI smeruje. Dá sa povedať, že to ukazuje, že v tomto konkrétnom národe vzniká veľké úsilie o pokrok v oblasti AI. Prečo by ste si robili problémy s uzákonením zákonov o umelej inteligencii, ak by AI výrazne nerástla a nebublala ako demonštratívny prvok vášho národa?

Týmto spôsobom sa národy, ktoré vyhlasujú nové zákony o AI, interpretujú ako jasný znak alebo signalizácia pokroku AGI v tejto krajine dobre prebieha.

Niektorí kritici tvrdia, že navrhované nové zákony o AI potláčajú snahy o AI v každom takomto konkrétnom národe. Zákonodarcovia a politickí lídri si idú vystrieť nohy. Zákony predčasne zahalia pochmúrny tieň na snahy o AI prebiehajúce v tomto konkrétnom národe. Faucet na vylepšenie AI sa zasekne legálnym upchávaním vlasov a tempo pokroku v AGI sa v tomto národe vyhlasujúcom zákon o AI spomalí. Medzitým budú ostatné krajiny, ktoré neprijímajú tieto druhy zákonov AI, pokračovať v nezmenšenej miere. Je to, ako keby ste sa rozhodli dať olovené závažia na bežca, ktorý je už na 400-metrovej trati. Ak ste im chceli pomôcť a urýchliť ich, urobili ste presný opak.

Fíha, odpoveď znie, že uzákonenie zákonov AI je skôr podobné zabezpečeniu toho, aby pred bežcom neboli žiadne zbytočné prekážky. Zákony poskytujú usmernenie tým istým spôsobom, že čiary na pretekárskej dráhe sú na to, aby udržali bežca plynule ísť správnym smerom. Bez tých namaľovaných čiar by sa bežci mohli zblázniť. Nové zákony o umelej inteligencii ich prinútia kráčať jednotne smerom k žiaducemu výsledku. Krajiny, ktoré nerobia to isté, pokiaľ ide o nové zákony o AI, zistia, že ich bežci idú všetkými divokými smermi, vrátane možného úplného vybehnutia z trate a ublíženia tým, ktorí sú nevinní mimo samotnej rasy AGI.

Existujú aj „skryté“ zákony súvisiace s AI, ktoré niektorí počítajú a zatiaľ čo iní sa nepočítajú ako súčasť týchto metrík (čo spôsobuje mišmaš pri pokuse o porovnanie počtov).

Napríklad, ak niektorá krajina prijme zákon týkajúci sa autonómnych vozidiel, ako sú autá s vlastným riadením, považujete to za zákon o AI? Aby sme objasnili, autonómne vozidlo, ako je plne autonómne auto s vlastným riadením, bude mať systém riadenia AI, ktorý je základom schopností bez vodiča (pozri moje pokrytie na odkaz tu). Vďaka zapojenej AI by sa všetky zákony o autonómnych vozidlách mohli rozumne obhajovať ako v podstate zákony AI. Na druhej strane by ste mohli presvedčivo tvrdiť, že zákon je o autonómnom vozidle a nie sám o sebe o AI, preto sa to nepočíta do zákonov špecifických pre AI.

Je to chaotické.

Všetko toto zdesenie nad metrikami môže spôsobiť, že pokrčíte plecami uprostred opačných názorov na tieto závažné úvahy. Ako môže byť zrejmé, metriky sú takmer vždy predmetom rozdielnych interpretácií toho, čo znamenajú a ako sa vhodne analyzuje stav krajiny, pokiaľ ide o AGI.

Geopolitické manévrovanie a zosúladenie pre preteky AGI

Ktoré národy vedú v pretekoch AGI?

Ktoré národy zaostávajú?

Vyššie uvedené metriky sa pokúšajú ukázať, kde sa každý z bežcov momentálne nachádza. Základným predpokladom je, že ak metriky zobrazujú vhodnú indikáciu polohy pri hľadaní AGI, tieto rôzne pólové pozície môžu časom zostať rovnaké. Samozrejme, realita je taká, že národný záujem a pozornosť sa môžu počas hrboľatej cesty smerom k AGI zvyšovať alebo môžu ochabovať. Možno bude najmúdrejšie očakávať zmeny v umiestnení.

Jednou z dôležitých úvah je, že národy v skutočnosti nie sú v tejto rase samy osebe.

Národy si pravdepodobne budú medzi sebou odovzdávať štafetu tam a späť. Rasa AGI má občas jeden alebo viac národov, ktoré s radosťou pracujú ruka v ruke. Niekedy sa to robí skôr opatrne ako s priateľskou radosťou. V iných prípadoch sa národy môžu navzájom držať späť. V každom okamihu môže byť držanie tela pri pretekoch úplne iné, ako to bolo o pár krokov späť, a navyše môže byť celkom iné o niekoľko krokov do budúcnosti.

Zamyslite sa nad týmto bodom správy HAI AI Index 2022 o spolupráci medzi krajinami: „Napriek rastúcemu geopolitickému napätiu mali Spojené štáty a Čína od roku 2010 do roku 2021 najväčší počet medzištátnych spoluprác v publikáciách o umelej inteligencii, pričom od roku 2010 vzrástol päťkrát. Spolupráca medzi týmito dvoma krajinami vyprodukovala 2.7-krát viac publikácií ako medzi Spojeným kráľovstvom a Čínou – čo je druhé najvyššie na zozname.“

Cynici by povedali, že použitie krížovej spolupráce sa niekedy robí ako lesť. Národ by mohol otvorene tvrdiť, že vzájomne spolupracuje, pričom sa zdá, že tak robia, zatiaľ čo v hĺbke svojho najlepšieho pokroku v AGI uchovávajú skryté národné tajomstvo. Možno sa to robí preto, aby sa otupil pokrok národa krížovej spolupráce. Možno sa to robí, aby sa zabezpečilo, že tajná omáčka nebude neúmyselne rozdaná. Možné sú všetky druhy dôvodov.

V dnešnom modernom digitálnom internetovom online svete môže byť snaha držať prehľady AGI pevne pod pokrievkou náročnou úlohou. Intenzívna túžba odhaliť alebo vynájsť AGI je presvedčivým lákadlom, ktoré môže podnietiť jednotlivých vývojárov a výskumníkov AGI, aby otvorene zdieľali svoju najnovšiu prácu. Národy môžu zistiť, že pokúsiť sa obmedziť takéto zdieľanie je oveľa ťažšie, ako by sa mohlo zdať, a pravdepodobne oveľa ťažšie ako v časoch, keď bolo všetko na papieri a vyžadovalo sa fyzicky presúvať dokumenty po celom svete.

Posun smerom k otvorenému zdroju je určite súčasným dôrazom na väčšinu najnovších výskumov AI a AGI, ako sa uvádza v správe HAI AI Index 2022: „Každý rok sa v otvorenom zdroji vydajú tisíce a tisíce publikácií o umelej inteligencii, či už na konferencie alebo na webových stránkach na zdieľanie súborov. Výskumníci budú otvorene zdieľať svoje zistenia na konferenciách; vládne agentúry budú financovať výskum AI, ktorý skončí v open-source; a vývojári využívajú otvorené softvérové ​​knižnice, ktoré sú voľne dostupné verejnosti, na vytváranie najmodernejších aplikácií AI. Táto otvorenosť tiež prispieva ku globálne vzájomnej závislosti a prepojenosti moderného výskumu a vývoja AI.“

Celkovo vzaté, národy sa vo všeobecnosti delia, a predsa môžu ukázať len časť svojej ruky. Iné národy sa možno nezdieľajú alebo to len predstierajú. Niektoré národy mocne zápasia so snahou odhadnúť, čo ľudia v rámci ich národa rozdávajú a na čom visia. A tak ďalej.

Charakter týchto národných krokov som charakterizoval týmito spôsobmi:

• AI Go-it-alone Nation (snaží sa pokračovať sám)
• AI Jednosmerný národ (prijíma, nevydáva)
• AI Leftover Nation (dostane od ostatných, čo môže)
• AI Open-sharing Nation (je hrdý na zdieľanie)
• AI Hollow-sharing Nation (klamstvo pri zdieľaní)
• AI Alliances Nation (snaží sa vytvoriť čo najviac aliancií)
• AI Not-in-the-game Nation (hľadanie AGI nie je národnou prioritou)
• AI Cheating Nation (spätné inžinierstvo alebo záludné kradnutie od iných národov)
• ostatné

Národ môže byť vo viac ako jednom z týchto vedier naraz.

Národ môže byť na chvíľu v jednom z týchto vedier, odísť z vedra a možno sa neskôr vrátiť späť.

Túžby a pozornosť národného štátu týkajúce sa hľadania AGI sú dynamickým prílivom a odlivom, ktorý bude určite pokračovať a bude pohyblivým cieľom, pokiaľ ide o to, ktorý národ je kde v pretekoch, a na zistenie toho bude potrebné neustále pozorovanie. kde sú všetci hráči rozmiestnení v danom okamihu.

Medzinárodné zákony AI a etika AI ako rozhodcovia v pretekoch AGI

V predchádzajúcich stĺpcoch som popísal rôzne národné a medzinárodné snahy o vytvorenie a prijatie zákonov regulujúcich AI, pozri odkaz tu a odkaz tu, napríklad. Zaoberal som sa aj rôznymi princípmi a usmerneniami etiky umelej inteligencie, ktoré identifikovali a prijali rôzne národy, vrátane napríklad úsilia Organizácie Spojených národov, ako je súbor etiky umelej inteligencie UNESCO, ktorý prijalo takmer 200 krajín, pozri odkaz tu.

Tu je užitočný základný zoznam etických kritérií alebo charakteristík AI systémov AI, ktoré som predtým podrobne preskúmal:

• Priehľadnosť
• Spravodlivosť a spravodlivosť
• Neškodnosť
• zodpovednosť
• súkromia
• dobročinnosť
• Sloboda a autonómia
• Verte
• Udržateľnosť
• dôstojnosť
• Solidarita

Predpokladá sa, že tieto princípy etiky AI budú vážne využívať vývojári AI spolu s tými, ktorí riadia úsilie o vývoj AI, a dokonca aj tými, ktorí v konečnom dôsledku nasadzujú a vykonávajú údržbu systémov AI.

Všetky zainteresované strany počas celého životného cyklu vývoja a používania AI sa zohľadňujú v rámci dodržiavania zavedených noriem Etickej umelej inteligencie. Toto je dôležitý prvok, pretože zvyčajný predpoklad je, že „iba kóderi“ alebo tí, ktorí programujú AI, podliehajú dodržiavaniu etických pojmov AI. Ako už bolo zdôraznené vyššie, na vymyslenie a nasadenie AI je potrebná dedina, v ktorej musí byť celá dedina oboznámená a dodržiavať etické predpisy AI.

Uvažujme o vplyve a životnej povahe medzinárodných zákonov AI a medzinárodných vyhlásení o etike AI na rasu AGI.

Národy, ktoré sa usilujú o AGI, to môžu robiť bez obáv a zistia, že smerujú k niektorým z často popularizovaných existenčných rizík AGI. Dúfame, že zavedením medzinárodných zákonov o umelej inteligencii a medzinárodných pravidiel etiky umelej inteligencie budú národy smerované k AI pre dobro a vyhýbať sa AI pre zlé.

Podľa našej analógie na pretekárskej dráhe sú tieto zákony AI a úvahy o etike AI ako pokusy zabrániť bežcom ísť mimo trate. V pretekoch AGI sú obrovské pokušenia používať skratky. Tieto skratky by mohli priviesť národ zdanlivo skôr k cieľovej čiare, hoci súčasne vystavia tento národ a ďalšie národy neprimeranému riziku. Jemný, ale výrečný príklad pozostáva z umelej inteligencie s dvojakým použitím, ktorú som skúmal na odkaz tu, pričom pokrok AI sa dá ľahko zmeniť s veľkým úsilím od zamerania sa na dobro k tomu, že sa vytvorí kataklyzmatické zlo.

Môžete tvrdiť, že medzinárodné zákony AI a medzinárodná etika AI sú ako rozhodcovia alebo rozhodcovia.

Predpokladom je, že tieto medzinárodne navrhnuté právne a etické mechanizmy udržia rasu AGI na vyrovnanejšom základe. Ide o to, či sa jednotlivé krajiny rozhodnú venovať pozornosť rozhodcom alebo rozhodcom, je iná vec. Podobne je tu nepríjemná otázka, ako môžu tieto orgány udeľovať pokuty alebo stimuly, aby udržali bežcov na správnej ceste. Je pravdepodobné, že národy budú robiť, čo chcú, na čo iné národy možno budú musieť presunúť svoju váhu, aby podporili porušovanie pravidiel, ku ktorým sa niektoré štáty chystajú.

záver

Louis Pasteur, legendárny chemik a mikrobiológ, slávne povedal toto: „Veda nepozná krajinu, pretože vedomosti patria ľudstvu a sú pochodňou, ktorá osvetľuje svet. Veda je najvyšším zosobnením národa, pretože tento národ zostane prvým, ktorý dotiahne najďalej diela myslenia a inteligencie."

Môžeme povedať, že dosiahnutie AGI nepozná žiadnu krajinu a že AGI bude patriť celému ľudstvu?

Alebo bude národ, ktorý ako prvý príde na AGI, k nemu privlastnený, opije sa strašnou mocou a zblázni sa z moci?

Pre tých z vás, ktorí majú radi tento konkrétny hlavolam, zvážte, že AGI môže byť samo osebe typom dosiahnutia, ktorý je povestným hadom v tráve. Objaviteľ hada môže byť prvým, kto dostane hadie uhryznutie. Byť prvý má svoje riziká.

Prekročenie cieľovej čiary na AGI nemusí byť nevyhnutne také oslavné a bezstarostné, ako si niektorí môžu myslieť. Ani využitie AGI nebude nevyhnutne jednoduché. Niektorí by mohli namietať, že vyrovnať sa s AGI môže byť takmer nemožné, pretože AGI bude mať zdanlivo porovnateľnú úskok a vynaliezavosť ako ľudstvo. Národy by si mali dávať pozor na to, čo sa snažia dosiahnuť a aký bude výsledok, robiť to vopred a nenechať sa zaskočiť. Vo svojej národnej pokladnici môžu mať hniezdo sršne.

Ako povedal Pasteur: "Šťastie praje pripravenej mysli."