Keď Ben Goertzel nepracuje na urýchlení ponáhľania sa ľudstva k Singularite vytvorením umelej všeobecnej inteligencie (AGI), hrá v jazzrockovej kapele Jam Galaxy v čele s robotom menom Desdemona.
Je to jeden z jeho mnohých vedľajších projektov, ktorý ho prirodzene viedol k pokusu o tokenizáciu hudobného biznisu oslovením členov Pearl Jam a Heart. Goertzel tiež pracuje na výskume dlhovekosti prostredníctvom crowdsourcingu údajov o ľudskom zdraví so symbolickými odmenami prostredníctvom aplikácie s názvom Rejuve.ai. Tieto informácie sa potom spoja s údajmi zo štúdií na zvieratách a hmyze a analyzujú sa pomocou AI, aby sa určilo, ktoré časti genómov nám môžu predĺžiť život, a potom sa stimulujú pomocou génových terapií. „Dosiahli sme niekoľko pozoruhodných objavov na prelomovej úrovni,“ hovorí. Och, a tesne predtým, než sa skončí náš hodinový rozhovor, mimochodom mimochodom spomenie, že vytvára aj stablecoin pre svoj decentralizovaný trh AI, SingularityNET, ktorý je naviazaný na syntetický index environmentálneho pokroku – pretože jeho naviazanie na americké doláre by bolo "Chromý."
„Pokrok v oblasti životného prostredia je veľmi stabilný. Nikdy to nikam nevedie,“ upozorňuje.
"A aby ste to mohli zmanipulovať, musíte skutočne vyriešiť globálne otepľovanie."
Je to presne ten druh politických komentárov, ktoré sa stretávajú s high-tech know-how, aké by ste mohli očakávať od Goertzela, ktorý vyzerá a znie ako hippie vedec, ktorý v roku 1971 narazil na stroj času a úplne sformovaný sa objavil v roku 2023. Nenechajte sa však zmiasť klobúk so zvieracím vzorom, dlhé vlasy a elektrický náramok s kyselinou Kool-Aid: Je to skvelý vedec s prehľadom o budúcich svetelných rokoch pred väčšinou a ktorý sa potýka s niektorými z najväčších pojmov, aké kedy ľudstvo zvažovalo. Čo je vedomie? Ako vytvoríme umelý život a čo sa stane, ak nás nebude mať rád, bude darebný a všetkých zastrelí ako v Terminator 2?
Čo je všeobecná umelá inteligencia?
Goertzel spopularizoval termín „umelá všeobecná inteligencia“ ako spôsob, ako odlíšiť skutočný mysliaci stroj, ktorý sa dokáže naučiť takmer čokoľvek, od AI, ktoré sú optimalizované pre jednu konkrétnu úlohu, ako napríklad počítač Deep Blue, ktorý slávne porazil majstra sveta v šachu Garryho Kasparova. Voľne pripúšťa, že pri budovaní stroja, ktorý je schopný naučiť sa čokoľvek a všetko, vrátane toho, ako sa preprogramovať, aby sa stal rádovo inteligentnejším ako ktorýkoľvek človek, existujú riziká.
„S AGI je množstvo rizík a nebezpečenstiev,“ hovorí Goertzel cez rámus v indickej reštaurácii v rušnom nákupnom centre v Singapure. „Jednou z nich, ktorá si získala veľkú pozornosť médií, je to, že AGI sa zblázni a zničí ľudstvo a ovládne vesmír. Je to úplne možné; nemôžete to vylúčiť,“ hovorí.
"Ďalším pravdepodobnejším rizikom je, že odporní sebeckí ľudia použijú AI na uplatnenie vlastnej chamtivosti a kontroly nad inými ľuďmi."
Podľa jeho názoru je nepravdepodobné, že vlády urobia prelom v AGI, pretože sú „príliš konzervatívne a hlúpe“, hoci poznamenáva, že Čína zadáva svoju prácu AGI spoločnostiam ako Tencent a Baidu. Bližšie k domovu si myslí, že divízie AI Googlu a Facebooku tiež neprekročia hranicu, pretože sa príliš sústredia na to, aby umelá inteligencia zasiahla určité metriky, čo neprospieva kreatívnemu mysleniu.
„Rovnako ako tí najbrilantnejší ľudia nechcú iba slúžiť metrikám niekoho iného, myslím si, že umelá všeobecná inteligencia tiež nemusí nutne chcieť maximalizovať prekliknutie na niečiu webovú stránku, však? Musí nám byť dovolené hrať sa kreatívne.“
Singularita okolo roku 1970
Goertzel začal univerzitu v 15, promoval v 18, mal doktorát v 22 a mladú rodinu v 23. Možno nezvyčajne v dnešnej dobe, nebol to len matematický šmejd alebo technický génius, ktorý v 70. rokoch spájal počítače. ale rovnako sa zaujímal o filozofiu, tvorivé písanie a hudbu.
Väčšinu svojej kariéry strávil vyučovaním a výskumom informatiky, matematiky a kognitívnych vied na rôznych univerzitách po celom svete, pričom vždy, keď mohol, pracoval na technológii AI. Sériový zakladateľ, ktorý má tendenciu byť o desaťročie pred všetkými ostatnými svojimi nápadmi, ktoré v biznise slávne sa rovná mýliť sa — pracoval na používaní AI na predpovedanie finančných trhov a dlhovekosti a tiež pôsobil ako hlavný vedec Hanson Robotics, kde dal robotke Sophii jej umelý mozog.
Goertzel premýšľal o exponenciálnom technologickom raste od 1970. rokov, keď prvýkrát čítal knihu Geralda Feinberga Projekt Prometheus, ktorá je o „strojoch, ktoré dokážu myslieť lepšie ako ľudia... o nanotechnologických strojoch, ktoré sú mikroskopicky malé, a my vyriešime starnutie“. To pekne zapadalo do vznikajúcej koncepcie singularity, hypotetického budúceho bodu, keď sa technologický pokrok stane nekontrolovateľným a nezvratným, čo bude mať za následok obrovské zmeny v ľudskej civilizácii.
"Takže ľudia budú žiť večne, potom bude otázka, Na čo používame tieto technológie, rýchly bezduchý konzumerizmus, alebo to používame na rozšírenie vedomia? A to, čo [Feinberg] navrhol, je dať to na demokratické hlasovanie."
O niekoľko rokov neskôr, keď začal vidieť, že AGI máme na dosah, sa toto „demokratické hlasovanie“ stalo inšpiráciou pre prvé použitie open-source technológie a neskôr blockchainu ako spôsobu, ako dať kooperatívnej komunite zodpovednosť za túto technológiu.
„V určitom momente som si uvedomil, že pri AI nestačí mať otvorený kód,“ hovorí. "Naozaj potrebujete trénovať AI na hromadu údajov."
„Toto je miesto, kde blockchain prichádza ako spôsob, ako urobiť spracovanie a údaje, ktoré sú základom AI, decentralizované a crowdsourcované v prírode a otvorené pod kontrolou. A to sa ukazuje byť zložitejšie ako len získavanie kódu s otvoreným zdrojom.“
Goertzel založil OpenCog v roku 2008 s cieľom vybudovať open-source, crowd-source rámec umelej inteligencie. Používa ho 50 spoločností vrátane Huawei a Cisco a čoskoro sa chystá veľká aktualizácia s názvom Hyperon, ktorej cieľom je 200-násobné zrýchlenie. Alfa verzia má vyjsť tento štvrťrok a beta sa očakáva budúci rok.
Blockchain je základný, ale cool
Pre Goertzela je blockchain technológia trochu základná. Opisuje to ako nejaké primitívne distribuované algoritmy pridané do kryptografie, ale „skvelá kombinácia“ umožňuje systémom bežať bez centralizovaného riadenia, vďaka čomu je ideálna pre jeho potreby.
"Ak sa chystáte vytvoriť mysliaci stroj a chcete z neho vyrobiť distribuovanú výpočtovú štruktúru nanometrov, bolo by veľmi pekné, keby ho vlastnili všetci a nikto, namiesto toho, aby ho kontrolovali zhora nadol."
Blockchainy sú príliš pomalé na to, aby sa vyrovnali s požiadavkami na spracovanie a obrovským objemom príslušných údajov, takže existuje niečo ako preteky o správne škálovanie blockchainu predtým, ako sa vyvinie prelomové AGI. Goertzel hovorí, že aj keď sú škálovacie riešenia, ako sú súhrny s nulovými znalosťami, lepšie, stále nemajú dostatočnú šírku pásma kvôli obmedzeniam blockchainu, do ktorého hlásia transakcie.
V roku 2017 spoluzaložil SingularityNET, čo je decentralizovaný trh pre služby a technológie AI a metóda koordinácie založená na blockchaine pre výskumníkov – alebo dokonca AI – na spoluprácu.
V súčasnosti si na základe Etherea myslí, že posunul veci tak ďaleko, ako to len ide na blockchaine v jeho súčasnej podobe. Takže keď nepracuje na prelomovom vývoji v AGI (alebo kapele, robotoch alebo dlhovekosti), pracuje na masívnom škálovaní blockchainu, aby mu dal požadovanú priepustnosť.
„Pokiaľ nemôžete radikálne zvýšiť škálovateľnosť blockchainu, nemôžete dať vnútorné fungovanie AI do reťazca.“
AI je bližšie, než si myslíte
Rok 2022 bol prelomovým rokom pre fungujúce produkty založené na technológii AI vrátane jazykových aplikácií (GPT-3, ChatGPT), kódovania (GitHub Copilot) a generovania obrázkov (DALL-E a Stable Diffusion). Bing dokonca plánuje tento rok prevziať dominanciu Google vo vyhľadávaní začlenením technológie ChatGPT do svojho vyhľadávača.
Goertzel si myslí, že AGI by mohlo byť vzdialené len päť rokov a poznamenáva, že vývoj v tejto oblasti sa zdá byť v krátkych troj- alebo štvorročných dávkach v sérii prelomov.
„Computer Vision sa začal v roku 2014 a potom zrazu bum, bum, bum, záhada bola vyriešená. Spracovanie prirodzeného jazyka... potom, čo Google prišiel s modelom Bert (v roku 2018), mali ste GPT-3. Pravdepodobne uvidíte rovnaký oblúk pokroku v AGI. Budete mať jeden prelom a potom veľký pokrok na dva roky,“ povedal.
"Rozdiel je v prelomovom pokroku v tomto prípade vedie k stroju, ktorý môže pokračovať v napredovaní sám prepísaním svojho vlastného kódu."
Goertzel dúfa, že projekty a spolupráce, ktoré uviedol do pohybu, by mohli byť také, ako k tomu dôjde.
„Ak budeme mať šťastie, dosiahneme tento prelom v najbližších troch až piatich rokoch s OpenCog Hyperon bežiacim na SingularityNET bežiacom na Hypercycle,“ hovorí. "Ale ak sa ukáže, že tajnú omáčku nemáme my, dostane ju niekto iný."
Škoda, že Vitalik nebol počítačový vedec
Goertzelovo riešenie na škálovanie blockchainu je dosť radikálne a zahŕňa turbo-nabíjanie bočného reťazca alebo vrstvy 2 Cardano s názvom „HyperCyle“.
„Je to naozaj viac ako len vedľajší reťazec. HyperCycle bude spolupracovať aj s Ethereom a ďalšími blockchainmi, ale použijeme tam interpret Plutus, no zbavujeme sa účtovnej knihy.“
Opísal HyperCycle online ako riešenie „blockchain trilemy“ „decentralizácia verzus bezpečnosť verzus výkon tým, že sa zbaví účtovnej knihy a použije modernejšie/plne decentralizované algoritmy a dátové štruktúry, plus trochu AI a reputačných systémov.“
Kniha je jadrom technológie blockchain, ale hovorí, že prinútiť každý uzol v sieti replikovať každú transakciu a spracovať každú inteligentnú zmluvu je smiešne neefektívne.
„Účtovná kniha je jednoducho zlá. Ak sa nad tým zamyslíte, ak sa zamyslíte nad analógiou vašich kontaktov vo vašom telefónnom zozname, myslím tým, že účtovná kniha je ako […] uchovávať 10,000 10,000 kópií Zlatých stránok a aktualizujete ich vždy, keď príde niekto nový alebo ak niekto zmení svoje telefónne číslo. Je naozaj hlúpe aktualizovať XNUMX XNUMX kópií Zlatých stránok.“
Prečítajte si tiež
Vo verzii analógie HyperCycle namiesto toho, aby všetci ukladali a aktualizovali Zlaté stránky, ľudia vo vašom adresári ukladajú kópiu vášho adresára a naopak, zašifrovanú vaším súkromným kľúčom.
„Prišli sme na to, ako zabezpečiť, aby blockchain fungoval bez replikujúcej sa účtovnej knihy, aby sme ju úplne roztrhali. Každý jednotlivec zapojený do blockchainu si uchováva svoju vlastnú históriu transakcií a uchováva históriu transakcií svojich priateľov a niektorých priateľov svojich priateľov,“ hovorí.
“Sharding úplne dole, nepotrebujete účtovnú knihu – nepotrebujete databázovú tabuľku. Tieto veci sú príliš centralizované."
Hovorí, že niektoré uzly HyperCycle na overenie koncepcie sú už funkčné, ale spustenie v plnom rozsahu sa uskutoční až v druhej polovici roku 2024.
Dlho sme diskutovali o rôznych výhodách rôznych prístupov k blockchainu, od internetového počítača po Elastos a Celestiu, z ktorých väčšina je nad mojou platovou triedou a mimo schopnosti môjho záznamového zariadenia presne zachytiť v hlučnej reštaurácii.
Na záver hovorí: „Takže mám pocit, že žiadna z týchto architektúr nie je dostatočne radikálna. Všetci sa príliš držia Bitcoinu.“
„Pokiaľ máte spustenú každú inteligentnú zmluvu na každom uzle, myslím, že to bude šialene pomalé. Teraz, v HyperCycle, ak spustíte smart kontrakt na piatich uzloch, je to aspoň päťkrát pomalšie ako na jednom počítači – nie je to 10,000 XNUMX-krát pomalšie.“
Prečo teda Cardano?
Goertzel sa spriatelil so zakladateľom Cardano Charlesom Hoskinsonom, pričom sa pár spojil kvôli svojim projektom v Afrike. Verí, že Hoskinson je „naozaj tam vonku, aby zachránil svet. Chcem tým povedať, že politicky je skôr hardcore libertarián ako ja – ja som skôr anarchosocialista – ale nejde mu len o to, aby zarábal peniaze alebo oháňal iných ľudí z ich peňazí.“
Skutočnou príťažlivosťou Cardana je však to, že používa programovací jazyk Haskell, ktorého je Goertzel fanúšikom od roku 1993. Veľmi ho bolí, že spoluzakladateľ Etherea Vitalik Buterin použil inteligentný zmluvný programovací jazyk Solidity od Gavina Wooda.
„Keby Vitalik poznal viac počítačovej vedy, prinútil by ich používať Haskell alebo F Sharp alebo niečo také, a bolo by oveľa menej hackov blockchainu,“ hovorí.
„Ak budete riadiť väčšinu svetovej ekonomiky a obchodovať s biliónmi dolárov na nejakom softvérovom systéme, bolo by lepšie, keby ste tento softvérový systém postavili v jazyku, ktorý nie je náchylný na chyby a kde môžu byť vaše algoritmy formálne overené pomocou matematickej teórie. Je to ten správny spôsob, ako robiť veci.“
Stop-gap riešenie
Bez ohľadu na to, aký rýchly bude blockchain, akonáhle bude AGI rádovo inteligentnejší a schopnejší ako ľudia, Goertzel hovorí, že nikomu nedovolí ho ovládať.
"Keď je AGI 100-krát múdrejší ako ľudia, nechce byť ovládaný nami, pretože by nás neovládal šimpanz alebo somár, však?"
„Potom by som povedal, že otázka nie je kontrolovaná jedným z nás, ale otázkou je: Je nám dobre naklonený? Umožní ľuďom regulovať svoje podnikanie a poskytne nám skvelé nástroje a nano-montážne nástroje na 3D tlač všetkého, čo chceme, a vyliečenie našich chorôb?
„Ale prechodné obdobie, keď má AGI rovnakú inteligenciu ako ľudia, vtedy sú veci citlivejšie a zaujímavejšie. A otázka znie: Chce AGI spolupracovať s ľuďmi? Alebo je paranoidná a chce ľudí ovládať skôr, ako to zničia?“
Učte svoje deti dobre
Podľa Goertzela je riešením naučiť AGI o starostlivosti o druhých ao kreativite a umení. To je miesto, kde prichádza Desdemona Robot v jeho skupine a jej sestra Grace - ktorá je navrhnutá tak, aby poskytovala starostlivosť o starších ľudí.
Spôsob, akým sa vyhnete tomu, aby sa AGI zmenilo na Terminátorov Skynet, je v prvom rade nepostaviť ho tak.
„Skynet, samozrejme, vo filme bola počítačová bezpečnostná sieť, ktorá sa rozzúrila. Bol vytvorený, aby sa bránil pred ľuďmi,“ hovorí.
„Ak však vybudujete prvé AGI, ktoré sa bude zaoberať starostlivosťou o starších ľudí, kreatívnym umením a vzdelávaním, keď bude inteligentnejšie, bude orientované na pomoc ľuďom a vytváranie skvelých vecí. Ak postavíte prvé AGI na zabitie zlých ľudí... možno bude v týchto veciach pokračovať."
„Či už je to prospešné alebo nie, záleží na tom, aké aplikácie ste vyvinuli a na čo ste stimulovali.“
Verí, že vkladanie AI do tiel robotov je užitočné, pretože im pomáha umiestniť ich do skutočného sveta, a nie do nejakého abstraktného matematického vesmíru.
„AI by sa mala učiť o ľudskom a fyzickom svete. Byť stelesnený vo svete je ten správny spôsob, ako to urobiť,“ hovorí.
Keď však robotu Sophiu predstaví veľkému publiku, vizuálne a sluchové senzory môžu byť ľahko ohromujúce a zmiasť AI v hlasnom a jasnom prostredí. Takže Sophia sa čoskoro spustí v metaverze s názvom Sophiaverse. Zabudnite na nudné textové odpovede ChatGPT, Sophia je stelesnená v 3D virtuálnom svete a bude sa učiť z interakcie s ľuďmi tam. Varuje však, že pravdepodobne povie nejaké hlúposti.
"Má neurónovú sieť podobnú GPT-3 a tak ďalej, ktorá má značné možnosti odpovedať na vaše otázky, ale v niektorých ohľadoch je tiež dosť hlúpa."
Odoslať
Najpútavejšie čítanie v blockchaine. Doručené raz a
týždeň.
Zdroj: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/