AI Shake-Up ako prominentný AI Guru navrhuje „smrteľné počítače“, ktoré ohýbajú myseľ, do ktorých sa dostáva aj etika AI a zákon o AI

Tu je niečo, nad čím ste pravdepodobne ešte neuvažovali: Smrteľné počítače.

Ale možno by si mal byť.

Opojná téma sa objavila na nedávnej a celkom významnej výročnej konferencii o AI, ktorá je špeciálne zameraná na nástup neurónových sietí a strojového učenia, konkrétne na Konferencii o systémoch spracovania neurálnych informácií (zasvätenými známa ako NeurIPS). Pozvaný hlavný rečník a uznávaný dlhoročný guru AI Geoffrey Hinton vyslovil zaujímavé a možno kontroverzné tvrdenie, že o počítačoch by sme mali uvažovať v smrteľnom a nesmrteľnom kontexte.

Budem sa zaoberať pozoruhodným tvrdením a urobím to dvoma spôsobmi, ktoré sa na prvý pohľad nemusia nevyhnutne zdať spojené, aj keď po troche dodatočného objasnenia sa stanú jasnejšími, pokiaľ ide o spory medzi smrteľnými a nesmrteľnými.

Tieto dve témy sú:

1) Integrálne prepojiť hardvér aj softvér pre mechanizáciu AI, namiesto toho, aby sme ich mali ako samostatných a samostatných spojencov

2) Prenos alebo destilácia formulácií strojového učenia z jedného modelu umelej inteligencie do druhého, čo sa robí bez toho, aby sa vyžadovalo alebo nevyhnutne požadovalo (alebo je to dokonca inak možné) priame plnokrvné kopírovanie.

To všetko má veľký význam pre AI a budúce smerovanie vývoja AI.

Okrem toho vzniká množstvo veľmi chúlostivých obáv z etiky a zákona o AI. Tieto typy technologických pokrokov predstavených AI sa zvyčajne spájajú na čisto technologickom základe dlho predtým, ako si uvedomíme, že by to mohlo mať aj pozoruhodné dôsledky pre etickú AI a zákon o AI. V istom zmysle je zvyčajne mačka už vonku z vreca alebo kôň z maštale, ešte pred prebudením, že etike AI a zákonu AI by sa mala venovať náležitá starostlivosť.

No, prerušme ten oneskorený cyklus a vstúpme na prízemie na toto.

Pre tých z vás, ktorí sa celkovo zaujímajú o najnovšie poznatky o etike umelej inteligencie a zákonoch o umelej inteligencii, možno nájdete informatívne a inšpiratívne pútavé moje pokračujúce a rozsiahle pokrytie na stránke odkaz tu a odkaz tu, Len aby sme vymenovali niekoľko.

Najprv tu pokryjem vyššie uvedený bod o spojení hardvéru a softvéru. Diskusia a analýza témy budú prebiehať ruka v ruke. Ďalej sa dotknem veci kopírovania alebo niekto povie destiláciou kľúčové prvky systému umelej inteligencie strojového učenia od jednej AI po novo vyvinutú AI ako cieľ.

Začnime.

Spojenie hardvéru a softvéru pre AI

Pravdepodobne viete, že dizajn počítačov je vo všeobecnosti taký, že existuje hardvérová stránka vecí a zvlášť softvérová stránka vecí. Keď si kúpite bežný prenosný alebo stolný počítač, považuje sa za univerzálne výpočtové zariadenie. Vo vnútri počítača sú mikroprocesory, ktoré sa používajú na spustenie a spustenie softvéru, ktorý si môžete zakúpiť alebo napísať sami.

Bez akéhokoľvek softvéru pre váš počítač je to kus kovu a plastu, ktorý vám okrem toho, že funguje ako ťažítko, v podstate neurobí veľa dobrého. Niekto by povedal, že softvér je kráľ a vládne svetu. Samozrejme, ak nemáte hardvér, na ktorom by ste softvér spúšťali, softvér vám neprinesie veľa dobrého. Môžete napísať toľko riadkov kódu, koľko si len vaše srdce želá, no kým sa softvér nepoužíva prostredníctvom počítača, formulovaný zdrojový kód je taký krehký a nelietavý ako nádherné básnické dielo alebo minútový detektívny román.

Dovoľte mi na chvíľu prejsť na inú cestu, ktorá sa môže zdať ďaleko (nebude).

Často sa snažíme načrtnúť analógie medzi tým, ako fungujú počítače a ako funguje ľudský mozog. Tento pokus o koncepčné paralely je užitočný. Ako už bolo povedané, musíte byť opatrní, aby ste tieto analógie neprehnali, pretože porovnania majú tendenciu rozpadnúť sa, keď sa priblížite k mäsitým detailom.

Každopádne, kvôli diskusii tu je často používaná analógia.

Samotný mozog je neformálne niekedy označovaný ako mokrý tovar. To je chytľavý spôsob, ako formulovať veci. Vieme, že počítače pozostávajú z hardvéru a softvéru, takže je šikovné použiť časť „ware“ na opísanie toho, čo znamená mozog. Silný a tajomný mozog, usadený v našich nogginoch, sa vznáša a mentálne prepočítava všetky naše skutky (niektoré dobré, zatiaľ čo niektoré naše myšlienky rozhodne nie sú naplnené dobrom).

Pri priemernej hmotnosti okolo troch kilogramov je mozog pozoruhodným orgánom. Nejako, a my ešte nevieme ako, je mozog schopný použiť rádovo 100 miliárd neurónov a možno kdekoľvek od 100 do 1,000 XNUMX biliónov prepojení alebo synapsií, aby za nás robil všetko naše myslenie. Ako biologické a chemické vlastnosti mozgu vedú k inteligencii? Nikto nemôže s istotou povedať. Toto je hľadanie vekov.

Pýtam sa vás, je mozog zdanlivo iba hardvérový, alebo ide o kombináciu hardvéru a softvéru?

Rezance na ten hlavolam.

Môžete byť v pokušení tvrdiť, že mozog je jednoducho hardvér (vo všeobecnom zmysle). Je to orgán tela. Podobne by ste mohli povedať, že srdce je hardvér, močový mechúr je hardvér atď. Všetky sú mechanizáciami podobnými, keď hovoríme o artefaktoch, ktoré majú fyzickú formu a vykonávajú fyzicky súvisiace činnosti.

Kde je potom softvér, ktorý riadi ľudí?

Dovolím si tvrdiť, že sa všetci do značnej miery zhodneme na tom, že „softvér“ ľudstva nejakým spôsobom sídli v mozgu. Kroky potrebné na uvarenie vajíčka alebo opravu defektu pneumatiky sú pokyny, ktoré sú stelesnené v našom mozgu. Použitím spomínanej počítačovej analógie hardvéru a softvéru je náš mozog akoby kusom hardvéru, o ktorom sa učíme o svete a pokyny, čo robiť, „bežia“ a „ukladajú sa“ v našom mozgu.

Na počítači môžeme ľahko ukázať na hardvér a povedať, že ide o hardvér. Môžeme mať výpis zdrojového kódu a ukázať na výpis ako softvér. V súčasnosti sťahujeme softvér elektronicky online a inštalujeme ho do našich notebookov a smartfónov. V dávnych dobách sme používali diskety a dierne štítky na ukladanie nášho softvéru na nahrávanie do hardvéru počítača.

Dostávam vás do dôležitého rébusu.

Akonáhle ste sa niečo naučili a vedomosti sú prítomné vo vašom mozgu, dokážete ešte rozlíšiť medzi „hardvérom“ vášho mozgu a predpokladaným „softvérom“ vášho mozgu?

Jedna argumentovaná pozícia je, že vedomosti vo vašom mozgu nie sú zvlášť oddeliteľné od koncepcií hardvéru a softvéru. Niektorí vrúcne tvrdili, že analógia s povahou počítačov sa rozpadá. Vedomosti v mozgu sú prepojené s hardvérom vášho mozgu a sú od neho neoddeliteľné. Biologické a chemické vlastnosti prelínajú vedomosti, ktoré mentálne vlastníte.

Poduste to na trochu duševného zamyslenia.

Ak dúfame, že jedného dňa vymyslíme počítače, ktoré budú na rovnakej úrovni ako ľudská inteligencia, alebo dokonca presiahnu ľudskú inteligenciu, možno by sme mohli použiť štruktúry mozgu a jeho vnútorné fungovanie ako návod na to, čo musíme urobiť, aby sme dosiahli taký vysoký cieľ. Niektorí v oblasti AI prevládajú presvedčenie, že čím viac vieme o fungovaní mozgu, tým väčšie sú naše šance na vytvorenie skutočnej AI, niekedy označovanej ako umelá všeobecná inteligencia (AGI).

Iní v AI sú menej zamilovaní do toho, že musia vedieť, ako funguje mozog. Zdôrazňujú, že pri vytváraní AI môžeme postupovať rýchlo, bez ohľadu na to, či dokážeme odomknúť tajné vnútorné fungovanie mozgu. Nedovoľte, aby záhady mozgu bránili nášmu úsiliu AI. Iste, snažte sa dekódovať a dešifrovať ľudský mozog, ale nemôžeme sedieť a čakať, kým mozog prejde spätným inžinierstvom. Ak je to jedného dňa uskutočniteľné, je to úžasná správa, aj keď možno je to nemožné alebo sa to stane celé veky odteraz.

Teraz som pripravený podeliť sa s vami o smrteľný a nesmrteľný počítačový spor. Uistite sa, že sedíte a ste pripravení na veľké odhalenie.

Počítač s jasným oddelením hardvéru a softvéru by sa mohol považovať za „nesmrteľný“ v tom, že hardvér môže pretrvávať navždy (samozrejme v rámci limitov), ​​zatiaľ čo softvér možno písať a prepisovať znova a znova. Bežný počítač môžete nechať v prevádzke tak dlho, ako budete môcť opravovať hardvér a udržať zariadenie schopné zapínania. Aj dnes môžete využiť hrubé domáce počítače zo sedemdesiatych rokov minulého storočia, ktoré sa dodávali v súpravách na zostavenie, napriek tomu, že sú staré takmer päťdesiat rokov (dlhá doba v počítačové roky).

Predpokladajme však, že sme sa rozhodli vyrábať počítače, ktorých hardvér a softvér fungujú neoddeliteľne (čoskoro o tom poviem viac). Zvážte to na rovnakom základe, ako som už spomenul, že mozog má možno integrálne zloženie hardvéru a softvéru. Ak by to tak bolo, dalo by sa naznačiť, že počítač tohto typu už nebude nesmrteľný. Namiesto toho by sa to považovalo za „smrteľné“.

Podľa poznámok, ktoré na konferencii NeurIPS predniesol pozvaný hlavný rečník a pozoruhodný guru AI Geoffrey Hinton, a ako sa uvádza v jeho sprievodnom výskumnom dokumente:

• „Všeobecné digitálne počítače boli navrhnuté tak, aby verne dodržiavali pokyny, pretože sa predpokladalo, že jediný spôsob, ako prinútiť univerzálny počítač vykonávať špecifickú úlohu, je napísať program, ktorý presne špecifikuje, čo sa má robiť, do neznesiteľných podrobností. To už nie je pravda, ale výskumná komunita len pomaly pochopila dlhodobé dôsledky hlbokého učenia na spôsob, akým sa vyrábajú počítače. Presnejšie povedané, komunita lipla na myšlienke, že softvér by mal byť oddeliteľný od hardvéru, aby bolo možné spustiť rovnaký program alebo rovnakú sadu váh na inej fyzickej kópii hardvéru. Vďaka tomu zomierajú znalosti obsiahnuté v programe alebo váhy nesmrteľné: Vedomosti nezomrú, keď zomrie hardvér“ (ako je obsiahnuté a citované v jeho výskumnej práci „The Forward-Forward Algorithm: Some Preliminary Investigations“, predtlač dostupná online) .

Všimnite si, že konkrétny druh výpočtovej techniky, o ktorom sa diskutuje v tomto type AI, využíva umelé neurónové siete (ANN).

Poďme si to ujasniť.

V našom mozgu sú biologické neuróny reálneho sveta. Používate ich neustále. Sú biologicky a chemicky prepojené do siete vo vašom noggine. Môžeme to teda označiť ako a neurónové sieť.

Inde sú, povedzme, falošné „neuróny“, ktoré výpočtovo reprezentujeme v počítačoch na účely navrhovania AI. Mnoho ľudí v AI ich tiež označuje ako neurónové siete. Verím, že je to trochu mätúce. Vidíte, radšej ich označujem ako umelý neurálne siete. To pomáha okamžite rozlíšiť medzi odkazom na in-your-head neurálne siete (pravá vec, ako to bolo) a počítačové (umelý neurálne siete).

Nie každý zaujme takýto postoj. Veľa ľudí v AI len predpokladá, že všetci ostatní v AI „vie“, že keď sa odvolávajú na neurónové siete, takmer vždy hovoria o ANN – pokiaľ nenastane situácia, že z nejakého dôvodu chcú diskutovať o skutočných neurónoch a skutočných neurónových sieťach v mozog.

Verím, že pochopíš môj drift. Ľudia s umelou inteligenciou väčšinou povedia „neurónové siete“, čo je potenciálne nejednoznačné, pretože neviete, či sa odvolávajú na tie skutočné v našich hlavách alebo na tie výpočtové, ktoré naprogramujeme do počítačov. Ale keďže ľudia s AI sa vo všeobecnosti zaoberajú počítačovými inštanciami, predvolene predpokladajú, že máte na mysli umelé neurónové siete. Rád by som pridal slovo „umelý“ na začiatok znenia, aby bolo jasnejšie o zámeroch.

Pokračujeme, môžete trochu považovať tieto výpočtové umelé neuróny za matematickú alebo výpočtovú simuláciu toho, čo si myslíme, že robia skutočné biochemické fyzikálne neuróny, ako je použitie číselných hodnôt ako váhových faktorov, ktoré sa inak biochemicky dejú v mozgu. Dnes tieto simulácie nie sú ani zďaleka také zložité ako skutočné neuróny. Súčasné ANN sú extrémne hrubé matematické a výpočtové znázornenie.

Vo všeobecnosti sú ANN často základným prvkom strojového učenia (ML) a hlbokého učenia (DL) – uvedomte si, že je v tom oveľa viac podrobností a vyzývam vás, aby ste sa pozreli na moje rozsiahle pokrytie ML/DL. pri odkaz tu a odkaz tu, Napr.

Vráťme sa k nesmrteľným verzus smrteľným typom počítačov, tu je viac na premýšľanie podľa výskumníka:

• „Oddelenie softvéru od hardvéru je jedným zo základov informatiky a má mnoho výhod. Umožňuje študovať vlastnosti programov bez obáv z elektrotechniky. Umožňuje napísať program raz a skopírovať ho do miliónov počítačov. Ak sme však ochotní vzdať sa nesmrteľnosti, malo by byť možné dosiahnuť obrovské úspory energie potrebnej na vykonanie výpočtu a nákladov na výrobu hardvéru, ktorý výpočet vykonáva. Môžeme povoliť veľké a neznáme variácie v konektivite a nelineárnosti rôznych inštancií hardvéru, ktoré sú určené na vykonávanie rovnakej úlohy, a spoliehať sa na postup učenia sa pri objavovaní hodnôt parametrov, ktoré efektívne využívajú neznáme vlastnosti každej konkrétnej inštancie. hardvér. Tieto hodnoty parametrov sú užitočné iba pre túto konkrétnu inštanciu hardvéru, takže výpočet, ktorý vykonávajú, je smrteľný: zomrie spolu s hardvérom“ (ibid).

Teraz ste boli oboznámení s tým, ako sa v tomto kontexte používa nesmrteľný a smrteľný.

Dovoľte mi to upresniť.

Návrh je taký, že počítač, ktorý je účelovo vytvorený na základe ANN, by mohol byť navrhnutý tak, aby sa hardvér a softvér považovali za neoddeliteľné. Akonáhle hardvér jedného dňa prestane fungovať (čo, samozrejme, hovoríme, že je neoddeliteľnou súčasťou softvéru), tento typ počítača už zdanlivo nie je užitočný a už nebude fungovať. Hovorí sa, že je smrteľná. Počítač založený na ANN by ste tiež mohli pochovať, pretože odteraz vám nebude robiť nič dobré, keďže neoddeliteľný hardvér a softvér už nebudú fungovať ako tím.

Ak by ste sa chceli pokúsiť spojiť to s analógiou ľudského mozgu, možno by ste si predstavili krutú situáciu ľudského mozgu, ktorý sa úplne zhorší alebo je nejako nenapraviteľne poškodený. Prijímame predstavu, že človek je smrteľný a jeho mozog nakoniec a nevyhnutne prestane fungovať. Vedomosti, ktoré obsahovali vo svojom mozgu, už nie sú k dispozícii. Ak sa náhodou nepokúsili povedať ostatným alebo napísali, čo vedeli, ich vedomosti sú preč do celého sveta.

Nepochybne ste už počuli alebo videli správy o pokusoch zachovať mozgy, ako je ich uvedenie do zmrazeného stavu, podľa teórie, že možno ľudia by mohli byť jedného dňa nesmrteľní alebo aspoň presiahnuť svoj obvyklý život. Váš mozog môže žiť ďalej, aj keď nie vo vašom tele. Veľa sci-fi filmov a príbehov špekulovalo o takýchto nápadoch.

Teraz sme pripravení na detailný pohľad na smrteľný počítač a nesmrteľný počítač ako koncept a na to, čo predpovedá.

Pozorná diskusia a starostlivá analýza

Predtým, ako sa ponoríme do útrob tejto analýzy predpokladaného prístupu, stojí za zmienku niekoľko dôležitých upozornení a dodatočných bodov.

Výskumník zdôraznil, že razené smrteľné počítače by nijako zvlášť nenahradil alebo vytlačil z existencie nesmrteľné počítače ktoré dnes označujeme ako konvenčné digitálne počítače. Došlo by ku koexistencii oboch typov počítačov. Hovorím to preto, lebo reakcia niektorých bola taká, že výzva na objednávku bola všeobecným tvrdením všetko Počítače nevyhnutnosti smerujú alebo budú smerovať k smrteľnému typu.

To nebolo tvrdenie.

Počas svojho prejavu spomenul, že tieto špecializované neuromorfne orientované počítače by vykonávali výpočtovú prácu známu ako smrteľné výpočty: „Budeme robiť to, čomu hovorím smrteľné výpočty, kde znalosti, ktoré sa systém naučil, a hardvér sú neoddeliteľné“ (ako je citované v článku ZDNET od Tiernana Raya z 1. decembra 2022).

A najmä: „Nenahradí digitálne počítače“ (ibid).

Tieto nové typy počítačov tiež rozhodne čoskoro nebudú vo vašom miestnom obchode s počítačmi alebo si ich budete môcť kúpiť online, ako uviedol počas svojej prezentácie: „Myslím si, že uvidíme úplne iný typ počítač, nie na pár rokov, ale existujú všetky dôvody na skúmanie tohto úplne iného typu počítača.“ Využitie by sa tiež líšilo: „Nebude to počítač, ktorý bude mať na starosti váš bankový účet a presne vie, koľko peňazí máte.“

Ďalším zvratom je, že smrteľné počítače by sa zdanlivo skôr pestovali, než aby sa vyrábali, ako to robíme dnes na výrobu počítačových procesorov a výpočtových čipov.

Počas procesu rastu by sa schopnosti smrteľného počítača zvýšili v štýle výpočtového dozrievania. Takže daný smrteľný počítač mohol začať s takmer akoukoľvek schopnosťou a dospieť k tomu, čím sa mal stať. Predpokladajme napríklad, že by sme chceli vytvoriť mobilné telefóny pomocou smrteľných počítačov. Začali by ste jednoduchým variantom smrteľného počítača, ktorý bol pôvodne vytvorený alebo nasadený na tento účel. Potom by dozrel do pokročilejšej verzie, ktorú ste hľadali. Stručne povedané: „Nahradili by ste to každým z týchto mobilných telefónov, museli by ste začať ako detský mobilný telefón a museli by ste sa naučiť, ako byť mobilným telefónom.“

Na jednej z jeho základných snímok o výpočtoch smrteľníkov boli výhody opísané takto: „Ak sa vzdáme nesmrteľnosti a pripustíme, že poznanie je neoddeliteľné od presných fyzických detailov konkrétneho hardvéru, získame dve veľké výhody: (1) Môžeme použiť analógové výpočty s veľmi nízkou spotrebou energie, (2) Môžeme pestovať hardvér, ktorého presné pripojenie a analógové správanie nie sú známe.“

Súčasťou tej istej prednášky a tiež ako je obsiahnutá v jeho predtlačovom výskumnom dokumente je navrhovaná technika, ako možno lepšie navrhnúť ANN, ktorú označuje ako používanie dopredu-dopredu sieťový prístup. Niektorí z vás, ktorí sú oboznámení s ANN, si už nepochybne celkom uvedomujú použitie backpropagation alebo back-prop. Možno by ste sa chceli pozrieť na jeho navrhovanú techniku ​​dopredu. Budem pokrývať tento fascinujúci prístup v budúcom príspevku v stĺpci, takže sledujte moje nadchádzajúce informácie o ňom.

Preraďujeme, zamyslime sa nad tým, čo sa hovorí na chodbách komunity AI o tejto drzosti smrteľný počítač machinácie.

Začneme tým, čo by niektorí povedali, že nie je pre začiatočníkov v tejto téme.

Ste pripravení?

Prestaňte túto vec nazývať a smrteľný počítač.

Rovnako tak prestaňte hlásať, že dnešné konvenčné počítače sú nesmrteľný.

Obe použitia sú jednoducho nesprávne a značne zavádzajúce, nabádajú skeptici.

Každodenná slovníková definícia toho, čo je nesmrteľné, pozostáva z niečoho, čo nemôže zomrieť. Žije to večne. Aby ste nezomreli, musíte pravdepodobne povedať, že tá vec samotná je živá. Kráčate po nesprávnej ceste, aby ste potvrdili, že dnešné počítače sú živé. Žiadny rozumný človek by moderným počítačom nepripisoval bona fide „živé“ vlastnosti. Sú to stroje. Sú to veci. Nie sú to ľudia, zvieratá ani životné podmienky.

Ak chcete rozšíriť definíciu nesmrteľnosti, aby sme dovolili, že máme na mysli aj neživé entity, v takom prípade sa neživá bytosť zdanlivo nebude musieť nikdy rozpadnúť a nemôže sa nevyhnutne rozpadnúť na prach. Môžete takto tvrdiť o dnešných počítačoch? Zdá sa to byť prehnané (poznámka vedľa: samozrejme by sme sa mohli pustiť do veľkej filozofickej diskusie o povahe hmoty a existencie, ale v tomto prípade tam nechoďme).

Podstatou je, že použitie alebo niekto by povedal nesprávne použitie slov „smrteľný“ a „nesmrteľný“ je bizarné a zbytočné. Užívanie bežne používaného ľudového jazyka a jeho opätovné použitie na iné účely je mätúce a vytvára kalné vody. Musíte byť ochotní zjavne prehodnotiť, čo znamená smrteľný a nesmrteľný v tomto špecifickom kontexte. To sa stáva problematickým.

Ešte viac znepokojujúce je, že tieto výbery slov majú tendenciu antropomorfizovať počítačové aspekty.

Záležitostí spojených s antropomorfizáciou AI je už viac než dosť, takýchto možností určite netreba vymýšľať. Ako som obšírne diskutoval vo svojom pokrytí etikou umelej inteligencie a etickou umelou inteligenciou, existuje množstvo divokých spôsobov, ako ľudia pripisujú schopnosti vnímania počítačom. Na druhej strane to vedie ľudí k falošnému presvedčeniu, že počítače založené na AI môžu myslieť a konať ako ľudia. Je to klzký svah ohrozenia, keď sa spoločnosť nechá ukolísať vierou, že dnešná AI a výpočtová technika sú na rovnakej úrovni ako ľudský intelekt a zdravý rozum, pozri napríklad moju analýzu na odkaz tu a odkaz tu.

Dobre, môžeme odmietnuť alebo pohŕdať nepohodlným výberom formulácií, ale naznačuje to, že by sme mali vyliať dieťa spolu s vodou (starý výraz, pravdepodobne sa blíži k dôchodku)?

Niektorí tvrdia, že možno nájdeme lepšie znenie tohto celkového prístupu alebo koncepcie. Zahoďte používanie slov „smrteľný“ a „nesmrteľný“, aby zvyšok myšlienok nebol pošpinený nevhodným alebo nevhodným použitím. Medzitým existujú protiargumenty, že je úplne prijateľné používať tieto výbery slov, buď preto, že sú vhodné, alebo preto, že by sme nemali byť neflexibilní, pokiaľ ide o to, ako sa rozhodneme znova použiť slová. Ruža je pod akýmkoľvek iným menom ruža, vyhlasujú.

Aby som sa vyhol ďalšej ostrej diskusii, budem sa odteraz vyhýbať používaniu slov „smrteľný“ a „nesmrteľný“ a iba uvediem, že máme dva hlavné typy počítačov, ktoré sú dnes bežné a iné je navrhované neuromorfný počítač.

Zdalo by sa, že do toho netreba zaťahovať hlavolam o úmrtnosti. Udržujte oblohu čistú, aby ste videli, čo ešte môžeme urobiť z tejto záležitosti.

V takom prípade by niektorí tvrdili, že navrhovaná myšlienka neuromorfného počítača nie je ničím novým.

Môžete sledovať skoršie dni AI, najmä keď sa pôvodne skúmali ANN, a uvidíte, že sa hovorilo o vynájdení špecializovaných počítačov na vykonávanie práce umelých neurónových sietí. Boli navrhnuté všetky druhy nového hardvéru. To sa deje dodnes. Samozrejme, môžete oponovať, že väčšina dnešného skúmania špecializovaného hardvéru pre ANN a strojové učenie je stále založená na konvenčnom prístupe k výpočtovej technike. V tomto zmysle táto analógová neoddeliteľnosť hardvéru a softvéru do istej miery posúva hranice a návrh „rastu“ počítača to robí tiež, prinajmenšom pokiaľ ide o vybočenie z uvažovaného hlavného prúdu.

Stručne povedané, sú niektorí, ktorí sú plne ponorení do týchto záležitostí, ktorí sú prekvapení, že niekoho iného môžu prekvapiť predložené návrhy. Tieto pojmy sú buď rovnaké ako predtým, alebo odrážajú to, čo sa už skúma v rôznych výskumných laboratóriách.

Nerob si vlasy, hovorí sa.

To nás privádza k ďalšiemu aspektu, ktorý je pre mnohých nepríjemný.

jedným slovom: Predvídateľnosť.

Dnešné počítače sa vo všeobecnosti považujú za predvídateľné. Môžete sa pozrieť na hardvér a softvér, aby ste zistili, čo bude počítač robiť. Podobne môžete sledovať, čo počítač už urobil, aby ste zistili, prečo urobil čokoľvek, čo urobil. Samozrejme, že to má svoje limity, takže nechcem preháňať predvídateľnosť, ale myslím si, že celkovo to chápete.

Možno si uvedomujete, že jedným z pálčivých problémov, ktorým dnes AI čelí, je to, že niektoré AI sú navrhnuté tak, aby sa prispôsobovali. AI, ktorú vývojári zaviedli, sa môže počas používania zmeniť. V oblasti etiky umelej inteligencie existuje množstvo príkladov umelej inteligencie, ktorá bola uvedená do prevádzky a ktorá spočiatku nemala neprimerané zaujatosti alebo diskriminačné tendencie, ktoré sa potom postupne výpočtovo samy zmutovali v čase, keď bola umelá inteligencia vo výrobe, pozri môj podrobné hodnotenia na odkaz tu.

Obávame sa, že už vstupujeme do nastavenia, ktoré zahŕňa AI, ktoré nie je nevyhnutne predvídateľné.

Predpokladajme, že AI pre zbraňové systémy prejde samočinnými úpravami a výsledkom je, že AI vyzbrojí a spustí smrtiace zbrane na ciele a v neočakávaných časoch. Ľudia nemusia byť pri zastavení AI. Ľudia, ktorí sú v slučke, nemusia byť schopní reagovať dostatočne rýchlo, aby predbehli akcie AI. Ďalšie mrazivé príklady nájdete v mojej analýze na adrese odkaz tu.

V prípade neuromorfných počítačov ide o to, že na steroidy dávame nepredvídateľnosť. Od začiatku môže byť podstatou neuromorfného počítača to, že funguje spôsobom, ktorý sa vzpiera predpovediam. Oháňame sa nepredvídateľnosťou. Stáva sa to čestným odznakom.

Existujú dva tábory.

Jeden tábor hovorí, že môžeme žiť s nepríjemnými obavami z nepredvídateľnosti, a to tak, že postavíme zábradlie, aby AI nezašla príliš ďaleko. Druhý tábor tvrdí, že svet vediete nebezpečnou cestou. Príde deň, že nárokované zábradlia buď zlyhajú, alebo nie sú dostatočne prísne, alebo že náhodou alebo zlým úmyslom sú zábradlia odstránené alebo sa s nimi pohráva.

Mali by sme mávnuť rukou nad pochybnosťami o neuromorfných počítačoch a predvídateľnosti?

Podľa poznámok výskumníka: „Medzi ľuďmi, ktorí sa zaujímajú o analógové výpočty, je stále veľmi málo tých, ktorí sú ochotní vzdať sa nesmrteľnosti. Ďalej: „Ak chcete, aby váš analógový hardvér robil zakaždým to isté... Máte skutočný problém so všetkými týmito blúdivými elektrickými vecami a tak.“

Ja to vybavím.

Črtajúca sa a trochu pochmúrna perspektíva je, že takzvaná predvídateľnosť spojená s dnešnými digitálnymi počítačmi sa tak či tak uberá smerom k nepredvídateľnosti. Ako už bolo spomenuté, môže sa to stať najmä pre AI, ktorá sa sama prispôsobuje na konvenčných počítačových platformách. To, že neuromorfné počítače môžu byť zdanlivo nepredvídateľné, nie je znakom toho, že konvenčné digitálne počítače sú v skutočnosti predvídateľné.

Nepredvídateľný parný valec sa k nám rúti plnou parou, bez ohľadu na to, ktorú výpočtovú platformu si chcete vybrať. Moje hodnotenie najnovších snáh pokúsiť sa dosiahnuť bezpečnosť AI v tomto svetle nájdete v časti odkaz tu.

Tento zvrat o predvídateľnosti by mal prinútiť vašu myseľ k tomu, aby ste sa zamysleli nad niečím objavným spôsobom. Tí z vás, ktorí sa zaoberajú etikou AI a zákonom AI, by mohli nie zvažovali dôsledky neuromorfné počítače.

Pravdepodobne ste mierili na konvenčné digitálne počítače s AI. No, hádajte čo, máte úplne ďalší a vznikajúci segment výpočtovej techniky AI, o ktorý sa teraz môžete v noci starať. Áno, neuromorfné počítače. Dajte si to na svoj zoznam úloh.

Prepáčte, pre vás máme ďalšie bezsenné noci.

Stručne sa zamyslime nad tým, čo etika AI a zákon o umelej inteligencii robia s konvenčnými digitálnymi počítačmi a AI.

V predchádzajúcich stĺpcoch som popísal rôzne národné a medzinárodné snahy o vytvorenie a prijatie zákonov regulujúcich AI, pozri odkaz tu, napríklad. Zaoberal som sa aj rôznymi princípmi a usmerneniami etiky umelej inteligencie, ktoré identifikovali a prijali rôzne národy, vrátane napríklad úsilia Organizácie Spojených národov, ako je súbor etiky umelej inteligencie UNESCO, ktorý prijalo takmer 200 krajín, pozri odkaz tu.

Tu je užitočný základný zoznam etických kritérií alebo charakteristík AI systémov AI, ktoré som predtým podrobne preskúmal:

• Priehľadnosť
• Spravodlivosť a spravodlivosť
• Neškodnosť
• zodpovednosť
• súkromia
• dobročinnosť
• Sloboda a autonómia
• Verte
• Udržateľnosť
• dôstojnosť
• Solidarita

Predpokladá sa, že tieto princípy etiky AI budú vážne využívať vývojári AI spolu s tými, ktorí riadia úsilie o vývoj AI, a dokonca aj tými, ktorí v konečnom dôsledku nasadzujú a vykonávajú údržbu systémov AI.

Všetky zainteresované strany počas celého životného cyklu vývoja a používania AI sa zohľadňujú v rámci dodržiavania zavedených noriem Etickej umelej inteligencie. Toto je dôležitý bod, pretože zvyčajným predpokladom je, že „iba kóderi“ alebo tí, ktorí programujú AI, podliehajú etike AI. Ako už bolo zdôraznené vyššie, na vymyslenie a nasadenie AI je potrebná dedina, v ktorej musí byť celá dedina oboznámená a dodržiavať etické predpisy AI.

Časť z toho, o ktorej ste možno predtým neuvažovali, je, ako sa tie isté etické pravidlá AI a rastúci zoznam nových zákonov AI budú vzťahovať na neuromorfné počítače. Aby sme to objasnili, etika AI a zákon o umelej inteligencii to skutočne musia brať do úvahy. Poukazujem na to, že len málokto to robí, a uvedomujem si, že existuje veľká šanca, že príchod neuromorfných počítačov mnohých privedie do zacyklenia v zmysle novej dimenzie pokusu o vládu v AI.

Etickú umelú inteligenciu a zákony umelej inteligencie musíme zvážiť dostatočne široko, aby sme obsiahli čokoľvek, čo je umelá inteligencia novo vyvinutá, vrátane neuromorfných počítačov.

Alternatívou na hojdačke je klasický gambit mačky a myši. Tu je návod, ako to ide. Nové spôsoby vytvárania AI sú koncipované a postavené. Existujúca etika a zákony AI sú zaskočené a nezahŕňajú úplne najnovšie podvody AI. Ponáhľame sa, aby sme aktualizovali etické pravidlá AI a upravili tieto novovytvorené zákony AI.

Peny, opláchnite, opakujte.

Pre nás všetkých by bolo lepšie zostať pred zápasom, než sa nechať chytiť za loptou.

záver

Zobral som ťa na kúsok cesty.

Na začiatku som navrhol, že sa budú skúmať dve hlavné témy:

1) Integrálne prepojiť hardvér aj softvér pre mechanizáciu AI, namiesto toho, aby sme ich mali ako samostatných a samostatných spojencov

2) Prenos alebo destilácia formulácií strojového učenia z jedného modelu umelej inteligencie do druhého, čo sa robí bez toho, aby sa vyžadovalo alebo nevyhnutne požadovalo (alebo je to dokonca inak možné) priame plnokrvné kopírovanie.

Prvá téma o spojení hardvéru a softvéru bola hlavnou časťou tejto cesty. To nás priviedlo do smrteľného verzus nesmrteľného výpočtového bahna. Z toho vyplynulo niekoľko zásadných úvah o etike AI a zákonoch o umelej inteligencii, o ktorých by sa inak zvyčajne nehovorilo, pretože tento typ témy súvisiacej s počítačom niektorí zvyčajne vnímajú ako čisto technologickú, a nie ako tému týkajúcu sa akýchkoľvek spoločenských vplyvov.

Hovorím, že je múdrejšie byť skôr a bezpečnejšie, ako neskôr a horšie, pokiaľ ide o výchovu k etickej AI a zákon AI.

Druhá téma, ktorú som tu ešte neformuloval, vecne súvisí s prvou témou.

Tu je dohoda.

Predpokladajme, že máme „smrteľný počítač“ a chceme zachovať možnosti, aby sme mohli mať zálohu alebo zdanlivo kópie toho, čo obsahuje AI. Môžeme sa obávať, že konkrétny smrteľný počítač sa blíži ku koncu. Fuj, sme na tom závislí. čo máme robiť? Jedna odpoveď je, že by sme mali tú prekliatu vec skopírovať.

Ale kopírovanie neuromorfného počítača takého druhu, aký je načrtnutý, bude ťažšie, ako by sa na prvý pohľad mohlo zdať. Veci môžu byť zložité.

Možno by sme mali prísť s kopírovacím trikom, ktorý bude zovšeobecniteľný a použiteľný na okolnosti zahŕňajúce strojové učenie a umelé neurónové siete. Chceme, aby to fungovalo na rozsiahlych a mimoriadne rozsiahlych inštanciách. Boli by sme tiež ochotní, aby kópia nebola presným duplikátom a namiesto toho by mohla byť v podstate ekvivalentná alebo možno ešte lepšie navrhnutá ako výsledok kopírovania.

Technika známa ako destilácia bol navrhnutý.

Došiel mi priestor pre dnešný stĺpček, takže túto druhú tému preberiem v nasledujúcom stĺpčeku. Myslel som, že by ste chceli vedieť o vzťahu medzi touto druhou témou a prvou témou, ktorá je tu obšírne zahrnutá. Myslite na to ako na pridanú poznámku, ktorá slúži ako ukážka alebo upútavka na to, čo príde ďalej.

Zostaňte na okraji svojho sedadla, pretože téma destilácie je celkom dobrá.

Ako hovorieval Batman, držte netopierie krídla a buďte pripravení na rovnaký bat-time a bat-channel na rozlúštenie trápnej otázky, ako skopírovať ANN alebo model strojového učenia alebo neuromorfný počítač do iného.

Zatiaľ posledná poznámka. Vo filme je slávna veta Temný rytier sa vracia v ktorom náš križiak s kapucňou hovorí toto: „Svet má zmysel len vtedy, ak ho k tomu prinútite.“ Pokúsim sa držať tohto ideálu, keď sa budem venovať druhej téme o destilácii spojenej s AI.

Zostaňte naladení na 2. časť tejto vzrušujúcej a vzrušujúcej dvojhlavičky.