Dôvody na reguláciu algoritmov AI sú jednoduchšie, ako si myslíte

Obávate sa, že umelá inteligencia ovládne svet? Mnohí áno. Od Elona Muska si robí starosti DeepMind poráža ľudí v pokročilej hre Go v roku 2017 členom Kongresu, tvorcom európskej politiky (pozri Európsky prístup k umelej inteligencii), a akademici, existuje pocit, že toto je desaťročie, kedy treba AI brať vážne a začína sa ujímať. Aj keď nie z dôvodov, ktoré by ste si mohli myslieť, a nie kvôli nejakej súčasnej hrozbe.

Tu prichádzajú na rad algoritmy. Môžete sa opýtať, čo je to algoritmus? Najjednoduchší spôsob, ako si to predstaviť, je ako súbor pokynov, ktorým stroje rozumejú a môžu sa z nich učiť. Už vieme dať stroju pokyn, aby vypočítal, spracoval dáta a uvažoval štruktúrovaným, automatizovaným spôsobom. Problém je však v tom, že akonáhle sú uvedené pokyny dané, stroj sa nimi bude riadiť. Zatiaľ o to ide. Na rozdiel od ľudí sa stroje riadia pokynmi. Neučia sa tak dobre. Ale akonáhle to urobia, môžu spôsobiť problémy.

Nechcem vyvolávať senzáciechtivý argument o myšlienke, že počítače jedného dňa prekonajú ľudskú inteligenciu, známejšie ako argument singularity (pozri filozofa NYU Davida Chalmersa úvahy o téme.) Výroba môže byť skôr najlepším príkladom toho, prečo sa na algoritmoch AI začína viac zaujímať široká verejnosť. Človek sa obáva, že stroje výrazne zrýchlia svoju zdatnosť na náš úkor. Nie nevyhnutne nejakým pokročilým uvažovaním, ale kvôli optimalizácii v rámci hraníc toho, čo hovorí algoritmus.

Výroba je o výrobe vecí. Ale keď stroje vyrábajú veci, musíme tomu venovať pozornosť. Aj keď to, čo vyrábajú stroje, je jednoduché. Vysvetlím prečo.

Od čižiem do dažďa po mobilné telefóny a späť

Povedzme, že továreň vyrába topánky do dažďa. Milujem topánky do dažďa, pretože som vyrastal v oblasti Nórska, kde veľa prší; Milujem byť vonku a podliehať mnohým prvkom prírody. Nokia vyrobila topánky do dažďa, s ktorými som vyrastal. Áno, Nokia, ktorú dnes poznáme ako elektronickú spoločnosť, vyrábala gumené čižmy. Prečo je tento kľúč? Pretože akonáhle niečo vytvoríte, je vám súdené chcieť robiť vylepšenia. To dáva zmysel. Dalo by sa povedať, že je to ľudská povaha.

To, čo sa stalo Nokii, je dobre známe a vyzerá to trochu takto: Pôvodne papiereň, keď som bol ešte dieťa, bola pre spoločnosť mimoriadne úspešná výroba gumených čižiem (a pneumatík). Videli však ďalšie príležitosti. Preto niekedy v 1980-tych rokoch minulého storočia prešli na elektroniku a rýchlo zmenili továrne okolo, keď začali vyrábať mobilné telefóny, vybudovali veľkú štruktúru miestnych dodávateľov. To odštartovalo revolúciu mobilnej komunikácie, ktorá začala v Škandinávii a rozšírila sa do zvyšku sveta. Je pochopiteľné, že mnohí napísali príbeh spoločnosti Nokia v deväťdesiatych rokoch (pozri Tajomstvo fínskeho zázraku: vzostup Nokie).

Môj príklad je jasný. Možno príliš jednoduché. Ale mysli na to takto. Ak môže veľká spoločnosť rýchlo prejsť od výroby papiera na písanie k čižmám, ktoré uľahčujú pobyt v daždi, a nakoniec k mobilným telefónom, ktoré menia spôsob, akým ľudia komunikujú: aký jednoduchý bude ďalší krok? Predpokladajme, že spoločnosť, ktorá vyrába mobilné telefóny, sa rozhodne vyrábať nanoboty a možno aj tie, ktoré vzlietnu za desaťročie, čím zmení ľudstvo pomocou nepatrných strojov, ktoré autonómne pobehujú všade a sú schopné znovu zostaviť a zmeniť ľudskú skúsenosť. Čo ak sa to stane bez toho, aby sme zvážili, ako to chceme dosiahnuť, koho chceme mať na starosti a konečné ciele?

Naznačiť, že roboti vedome pomohli Nokii pri rozhodovaní o výrobe mobilných telefónov, by bolo náročné. Významnú úlohu však zohráva uznanie, že technológia zohrala úlohu v tom, že umožnila fínskej vidieckej oblasti na jej severnom pobreží myslieť si, že by mohla získať svetovú nadvládu v novom odvetví.

Príbeh Nokie nebol za posledné desaťročie taký ružový, pretože nezohľadnila vznik operačných systémov iOS a Android založených na softvéri. Výsledkom je, že Nokia už nevyrába telefóny. V príbehu o návrate teraz vyrábajú sieťovú a telekomunikačnú infraštruktúru, riešenia zabezpečenia siete, smerovače Wi-Fi, inteligentné osvetlenie a inteligentné televízory (pozri Príbeh návratu Nokie). Nokia stále robí veci, to je pravda. Jediným postrehom je, že sa zdá, že Nokia vždy rada mieša veci, ktoré vyrába. Dokonca aj výrobné rozhodnutia ľudských bytostí sú niekedy ťažko pochopiteľné.

Výroba znamená, že veci a veci sa vyvíjajú. Vo všeobecnosti sa to, čo robíme dnes, zmenilo len pred desiatimi rokmi. 3D tlačiarne majú decentralizovanú výrobu mnohých pokrokových produktov v priemysle aj v domácnosti. Život meniace následky 3D tlače sa zatiaľ neprejavili. Nevieme, či to bude trvať, ale vieme, že FDA sa zameriava na reguláciu výroby produktov (pozri tu), ako sú tlačené pilulky alebo zdravotnícke pomôcky, ktoré z toho vyplývajú, zjavné problémy s duševným vlastníctvom a zodpovednosťou alebo problémy súvisiace s možnosťou vytlačiť strelné zbrane. V konečnom dôsledku neexistuje politická diskusia o tom, aké negatívne dôsledky môže mať 3D tlač okrem toho, a len málo z nás sa nad tým zamýšľalo.

Netvrdím, že 3D tlač je sama o sebe nebezpečná. Možno, toto je zlý príklad. Napriek tomu veci, ktoré spočiatku vyzerajú všedne, môžu zmeniť svet. Existuje mnoho príkladov: hrot lovca/zberača vyrobený z kovu, ktorý začína vojny, rituálne masky, ktoré nás chránia pred COVID-19, klince, ktoré stavajú mrakodrapy, tlačiarenské lisy pohyblivých typov, ktoré (stále) plnia naše továrne tlačeným papierom a poháňajú vydavateľstvo, žiarovky, ktoré vám umožnia vidieť a pracovať vo vnútri v noci, mohol by som pokračovať. Nikto, o kom neviem, sa koncom 1800. storočia posadil a predpovedal, že Nokia presunie svoju výrobu z papiera na gumu do elektroniky a potom preč od mobilných telefónov. Možno by mali.

Ľudia sú zlými prediktormi skokových zmien, procesu, kde jedna zmena vedie k ďalším zmenám a zrazu sú veci radikálne odlišné. Tomuto procesu ešte nerozumieme, pretože máme málo praktických znalostí o exponenciálnych zmenách; nevieme si to predstaviť, vypočítať, ani pochopiť. Znova a znova nás to však zasiahne. Pandémie, populačný rast, technologické inovácie od kníhtlače po robotiku, to nás zvyčajne zasiahne bez varovania.

Trik s futurizmom nie je či, ale kedy. V skutočnosti by sa dalo predpovedať zmenu len výberom niektorých nových výrobných metód a vyhlásením, že v budúcnosti budú čoraz rozšírenejšie. To je dosť jednoduché. Zložitá časť je presne zistiť kedy a hlavne ako.

Problémom nie sú sponky na papier

Zvážte ešte raz môj príklad továrne, ale tentoraz si predstavte, že stroje majú na starosti mnohé rozhodnutia, nie všetky rozhodnutia, ale výrobné rozhodnutia, ako je optimalizácia. Vo svojej knihe SuperinteligenciaDystopický humanista z Oxfordskej univerzity Nick Bostrom si skvele predstavil optimalizačný algoritmus AI, ktorý riadi továreň na kancelárske spinky. V určitom momente, hovorí, si predstavte, že stroj zdôvodňuje, že naučiť sa presmerovať stále rastúce zdroje na túto úlohu je racionálne, čo skončí postupnou premenou nášho sveta na kancelárske sponky a odolaním našim pokusom ho vypnúť.

Napriek tomu, že ide o inteligentného chlapíka, Bostromov príklad je dosť hlúpy a zavádzajúci (zatiaľ nezabudnuteľný). Po prvé, nedokáže vysvetliť skutočnosť, že ľudia a roboti už nie sú oddelené entity. Interagujeme. Väčšina šikovných robotov sa vyvíja na cobotov alebo kolaboratívnych robotov. Ľudia budú mať veľa príležitostí opraviť stroj. Napriek tomu zostáva jeho základná myšlienka. V určitom bode môže nastať skoková zmena, a ak k tejto zmene dôjde dostatočne rýchlo a bez dostatočného dohľadu, môže dôjsť k strate kontroly. Ale tento extrémny výsledok sa zdá byť trochu pritiahnutý. Či tak alebo onak, súhlasím, musíme regulovať ľudí, ktorí obsluhujú tieto stroje, a nariadiť, aby pracovníci boli vždy v obraze tým, že ich primerane zaškolíme. Tento typ tréningu nefunguje dobre. V súčasnosti to trvá príliš dlho a trénovať aj trénovať si vyžaduje špeciálne zručnosti. Viem jednu vec. V budúcnosti budú roboty obsluhovať všetky druhy ľudí. Tí, ktorí to neurobia, budú dosť bezmocní.

Rozširovanie ľudí je lepšie ako bezduchá automatizácia, bez ohľadu na to, či nikdy úplne nesplynieme so strojmi. Tieto dva pojmy sú logicky odlišné. Je možné, že ľudia aj roboti uviaznu v automatizácii kvôli automatizácii. To by spôsobilo veľké škody budúcej výrobe. Aj keď neprodukuje zabijáckych robotov. Verím, že fúzia je vzdialená stovky rokov, ale o to nejde. Aj keď je to len tridsať rokov, samohybné stroje fungujúce na zjednodušených algoritmoch, ktoré strácajú kontrolu, tento scenár sa už deje v dielni. Niektoré z týchto strojov majú tridsať rokov a fungujú na starých, patentovaných riadiacich systémoch. Ich hlavnou výzvou nie je to, že sú pokročilí, ale naopak. Sú príliš zjednodušení na to, aby dokázali komunikovať. Na zajtra to nie je problém. Je to už existujúci problém. Musíme tomu otvoriť oči. Myslite na to, keď si najbližšie obujete gumené čižmy.

Stále mám svoje čižmy od Nokie z 1980. rokov. Majú v sebe dieru, no nechávam si ich, aby som si pripomenul, odkiaľ som a ako ďaleko som prešiel. Dážď tiež neustále padá, a pokiaľ je dostatočne čistý, nechcem na to lepšiu opravu ako tie čižmy. Potom som opäť človek. Robot by sa už pravdepodobne pohol ďalej. Zaujímalo by ma, aká je AI verzia dažďových topánok. Nie je to mobilný telefón. Nie je to dažďový senzor. Zamotáva to myseľ.

Digitálne topánky dnes znamenajú, že si ich môžete prispôsobiť, pretože majú 3D vytlačený dizajn. Existujú virtuálne topánky, ktoré existujú len ako NFT (nezastupiteľné tokeny), ktoré možno predávať a obchodovať. Najlepšie virtuálne tenisky majú v súčasnosti hodnotu 10,000 XNUMX dolárov (pozri Čo je to teniska NFT a prečo stojí 10,000 XNUMX dolárov?). Nebojím sa ich, ale mám sa ich báť? Ak sa virtuálny svet stane cennejším ako fyzický svet, možno áno. Alebo by som sa mal báť, kým si vlastný avatar AI nekúpi svoj vlastný NFT boot, aby sa vyrovnal s „dažďom“? Ak vytvárame algoritmy podľa nášho vlastného obrazu, je pravdepodobnejšie, že AI bude dobrá vo veciach, v ktorých by sme chceli, aby sme boli dobrí, ale zvyčajne nie, ako je nákup akcií, budovanie lojálnych priateľstiev (možno so strojmi aj ľuďmi) ​​a zapamätanie si veci. Priemyselný metaverz môže byť prekvapivo sofistikovaný – plný digitálnych dvojčiat, ktoré napodobňujú náš svet a prevyšujú ho plodnými spôsobmi – alebo môže byť šokujúco jednoduchý. Možno oboje. Len ešte nevieme.

Musíme regulovať algoritmy AI, pretože nevieme, čo je za rohom. To je dostatočný dôvod, ale ako to robíme, to je na dlhší príbeh. Dovoľte mi ešte jeden rýchly postreh, možno by mali byť verejne dostupné všetky základné algoritmy. Dôvodom je, že ak nie, neexistuje spôsob, ako zistiť, k čomu môžu viesť. Tie najvyššie sú celkom známe (viď 10 najlepších algoritmov strojového učenia), neexistuje však celosvetový prehľad o tom, kde a ako budú zvyknutí. Pozorne treba sledovať najmä algoritmy bez dozoru (pozri Šesť účinných prípadov využitia strojového učenia vo výrobe), či už sa používajú na predpovedanie údržby alebo kvality, na simuláciu výrobných prostredí (napr. digitálne dvojčatá) alebo na vytváranie nových návrhov, o ktorých by človek nikdy nepomyslel. V dnešnej krajine sú tieto nekontrolované algoritmy typicky takzvané umelé neurónové siete, ktoré sa pokúšajú napodobniť ľudský mozog.

Začal som sa obávať neurónových sietí, len preto, že je pre mňa ťažké pochopiť ich logiku. Problém je v tom, že väčšina odborníkov, dokonca aj tí, ktorí ich nasadzujú, nerozumie tomu, ako sa tieto algoritmy pohybujú z kroku na krok alebo z vrstvy na vrstvu. Nemyslím si, že metafora „skrytých vrstiev“, ktorá sa často používa, nie je veľmi výstižná alebo veľmi vtipná. Vo výrobe, automatizovanom výbere daní, prijímaní zamestnancov alebo prijímaní na vysokú školu by pre začiatočníkov nemali existovať žiadne skryté vrstvy. Možno by ste mali zvážiť aj obavy? Jedna vec je istá, ľudia a stroje vytvárajúce veci spoločne zmenia svet. Už sa to stalo, mnohokrát. Od papiera po čižmy do dažďa a vrstvy dnešných umelých mozgov by nič nemalo zostať neprebádané. Nemali by sme sa skrývať pred jednoduchým faktom, že z mnohých malých zmien sa zrazu môže objaviť zmena väčšia.