AI algoritmu regulēšanas iemesli ir vienkāršāki, nekā jūs domājat

Vai jūs uztraucaties, ka mākslīgais intelekts pārņems pasauli? Daudzi dara. No Elona Muska uztraucas par DeepMind pārspēj cilvēkus uzlabotajā spēlē Go 2017. gadā Kongresa locekļiem, Eiropas politikas veidotājiem (sk Eiropas pieeja mākslīgajam intelektam), un akadēmiķi, rodas sajūta, ka šī ir desmitgade, kad AI jāuztver nopietni, un tas pieņemas spēkā. Tomēr ne tādu iemeslu dēļ, kā jūs varētu domāt, un ne pašreizējo draudu dēļ.

Šeit parādās algoritmi. Kas ir algoritms, jūs varat jautāt? Vienkāršākais veids, kā to uztvert, ir instrukciju kopums, ko mašīnas var saprast un no kā mācīties. Mēs jau varam dot mašīnai norādījumus aprēķināt, apstrādāt datus un spriest strukturētā, automatizētā veidā. Tomēr problēma ir tā, ka, tiklīdz ir sniegti norādījumi, iekārta tos izpildīs. Pagaidām tas ir galvenais. Atšķirībā no cilvēkiem, mašīnas izpilda norādījumus. Viņi tik labi nemācās. Bet, kad tas notiek, tie var radīt problēmas.

Es nevēlos izteikt sensacionālu argumentu par ideju, ka datori kādu dienu pārspēs cilvēka intelektu, kas labāk pazīstams kā singularitātes arguments (sk. Ņujorkas Universitātes filozofa Deivida Čalmersa pārdomas par tēmu.) Drīzāk ražošana varētu būt labākais piemērs tam, kāpēc mākslīgā intelekta algoritmi sāk būt nozīmīgāki plašai sabiedrībai. Ir bažas, ka mašīnas uz mūsu rēķina ievērojami paātrinās savu veiklību. Noteikti ne ar kādu progresīvu argumentāciju, bet gan optimizācijas dēļ algoritma teiktā robežās.

Ražošana ir saistīta ar lietu izgatavošanu. Bet, kad mašīnas ražo lietas, mums jāpievērš uzmanība. Pat ja tas, ko ražo mašīnas, ir vienkāršs. Es paskaidrošu, kāpēc.

No lietus zābakiem līdz mobilajiem telefoniem un atpakaļ

Teiksim, rūpnīca ražo lietus zābakus. Man patīk lietus zābaki, jo es uzaugu Norvēģijas apgabalā, kur līst daudz lietus; Man patīk atrasties ārā, pakļaujoties daudzajiem dabas elementiem. Nokia izgatavoja lietus zābakus, ar kuriem es uzaugu. Jā, Nokia, ko šodien pazīstam kā elektronikas uzņēmumu, agrāk ražoja gumijas zābakus. Kāpēc šī atslēga? Jo, tiklīdz jūs kaut ko pagatavojat, jums ir lemts vēlēties veikt uzlabojumus. Tam ir jēga. Var teikt, ka tāda ir cilvēka daba.

Tas, kas notika ar Nokia, ir labi zināms, un tas ir apmēram šādi: sākotnēji papīrfabrika, kad es biju bērns, gumijas zābaku (un riepu) ražošana uzņēmumam bija īpaši veiksmīga. Tomēr viņi saskatīja turpmākas iespējas. Tāpēc kādā brīdī astoņdesmitajos gados viņi pārgāja uz elektroniku un strauji mainīja apkārtējās rūpnīcas, veidojot lielu vietējo piegādātāju struktūru, kad viņi sāka ražot mobilos tālruņus. Tas aizsāka mobilo sakaru revolūciju, kas sākās Skandināvijā un izplatījās pārējā pasaulē. Saprotams, ka daudzi ir uzrakstījuši stāstu par Nokia deviņdesmitajos gados (sk Somijas brīnuma noslēpumi: Nokia uzplaukums).

Mans piemērs ir tiešs. Varbūt pārāk vienkārši. Bet padomājiet par to šādā veidā. Ja liels uzņēmums var ātri pāriet no papīra izgatavošanas uz rakstīšanu, uz zābakiem, kas atvieglo atrašanās lietū, tad visbeidzot uz mobilajiem tālruņiem, kas maina cilvēku saziņas veidu: cik viegli būs nākamais solis? Pieņemsim, ka uzņēmums, kas ražo mobilos tālruņus, nolemj izgatavot nanobotus, un varbūt tie sāks darboties pēc desmit gadiem, mainot cilvēci ar nelielām mašīnām, kas autonomi skraida visur un spēj no jauna salikt un mainīt cilvēka pieredzi. Ko darīt, ja tas notiek, neņemot vērā to, kā mēs vēlamies, lai tas notiktu, kurš mēs vēlamies būt atbildīgs, un galīgie mērķi?

Ieteikums, ka roboti apzināti palīdzēja Nokia izlemt ražot mobilos tālruņus, būtu sarežģīti. Taču liela nozīme ir tam, lai atzītu, ka tehnoloģijām bija nozīme, kas ļāva Somijas lauku apgabalam tās ziemeļu krastā domāt, ka viņi varētu iegūt pasaules kundzību jaunā nozarē.

Nokia stāsts pēdējo desmit gadu laikā nav bijis tik rožains, ņemot vērā to, ka viņi neņēma vērā uz programmatūru balstītu iOS un Android operētājsistēmu parādīšanos. Tā rezultātā tagad Nokia vairs neražo tālruņus. Nedaudz atgriešanās stāstā viņi tagad veido tīklu un telekomunikāciju infrastruktūru, tīkla drošības risinājumus, Wi-Fi maršrutētājus, viedo apgaismojumu un viedos televizorus (sk. Nokia atgriešanās stāsts). Nokia joprojām ražo lietas, tā ir taisnība. Vienīgais novērojums ir tāds, ka šķiet, ka Nokia vienmēr labprāt sajauc savus ražojumus. Pat cilvēku ražošanas lēmumi dažkārt ir grūti saprotami.

Ražošana nozīmē likt lietām un lietām attīstīties. Kopumā tas, ko mēs ražojam šodien, ir mainījies, salīdzinot ar tikai pirms desmit gadiem. 3D printeri ir decentralizēti daudzu progresīvu produktu ražošanai gan rūpniecībā, gan mājās. 3D drukāšanas sekas, kas maina dzīvi, vēl nav notikušas. Mēs nezinām, vai tas turpināsies, taču mēs zinām, ka FDA koncentrējas uz produktu ražošanas regulēšanu (sk. šeit), piemēram, drukātās tabletes vai medicīniskās ierīces, kas rodas, acīmredzamas intelektuālā īpašuma un atbildības problēmas vai problēmas, kas saistītas ar iespēju drukāt šaujamieročus. Galu galā politikas diskusija par to, kādas negatīvas sekas varētu būt 3D drukāšanai, neeksistē, un tikai daži no mums ir apgrūtinājušies par to aizdomāties.

Es neapgalvoju, ka 3D drukāšana pati par sevi ir bīstama. Iespējams, tas ir slikts piemērs. Tomēr lietas, kas sākotnēji šķiet ikdienišķas, var mainīt pasauli. Piemēri ir daudz: no metāla izgatavots mednieka/vācēja bultas uzgalis, kas aizsāk karus, rituālās maskas, kas pasargā mūs no COVID-19, naglas, kas būvē debesskrāpjus, pārvietojami tipogrāfijas iespiedmašīnas, kas (joprojām) piepilda mūsu rūpnīcas ar drukātu papīru un darbina izdevējdarbība, spuldzes, kas ļauj redzēt un strādāt iekšā naktī, es varētu turpināt. Neviens, par kuru es zinu, 1800. gadu beigās neparedzēja, ka Nokia pārcels savu ražošanu no papīra uz gumiju uz elektroniku un pēc tam no mobilajiem tālruņiem. Varbūt viņiem vajadzēja.

Cilvēki ir slikti pareģotāji pakāpeniskām izmaiņām, procesam, kurā vienas izmaiņas izraisa vairāk pārmaiņu, un pēkšņi lietas ir radikāli atšķirīgas. Mēs vēl nesaprotam šo procesu, jo mums ir maz praktisku zināšanu par eksponenciālām izmaiņām; mēs nevaram to iedomāties, aprēķināt vai aptvert. Tomēr atkal un atkal tas mūs piemeklē. Pandēmijas, iedzīvotāju skaita pieaugums, tehnoloģiskie jauninājumi no grāmatu iespiešanas līdz robotikai — tas mūs parasti skar bez brīdinājuma.

Futūrisma viltība ir nevis ja, bet kad. Iespējams, ka patiesībā varētu paredzēt izmaiņas, vienkārši izvēloties dažas jaunas ražošanas metodes un paziņojot, ka tās nākotnē kļūs arvien izplatītākas. Tas ir pietiekami vienkārši. Sarežģītā daļa ir precīzi izdomāt, kad un jo īpaši kā.

Papīra saspraudes nav problēma

Vēlreiz apsveriet manu rūpnīcas piemēru, bet šoreiz iedomājieties, ka iekārtas ir atbildīgas par daudziem lēmumiem, nevis par visiem lēmumiem, bet gan par ražošanas lēmumiem, piemēram, optimizāciju. Savā grāmatā Superinteligence, Oksfordas Universitātes distopiskais humānists Niks Bostroms lieliski iztēlojās mākslīgā intelekta optimizācijas algoritmu, kurā darbojas papīra saspraudes rūpnīca. Kādā brīdī viņš saka, iedomājieties, ka mašīnas iemesls ir tas, ka mācīšanās novirzīt arvien pieaugošos resursus uzdevumam ir racionāla, galu galā pakāpeniski pārvēršot mūsu pasauli par papīra saspraudēm un pretoties mūsu mēģinājumiem to izslēgt.

Neskatoties uz to, ka Bostroms ir gudrs puisis, viņa piemērs ir diezgan mēms un maldinošs (tomēr neaizmirstams). Pirmkārt, viņš neņem vērā faktu, ka cilvēki un roboti vairs nav atsevišķas vienības. Mēs mijiedarbojamies. Lielākā daļa gudro robotu pārvēršas par kobotiem vai sadarbības robotiem. Cilvēkiem būs daudz iespēju labot mašīnu. Neskatoties uz to, viņa pamatnosacījums paliek. Kādā brīdī var notikt pakāpeniskas izmaiņas, un, ja šīs izmaiņas notiek pietiekami ātri un bez pietiekamas uzraudzības, kontrole var tikt zaudēta. Bet šis galējais iznākums šķiet mazliet tāls. Jebkurā gadījumā, es piekrītu, mums ir jāregulē cilvēki, kas apkalpo šīs mašīnas, un jānodrošina, lai darbinieki vienmēr būtu informēti, viņus atbilstoši apmācot. Šāda veida apmācība neveicas. Pašlaik tas aizņem pārāk ilgu laiku, un ir vajadzīgas īpašas prasmes gan apmācīšanai, gan apmācībai. Es zinu vienu lietu. Nākotnē ar robotiem darbosies visa veida cilvēki. Tie, kas to nedarīs, būs diezgan bezspēcīgi.

Cilvēku papildināšana ir labāka par bezprātīgu automatizāciju neatkarīgi no tā, vai mēs nekad pilnībā nesaplūstam ar mašīnām. Abi jēdzieni ir loģiski atšķirīgi. Gan cilvēki, gan roboti var iestrēgt automatizācijā automatizācijas dēļ. Tas nodarītu lielu kaitējumu turpmākajai ražošanai. Pat ja tas neražo slepkavas robotus. Es uzskatu, ka apvienošanās ir simtiem gadu attālumā, bet tas nav galvenais. Pat ja tas ir tikai trīsdesmit gadu attālumā, pašgājējmašīnas, kas darbojas pēc vienkāršotiem algoritmiem un zaudē kontroli, šāds scenārijs jau notiek veikalā. Dažas no šīm mašīnām ir trīsdesmit gadus vecas un darbojas ar vecām, patentētām vadības sistēmām. Viņu galvenais izaicinājums nav tas, ka viņi ir progresīvi, bet gan tieši pretēji. Viņi ir pārāk vienkāršoti, lai varētu sazināties. Tā nav rītdienas problēma. Tā ir jau esoša problēma. Mums ir jāatver acis uz to. Padomājiet par to nākamreiz, kad iekāpsiet gumijas zābakos.

Man joprojām ir mani 1980. gadu Nokia zābaki. Viņiem ir caurums, bet es tos paturu, lai atgādinātu sev, no kurienes esmu un cik tālu esmu gājis. Arī lietus turpina līt, un, kamēr tas ir pietiekami tīrs, es nevēlos to labot par tiem zābakiem. Tad atkal esmu cilvēks. Domājams, ka robots jau būtu devies tālāk. Interesanti, kāda ir lietus zābaku AI versija. Tas nav mobilais tālrunis. Tas nav lietus sensors. Tas mulsina prātu.

Digitālie zābaki mūsdienās nozīmē, ka varat tos personalizēt, jo uz tiem ir 3D drukāts dizains. Ir virtuālie apavi, kas pastāv tikai kā NFT (neaizvietojami marķieri), kurus var pārdot un tirgot. Mūsdienās populārākās virtuālās kedas maksā 10,000 XNUMX USD (sk Kas ir NFT kedas un kāpēc tās ir 10,000 XNUMX USD vērtas?). Es no tiem nebaidos, bet vai man vajadzētu būt? Ja virtuālā pasaule tiks novērtēta augstāk par fizisko pasauli, iespējams, es to darīšu. Vai arī man ir jāgaida, līdz AI iemiesojums iegādājas savu NFT sāknēšanas versiju, lai cīnītos pret lietu? Ja mēs veidojam algoritmus pēc sava tēla, visticamāk, mākslīgais intelekts būtu labs lietās, kurās mēs vēlētos, bet parasti tādas nav, piemēram, akciju pirkšana, lojālas draudzības veidošana (varbūt gan ar mašīnām, gan cilvēkiem) un atcerēšanās. lietas. Industriālais metaversums varētu būt pārsteidzoši izsmalcināts — pilns ar digitāliem dvīņiem, kas atdarina mūsu pasauli un pārspēj to auglīgā veidā, vai arī tas var būt šokējoši vienkāršs. Varbūt abi. Mēs vienkārši vēl nezinām.

Mums ir jāregulē AI algoritmi, jo mēs nezinām, kas ir aiz stūra. Tas ir pietiekams iemesls, bet par to, kā mēs to darām, tas ir garāks stāsts. Ļaujiet man vēl vienu īsu novērojumu, iespējams, visiem fundamentālajiem algoritmiem vajadzētu būt publiski pieejamiem. Iemesls ir, ja nē, nevar zināt, pie kā tie varētu novest. Labākie ir diezgan labi zināmi (sk 10 populārākie mašīnmācīšanās algoritmi), taču nav pasaules mēroga pārskata par to, kur un kā tie tiks izmantoti. Īpaši rūpīgi jāuzrauga nepārraudzītie algoritmi (sk Seši spēcīgi lietošanas gadījumi mašīnmācībai ražošanā), neatkarīgi no tā, vai tos izmanto, lai prognozētu apkopi vai kvalitāti, lai modelētu ražošanas vidi (piemēram, digitālos dvīņus) vai radītu jaunus dizainus, par kuriem cilvēks nekad neiedomātos. Mūsdienu ainavā šie nepārraudzītie algoritmi parasti ir tā sauktie mākslīgie neironu tīkli, kas mēģina atdarināt cilvēka smadzenes.

Esmu sācis uztraukties par neironu tīkliem tikai tāpēc, ka man ir grūti saprast to loģiku. Problēma ir tā, ka lielākā daļa ekspertu, pat tie, kas tos izvieto, nesaprot, kā šie algoritmi pārvietojas no soļa uz soli vai slāni uz slāni. Manuprāt, bieži lietotā “slēpto slāņu” metafora nav ļoti trāpīga vai ļoti smieklīga. Iesācējiem nevajadzētu būt slēptiem slāņiem ražošanā, automatizētā nodokļu iekasēšanā, lēmumos par pieņemšanu darbā vai uzņemšanā koledžā. Varbūt arī jums vajadzētu apsvērt iespēju uztraukties? Viens ir skaidrs, ka cilvēki un mašīnas, kas kopā veido lietas, mainīs pasauli. Tā jau ir, daudzkārt. No papīra līdz lietus zābakiem un mūsdienu mākslīgo smadzeņu slāņiem neko nevajadzētu atstāt neizpētītu. Mums nevajadzētu slēpties no vienkāršā fakta, ka no daudzām mazām izmaiņām pēkšņi var parādīties lielākas izmaiņas.