AI ētika un atzītā mākslīgā intelekta neparastā ieleja, kas arī grabē uz AI balstītas pašbraucošas automašīnas

Dažreiz ir nedaudz dīvainas lietas, kas piesaista jūsu uzmanību un liek jūsu intuitīvajai rīcībai saprast, ka kaut kas nav kārtībā. Dīvainība jūsu sejā nav acīmredzama, nepavisam ne acīmredzama. Jūs, iespējams, pat nevarēsit uzreiz pielikt pirkstu par to, kas ir neatbilstība vai kā tas nākas, ka jūsu sakāmvārdā zirnekļa sajūta tirpst.

Iespējams, tiek sajustas smalkas pazīmes. Varbūt jūs savās zarnās saprotat, ka pastāv disonanse. Es domāju, ka jūs varētu teikt, ka ir tikai mazākā piezīme par zemu baismīgumu, un jūsu smalkais cilvēka radars uztver citādi šķietami slēptus signālus.

Laipni lūdzam neparastajā ielejā.

Ja jūs nekad neesat dzirdējis par neparasto ieleju — tēmu, kas ir salīdzinoši popularizēta AI un jo īpaši robotikas jomā, jūs gaida neliels gardums, jo šī ir tēma, kuru es šeit rūpīgi apspriedīšu un analizēšu.

Visaptverošais jēdziens var attiekties uz daudzām lietām, ko mēs piedzīvojam dzīvē, lai gan pamatprincipi un sākotnējā definīcija ietver AI sistēmas un robotus. Vispirms izpētīsim neparastās ielejas izcelsmi un sākotnējo nozīmi un pēc tam turpināsim paplašināšanu, lai redzētu, kā šīs parādības šķiet piemērojamas plašākos kontekstos.

Es varētu arī piebilst, ka mēs apsvērsim, vai neparastā ieleja vispār pastāv.

Redziet, daži skeptiķi un ciniķi iebilst, ka visa lieta ir mazliet mulsinoša un neiztur ūdeni. Esiet piesardzīgs, aktualizējot tēmu tiem, kas zina. Daži jautri smaidīs un sitīs jums pa muguru, ka jūs ļoti labi pazīstat neparasto ieleju, savukārt citi strikti stāstīs, ka tā ir cūku mazgāšana, un jums ir vienkārši jāiztīra prāts ar putu garīgās tīrīšanas ziepju gabaliņu. .

Labā ziņa ir tā, ka jums ir jāizlemj, vai neparastā ieleja ir īsta vai nē, kā arī to, vai tā ir lietderīga, lai to varētu izmantot apzināti, vai arī tā ir bez ceremonijām jāmet tehnoideju krāvumā. Šajā ziņā jūs esat vadītāja sēdeklī.

Tas viss cieši attiecas arī uz plaukstošo ētiskā AI jomu un pieaugošo izpratni, ka sabiedrībai nopietni un prātīgi ir jāpievērš uzmanība AI ētikai. Mēs tūlīt izveidosim šo kaklasaiti.

Labākā vieta, kur sākt, ir tieši citējot profesoru, kurš nāca klajā ar neparastās ielejas koncepciju un tieši nosauca šo pasludināto parādību. 1970. gadā Tokijas Tehnoloģiju institūta profesors Masahiro Mori publicēja diezgan sīku rakstu nedaudz mazāk zināmā žurnālā ar nosaukumu enerģija (nav īpaši AI un robotikas per se vieta) un teica:

"Esmu ievērojis, ka, kāpjot pretī mērķim likt robotiem izskatīties kā cilvēkiem, mūsu afinitāte pret tiem palielinās, līdz nonākam ielejā, ko es saucu par neparasto ieleju."

Lūdzu, ņemiet vērā, ka iepriekš minētā frāze ir parādīta angļu valodā, lai gan oriģinālais dokuments bija japāņu valodā. Angļu valodā tulkoto versiju pārraudzīja autors un vēlāk publicēja IEEE spektrs 2012. gadā un kā autors tika atzīts par Masahiro Mori. Jūs varat lasīt rakstu pats, jo tas ir atklāti un brīvi pieejams tiešsaistē. Tas ir neapšaubāmi ātri lasāms, iespējams, apmēram desmit minūtes, un tajā nav ietverta nekāda tehniski smaga terminoloģija.

To sakot, ir interesanti un zināmā mērā pārsteidzoši, ka tik enerģisks raksts, kas publicēts 1970. gadā, galu galā aizsāka veselu izmeklēšanu un aizsāka neskaitāmus saistītus pētījumus, projektus, pētījumus un dažkārt arī strīdu vētru par to, vai neparastās ielejas jēdziens patiešām pastāv. Es domāju, ka tas parāda, ka intriģējošām un dažkārt skatījumu mainošām idejām nav jābūt masveidā sagrozītām vai pārspīlētām ar žargonu un cēlumu. Īsa ideja var būt pat spēcīgāka, nekā šķiet.

Es ticu, ka tas mudinās jūs mēģināt veicināt savas jaunās idejas, darot to, apzinoties, ka salds un vienkāršs var būt tikpat brīnišķīgs vai dažreiz vairāk nekā sarežģīts un sarežģīts.

Dodamies atpakaļ uz neparasto ielejas izvilkumu.

Jūs saskaraties ar robotizētu sistēmu, kuras seja ir līdzīga cilvēka izskata sejai. Iedomājieties, ka šī robotizētā seja ir izdomāta, izmantojot daudzas iterācijas. AI izstrādātāji, saliekot robota galvu, ir pakāpeniski centušies panākt, lai robotizētā sejas daļa arvien vairāk atgādinātu īstu cilvēka seju.

Viņu pirmais mēģinājums bija ārkārtīgi primitīvs. Robota sejai bija tāds pats izskats, kādu esat redzējis zinātniskās fantastikas filmās, jo tā ir pilnībā metāliska un demonstrē zobratus un vadus. Jūs uzreiz zināt, kad paskatās uz ierīci, ka tas ir robots. Jums par to nav nekādu jautājumu.

Nākamais AI izstrādātāju mēģinājums ietvēra dažu plastmasas materiālu aptīšanu ap metāla gabaliem. Lai gan tas izskatās nedaudz draudzīgāks, jūs joprojām zināt, ka tā ir robota galva un robota seja. Atkal, viegli atklāt.

Šie AI izstrādātāji ir apņēmības pilni to turpināt. Viņi veido plastmasu un piešķir tai ādas toņus. Tie pievieno iezīmes, kas šķiet ļoti līdzīgas cilvēka sejai, piemēram, dzimumzīmes, mati, plankumi un tamlīdzīgi.

No pirmā acu uzmetiena jūs varētu likt domāt, ka šī ir cilvēka seja. Ja tika uzņemts robota sejas attēls un jums tiek lūgts noteikt, vai attēlā ir attēlots cilvēks, nevis robota seja, jūs varētu būt apgrūtināts, ja uzreiz varēsit pateikt, kura tā ir. No otras puses, ja jūs stāvētu blakus ierīcei, jūs, iespējams, rūpīgi pārbaudot, ka tas nav cilvēks, bet gan robotu izdomājums.

Lieta ir tāda, ka pirms jums bija iespēja veikt tuvplāna pārbaudi, sejā bija kaut kas tāds, kas nešķita pilnībā atbilstošs. Tas noteikti izskatījās pēc cilvēka sejas. Bet tur kaut kas nebija kārtībā. Jums bija jāturpina vērīgi skatīties atkal un atkal, lai pieliktu pirkstu uz to, kas neizskatās īsti pareizi. Varbūt tā ir īsta seja. Tad atkal varbūt tā nav. Jūsu prāts attiecīgi grozās.

Jūsu prātā ienāk baismības šķietamība.

Kad redzējāt divas iepriekšējās versijas, jums nebija tādas pašas baismības. Jūs bez pauzes vai vilcināšanās varēja noteikt, ka robots ir robots. Tikai bērns var maldināties, noticēt, ka kāda no šīm versijām ir par īstu personu.

Tomēr šī jaunākā versija bija atšķirīga. Tas vēl nebija pilnveidots, lai izskatītos kā cilvēka seja. Tas arī nebija tik tālu no īstā, ka bija acīmredzams, ka tam jābūt robotam. Bija sasniegts tāds kā juceklis.

Pieņemsim, ka izstrādātāji virzīja tālāk savus pētījumus un visu sakārtoja tā, ka robota seja gandrīz neatšķiras no cilvēka sejas. Neatkarīgi no tā, cik ilgi jūs skatāties uz lietu, jūs neesat pārliecināts, vai tas ir cilvēks vai nav cilvēks. Kad tiek informēts, ka tā ir robota seja, jūs esat pārsteigts. Dievs, viņi ir paveikuši lielisku darbu, lai tas izskatītos īsts.

Ņemiet vērā, ka līdz šim jūs esat apsvēris tikai robotu aspektus, pamatojoties tikai uz izskatu.

Mēs varētu vienādojumam pievienot kustību. Tas jums pievieno papildu dimensiju, lai saprastu, vai robots ir robots pret cilvēku. Es nevēlos pilnībā izklaidēt šo kā daudzdimensionālu problēmu šajā diskusijā, jo tas padara šīs tēmas skaidrojumu sarežģītāku (lai gan vairākas dimensijas neizbēgami ir savstarpēji saistītas). Jebkurā gadījumā iedomājieties, ka jūs ne tikai redzējāt robota seju, bet arī varējāt vērot, kā robots kustina sejas vaibstus, piemēram, muti, acis, degunu utt. Acīmredzot, tās varētu būt arī dāvanas par to, vai tas ir robots vai cilvēks.

Viens būtisks aspekts, kas jāsaglabā neparastās ielejas priekšgalā, ir tas, ka sākotnējā koncepcija uzsver cilvēka radniecību. Tiek apgalvots, ka jūsu radniecība palielinās, redzot pakāpeniski uzlabotās robotu sejas, līdz parādās neparastais variants. Tiek teikts, ka šajā brīdī jūsu radniecības sajūta dramatiski samazinās, nokļūstot afinitātes plaisā vai ielejā.

Attiecībā uz konkrēto versiju, kas jums radīja aizdomas, ka kaut kas nav kārtībā, jūsu radniecība, iespējams, ir radikāli samazinājusies. Turklāt saskaņā ar teoriju jūsu radniecība var atkal pieaugt, tiklīdz jūs saskaraties ar progresīvāku versiju, kas ir gandrīz identiska patiesi cilvēka formai.

Šeit ir vairāk par to, ko autors teica par mūsu parasto tieksmi pieņemt, ka dzīves aspekti vienmērīgi pieaug: “Matemātiskais termins monotoniski pieaugoša funkcija apraksta attiecības, kurās funkcija y = ƒ(x) nepārtraukti palielinās līdz ar mainīgo x. Piemēram, kā pūles x aug, ienākumi y palielinās, vai, nospiežot automašīnas akseleratoru, automašīna pārvietojas ātrāk. Šāda veida attiecības ir visuresošas un ļoti viegli saprotamas. Faktiski, tā kā šādas monotoniski pieaugošas funkcijas aptver lielāko daļu ikdienas dzīves parādību, cilvēki var krist ilūzijā, ka viņi pārstāv visas attiecības. Šo maldīgo iespaidu apliecina arī fakts, ka daudzi cilvēki cīnās visu mūžu, neatlaidīgi spiežoties, nesaprotot atvilkšanās efektivitāti. Tāpēc cilvēki parasti ir neizpratnē, saskaroties ar kādu parādību, ko šī funkcija nevar atspoguļot. Tas ir citēts saskaņā ar IEEE spektrs tulkots papīrs.

Šis gandrīz universālais pieņēmums par vienmēr pieaugošo var tikt apgāzts, kad sastopamies ar kaut ko nepareizi. Teorijā teikts, ka baismība un aizdomīgums izraisīs relatīvi pēkšņu un dramatisku radniecības samazināšanos, piemēram, robota roka, kuru jūs izvēlējāties kratīt un nevarējāt sajust cilvēka rokas kaulainās īpašības: “Kad tas notiek, mēs zaudējam sajūtu. afinitāte, un roka kļūst neparasti. Matemātiskā izteiksmē to var attēlot ar negatīvu vērtību.

Ja jūs pieņemat pieņēmumu, ka pastāv šī neparastās ielejas parādība, es esmu pārliecināts, ka jūs domājat, ko jums dod tas, ka zināt, ka šī neparastā ieleja pastāv.

Tā ir visu laiku klasika "un ko?" praktiskuma pārbaude.

Izrādās, ka daudzi cilvēki ir nākuši klajā ar daudzām interpretācijām par to, ko mums vajadzētu vai varam darīt ar neparasto ieleju. Ir daudz viedokļu. Es drīzumā pievērsīšos dažiem no tiem.

Tikmēr Masahiro Mori piedāvāja šādu: “Mēs ceram izstrādāt un uzbūvēt robotus un protēzes rokas, kas neiekritīs neparastajā ielejā. Tādējādi, ņemot vērā risku, kas saistīts ar mēģinājumu palielināt savu līdzības pakāpi, lai mērogotu otro virsotni, es iesaku dizaineriem par savu mērķi izvēlēties pirmo virsotni, kas rada mērenu līdzības pakāpi cilvēkiem un ievērojamu radniecības sajūtu. . Patiesībā es paredzu, ka ir iespējams izveidot drošu radniecības līmeni, apzināti īstenojot necilvēcisku dizainu. Es lūdzu dizaineriem to apdomāt.

Ātri apkopoju divpadsmit parocīgos bikses noteikumus par to, kā rīkoties saistībā ar neparasto ieleju, jo īpaši AI izstrādātājiem:

1) Esiet informēts par neparasto ieleju un esiet atbilstoši tam

2) Jūs, iespējams, vēlaties pēc iespējas vairāk panākt cilvēka radniecību pret savu AI

3) Esiet gatavi tam, ka jūsu AI nokļūs neparastajā ielejā

4) Centieties izvairīties no neparastās ielejas, šādi izstrādājot savu AI

5) Ir cienījami, ja ir mērķis, kas pietrūkst neparastās ielejas

6) Brauciet uz sāniem līdz neparastās ielejas malai, bet nekrītiet pāri klintij

7) Neesiet apsēsta ar došanos tālāk par neparasto ieleju

8) Pastāv iespēja, ka jūs varat lēkt garām neparastajai ielejai

9) Neuztraucieties ar lēcienu, jo jebkurā gadījumā varat iekrist ielejā

10) Maksimālā tuvība cilvēkam noteikti tiktu sasniegta, izejot garām neparastajai ielejai

11) Neskatoties uz to, pirms neparastās ielejas ir konstatēta atbilstoša un piemērota afinitāte

12) Nepārtraukti atcerieties neparasto ieleju un neļaujiet tai izkļūt no prāta

Visi šie ducis ir vispārīgi priekšraksti, kurus var uzskatīt par stūrakmeni vai enkurpunktiem, lai uzzinātu par neparasto ieleju. Es uzreiz atzīšos, ka ir arī citi punkti, kas nav uzskaitīti šajā niecīgajā desmitā un kurus varētu uzskatīt par tikpat svarīgiem. Es arī labprāt atzīšos, ka par katru norādīto punktu noteikti būs domstarpības, un par katru izvirzīto punktu var izvērsties ilgstošas ​​asas debates.

Vēl jo vairāk, daži teiktu, ka divpadsmit punkti ir pilnīgi muļķīgi, jo tie ir balstīti uz nepatiesību. Viņi iebilst, ka nav tādas lietas kā dīvaina ieleja. Tas viss ir tikai viltība un izdomāts izdomājums, kas tikai un vienīgi pievilina vājus prātus (ak, tas ļoti sāp!). Jebkāda uzmanība, kas tiek pievērsta neparastajai ielejai, ir izniekota gaisa elpa, un kādam vajadzētu nākt līdzi un likt lietā asu teorētisku mietu (daži pētnieki ir mēģinājuši to darīt).

Diskusiju labad iesim straumei un pieņemsim, ka ir neparasta ieleja un ka tā kopumā atbilst tam, ko esmu norādījis līdz šim. Tie, kas nepiekrīt neparastas ielejas konceptualizācijai, ir laipni aicināti zonēt vai turpināt lasīt, sakostiem zobiem un intelektuālajām dusmām briest un vārās (atvainojiet par to).

Lūk, kā izpaužas ētiskais AI un ētiskā AI izstrādes un īstenošanas uzmanība. Starp citu, par maniem notiekošajiem un padziļinātajiem AI ētikas pētījumiem skatiet manu diskusiju vietnē šī saite šeit un šī saite šeit, tikai nosaukt dažus.

Neparastā ieleja ir nepārprotami mīlestības un naida dēka tiem, kuri ir ieinteresēti ētiskajā AI.

Pirmkārt, daži nepieciešamie foni. Viens no visbriesmīgākajiem ētiskajiem ar AI saistītajiem iebildumiem ir tas, ka cilvēkus var maldināt, ticot, ka AI sistēma ir jūtīga. Lūdzu, ņemiet vērā, ka mūsdienās nav neviena mākslīgā intelekta, kas būtu kaut kur tuvu jūtīgam. Šobrīd tas vienkārši nenotiek. Mans šķietami “nekaunīgais” apgalvojums tiek izteikts, neskatoties uz tiem nemitīgajiem un kliedzošajiem virsrakstiem, kas paziņo par šo AI vai to, ka AI ir vai nu jūtīgs, vai pietiekami tuvu, lai to uzskatītu par tādu. Malarkey. Mēs neesam AI uztverē.

Mēs nezinām, kā tur nokļūt. Mēs nezinām, vai tas notiks. AI jūtīgums ir vērtīgs sapnis un tieksme, lai gan nesteidzieties un nedomājiet, ka mēs esam tās sasniegšanas slieksnī.

Protams, daudzi dedzīgi brīdina, ka, ja mums kaut kā izdosies nostiprināt AI uztveri, neatkarīgi no tā, vai mēs to darām plānoti vai tīri nejauši, mēs saskarsimies ar eksistenciālu risku. Tādā veidā domājot, varbūt meklēt AI uztveri nav tik vērtīgi. Pastāv risks, ka šis jūtīgais mākslīgais intelekts var noteikt, ka cilvēkiem nav vērts būt tuvumā. Mēs varētu tikt saspiesti kā kļūda. Vai kļūt par AI verdzību. Tas var notikt, ja AI atklāti izvēlas to darīt, vai arī AI var kļūt par mūsu pašu pastardienas iekārtu, kas mūs iznīcina mūsu pašu neveiklības dēļ. Lai iegūtu informāciju par šiem satraucošajiem AI jutības vai singularitātes rezultātiem, sk saite šeit.

Būtiska ētiskā AI problēma ir tā, ka AI izstrādātāji un tie, kas nodarbojas ar AI, reizēm liek cilvēkiem domāt, ka AI ir jūtīgs. Veids, kā mākslīgais intelekts izpaužas, piemēram, robotizēts formulējums vai sarunvalodas interaktivitāte, var mānīgi mudināt cilvēkus pieņemt, ka AI ir jūtīgs. Tas savukārt novedīs jūs pa potenciāli netīro prīmulas ceļu.

Ja jūs iekrītat garīgajā slazdā, domājot, ka AI sistēma ir jutīga, jūs, visticamāk, paļausities uz to, lai darītu lietas, ko darītu jūtīgas būtnes. Taču nevienā no mūsdienu mākslīgā intelekta tehnoloģijām vēl nav iestrādāta veselā saprāta par cilvēkiem līdzīgu kvalitāti. AI, ar kuru mēs šobrīd saskaramies, ir ārkārtīgi trausls un sekla, ja runa ir par cilvēkiem līdzīgām spējām. Uzskatot, ka mākslīgā intelekta sistēma ir jūtīga, jūs varētu nokļūt nepatīkamos un bīstamos ūdeņos.

Kā tas ir saistīts ar neparasto ieleju?

Lūk, darījums.

Atgādiniet, ka neparastā ieleja mums norāda, ka cilvēku radniecība pakāpeniski pieaugs, jo AI sistēma vai robots tuvosies un tuvosies cilvēkam līdzīgam formulējumam. Laikā, kad mākslīgā intelekta sistēma tuvojas tam, ka tā ir diezgan tuvu, tomēr joprojām, ne gluži tur, mums rodas baisa sajūta, ka kaut kas nav kārtībā. Līdz tam mēs zinājām, ka mākslīgais intelekts nav cilvēks. Tagad mēs neesam pārliecināti. Mūsu cilvēciskā afinitāte samazinās. Tikai tad, kad mākslīgais intelekts vai robots kļūst pilnīgi pārliecinošs attiecībā uz cilvēkiem līdzīgām spējām, mēs atgūstam savu radniecību ar ierīci.

AI izstrādātāji, kas ņem vērā šo sirdi, domājams, to darītu pieaugušo apzinātas izvēles dēļ censties saglabāt savu AI ārpus neparastās ielejas, cenšoties apstāties, ņemot vērā AI iezīmes, tieši pirms iekrišanas neparastajā bezdibenī (atcerieties, to uzsvēra arī Masahiro Mori). Acīmredzot izstrādātāji to darītu, pārliecinoties, ka joprojām pastāv daudz signalizatoru, lai būtu diezgan skaidrs, ka mākslīgais intelekts ir mazāk uztverošs AI un tāpēc tas nav cilvēks vai tikpat labi.

AI ētikas speciālisti parasti atzinīgi vērtētu šīs sirsnīgās pūles.

Pamatojums ir vienkāršs. Tie, kas ir tik informēti un aptveroši AI izstrādātāji, cenšas nodrošināt, lai AI sistēma nemaldinātu cilvēkus, nepatiesi piedēvējot cilvēkiem līdzīgas iekārtas AI. Tās noteikti ir labas ziņas. Izstrādātāji apzināti izstrādās AI, lai novērstu niršanu neparastajā ielejā. Cilvēki viegli sapratīs, ka mākslīgais intelekts nav jūtīgs.

Nav viegli mēģināt panākt, lai AI izstrādātāji pieņemtu šādu pieeju. Patiešām, tas var būt pretrunā viņu parastajiem instinktiem un virzošajām ambīcijām.

Ir daudz apgalvojumu, ka AI izstrādātāji un tehniķi kopumā tiek patērēti ar mērķiem. Viņi redz mērķi un bieži akli pēc tā tieksies ar lielu aizrautību. Nav laika apstāties un pasmaržot rozes. Dodamies uz sacensībām, mēs ejam. AI jomā normatīvais mērķis būtu idealizēts AI, kas nav atšķirams no cilvēkiem, jo ​​AI varētu būt saprātīgi vienāda paritāte. Bet mēs vēl neesam tur. Kā tāda neparastā ieleja nodrošina sekundāru mērķi, piezemējoties pirms citādi aizsprostojošās neparastās ielejas, un kļūst par mērķi, kas tomēr ir pieņemams. Protams, tas nav zelta gredzens, bet ideja ir tāda, ka šī "sekundārā" balva ir laba, liels paldies, un jūs varat ar to lepoties.

Mēs esam mainījuši postošo mērķu sasniegšanas augstāko ambīciju un izmantojuši to loģiski izklausītā pamatotā pamatojumā, lai it kā darītu pareizi.

Urā!

Iegūstiet panākumus mākslīgā intelekta ētikas jomā.

Bet pagaidiet otru spoilera brīdinājumu, mums ir jāņem vērā arī kas cits.

Tagad, kad šie atjautīgie AI izstrādātāji zina par neparasto ieleju, viņi var vērst savu prātu un tehnikas meistarību, lai apzināti lēktu pāri bezdibenim, tomēr darītu to, paturot prātā maldināšanu. Ļaujiet AI izskatīties un izskatīties pilnībā līdzīgam cilvēkam, lai gan izstrādātāji zina, ka tā nav patiesība.

Negodīgā domāšana notiek šādi. Neļaujiet savai AI sistēmai nogāzt cepuri un likt cilvēkiem iegūt šo netveramo baismīgumu. Izgrieziet šķautnes, kas varētu dot mājienu vai pavedienu, ka mākslīgais intelekts nav cilvēka spējīgs. Dariet to, slepeni apzinoties un nepiedodami apzinoties, ka mākslīgais intelekts nav cilvēka spējīgs, un tas viss ir par šīs patiesības slēpšanu no tiem, kas mijiedarbojas ar AI vai ir no tā atkarīgi.

Kādi velnišķīgi plāni.

Ironiski, ka neparastā ieleja varētu būt sava veida modinātāja zvans AI izstrādātājiem, ka, ja viņi vēlas patiesi apmānīt cilvēkus, viņiem jābūt pietiekami gudriem, lai izkļūtu no bezdibeņa. Viņi to nedara, panākot pilnīgu AI, bet gan uzceļot dūmus un spoguļus, lai AI liktos maldinošs, it kā tas būtu cilvēks. Ja AI izstrādātāji nebūtu sapratuši, ka šī neparastā ieleja pastāv, viņi kopumā būtu tajā iekrituši. Tas nāk par labu cilvēcei, jo cilvēki zaudētu savu afinitāti pret AI, jo pārāk nepaļautos uz mūsdienu AI kvalitāti.

Diemžēl, zinot, ka slazds pastāv, mākslīgā intelekta izstrādātāji, kas vēlas to apiet, atradīs kaitīgi gudrus veidus, kā to izdarīt.

Iegūstiet sitienu, neievērojot ētiskā AI priekšrakstus.

Vai redzat, kā tas rada AI ētikas mīlestības un naida attiecības par neparasto ieleju?

Sasodīts, ja tu to dari, sasodīts, ja nē.

Es saprotu, ka šī ir bijusi neparastās ielejas pārbaude, un jūs varētu ilgoties pēc dažiem ikdienas piemēriem. Ir īpašs un noteikti populārs piemēru kopums, kas man ir tuvs. Redziet, manā kā MI ekspertam, tostarp ētiskajām un juridiskajām sekām, man bieži tiek lūgts identificēt reālistiskus piemērus, kas parāda AI ētikas dilemmas, lai varētu vieglāk uztvert tēmas nedaudz teorētisko raksturu. Viena no visspilgtākajām jomām, kas spilgti atspoguļo šo ētisko AI problēmu, ir uz AI balstītu patiesi pašbraucošu automašīnu parādīšanās. Tas kalpos kā ērts lietošanas gadījums vai paraugs plašai diskusijai par šo tēmu.

Šeit ir viens ievērības cienīgs jautājums, par kuru ir vērts padomāt: Vai uz mākslīgā intelekta balstītu patiesi pašbraucošu automašīnu parādīšanās kaut ko izgaismo par neparasto ieleju, un, ja tā, ko tas liek mums darīt?

Ļaujiet man kādu brīdi izpakot jautājumu.

Pirmkārt, ņemiet vērā, ka īstā pašbraucošā automašīnā nav cilvēka vadītāja. Ņemiet vērā, ka patiesas pašbraucošas automašīnas tiek vadītas, izmantojot AI braukšanas sistēmu. Nav nepieciešams cilvēks pie stūres, kā arī nav paredzēts, ka cilvēks varētu vadīt transportlīdzekli. Manu plašo un pastāvīgo informāciju par autonomajiem transportlīdzekļiem (AV) un īpaši pašbraucošām automašīnām sk. saite šeit.

Es vēlētos vēl vairāk precizēt, kas ir domāts, runājot par patiesām pašbraucošām automašīnām.

Izpratne par pašbraucošo automašīnu līmeņiem

Kā paskaidrojums, patiesas pašpiedziņas automašīnas ir tādas, ka mākslīgais intelekts pilnībā vada automašīnu, un braukšanas uzdevuma veikšanai nav nepieciešama cilvēka palīdzība.

Šie bezvadītāja transportlīdzekļi tiek uzskatīti par 4. un 5. līmeni (skatiet manu skaidrojumu vietnē šī saite šeit), savukārt automašīna, kuras vadītājam ir jādalās braukšanas piepūlē, parasti tiek uzskatīta par 2. vai 3. līmeni. Automašīnas, kas kopīgi veic vadīšanas uzdevumu, ir aprakstītas kā daļēji autonomas, un parasti tajās ir dažādas automatizēti papildinājumi, kas tiek saukti par ADAS (Advanced Driver-Assistance Systems).

5. līmenī vēl nav īstas pašbraucošas automašīnas, par kurām mēs pat nezinām, vai to būs iespējams sasniegt, un arī cik ilgs laiks būs vajadzīgs, lai tur nokļūtu.

Tikmēr 4. līmeņa centieni pakāpeniski mēģina iegūt zināmu saķeri, veicot ļoti šauru un selektīvu koplietošanas ceļu izmēģinājumus, lai gan pastāv strīdi par to, vai šī pārbaude ir jāatļauj per se (mēs visi esam dzīvības vai nāves jūrascūciņas eksperimentā kas notiek uz mūsu lielceļiem un blakusceļiem, daži apgalvo, skatiet manu pārklājumu vietnē šī saite šeit).

Tā kā pusautomātiskajām automašīnām ir nepieciešams autovadītājs, kas izmanto cilvēku, šāda veida automašīnas pieņemšana ievērojami neatšķirsies no parastā transporta līdzekļa vadīšanas, tāpēc per se nav daudz jaunu, lai par tām runātu par šo tēmu (lai gan, kā redzēsit pēc brīža nākamie punkti parasti ir piemērojami).

Pusautonomām automašīnām ir svarīgi, lai sabiedrība tiktu brīdināta par satraucošu aspektu, kas rodas pēdējā laikā, proti, ka, neskatoties uz tiem autovadītājiem, kas turpina publicēt video, kā viņi aizmiguši pie 2. vai 3. līmeņa automašīnas stūres , mums visiem jāizvairās no maldināšanas, uzskatot, ka vadītājs, vadot daļēji autonomu automašīnu, var novērst uzmanību no braukšanas uzdevuma.

Jūs esat atbildīgā persona par transportlīdzekļa vadīšanas darbībām neatkarīgi no tā, cik daudz automatizācijas var iemest 2. vai 3. līmenī.

Pašbraucošas automašīnas un neparastā ieleja

4. un 5. līmeņa īstiem pašpiedziņas transportlīdzekļiem braukšanas uzdevumā nebūs iesaistīts autovadītājs.

Visi pasažieri būs pasažieri.

AI veic braukšanu.

Viens aspekts, kas nekavējoties jāapspriež, ietver faktu, ka AI, kas iesaistīts mūsdienu AI braukšanas sistēmās, nav jūtīgs. Citiem vārdiem sakot, AI kopumā ir datorizētas programmēšanas un algoritmu kolektīvs, un, protams, tas nespēj spriest tāpat kā cilvēki.

Kāpēc šis papildu uzsvars tiek likts uz to, ka AI nav jūtīgs?

Tā kā es gribu pasvītrot, ka, apspriežot AI braukšanas sistēmas lomu, es nepiešķiru AI cilvēka īpašības. Lūdzu, ņemiet vērā, ka mūsdienās pastāv un ir bīstama tendence antropomorfizēt AI. Būtībā cilvēki piešķir mūsdienu cilvēka intelektu mūsdienu AI, neskatoties uz nenoliedzamu un neapstrīdamu faktu, ka šāda AI vēl nav.

Izmantojot šo precizējumu, jūs varat iedomāties, ka AI braukšanas sistēma dabiski kaut kā “nezinās” par braukšanas aspektiem. Braukšana un viss, kas ar to saistīts, būs jāprogrammē kā daļa no pašpiedziņas automašīnas aparatūras un programmatūras.

Iegremdēsimies neskaitāmos aspektos, kas nāk par šo tēmu.

Pirmkārt, ir svarīgi saprast, ka ne visas AI pašbraucošās automašīnas ir vienādas. Katrs autoražotājs un pašpiedziņas tehnoloģiju uzņēmums izmanto savu pieeju, lai izstrādātu pašbraucošas automašīnas. Tādējādi ir grūti sniegt visaptverošus paziņojumus par to, ko AI vadīšanas sistēmas darīs vai nedarīs.

Turklāt ikreiz, kad tiek apgalvots, ka AI vadīšanas sistēma nedara kādu konkrētu lietu, to vēlāk var apsteigt izstrādātāji, kuri faktiski programmē datoru, lai to izdarītu. Soli pa solim AI braukšanas sistēmas tiek pakāpeniski uzlabotas un paplašinātas. Esošais ierobežojums šodien, iespējams, vairs nepastāvēs turpmākajā sistēmas iterācijā vai versijā.

Es ticu, ka tas sniedz pietiekamu iebildumu litāniju, lai pamatotu to, ko es drīzumā stāstu.

Mēs tagad esam gatavi dziļi izpētīt pašbraucošās automašīnas un ētiskus AI jautājumus, kas saistīti ar neparasto ieleju.

Ir četri ar šo jautājumu saistīti aspekti, kas tiks apskatīti šeit:

1. Pašbraucošo automašīnu kopējais izskats

2. Jautājums par to, kur “skatās pašbraucošās automašīnas”

3. AI braukšanas darbības pašbraucošām automašīnām

4. Roboti, kas brauc kā līdzeklis pašbraucošu automašīnu iegūšanai

Ir iekļauti arī papildu aspekti, taču, ņemot vērā telpas ierobežojumus, ar šīm četrām tēmām pietiks, lai izgaismotu neparastās ielejas virzienu saistībā ar AI balstītām pašbraucošām automašīnām.

1. Pašbraucošo automašīnu kopējais izskats

Varu derēt, ka esat redzējis attēlus vai video no šodienas pašbraucošo automašīnu izmēģinājumiem. Tādējādi jūs, iespējams, pamanījāt, ka lielākā daļa transportlīdzekļu ir parasta izskata automašīnas, kas ir aprīkotas ar papildu specializētu aprīkojumu. Piemēram, var būt jumta bagāžnieks, kurā ir daudz elektronisku sensoru. Sensoros dažreiz ietilpst videokameras, radara bloki, LIDAR ierīces, ultraskaņas sensori un tamlīdzīgi.

Futūristisks dizains liek domāt, ka mēs varētu atkāpties no parastā izskata automašīnas, tā vietā pārveidojot automašīnas gan iekšpusē, gan ārpusē, lai tās būtu gludāka izskata autonomie transportlīdzekļi. Pašlaik vispārējais uzskats ir tāds, ka ir vienkāršāk izmantot parastās automašīnas un netērēt enerģiju, mēģinot izstiept centienus, vienlaikus ķeroties pie netradicionāla izskata automašīnām (šī vispārīgā viedokļa ir daži izņēmumi, skatiet manu stāstījumu vietnē saite šeit).

Patlaban būtība ir tāda, ka, braucot pa brauktuvi un sastopot tuvumā esošu pašbraucošu automašīnu, gandrīz vienmēr uzreiz var saprast, ka tā, iespējams, ir pašbraucoša automašīna, tikai pamanot uz autonomā transportlīdzekļa uzstādīto sensoru šķembu. Šī ir ātra vizuāla dāvana. Protams, jūs noteikti nezināt, vai tā pati par sevi ir pašbraukšana, jo šajā brīdī braukšanas vadības ierīces parasti joprojām ir neskartas un pie stūres var būt rezerves vadītājs.

Vienā no domāšanas veidiem jūs varat domāt, ka ir īpaši ērti, ka pašbraucošās automašīnas fiziski izceļas un ir viegli vizuāli pamanītas gan autovadītājiem, kas atrodas blakus esošajās cilvēku vadītajās automašīnās, gan arī tuvumā esošiem gājējiem. Apziņa, ka tuvumā viesabonē pašbraucoša automašīna, var būt ērts norādījums, kas liek jums būt uzmanīgiem un ņemt vērā, ka AI vada vai varētu vadīt transportlīdzekli.

Pieņemsim, ka pašbraucošās automašīnas izskatījās identiskas parastai cilvēku vadītai automašīnai. Tas ir reāli iespējams vismaz divos veidos. Pirmkārt, sensori var būt paslēpti vai veidoti tā, lai tie nebūtu tik acīmredzami gadījuma vizuālai pārbaudei. Otrkārt, varētu būt, ka visas automašīnas, tostarp parastās cilvēku vadītas automašīnas, pakāpeniski tiek aprīkotas ar līdzīgiem sensoriem, pat ja transportlīdzeklis tomēr paliks kā galvenokārt cilvēku vadīta automašīna. Skatiet manu turpmāko pārklājumu vietnē šī saite šeit.

Ja jūs rūpīgi pārdomājat šo apsvērumu par to, vai pašpiedziņas automašīnas pēc izskata var būt vai tām vajadzētu būt identiskām parastajām cilvēku vadītām automašīnām, jūs varētu domāt, ka šajā sautējumā varētu slēpties neparasta ieleja.

Redziet, automašīnas, kas acīmredzami izskatās pēc pašbraucošām automašīnām, var tikt raksturotas kā tādas, kas atrodas krustojumā, kas atrodas pavisam tuvu neparastajai ielejai. Būtībā jūs "zinat", ka tas ir robots vai robotizēta veida sistēma. Tas ir spriedums, uz kuru gandrīz nekavējoties varat pieķerties.

Ja pašbraucošās automašīnas izskatās identiski cilvēku vadītām automašīnām, iespējams, tas liecina, ka autonomie transportlīdzekļi ir pārlēkuši garām neparastajai ielejai, ņemot vērā to robotiem līdzīgo izskatu. Vai tomēr ir kāds vidusceļš starp šīm divām fiziskajām izpausmēm, kas mūs ieved neparastajā ielejā?

Iespējams, pamanāt pa ielu braucošu pašbraucošu automašīnu un šķiet, ka tā, iespējams, ir pašbraucoša automašīna, no otras puses, izskats nav nedz stingri autonoms, nedz stingri cilvēka vadīts. Jūs varētu iebilst, ka pašbraucošā automašīna tagad ir biedējošā vai satraucošā izskatā.

Pašbraucošā automašīna šķietami ir iegrimusi nejaukajā ielejā.

To sakot, ne visi piekristu šādai klasifikācijai. Daži apgalvo, ka fiziskajam izskatam nav nekā kopīga ar neparasto ieleju. Daži, protams, arī apgalvo, ka nekas reāli nav pazīstams kā neparastā ieleja.

Kā minēts iepriekš, jūs esat laipni aicināti pieņemt lēmumu šajā jautājumā.

2. Jautājums par to, kur meklē pašbraucošās automašīnas

Daudzus satraucošas bažas par pašbraucošām automašīnām ir tādas, ka tām parasti nav neviena cilvēka vadītāja sēdeklī, un tāpēc ir grūti saprast, kur "vadītājs" skatās, vadot automašīnu.

Jūs parasti skatāties uz autovadītājiem, lai izspiegotu, kur viņi skatās. Piemēram, jūs varat būt gājējs uz gājēju pārejas un automašīna tuvojas pārejai. Jūs uzmanīgi skatāties uz personu, kas sēž vadītāja sēdeklī, un mēģināt noteikt, kur viņa galva ir pagriezta un kur skatās acis. Ja uzskatāt, ka vadītājs cilvēks jūs ir redzējis, jums varētu būt ērtāk šķērsot ielu. Turpretim, ja šķiet, ka autovadītājs jūs nav redzējis, jūs pamatoti uztraucaties par šķērsošanu.

Dažās pilsētās šajos aspektos valda sava veida kaķa un peles gambīts. Īpaša kultūras norma konkrētajā pilsētā varētu būt tāda, ka, veidojot acu kontaktu ar vadītāju, vadītājs “uzvar”, un viņam ir šķietamas tiesības turpināt, neatkarīgi no braukšanas situācijas likumības. Citās pilsētās varētu būt pilnīgi pretēji, proti, kultūras norma ir tāda, ka, veidojot acu kontaktu, gājējs “uzvar” un autovadītājam ir jāpaļaujas uz gājēja rīcību.

Šķiet, ka mēs esam pieņēmuši šo paražu salīdzinoši ilgajā laikā, kad automašīnas atrodas mūsu pilsētu un kopienu vidū. Problēma ar pašbraucošo automašīnu parādīšanos ir tāda, ka vadītāja sēdeklī nav cilvēka vadītāja, un līdz ar to jebkurš gājējs vai tuvumā esošs autovadītājs, kurš parasti izmanto automašīnu vadītāju galvu un acis kā braukšanas nodoma kultūras rādītāju. no laimes.

Automobiļu ražotāji un pašbraucošo automašīnu izstrādātāji ļoti labi apzinās šo jauno problēmu. Viens no piedāvātajiem risinājumiem ir tāds, ka pašpiedziņas automašīna mirgo autonomā transportlīdzekļa priekšējos lukturus vai, iespējams, skaņas signālu. Vēl viens pieņēmums ir tāds, ka pašbraucošajai automašīnai varētu būt skaļruņa variants, kas tuvumā esošajiem pastāsta, kādi ir AI braukšanas sistēmas "nodomi". Katrai no šīm idejām ir ievērojami trūkumi.

Tomēr citāds priekšlikums paredz darīt kaut ko tādu, kas jums sākumā varētu šķist smieklīgs. Priekšlikumā ir paredzēts novietot acs āboliem līdzīgus lodes uz autonomā transportlīdzekļa ārpuses. Šīs lodes varētu izskatīties pēc cilvēka acīm, šķiet, ka tās varētu pagriezties uz priekšu un atpakaļ, sniedzot tūlītēju norādi, kas liek domāt, ka mākslīgais intelekts ir “jūs redzējis” (to varētu interpretēt, skatoties jūsu konkrētajā virzienā). Esmu analizējis šo pieeju plkst saite šeit.

Kāda būtu jūsu reakcija, ieraugot pa brauktuvi nobraucam pašbraucošu automašīnu un uz motora pārsega vai jumta uzmontētu šos lielizmēra dīvainos acs ābolus?

Es domāju, ka jūs varētu domāt, ka tas ir šausmīgi, varbūt rāpojoši.

Daži varētu domāt, ka baismīgums rodas no tā, ka tikpat labi aprīkots pašbraucošs auto atrodas nejaukajā ielejā. Citi dedzīgi iebilst, ka tam nav nekāda sakara ar neparasto ieleju. No šiem ekspertiem daži teiktu, ka ir baismība, kas var būt baismīga, ja tai nav jāiekļaujas neparastajā ielejā (t. i., neparastā ieleja šķietami vienmēr rada baismīgumu, bet ne visas baismības rodas tikai ar neparasto ieleju). Otrs leņķis ir tāds, ka lodes, iespējams, varētu būt izstrādātas tā, lai tās izskatītos mazāk acs ābola un izskatītos vairāk robotiskas, vai arī mēs visi neizbēgami pieņemsim šo ložu parādīšanos un sākotnējā pārsteidzošā reakcija norims.

3. AI braukšanas darbības pašbraucošām automašīnām

Daudzi no mūsdienu pašbraucošo automašīnu izmēģinājumiem ir parādījuši, ka esošās AI braukšanas sistēmas mēdz būt ieprogrammētas tā, lai brauktu diezgan vēsā un zināmā mērā stingri likumīgā veidā. AI braukšanas sistēma parasti pilnībā apstājas pie Stop zīmēm. AI braukšanas sistēma neveic pārdrošus skrējienus krustojumos, kad luksofora signāls drīzumā būs sarkans. Šīs dīvainās braukšanas prakses ir cilvēku vadītāji.

Savā ziņā varētu gandrīz nojaust, ka pašbraucošs auto ir pašbraucošs auto pēc tā demonstrētā braukšanas stila. Pat ja šķiet, ka autonomais transportlīdzeklis vizuāli ir parasts cilvēka vadīts automobilis, jūs varētu novērot braukšanas darbības un varbūt loģiski secināt, ka to, iespējams, vada AI sistēma.

Daži uzskata, ka mums vajadzēs padarīt AI braukšanas sistēmas līdzīgākas cilvēku vadītāju dēkām, lai tās efektīvi iekļautos normatīvajās braukšanas pieejās. Es domāju, ka jūs to varētu saprast kā uguns dzēšanu ar uguni.

Vai ir jēga to darīt?

Jāapzinās, ka atklātie skeptiķi un kritiķi riebjas no šīs idejas. Viņi dedzīgi iebilst, ka mēs vēlamies, lai AI braukšanas sistēmas darbotos pareizi un uzmanīgi. Potenciāli miljoniem pašbraucošu automašīnu pievienošana brauktuvēm, kas ir ieprogrammētas tā, lai tās būtu kā kļūdījušies autovadītāji, šķitīs kolosāls murgs. Esmu apspriedis šo strīdīgo priekšlikumu plkst saite šeit.

Pārrunāsim dilemmu, izmantojot neparasto ieleju.

Ja mākslīgā intelekta vadīšanas sistēma ir stingri likumīga tās vadīšanas darbību dēļ, tas, iespējams, liecina par to, ka tā, visticamāk, ir robotizēta sistēma (neskatoties uz cilvēku vadītājiem, kas to dara, lai gan mūsdienu pasaulē tie šķiet tālu un maz). Ja mākslīgā intelekta vadīšanas sistēmām jābrauc tikpat dīvaini kā cilvēku vadītājiem, vai šis lēciens pāri neparastajai ielejai vai iekrīt neparastajā ielejā?

Padomājiet par to.

4. Roboti, kas brauc kā līdzeklis pašbraucošu automašīnu iegūšanai

Šis pēdējais pārklājuma vienums ir pārsteidzošākais no šiem četriem.

Jūs, iespējams, nemaz nezināt, ka daži AI izstrādātāji mēģina izveidot robotus, kas vadītu automašīnas. Robots dažādos aspektos varētu izskatīties pēc cilvēka, un tam ir robotu kājas un robotu rokas kā ekstremitātes. Ja vēlaties, lai jebkura tradicionāla cilvēku vadīta automašīna būtu pašbraucoša automašīna, vienkārši ievietojiet šo specializēto AI braukšanas robotu savas automašīnas vadītāja sēdeklī. Skatiet manu šī jēdziena analīzi vietnē saite šeit.

Kāpēc mēs vēlamies vadīt robotus?

Šāda robota skaistums ir tāds, ka visas mūsdienu cilvēku vadītās automašīnas gandrīz vienā dienā varētu kļūt par pašbraucošām automašīnām. Jūs vienkārši iegādājaties, nomājat vai kaut kā iegūstat sev braucošo robotu. Dodoties braukšanas braucienā, jūs ievietojat robotu savā vadītāja sēdeklī. Robots aizvedīs jūs uz galamērķi. Ja vēlaties pārslēgties uz cilvēka vadīšanu, izņemiet robotu no transportlīdzekļa, iespējams, novietojiet to bagāžniekā vēlākai lietošanai.

Mūsdienās Amerikas Savienotajās Valstīs ir aptuveni 250 miljoni parasto automašīnu. Daži uzskata, ka tie galu galā tiks iznīcināti, kad parādīsies pašbraucošas automašīnas. Tā vietā, lai izjauktu šīs parastās automašīnas, mēs varētu mēģināt tās pārveidot par pašbraucošām automašīnām, lai gan šī ideja, iespējams, ir diezgan dārga. Šķietami apdomīgāka pieeja būtu padarīt pieejamus braukšanas robotus.

Ja jūs redzētu ierasta izskata automašīnu, kas brauc pa jūsu apkārtnes ielu, un tai pie stūres būtu robots, kāda būtu jūsu reakcija?

Iespējams baismība.

Viens, protams, strīdīgs apgalvojums ir tāds, ka šī baismība ir saistīta ar to, ka robots brauc ar parasto automašīnu, kas iegremdējas slavenajā vai bēdīgi slavenajā neparastajā ielejā.

Secinājumi

Raugoties no ētiskā AI perspektīvas, neparastā ieleja ir intriģējoša mīkla.

Ir daži AI, kas pilnībā tic neparastajai ielejai, un daži, kas netic. Bet neatkarīgi no tā, vai jūs ticat nejaukajai ielejai vai nedariet to, pati tēma tomēr ir apvīta. Jūs nevarat noslēpt galvu un izlikties, ka konstrukcija pati par sevi neeksistē. Konstrukcija kā ideja dzīvo un savā ziņā ir ļoti spēcīga. Ienīst vai mīli, sasodītā vai varbūt paaugstinātā tēma joprojām pastāv.

Saskaņā ar manu iepriekšējo diskursu par neparastās ielejas priekšrocībām no mākslīgā intelekta ētikas leņķa, tajā ir savstarpējas mīlestības un naida attiecības. Vai tiem, kas ir ētiski AI jomā, būtu jāaptver neparastā ieleja vai vispārēji jānoraida neparastā ieleja, vai arī jāpaliek neitrālam attiecībā uz patiesumu un tā vietā jākoncentrējas uz ietekmi, kas rodas sakarā ar pastāvīgo atšķirīgo uzskatu par to.

Šis izaicinājums rada izcilo ekonomistu Adamu Smitu, kā viņš reiz teica (pārfrāzējot), ka ceļā no Skepticisma pilsētas ir jābrauc cauri Neskaidrības ielejai.