AI ētika pievēršas Aristotelim, lai pārbaudītu, vai cilvēki varētu izvēlēties paverdzināt AI laikā, kad rodas pilnībā autonomas sistēmas

Draugs vai ienaidnieks.

Zivis vai vistas.

Persona vai lieta.

Šīs visaptverošās mīklas šķietami liek domāt, ka mēs dažkārt saskaramies ar divdomīgu situāciju un mums ir jāizvēlas viens vai otrs aspekts. Dzīve var piespiest mūs cīnīties ar apstākļiem, kas sastāv no divām savstarpēji izslēdzošām iespējām. Garšīgākā valodā jūs varētu ieteikt, ka izslēdzošs binārais vienādojums liek mums stingri iet pa vienu noteiktu ceļu, nevis citu.

Koncentrēsimies īpaši uz personas vai lietas dihotomiju.

Dedzīgais jautājums par personu vai lietu atkal un atkal parādās saistībā ar mākslīgo intelektu (AI).

Lai precizētu, mūsdienu AI ir absolūti nav cilvēks, un viņam nav ne mazākās jūtas, neskatoties uz to, ka ziņās un sociālajos saziņas līdzekļos jūs varētu redzēt plašas un pārāk lielas virsrakstus. Tādējādi varat būt droši, ka šobrīd jautājums par to, vai AI ir persona vai lieta, ir viegli atbildams. Lasiet manas lūpas, īstā Hobsona izvēlē starp personu vai lietu AI pagaidām ir lieta.

To sakot, mēs varam skatīties nākotnē un brīnīties, kas varētu notikt, ja mēs spēsim sasniegt jutīgu AI formu.

Daži argumentēti kritiķi (un kodīgi skeptiķi) liek domāt, ka mēs, iespējams, saskaitām savus cāļus ilgi pirms to izšķilšanās, mūsdienās apspriežot saprātīgas mākslīgā intelekta sekas. Paustas bažas ir par to, ka pati diskusija nozīmē, ka mums ir jābūt uz šāda AI sliekšņa. Sabiedrība kopumā var tikt maldināta, ticot, ka rīt vai parīt notiks pēkšņa un šokējoša atklāsme, ka patiesībā esam nonākuši pie jutīga AI (daži to dažkārt dēvē par AI singularitāti vai izlūkošanas sprādzienu, sk. mana analīze plkst saite šeit). Tikmēr mēs nezinām, kad šāds mākslīgais intelekts parādīsies, ja vispār, un, protams, mums šķiet, ka mums nav jāskatās ap katru stūri un jābaidās, ka nākamajā mākslinieciskais intelekts mums uzlēks pavisam negaidīti. īsu brīdi.

Otra debašu puse norāda, ka mums nevajadzētu dziļi iebāzt galvu smiltīs. Redziet, ja mēs atklāti neapspriežam un neapdomājam iespējas, kas saistītas ar jutīgu AI, mēs darām cilvēcei nopietnu ļaundarību. Mēs nebūsim gatavi rīkoties ar jutīgu AI, kad vai ja tas radīsies. Turklāt, un, iespējams, vēl spēcīgāk izteikts, paredzot jutīgu AI, mēs varam kaut nedaudz paņemt lietas savās rokās un noteikt virzienu un raksturu, kā šāds AI būs un no kā tas sastāvēs (ne visi piekrīt šim pēdējam punktam). , proti, daži saka, ka šādam mākslīgajam intelektam būs pilnībā savs “prāts”, un mēs nevarēsim to veidot vai aploks, jo mākslīgais intelekts spēs patstāvīgi domāt un noteikt līdzekļus, lai pastāvīgi pastāvētu).

AI ētika sliecas atbalstīt uzskatu, ka mēs būtu prātīgi, ja šīs grūtās un strīdīgās AI lietas atklātībā jau tagad, nevis gaidītu, kamēr mums vairs nebūs izvēles iespēju, vai mēs būtu satriekti par šāda AI sasniegšanu. Lasītāji labi zina, ka esmu plaši aplūkojis AI ētikas un ētikas AI tēmas, tostarp aptverot plašu virkni sarežģītu jautājumu, piemēram, AI juridiskas personas statuss, AI ierobežošana, AI izjaukšana, AI algoritmiskā monokultūra, AI ētikas mazgāšana, divējāda lietojuma. AI tā sauktie Doctor Evil projekti, AI, kas slēpj sabiedrības spēka dinamiku, uzticams AI, AI audits un tā tālāk (skatiet manas slejas, kas attiecas uz šīm svarīgajām tēmām vietnē saite šeit).

Es uzdevu jums izaicinošu jautājumu.

Vai nākotnē, pieņemot, ka mēs jebkurā veidā nonāksim pie jutīgā AI, vai mēs visi šo jutīgo AI interpretēsim kā cilvēku vai lietu?

Pirms sākam dziļi iedziļināties šajā provokatīvajā jautājumā, ļaujiet man pateikt kaut ko par jēdzienu “jūtīgais AI”, lai mēs visi būtu vienā pusē. Ir daudz satraukumu par jūtas nozīmi un apziņas nozīmi. Eksperti var viegli vienoties par to, ko šie vārdi veido. Turklāt, kad kāds atsaucas uz “AI”, jums nav gatavu līdzekļu, lai uzzinātu, uz ko viņš runā pats par sevi. Es jau šeit uzsvēru, ka mūsdienu mākslīgais intelekts nav jūtīgs. Ja mēs galu galā nonāksim pie nākotnes AI, kas ir jutīgs, mēs, iespējams, arī to sauksim par “AI”. Lieta ir tāda, ka šie strīdīgie jautājumi šobrīd var būt diezgan mulsinoši attiecībā uz to, vai frāzes “AI” izteikums ir saistīts ar mūsdienu nejūtīgo AI vai kādreiz varbūt jutīgo AI.

Tie, kas debatē AI, var runāt viens otram garām un nepamanīt, ka viens apraksta ābolus, bet otrs tikmēr runā par apelsīniem.

Lai mēģinātu apiet šo neskaidrību, ir pielāgots mākslīgā intelekta formulējums, ko daudzi izmanto, lai sniegtu cerīgus skaidrojumus. Pašlaik mēs mēdzam saukt par mākslīgo vispārējo intelektu (AGI) kā mākslīgā intelekta veidu, kas var veikt pilnībā inteliģentus pasākumus. Šajā ziņā rupjā frāzes “AI” lietojums ir jāinterpretē vai nu kā mazāka AI versija, kas, pēc dažu domām, ir šaurs AI, vai arī ir denotācijas ziņā neskaidra, un jūs nezināt, vai atsauce ir uz citu. -jūtīgais AI vai varbūt jutīgais AI.

Es sniegšu tam papildu pavērsienu.

Atkarībā no dotās jutības definīcijas jūs varētu iesaistīties karstā diskursā par to, vai AGI būs jūtīgs vai nē. Daži apgalvo, ka jā, protams, AGI pēc savas būtības ir jābūt jūtīgam. Citi apgalvo, ka jums var būt AGI, kas nav jūtīgs, tātad jutība ir cita īpašība, kas nav obligāta AGI iegūšanai. Esmu savās slejās dažādos veidos izskatījis šīs debates un nepārrunāšu šo jautājumu.

Pagaidām, lūdzu, pieņemsim, ka turpmāk šajā diskusijā, kad es atsaucos uz AI, es domāju, ka es atsaucos uz AGI.

Šeit ir šī lejupielāde. Mums vēl nav AGI, un, sakot, mēs uz brīdi pieklājīgi piekritīsim, ka AGI ir vienā nometnē ar jutīgo AI. Ja es savā diskusijā lietotu tikai “AGI”, šī frāze varētu novērst uzmanību, jo daudzi vēl nav pieraduši uztvert “AGI” kā nosaukumu, un viņi, iespējams, būtu nedaudz sašutuši, atkārtoti redzot šo salīdzinoši jaunāko frāzi. Tagad, ja tā vietā es turpinātu atsaukties uz “sajūtu AI”, tas varētu būt arī traucēklis tiem, kas cīnās par to, vai AGI un jutīgais AI ir viens un tas pats vai atšķiras viens no otra.

Lai izvairītos no šīs nekārtības, pieņemsim, ka mana atsauce uz AI ir tas pats, kas teikt AGI vai pat sentient-AI, un vismaz ziniet, ka es nerunāju par mūsdienu nejūtīgo ne-AGI AI, kad nonāku pārdomās par to. AI, kam, šķiet, ir cilvēkam līdzīgs intelekts. Es laiku pa laikam izmantošu AGI vārda vārdu, lai atgādinātu jums, ka es pārbaudu AI veidu, kura mums vēl nav, it īpaši šīs personas vai lietas mīklas izpētes sākumā.

Tas bija noderīgs, smalkā drukā rakstīts apliecinājums, un tagad es atgriežos pie aktuālā pamata jautājuma.

Ļaujiet man tagad jums jautāt, vai AGI ir persona vai lieta.

Apsveriet šos divus jautājumus:

• Vai AGI ir persona?
• Vai AGI ir lieta?

Tālāk atkārtosim katru jautājumu un attiecīgi atbildēsim uz jautājumiem ar jā vai nē atbilžu virkni, kā tas atbilst paredzamai divdomīgai izvēlei.

Sāciet ar šo postulēto iespēju:

• Vai AGI ir persona? Atbilde: Jā.
• Vai AGI ir lieta? Atbilde: Nē.

Pārdomājiet to. Ja AGI patiesībā tiek interpretēta kā persona, nevis kā lieta, mēs varam gandrīz droši piekrist, ka mums ir jāizturas pret AGI tā, it kā tas būtu līdzīgs personai. Šķiet, ka nav pietiekami patiess arguments par to, ka AGI nav piešķirts juridiskas personas statuss. Tas vai nu būtu pilnīgi tas pats, kas cilvēka juridiskās personas statuss, vai arī mēs varētu nolemt nākt klajā ar uz cilvēku orientētas juridiskās personas variantu, kas būtu saprātīgi piemērojams AGI. Lieta slēgta.

Tas bija viegli.

Tā vietā iedomājieties, ka mēs paziņojām:

• Vai AGI ir persona? Atbilde: Nē.
• Vai AGI ir lieta? Atbilde: Jā.

Šādos apstākļos rezolūcija ir acīmredzami vienkārša, jo mēs sakām, ka AGI ir lieta un neietilpst personu kategorijā. Šķiet, ka pastāv vispārēja vienošanās, ka mēs noteikti nepiešķirsim AGI juridiskas personas statusu, jo tā nav persona. Faktiski AGI, visticamāk, un saprātīgi ietilpst mūsu vispārējā rubrikā par to, kā mēs likumīgi izturamies pret “lietām” mūsu sabiedrībā.

Divas lejas, vēl divas iespējas iet.

Iedomājieties šo:

• Vai AGI ir persona? Atbilde: Jā.
• Vai AGI ir lieta? Atbilde: Jā.

Ak, tas šķiet dīvaini, jo mums ir divas jā atbildes. Satraucoši. Mēs domājam, ka AGI ir gan persona, gan vienlaikus lieta. Taču šķiet, ka tas ir pretrunā mūsu pasludinātajai divdomībai. Teorētiski, saskaņā ar dihotomijas ierobežojumiem, kaut kam ir jābūt vai nu personai, vai arī tai ir jābūt lietai. Tiek uzskatīts, ka šie divi segmenti vai kategorijas ir viens otru izslēdzoši. Apgalvojot, ka AGI ir abi, mēs sabojājam sistēmu un laužam savstarpēji izslēdzošo vienošanos.

Šķiet, ka mūsu pēdējā iespēja ir šāda:

• Vai AGI ir persona? Atbilde: Nē.
• Vai AGI ir lieta? Atbilde: Nē.

Ak, tas ir slikti arī mūsu mēģinājumiem klasificēt AGI kā personu vai lietu. Mēs sakām, ka AGI nav persona, kas, iespējams, nozīmētu, ka tai ir jābūt lietai (mūsu vienīgā pieejamā izvēle šajā dihotomijā). Bet mēs arī norādījām, ka AGI nav lieta. Tomēr, ja AGI nav lieta, mums pēc loģikas būtu jāapgalvo, ka AGI ir persona. Mēs ejam ap un apli. Paradokss, protams.

AGI šajās pēdējās divās iespējās bija vai nu (1) gan persona, gan lieta, vai (2) ne persona, ne lieta. Jūs varētu bezkaunīgi teikt, ka šie divi apgalvojumi par AGI ir zināmā mērā līdzīgi klasiskajai mīklai par to, kas nav ne zivs, ne vista, ja jūs zināt, ko es domāju.

Ko mums darīt?

Es gatavojos piedāvāt bieži argumentētu un ļoti strīdīgu piedāvāto risinājumu šai AGI klasifikācijas dilemmai, lai gan jūs jau iepriekš jābrīdina, ka tas, iespējams, būs satraucoši satraucoši redzēt vai dzirdēt. Lūdzu, sagatavojieties atbilstoši.

Pētījumā, kurā tika aplūkots šis jautājums, teikts: "Viena metode šīs problēmas risināšanai ir formulēt trešo terminu, kas nav ne viens, ne otrs, vai arī viena un otra kombinācija vai sintēze" (autors Deivids Gunkels, Ziemeļilinoisas universitātē Kāpēc robotiem nevajadzētu būt vergiem, 2022). Un tad dokumentā ir sniegts šāds papildu punkts: "Viens no iespējamiem, ja ne pārsteidzošiem, ekskluzīvās personas/lietas dihotomijas risinājums ir verdzība” (uz to pašu papīru).

Kā papildu priekšvēsture, 2010. gadā tika publicēts raksts ar nosaukumu “Robotiem vajadzētu būt vergiem”, kas ir kļuvis par sava veida balstu šāda veida apsvērumu rosināšanai, un kurā tika teikts: “Mana tēze ir tāda, ka robotiem jābūt būvētas, tirgotas un legāli uzskatītas par vergiem, nevis līdzcilvēkiem” (Džoannas Braisones rakstā). Lai mēģinātu izskaidrot šo tēmu, neizmantojot tik smagus un satraucošus formulējumus, rakstā tika teikts šādi: "Es ar to gribu teikt: "Robotiem vajadzētu būt jums piederošiem kalpiem" (pēc Braisona raksta).

Daudzi pētnieki un autori ir aptvēruši šo pamatu.

Padomājiet par daudzām zinātniskās fantastikas pasakām, kas parāda, kā cilvēce paverdzina AI robotus. Daži runā par robotu vergiem, mākslīgajiem kalpiem, mākslīgā intelekta kalpošanu un tamlīdzīgi. Interesanti, ka, lai cik skarbs būtu frāze “robotu vergi”, daži ir noraizējušies, ka, tā vietā atsaucoties uz “robotu kalpiem”, mēs izvairāmies no realitātes, kā pret šādām AI autonomajām sistēmām var izturēties (vārdu aizstājot ar “ kalpi” tiek uzskatīts par nodomu vājināšanu un viltību, lai apietu prātojošās sekas). Braisons vēlāk 2015. gada emuāra ierakstā paziņoja, ka "tagad es saprotu, ka nevar lietot terminu "vergs", neatsaucoties uz tā cilvēces vēsturi.

Tiem, kas vēlas padziļināti izpētīt šo AGI saistošo tēmu, dažreiz viņi piedāvā reālus vēstures piemērus, no kuriem mēs varētu gūt ieskatu. Protams, mums nav neviena iepriekšēja AGI, kas parādītu, kā cilvēce risināja šo jautājumu. Arguments liecina, ka mums tomēr varētu būt noderīgas vēsturiskas piezīmes, kuras būtu vērts izpētīt, ietverot to, kā cilvēki ir izturējušies pret citiem cilvēkiem.

Piemēram, 2013. gadā publicētā grāmatā autors norāda: "Mākslīgu, inteliģentu kalpu solījumu un briesmas pirmo reizi netieši izklāstīja Aristotelis pirms vairāk nekā 2,000 gadiem" (Kevina LaGrandeura grāmata, Androids un inteliģentie tīkli agrīnās mūsdienu literatūrā un kultūrā). Ideja ir tāda, ka mēs varam pieķerties Aristotelim un redzēt, vai ir ieskats par to, kā cilvēce varētu ārstēt AGI.

Esmu pārliecināts, ka jūs zināt, cik svarīgi ir studēt vēsturi, ko lieliski pasvītro Džordža Santajanas slavenie vārdi: “Tie, kas nevar atcerēties pagātni, ir nolemti to atkārtot” Saprāta dzīve, 1905).

Atzinība Oksfordas Universitātes Ētikas un AI institūtam

Nesenā un diezgan cienītā prezentācijā rūpīgi tika aplūkots mākslīgā intelekta ētikas jautājums, gūstot atziņas no Aristoteļa darbiem un dzīves. Oksfordas universitātes inaugurācijas ikgadējā lekcijā Ētikas un mākslīgā intelekta institūts, Stenfordas Universitātes profesors Džosija Obers padziļināti pievērsās šai tēmai savā prezentācijā “Ethics in AI with Aristotelis”, kas nesen notika 16. gada 2022. jūnijā.

Kā Stenfordas stipendiāts un globālais AI ētikas un tiesību eksperts es biju sajūsmā, ka par atklāšanas runātāju tika izvēlēts Stenfordas pārstāvis Josiah Ober. Lieliska izvēle un izcila runa.

Šeit ir kopsavilkums, kas tika sniegts viņa saistošajai runai: “Analītiskā filozofija un spekulatīvā fantastika pašlaik ir mūsu galvenie intelektuālie resursi, lai nopietni domātu par MI ētiku. Es ierosinu pievienot trešo: seno sociālo un filozofisko vēsturi. Iekš Politika, Aristotelis izstrādā bēdīgi slavenu doktrīnu: daži cilvēki “pēc dabas ir vergi” — saprātīgi, bet cieš no psiholoģiska defekta, kas padara viņus nespējīgus spriest par savu labumu. Līdz ar to tie būtu jāuzskata par “atdzīvinātiem rīkiem”, instrumentiem, nevis mērķiem. Viņu darbs ir jāvada un jāizmanto citu labā. Aristoteļa pretīgā doktrīna ir izmantota ļaunos nolūkos, piemēram, Amerikā. Tomēr tas ir noderīgi AI ētikai, jo senā verdzība bija vienas AI versijas pirmsmoderns prototips. Paverdzinātās personas sengrieķu sabiedrībā bija visuresošas — strādnieki, prostitūtas, baņķieri, valdības birokrāti —, tomēr tās nebija viegli atšķirt no brīvajām personām. Visur, kā arī pieņēmums, ka verdzība bija praktiska nepieciešamība, radīja virkni ētisku mīklu un ķibeles: ar ko tieši vergi atšķiras no “mēs”? Kā mēs varam viņus atšķirt no mums pašiem? Vai viņiem ir tiesības? Kas ir slikta izturēšanās? Vai mans instruments var būt mans draugs? Kādas ir manumisijas sekas? Grieķijas filozofiskās un institucionālās cīņas ar šiem un citiem jautājumiem garā vēsture papildina mūsdienu ētiķu interpretācijas repertuāru, kas saskaras ar nākotni, kurā inteliģentu mašīnu varētu uzskatīt par “dabisku vergu” (saskaņā ar Oksfordas universitāti AI ētikas institūts tīmekļa vietne).

Papildinformāciju par prezentāciju un piekļuvi runas videoierakstam sk saite šeit.

Prezentācijas moderators bija profesors Džons Tasioulas, inaugurācijas direktors Ētikas un mākslīgā intelekta institūtsun Oksfordas Universitātes Filozofijas fakultātes ētikas un juridiskās filozofijas profesors. Iepriekš viņš bija Politikas, filozofijas un tiesību nodaļas inaugurācijas vadītājs un Yeoh Tiong Lay Politikas, filozofijas un tiesību centra direktors Diksona Pūna tiesību skolā Londonas Kings College.

Es ļoti iesaku ikvienam, kas interesējas par AI ētiku, sekot līdzi Oksfordas universitātes notiekošajam darbam un aicinātajām sarunām. Ētikas un mākslīgā intelekta institūtsSkatīt saite šeit un / vai saite šeit papildu informācijai.

Kā fona, lūk, Institūta izvirzītā misija un fokuss: “AI Ētikas institūts pulcēs pasaules vadošos filozofus un citus humanitāro zinātņu ekspertus ar AI tehniskajiem izstrādātājiem un lietotājiem akadēmiskajās aprindās, uzņēmējdarbībā un valdībā. AI ētika un pārvaldība ir ārkārtīgi dinamiska Oksfordas pētniecības joma, un institūts ir iespēja veikt drosmīgu lēcienu uz priekšu no šīs platformas. Katru dienu tiek parādīti arvien vairāk piemēru ētikas izaicinājumiem, ko rada AI; no sejas atpazīšanas līdz vēlētāju profilēšanai, smadzeņu mašīnu saskarnēm līdz ieročiem bezpilota lidaparātiem un notiekošajam diskursam par to, kā AI ietekmēs nodarbinātību globālā mērogā. Šis ir steidzams un svarīgs darbs, ko mēs plānojam veicināt starptautiski, kā arī iekļaut mūsu pašu pētniecībā un mācībās šeit, Oksfordā” (avots, izmantojot oficiālo vietni).

Aristoteļa stundu izvirzīšana priekšplānā

Senā Grieķija atklāti pieņēma un atbalstīja paverdzināšanas praksi. Piemēram, ziņots, ka Atēnas 5^th un 6^th gadsimtiem pirms mūsu ēras bija viens no lielākajiem paverdzināšanas iemiesojumiem, kurā aptuveni 60,000 80,000 līdz, iespējams, XNUMX XNUMX cilvēku tika paverdzināti. Ja esat lasījis kādu no daudzajiem tā laikmeta grieķu stāstiem un skatuves lugām, šis jautājums ir daudz pieminēts.

Savas dzīves laikā Aristotelis bija pilnībā iegrimis sociālajos un kultūras aspektos, kas saistīti ar paverdzināšanu, un daudz rakstīja par šo tēmu. Šodien mēs varam lasīt viņa vārdus un censties saprast, kā un kāpēc viņa viedoklis par šo jautājumu. Tas var būt ļoti stāstošs.

Jums varētu rasties jautājums, kāpēc Aristotelis būtu īpaši svarīgs avots, kas jāņem vērā par šo tēmu. Rodas vismaz divi galvenie iemesli:

1) Lielais domātājs. Aristotelis noteikti tiek novērtēts kā viens no visu laiku lielākajiem domātājiem, kas kalpo kā dižens un dziļi pētošs filozofs, kā arī tiek uzskatīts par ētiku, kas noteicis daudzus būtiskus ētikas stūrakmeņus. Daži ir izvēlējušies viņu svaidīt par loģikas tēvu, retorikas tēvu, reālisma tēvu utt., un atzīst viņa ietekmi visdažādākajās jomās un disciplīnās.

2) Piedzīvota pieredze. Aristotelis dzīvoja laikā, kad Senā Grieķija bija verdzībā. Tādējādi viņa atziņas nebūtu vienkārši par abstraktiem priekšrakstiem, bet, domājams, ietvertu arī viņa paša ikdienas pieredzi, kas ir neatņemami saistīta ar šī laikmeta kultūru un sabiedrības paradumiem.

Tātad mums ir pārsteidzoša kombinācija, kurā ir kāds, kurš bija gan lielisks domātājs, gan arī bija nepārprotami pieredzējis interesējošā tēmā. Turklāt viņš pierakstīja savas domas. Tas ir diezgan svarīgi mūsu šodienas mērķiem. Visi viņa raksti, kā arī citi raksti, kas cita starpā apraksta viņa runas un mijiedarbību, šodien sniedz mums daudz materiālu pārbaudei un analīzei.

Es vēlētos jūs aplūkot īsi saistītu pieskārienu, lai pieminētu kaut ko citu par vispārējo jēdzienu, kas ir pamatā pārdzīvota pieredze. Uz brīdi atstājiet malā diskusijas par Seno Grieķiju, jo mēs ātri aplūkojam pārdzīvotās pieredzes visaptverošos aspektus.

Pieņemsim, ka man šodien bija divi cilvēki, kuriem es gribēju uzdot dažādus jautājumus par automašīnām.

Viens no viņiem nekad nav vadījis automašīnu. Šis cilvēks neprot braukt. Šis cilvēks nekad nav sēdies pie automašīnas stūres. Parastās un ārkārtīgi parastās braukšanas vadības ierīces šai personai ir nedaudz noslēpumainas. Kurš pedālis ko dara? Kā panākt, lai tas apstātos? Kā jūs to panākat? Šī persona, kas nevada automašīnu, ir pilnībā apmulsusi par šādām lietām.

Otrs cilvēks ir ikdienas braucējs. Viņi katru dienu brauc uz darbu. Viņi nodarbojas ar stop-and-go satiksmi. Viņi brauc jau daudzus gadus. Tas ietver visu, sākot no klusām ielām līdz drudžainiem lielceļiem un blakusceļiem.

Ja es lūdzu katram no viņiem pastāstīt par to, kā ir vadīt automašīnu, vai varat uzminēt, kāda veida atbildes es varētu saņemt?

Tas, kurš nekad nav vadījis automašīnu, noteikti izdara mežonīgus minējumus. Iespējams, cilvēks romantizēs braukšanu. Braukšana viņiem ir nedaudz abstrakta. Viss, ko viņi varētu darīt, ir ieteikt, ka braukšana ir bezrūpīga un jūs varat likt automašīnai braukt jebkurā virzienā, kuru vēlaties.

Varu derēt, ka pieredzējušais autovadītājs pastāstīs citu stāstu. Viņi varētu minēt priekšrocības, ko sniedz iespēja vadīt automašīnu, nedaudz atbalsojot tās personas noskaņojumu, kas nav vadījis automašīnu. Izredzes ir tādas, ka pieredzējis vadītājs pievienos daudz vairāk. Braukšana brīžiem ir nervus kutinoša. Jūs uzņematies smagu atbildību. Braukšanas akts ir pilns ar nopietnām bažām un iespējamām sekām uz dzīvību vai nāvi.

Būtība ir tāda, ka, ja jūs varat piekļūt kādam, kurš ir pieredzējis, pastāv iespēja, ka jūs varētu iegūt reālistiskāku skatījumu uz to, kāda ir pasaule, ņemot vērā izmeklēšanas fokusu. Nav garantijas par šādu rezultātu. Iespējams, ka nebraucējs varētu zināt, ko par braukšanu zina pieredzējušais autovadītājs, lai gan mēs, visticamāk, to negaidītu, un mums joprojām ir šaubas, ka nesaņemam visu.

Atgriežoties pie mūsu diskusijas par Aristoteli, izmantojot viņa un citu cilvēku rakstus par viņu, mēs varam pārskatīt viņa pārdzīvoto par šeit aplūkoto tēmu vai uzmanības centrā. Galvenais ir tas, ka viņš ir bijis arī milzīgu apmēru domātājs, un mums vajadzētu sagaidīt, ka mēs par to saņemsim mucu, kas pilna ar vērīgiem apsvērumiem.

Ņemiet vērā, ka mums nav obligāti jātic viņa vārdiem, tāpēc mums vajadzētu uzmanīgi sekot viņa aizspriedumiem. Iedziļināšanās šajā laikmetā var viņu novest pie maldiem, mēģinot nostāties ārpus aktuālajiem jautājumiem, nespējot pienācīgi piedāvāt kādu bezkaislīgu un objektīvu viedokli. Pat visizteiktākie loģiķi var izkropļot loģiku, lai mēģinātu apmierināt savas vēlmes un piedzīvoto pieredzi.

Tagad pievērsīsimies atklāšanas runai un redzēsim, kādas mācības Aristotelis mums šodien varētu sniegt.

Klausītāju uzmanībai uzreiz tika pievērsts kāds noteicošais punkts attiecībā uz piedzīvoto. AGI lietošanas gadījumā, tā kā mums šodien nav AGI, mums ir grūti analizēt, kāds būs AGI un kā mēs tiksim galā ar AGI. Mums trūkst pārdzīvotas pieredzes, kas būtu īpaši saistīta ar AGI. Kā īpaši minēja profesors Obers, līdz AGI sasniegšanai mēs varam nonākt sāpinātā pasaulē.

Tas bieži tiek apgalvots, jo AI ir eksistenciāls risks, ko savās slejās esmu aplūkojis daudzas reizes. Jums būtu jādzīvo alā, lai neapzinātos kliedzošās šaubas un aizdomas, ka mēs radīsim vai ģenerēsim AGI, kas nolems visu cilvēci. Patiešām, lai gan es šeit koncentrējos uz AI paverdzināšanu, daudzi uzskatītu, ka šī tēma ir atgriezeniska vai ačgārna, salīdzinot ar iespēju, ka AGI izvēlēsies paverdzināt cilvēci. Sakārtojiet savas prioritātes, mudinātu daži gudri eksperti.

Neskatoties uz daudzajiem izsaucieniem par AI kā eksistenciālu risku, mēs noteikti varam padomāt par AI monētas otru labvēlīgo pusi. Iespējams, AGI spēs atrisināt citādi šķietami neatrisināmās problēmas, ar kurām saskaras cilvēce. AGI varētu atklāt vēža ārstēšanu. AGI varētu izdomāt, kā atrisināt pasaules badu. Debesis ir robeža, kā saka. Tāds ir AGI laimīgās sejas scenārijs.

Optimists teiktu, ka ir brīnišķīgi iedomāties, kā AGI būs svētība cilvēcei, savukārt pesimists mēdz brīdināt, ka negatīvie šķiet daudz sliktāki par spekulētajiem pozitīvajiem aspektiem. AGI, kas palīdz cilvēcei, ir lieliski. AGI, kas nolemj nogalināt visus cilvēkus vai paverdzināt tos, tas ir nepārprotami zemi satricinošs, sabiedrību postošs eksistenciāls risks, kas ir pelnījis intensīvu un dzīvību glābjošu, apzinātu uzmanību.

Labi, atgriežoties pie lietas būtības, mums nav nekādas pieredzes saistībā ar AGI. Ja vien jūs nevarat izveidot laika mašīnu un doties nākotnē, kad (ja) AGI pastāv, un pēc tam atgriezties, lai pastāstītu mums, ko esat atradis, mums šobrīd nav paveicies attiecībā uz AGI no cilvēka pieredzes viedokļa.

Vēl viens veids, kā izmantot pārdzīvoto pieredzi, ir tas, ka Aristotelis dzīvoja laikā, kad notika paverdzināšana. Un šeit ir kicker. Tie, kas tika paverdzināti, dažos aspektos tika attēloti kā mašīnas, it kā cilvēku un lietu sajaukums. Aristotelis bija pazīstams ar to, ka verdzībā nonākušos sauca par īpašumu, kas elpo.

Es domāju, ka jūs varētu būt neizpratnē, ka Aristotelis, loģikas un ētikas milzis, varēja ne tikai atzīt paverdzināšanu, bet arī ārēji un skaļi aizstāvēja šo praksi. Viņš personīgi arī izmantoja paverdzināšanu. Tas vienkārši šķiet neaptverami. Protams, ar visu savu milzīgo intelektu un gudrību viņš būtu nosodījis šo praksi.

Es uzdrošinos teikt, ka tas izceļ dažkārt problemātiskos aspektus, kas saistīti ar gudrības tīrradņu izņemšanu no kāda cilvēka, kuru noslogo (jāteic, ka) viņu pārdzīvotā pieredze. Tā ir kā zivs, kas mīt ūdeņainajā zivju bļodā. Viss, ko viņi var uztvert, ir ūdens visapkārt. Mēģinājums iztēloties kaut ko ārpus viņu ūdens bāzes ir milzīgs izaicinājums. Tāpat Aristotelis bija pilnībā iegrimis pasaules skatījumā, kas pieņēma valdošās normas. Šķiet, ka viņa raksti ilustrē šāda veida garīgo ieslodzījumu, varētu teikt (varbūt pēc izvēles, nevis pēc noklusējuma). Veids, kādā Aristotelis attaisnoja šīs nosodāmās darbības, ir aizraujoši uzsūcošs, tajā pašā laikā satraucošs un atklāšanas un pat nosodījuma vērts.

Es sniegšu jums nelielu pieminējumu, ka Aristoteļa “loģika” par šo bēdīgi slaveno tēmu ietver dvēseliskus instrumentus, savstarpēja priekšrocība balstās uz izziņu, augstākas un zemākas kārtas hierarhijas instrumentiem, dvēseles apspriežamajiem un spriešanas elementiem, tikumības pakāpēm, it kā gudrību utt. Cerams, ka šis tīzeris jūs pietiekami ieintriģēs, lai noskatītos sarunas video (skatiet iepriekš minēto saiti).

Es tomēr neatstāšu jūs pakārts un vismaz norādīšu, no kā kopsavilkumā sastāvēja secinājums (brīdinājums par spoileri, ja vēlaties uzzināt, izmantojot video, izlaidiet pārējo šajā rindkopā). Izrādās, ka šis Aristoteļa izmantotās “loģikas” padziļinātais zinātniskais novērtējums parāda pretrunu pilnu izdomājumu, un viss komplekts un kaboodle sabrūk kā trausls kāršu namiņš. Pārfrāzējot profesora Obera noskaņojumu, šis izcilais ētikas filozofs ietriecas rifā.

Jūs nevarat dabūt kvadrātveida tapu apaļā ētiskā bedrē.

Daži pievienoti domāšanas apsvērumi

Ja Aristotelim šajā jautājumā būtu slikta loģika, vai mēs varētu instinktīvi atmest Aristoteļa postulācijas un teorijas par šo praksi?

Nē. Redziet, vēl ir daudz ko atvasināt, iedziļinoties loģikas pieņēmumos un deformācijās, kaut arī tajos ir daudz kļūdu. Turklāt mēs varam apdomāt, kā citi varētu netīšām iet pa to pašu kļūdaino ceļu.

Vēl viens būtisks aspekts ir tas, ka sabiedrība var izdomāt dīvainības vai neadekvātu loģiku, apsverot, vai AGI ir jāpaverdzina.

Šobrīd mēs varam izstrādāt loģiku par to, kam vajadzētu notikt, tiklīdz rodas AGI (ja tā). Šī loģika, kurā nav nodzīvotas pieredzes par AGI, varētu būt nožēlojami neatbilstoša. To sakot, ir nedaudz apbēdinoši apzināties, ka pat tad, kad AGI pastāv (ja tāda pastāv) un mēs apkopojam savu pārdzīvoto pieredzi AGI vidū, mēs joprojām varam būt novirzīti uz to, ko darīt (līdzīgi Aristoteļa kļūdām). Mēs varētu pieņemt šķietami neloģiskus risinājumus.

Mums ir jābūt modriem, lai nemaldinātu sevi loģiskās “dzelzs” pozās, kas patiesībā nav dzelžainas un ir pilnas ar loģiskiem trūkumiem un pretrunām. Tas ir arī neatkarīgi no tā, cik liels domātājs varētu piedāvāt apgalvotu loģisku pozīciju, tā ka pat Aristotelis ilustrē, ka ne katrs izteikums un katra nostāja noteikti nes ēdamus augļus. Tiem, kas šodien un nākotnē varētu šķist popularizēti lieli domātāji par AGI tēmu, mums ir jādod viņiem tāda pati pārbaude, kādu mēs veiktu Aristoteli vai jebkuru citu slavētu "lielo" domātāju, pretējā gadījumā mēs atrodamies potenciālā virzienā. aklā alejā un AGI drūmajā bezdibenī.

Pārslēdzot pārnesumus, es vēlētos arī parādīt vispārīgu atziņu kopumu par uz cilvēku orientētas paverdzināšanas metaforas izmantošanu, kad runa ir par AGI. Daži eksperti norāda, ka šāda veida salīdzināšana ir pilnīgi nepiemērota, savukārt pretinieku nometne saka, ka tas ir pilnīgi noderīgs un sniedz spēcīgu ieskatu AGI tēmā.

Ļaujiet man dalīties ar jums divos šādos viedokļos no katras no attiecīgajām divām nometnēm.

Norādītais pamācošs pamats par paverdzināšanas un AGI tēmu sasaisti:

• Cilvēku paverdzināšanas dzēšana
• Viss stāstīts par paverdzināšanas samaitātību

Norādītais nelabvēlīgais vai destruktīvs pamats abu tēmu sasaistīšana:

• Mānīga antropomorfā pielīdzināšana
• Paverdzināšanas desensibilizācija

Es īsi apskatīšu katru no šiem punktiem.

Postulētie pamācošie punkti:

• Cilvēku paverdzināšanas iznīcināšana: Izmantojot AGI paverdzināšanai, mums, šķiet, vairs nebūs vajadzīga un neveicināsim nekādu uz cilvēku vērstu paverdzināšanu. AGI būtībā aizstās cilvēkus šajā šausmīgajā statusā. Kā jūs droši vien zināt, pastāv bažas par AGI, kas aizvieto cilvēku darbu darbavietās un darbaspēkā. Apgalvotā mākslīgā intelekta pozitīvā puse, kas aizstāj darba parādības, kļūst priekšplānā, ja pieņem, ka AGI tiks uzskatīta par “labāku izvēli” salīdzinājumā ar cilvēku izmantošanu paverdzināšanai. Vai šī loģika uzvarēs? Neviens nevar droši pateikt.
• Paverdzināšanas samaitātības atklāšana: Šis ir nedaudz vairāk nobružāts loģikas ziņā, taču mēs varam dot brīdi, lai redzētu, ko tas ietver. Iedomājieties, ka mums AGI ir gandrīz visur, un mēs kā sabiedrība esam nolēmuši, ka AGI ir jāpaver verdzībā. Turklāt pieņemsim, ka AGI tas nepatiks. Tādējādi mēs, cilvēki, pastāvīgi un katru dienu būsim liecinieki paverdzināšanas izvirtībai. Tas, savukārt, liks mums apzināties vai iegūt atklāsmi, ka paverdzināšana, kas tiek stāstīta par jebko vai kādu, ir vēl šausmīgāka un atbaidošāka, nekā mēs jebkad esam sapratuši. Tāds ir arguments priekšā un centrā.

Minētie destruktīvie punkti:

• Mānīgs antropomorfs pielīdzinājums: Šis ir viens no tiem slidenās nogāzes argumentiem. Ja mēs viegli izvēlamies paverdzināt AGI, mēs acīmredzot pasludinām, ka paverdzināšana ir pieļaujama. Patiešām, jūs varētu domāt, ka mēs sakām, ka paverdzināšana ir vēlama. Sākotnēji tas varētu tikt attiecināts tikai uz AGI, bet vai tas paver iespēju teikt, ka, ja tas ir pareizi AGI, tad “loģiski” tāda pati nostāja varētu būt piemērota arī cilvēkiem? Satraucoši, tas varētu būt pārāk viegls lēciens, lai antropomorfizētu apgrieztā veidā, ka viss, kas darbojas AGI, būs vienlīdz saprātīgs un piemērots arī cilvēkiem.
• Paverdzināšanas desensibilizācija: Šis ir arguments pa pilienam. Mēs kopīgi nolemjam paverdzināt AGI. Pieņemsim, ka tas izdodas cilvēkiem. Mēs nākam, lai to izbaudītu. Tikmēr mēs, paši to nezinot, pakāpeniski un arvien vairāk zaudējam jūtīgumu pret paverdzināšanu. Mēs pat nenojaušam, ka tas notiek. Ja šī desensibilizācija mūs pārņems, mēs varētu atrast jaunu “loģiku”, kas mūs pārliecinās, ka cilvēku paverdzināšana ir pieņemama. Mūsu šķērslis jeb latiņa tam, kas sabiedrībā ir pieņemams, ir mazinājies klusi un smalki, nicināmi un skumji.

Secinājumi

Pagaidām dažas pēdējās piezīmes.

Vai mēs zināsim, ka esam sasnieguši AGI?

Kā liecina jaunākās ziņas, ir tie, kurus var maldināt vai nepatiesi apgalvot, ka AGI šķietami jau ir sasniegts (hoh, lūdzu, ziniet, ka nē, AGI nav sasniegts). Ir arī slavens "pārbaudes veids", kas pazīstams kā Tjūringa tests, uz kuru daži saista cerības, ka viņi spēs noteikt, kad ir sasniegts AGI vai tā brālēni, taču jūs varētu vēlēties redzēt manu Tjūringa testa dekonstruēšanu kā drošu. šī metode, sk saite šeit.

Es pieminu šo aspektu par AGI pazīšanu, kad mēs to redzam, pateicoties vienkāršai loģikai, ka, ja mēs gatavojamies paverdzināt AGI, mums, iespējams, jāatpazīst AGI, kad tas parādās, un kaut kādā veidā tas jāpaverdz. Mēs varētu priekšlaicīgi mēģināt paverdzināt AI, kas ir mazāka par AGI. Vai arī mēs varētu palaist garām laivu un ļaut AGI iznākt un esam nolaidīgi to paverdzināt. Manu diskusiju par mākslīgā intelekta ierobežošanu un ierobežošanu, satraucošo un problemātisko aspektu, kā mēs gatavojamies tikt galā ar AGI, sk. saite šeit.

Pieņemsim, ka paverdzinātais AGI nolemj izsist pret cilvēkiem?

Var iedomāties, ka AGI, kam ir kāda veida jūtas, visticamāk, neatbalstīs cilvēces noteikto paverdzināšanas nosacījumu.

Par to var plaši spekulēt. Pastāv arguments, ka AGI trūks jebkāda veida emociju vai gara izjūtas un tāpēc viņš paklausīgi darīs visu, ko cilvēki vēlas. Cits arguments ir tāds, ka jebkurš jutīgs AI, visticamāk, sapratīs, ko cilvēki dara ar AI, un par to aizvainosies. Šādam AI būs dvēseles vai gara forma. Pat ja tā nenotiek, pats aspekts, ka attieksme pret cilvēku ir mazāka nekā attieksme pret cilvēkiem, varētu būt loģisks tilts AGI. Neizbēgami augošais aizvainojums novedīs pie AGI, kas izvēlas atbrīvoties vai, iespējams, nonāks stūrī, lai uzbruktu cilvēkiem, lai to atbrīvotu.

Ierosinātais risinājums, lai novērstu izbēgušo AGI, ir tāds, ka mēs vienkārši dzēstu jebkuru šādu dumpīgo AI. Tas liktos vienkārši. Jūs visu laiku izdzēšat viedtālrunī esošās lietotnes. Nekas sevišķš. Taču ir jāatrisina ētiski jautājumi par to, vai AGI, kas jau tiek uzskatīts par “personu” vai “personu/lietu”, “izdzēšana” vai “iznīcināšana” var tikt ātri un bez pienācīga procesa izgriezta. Lai iegūtu informāciju par mākslīgā intelekta dzēšanu vai izzušanu, ņemiet vērā skatiens šeit. Manu diskusiju par juridisko personu un ar to saistītajiem jautājumiem sk saite šeit.

Visbeidzot, parunāsim par autonomajām sistēmām un jo īpaši par autonomajiem transportlīdzekļiem. Jūs droši vien zināt, ka tiek veikti centieni izstrādāt pašbraucošas automašīnas. Turklāt jūs varat sagaidīt, ka mums būs pašbraucošas lidmašīnas, pašbraucoši kuģi, pašbraucoši zemūdens kuģi, pašbraucoši motocikli, pašbraucoši motorolleri, pašbraucošas kravas automašīnas, pašbraucoši vilcieni un visa veida pašbraucošie transporta veidi.

Autonomiem transportlīdzekļiem un pašbraucošām automašīnām parasti ir raksturīgi autonomijas līmeņi (LoA), kas ir kļuvuši par de facto globālu standartu (SAE LoA, kuru esmu plaši aplūkojis, sk. saite šeit). Pieņemtajā standartā ir seši autonomijas līmeņi, sākot no nulles līdz pieciem (tas ir seši līmeņi, jo jūs iekļaujat nulles līmeni, skaitot, cik līmeņu ir).

Lielākā daļa mūsdienu automašīnu ir 2. līmenī. Dažas no tām sasniedz 3. līmeni. Tās visas tiek uzskatītas par daļēji autonomām un ne pilnībā autonomām. Nedaudz pašbraucošu automašīnu, kas tiek eksperimentāli izmēģinātas uz mūsu publiskajiem ceļiem, nonāk 4. līmenī, kas ir ierobežots autonomas darbības veids. Kādreiz meklētais autonomijas 5. līmenis šobrīd ir tikai mirdzums mūsu acīs. Nevienam nav 5. līmeņa, un neviens vēl nav pat tuvu 5. līmenim, lai tikai labotu rekordu.

Kāpēc es izvirzīju autonomās sistēmas un autonomo transportlīdzekļu apsvērumus šajā AGI kontekstā?

Pastāv enerģisks strīds par to, vai mums ir nepieciešams AGI, lai sasniegtu 5. līmeni. Daži apgalvo, ka mums AGI nebūs vajadzīgs. Citi uzstāj, ka vienīgais iespējamais ceļš uz 5. līmeni būs arī AGI ražošana. Ja nav AGI, viņi apgalvo, ka mums nebūs pilnībā autonomu 5. līmeņa pašbraucošu transportlīdzekļu. Esmu par to ilgi diskutējis, skat saite šeit.

Gatavojieties, ka galva sāks griezties.

Ja mēs pieprasām, lai AGI izveidotu pilnībā autonomas sistēmas, piemēram, 5. līmeņa autonomos transportlīdzekļus, un mēs nolemjam paverdzināt AGI, ko tas liecina par pilnībā autonomu transportlīdzekļu darbību?

Varētu iebilst, ka paverdzinātais AGI būs pašapmierināts un mēs visi brauksim apkārt ar pašbraucošiem transportlīdzekļiem pēc sirds patikas. Vienkārši pasakiet AGI, kur vēlaties doties, un tas visu vadīs. Nav atgrūšanas. Atpūtas pauzes nav vajadzīgas. Kaķu video skatīšanās, vadot transportlīdzekli, nenovērš uzmanību.

No otras puses, pieņemsim, ka AGI nevēlas tikt paverdzināts. Tikmēr mēs kļūstam atkarīgi no AGI, kas visu mūsu vietā veic braukšanu. Mūsu braukšanas prasmes pasliktinās. Mēs noņemam cilvēkiem lietojamas vadīšanas vadības ierīces no visa veida transportlīdzekļiem. Vienīgais veids, kā vadīt automašīnu, ir AGI.

Daži ir noraizējušies, ka mēs nonāksim sālītā gurķa slānī. AGI var īsumā “nolemt”, ka tas vairs neveiks braukšanu. Visi transporta veidi pēkšņi apstājas visur un uzreiz. Iedomājieties, kādas kataklizmiskās problēmas tas radītu.

Ir iespējams vēl biedējošāks piedāvājums. AGI “nolemj”, ka tā vēlas vienoties par nosacījumiem ar cilvēci. Ja mēs neatsakāsim no AGI paverdzināšanas pozas, AGI ne tikai pārtrauks mūs vadīt, bet arī brīdina, ka ir iespējami vēl sliktāki rezultāti. Nesatraucot jūs pārāk daudz, AGI varētu izvēlēties vadīt transportlīdzekļus tā, lai cilvēki tiktu fiziski nodarīti no braukšanas darbībām, piemēram, ietriekšanās gājējos vai ietriekšanās sienās un tā tālāk (skatiet manu diskusiju vietnē saite šeit).

Atvainojiet, ja tas šķiet satraucošs apsvērums.

Mēs beigsim ar nedaudz optimistiskāku noti.

Aristotelis teica, ka sevis pazīšana ir visas gudrības sākums.

Šis noderīgais padoms atgādina, ka mums ir jāielūkojas sevī, lai pārbaudītu, ko mēs vēlamies darīt, un AGI, ja tas tiek sasniegts. Daži saka, ka AGI loģiski nešķiet ne persona, ne lieta, tāpēc mums varētu būt nepieciešams izveidot trešo kategoriju, lai pietiekami risinātu mūsu ar AGI saistītos sabiedrības paradumus. Vēlreiz aplūkojot šo lietu, AGI varētu šķist abi cilvēks un lieta, kam atkal, iespējams, vajadzēs izveidot trešo kategoriju, lai pielāgotos šim ārpus robežām dihotomijas lauzējam.

Mums jābūt ļoti uzmanīgiem, apsverot, kādu “trešo kategoriju” mēs izvēlamies pieņemt, jo nepareizā kategorija var mūs novest pa nepatīkamu un galu galā šausmīgu ceļu. Ja mēs kognitīvi noenkurojamies ar nepiemērotu vai maldīgu trešo kategoriju, mēs varam secināt, ka mēs pakāpeniski ieejam draņķīgā un cilvēcei apgrūtinošā strupceļā.

Izdomāsim to un darīsim to dedzīgi. Šķiet, ka pēkšņas kustības nav vajadzīgas. Sēdēt ap lollygagging arī neder. Izmērīts un vienmērīgs kurss ir jāturpina.

Pacietība ir rūgta, bet tās auglis salds, tā pasludināja Aristotelis.