AI satricinājums, jo ievērojamais mākslīgā intelekta guru piedāvā prātu sagrozošus “mirstīgos datorus”, kuros tiek ņemta vērā arī AI ētika un AI likums

Šeit ir kaut kas, par ko jūs, iespējams, vēl neesat domājis: Mirstīgie datori.

Bet varbūt jums vajadzētu būt.

Satriecošs temats tika aktualizēts nesenajā un kopumā diezgan ievērojamajā ikgadējā AI konferencē, kas ir īpaši vērsta uz neironu tīklu un mašīnmācības parādīšanos, proti, konferencē par neironu informācijas apstrādes sistēmām (iekšējie pazīst kā NeurIPS). Uzaicinātais galvenais runātājs un ilggadējais mākslīgā intelekta guru Džefrijs Hintons izteica intriģējošu un, iespējams, strīdīgu apgalvojumu, ka mums vajadzētu domāt par datoriem mirstīgā un nemirstīgā kontekstā.

Es pievērsīšos ievērojamajam apgalvojumam un darīšu to divos veidos, kas sākotnēji nešķitīs saistīti, lai gan pēc nelielas papildu skaidrošanas tie kļūs skaidrāk saistīti viens ar otru attiecībā uz strīdiem par mirstīgo un nemirstīgo.

Abas tēmas ir:

1) Aparatūras un programmatūras integrācija AI mehanizācijai, nevis kā atšķirīgas un atsevišķas sabiedrotās

2) Mašīnmācīšanās formulējumu pārsūtīšana vai destilēšana no viena AI modeļa uz citu, kas to dara, neprasot un ne vienmēr vēloties (vai pat citādi iespējams) tiešu tīrasiņu kopēšanu.

Tam visam ir svarīgi apsvērumi saistībā ar AI un turpmāko AI attīstības virzienu.

Turklāt rodas arī ļoti sarežģītas AI ētikas un mākslīgā intelekta tiesību aktu problēmas. Šāda veida AI paredzētos tehnoloģiskos sasniegumus parasti izmanto tikai tehnoloģiski ilgi, pirms tiek saprasts, ka tam varētu būt arī ievērojama ietekme uz ētisko AI un AI likumu. Savā ziņā parasti kaķis jau ir ārā no maisa vai zirgs ir ārpus kūts pirms pamošanās, ka mākslīgā intelekta ētikā un AI tiesību aktos ir jāpiedalās pienācīgā rūpībā.

Pārtrauksim šo novēloto pārdomu ciklu un iekāpsim šajā pirmajā stāvā.

Tiem no jums, kurus interesē jaunākās atziņas, kas ir AI ētikas un mākslīgā intelekta likuma pamatā, jūs varat atrast informatīvu un iedvesmojošu manu pašreizējo un plašo rakstu vietnē saite šeit un saite šeit, tikai nosaukt dažus.

Vispirms es šeit apskatīšu iepriekš minēto punktu par aparatūras un programmatūras sasaisti. Diskusija un tēmas analīze notiks roku rokā. Tālāk es pieskaršos jautājumam par kopēšanu vai kādu teikšu destilējot Mašīnmācības AI sistēmas būtiskie elementi no viena AI līdz jaunizveidotam AI kā mērķim.

Sāksim.

Aparatūras un programmatūras saistīšana AI

Jūs droši vien zināt, ka kopumā datoru dizains ir tāds, ka ir lietas aparatūras puse un atsevišķi ir programmatūras puse. Ikdienā iegādājoties klēpjdatoru vai galddatoru, tas tiek uzskatīts par vispārējas nozīmes skaitļošanas ierīci. Datorā ir mikroprocesori, kas tiek izmantoti, lai palaistu un izpildītu programmatūru, kuru jūs varētu iegādāties vai rakstīt pats.

Bez jebkādas programmatūras jūsu datoram tas ir metāla un plastmasas gabals, kas būtībā jums nedos nekādu labumu, izņemot to, ka darbosies kā papīra atsvars. Daži teiktu, ka programmatūra ir karalis un valda pār pasauli. Protams, ja jums nav aparatūras programmatūras palaišanai, programmatūra nedos daudz labuma. Jūs varat rakstīt tik daudz koda rindiņu, cik vien sirds vēlas, taču, kamēr programmatūra netiek lietota ar datora palīdzību, formulētais pirmkods ir tikpat vājš un nesteidzīgs kā skaists dzejas darbs vai aizraujošs detektīvromāns.

Ļaujiet man uz brīdi pārslēgties uz citu ceļu, kas varētu šķist tālu (tā nebūs).

Mēs bieži cenšamies izdarīt analoģijas starp to, kā darbojas datori un kā darbojas cilvēka smadzenes. Šis mēģinājums radīt konceptuālas paralēles ir ērts. To sakot, jums ir jābūt piesardzīgam, pārliekot pāri šīm analoģijām, jo ​​​​salīdzinājumi mēdz izjukt, kad jūs pietuvojaties gaļīgām detaļām.

Jebkurā gadījumā diskusijas labad šeit ir bieži izmantota analoģija.

Pašas smadzenes neoficiāli dažreiz tiek sauktas par mitrie trauki. Tas ir āķīgs veids, kā formulēt lietas. Mēs zinām, ka datori sastāv no aparatūras un programmatūras, tāpēc ir gudri izmantot monētas “izstrādājumu” daļu, lai aprakstītu, ko nozīmē smadzenes. Varenās un noslēpumainās smadzenes, kas atrodas mūsu nūjās, peld apkārt, garīgi aprēķinot visus mūsu darbus (dažus labus, bet dažas no mūsu domām noteikti nav labestības piepildītas).

Ar vidējo svaru aptuveni trīs mārciņas smadzenes ir ievērojams orgāns. Kaut kā, un mēs vēl nezinām, kā, smadzenes spēj izmantot tās apmēram 100 miljardus neironu un, iespējams, jebkur no 100 līdz 1,000 triljoniem starpsavienojumu vai sinapsēm, lai mūsu vietā veiktu visu mūsu domāšanu. Kā smadzeņu bioloģiskās un ķīmiskās īpašības rada intelektu? Neviens nevar droši pateikt. Šis ir laikmetu meklējums.

Es jums jautāju, vai smadzenes šķietami ir tikai aparatūras, vai arī tās ir apvienotas gan aparatūra, gan programmatūra?

Nūdeles par to prāta spēli.

Jums varētu rasties kārdinājums apgalvot, ka smadzenes ir vienkārši aparatūra (vispārīgā nozīmē). Tas ir ķermeņa orgāns. Līdzīgi jūs varētu teikt, ka sirds ir aparatūra, urīnpūslis ir aparatūra un tā tālāk. Tās visas ir mehanizācijas, kas līdzīgas tam, kad mēs runājam par artefaktiem, kuriem ir fiziska forma un kuri veic fiziski saistītas darbības.

Kur tad ir programmatūra, kas darbina cilvēkus?

Es uzdrošinos domāt, ka mēs visi gandrīz piekrītam, ka cilvēces “programmatūra” kaut kādā veidā atrodas smadzenēs. Darbības, kas jāveic, lai pagatavotu olu vai salabotu plīstu riepu, ir norādījumi, kas ir ietverti mūsu smadzenēs. Izmantojot iepriekš minēto datortehnikas un programmatūras analoģiju, mūsu smadzenes it kā ir aparatūras gabals, par kuru mēs mācāmies par pasauli, un mūsu smadzenēs “darbojas” un “glabājas” norādījumi, kā rīkoties.

Datorā mēs varam viegli norādīt uz aparatūru un teikt, ka tā ir aparatūra. Mums var būt avota koda saraksts un norādīt uz sarakstu kā programmatūru. Mūsdienās mēs elektroniski tiešsaistē lejupielādējam programmatūru un instalējam to savos klēpjdatoros un viedtālruņos. Senatnē mēs izmantojām disketes un perfokartes, lai uzglabātu programmatūru ielādei datora aparatūrā.

Es jūs ievedu svarīgā mīklā.

Kad esat kaut ko iemācījies un zināšanas ir jūsu smadzenēs, vai joprojām varat atšķirt savu smadzeņu "aparatūru" no domājamā smadzeņu "programmatūra"?

Viena argumentēta nostāja ir tāda, ka zināšanas jūsu smadzenēs nav īpaši nodalāmas no priekšstatiem par aparatūru un programmatūru. Līdz ar to līdzība ar datoru būtību izjūk, daži dedzīgi apgalvotu. Zināšanas smadzenēs ir savstarpēji saistītas un neatdalāmas no jūsu smadzeņu aparatūras. Bioloģiskās un ķīmiskās īpašības saista zināšanas, kas jums garīgi piemīt.

Sautējiet to, lai mazliet pārdomātu.

Ja mēs ceram kādreiz izveidot datorus, kas ir līdzvērtīgi cilvēka intelektam vai pat pārsniedz cilvēka intelektu, iespējams, mēs varam izmantot smadzeņu struktūras un to iekšējo darbību kā ceļvedi tam, kas mums jādara, lai sasniegtu tik augstu mērķi. Dažiem AI jomā pastāv uzskats, ka, jo vairāk mēs zinām par to, kā darbojas smadzenes, jo lielākas ir mūsu izredzes izveidot patiesu AI, ko dažreiz dēvē par mākslīgo vispārējo intelektu (AGI).

Citi AI ir mazāk aizrāvušies ar to, ka viņiem jāzina, kā darbojas smadzenes. Viņi uzsver, ka mēs varam strauji virzīties uz mākslīgā intelekta veidošanu neatkarīgi no tā, vai spējam atbloķēt smadzeņu slepeno iekšējo darbību. Neļaujiet smadzeņu noslēpumiem kavēt mūsu AI centienus. Protams, turpiniet mēģināt atšifrēt un atšifrēt cilvēka smadzenes, taču mēs nevaram sēdēt un gaidīt, kamēr smadzenes tiks apgrieztas. Ja tas kādreiz būs izdarāms, brīnišķīgas ziņas, lai gan varbūt tas ir neiespējami vai notiks pēc mūžiem.

Esmu gatavs tagad dalīties ar jums mirstīgo un nemirstīgo datoru strīdā. Lūdzu, pārliecinieties, vai esat apsēdies un gatavs lielajai atklāšanai.

Datoru, kurā ir skaidri nodalīta aparatūra un programmatūra, var uzskatīt par “nemirstīgu”, jo aparatūra var pastāvēt mūžīgi (protams, robežās), savukārt programmatūru var rakstīt un pārrakstīt atkal un atkal. Jūs varat uzturēt parasto datoru darboties tik ilgi, kamēr varat veikt aparatūras remontu un nodrošināt ierīces spēju ieslēgties. Jūs joprojām varat izmantot neapstrādātos 1970. gadu mājas datorus, kas agrāk tika piegādāti komplektos montāžai, neskatoties uz to, ka tie ir gandrīz piecdesmit gadus veci (ilgu laiku). datoru gadi).

Pieņemsim, ka mēs tomēr izvēlējāmies izveidot datorus, kuru aparatūra un programmatūra darbotos nedalāmi (par to es pastāstīšu tuvākajā laikā). Apsveriet to, pamatojoties uz to pašu, ko es jau minēju, ka smadzenēm, iespējams, ir neatņemama aparatūras un programmatūras sastāvs. Ja tas tā būtu, varētu domāt, ka šāda veida dators vairs nebūtu nemirstīgs. Tā vietā tas tiktu interpretēts kā “mirstīgs”.

Saskaņā ar piezīmēm, ko NeurIPS konferencē izteica uzaicinātais galvenais runātājs un ievērojamais AI guru Džefrijs Hintons, un kā teikts viņa pievienotajā pētnieciskajā dokumentā:

• "Vispārēja pielietojuma digitālie datori tika izstrādāti tā, lai tie precīzi izpildītu norādījumus, jo tika pieņemts, ka vienīgais veids, kā panākt, lai vispārējas nozīmes dators veiktu konkrētu uzdevumu, ir uzrakstīt programmu, kas precīzi norāda, kas jādara. Tā vairs nav taisnība, taču pētnieku kopiena ir lēni sapratusi dziļās mācīšanās ilgtermiņa ietekmi uz datoru uzbūves veidu. Konkrētāk, kopiena ir pieķērusies idejai, ka programmatūrai jābūt atdalāmai no aparatūras, lai to pašu programmu vai to pašu svaru kopu varētu palaist citā aparatūras fiziskajā kopijā. Tas padara programmā ietvertās zināšanas nemirstīgas vai svarus nemirstīgas: zināšanas nemirst, kad nomirst aparatūra” (kā ietverts un citēts viņa pētnieciskajā rakstā “The Forward-Forward Algorithm: Some Preliminary Investigations”, iepriekšējais izdrukas pieejams tiešsaistē) .

Ņemiet vērā, ka konkrētais skaitļošanas veids, kas tiek apspriests šāda veida AI, izmanto mākslīgos neironu tīklus (ANN).

Noskaidrosim lietas šajā jautājumā.

Mūsu smadzenēs ir reālās pasaules bioloģiskie neironi. Jūs tos izmantojat visu laiku. Tie ir bioloģiski un ķīmiski savstarpēji savienoti tīklā. Tādējādi mēs to varam saukt par a neironu tīklu.

Citur ir, teiksim, viltoti “neironi”, kurus mēs skaitļošanas veidā attēlojam datoros, lai izstrādātu AI. Daudzi AI cilvēki tos sauc arī par neironu tīkliem. Es uzskatu, ka tas ir zināmā mērā mulsinoši. Redziet, es labprātāk tos saucu par mākslīgs neironu tīkli. Tas palīdz uzreiz atšķirt atsauci uz jūsu galvā neironu tīkli (it kā īstā lieta) un datorizētās (mākslīgs neironu tīkli).

Ne visi ieņem šādu nostāju. Daudzi AI cilvēki vienkārši pieņem, ka visi pārējie AI “zina”, ka, atsaucoties uz neironu tīkliem, viņi gandrīz vienmēr runā par ANN — ja vien nerodas situācija, kad kāda iemesla dēļ viņi vēlas apspriest reālus neironus un reālus neironu tīklus. smadzenes.

Es ticu, ka tu sapratīsi manu novirzi. Lielāko daļu laika AI cilvēki saka “neironu tīkli”, kas ir potenciāli neskaidri, jo jūs nezināt, vai tie attiecas uz reālajiem tīkliem mūsu galvās vai skaitļošanas tīkliem, kurus mēs ieprogrammējam datoros. Taču, tā kā AI cilvēki lielākoties nodarbojas ar datorizētiem gadījumiem, viņi pēc noklusējuma pieņem, ka jūs domājat par mākslīgajiem neironu tīkliem. Man patīk formulējuma sākumā pievienot vārdu “mākslīgs”, lai būtu skaidrāk par nodomiem.

Turpinot šos skaitļošanas mākslīgos neironus var uzskatīt par matemātisko vai skaitļošanas simulāciju tam, ko, mūsuprāt, dara faktiskie bioķīmiskie fizikālie neironi, piemēram, izmantojot skaitliskās vērtības kā svēršanas faktorus, kas citādi bioķīmiski notiek smadzenēs. Mūsdienās šīs simulācijas nav tik sarežģītas kā īstie neironi. Pašreizējie ANN ir ārkārtīgi neapstrādāts matemātisks un skaitļošanas attēlojums.

Parasti ANN bieži ir mašīnmācības (ML) un dziļās mācīšanās (DL) galvenais elements — lūdzu, ņemiet vērā, ka tas ir daudz detalizētāks, un es aicinu jūs apskatīt manu plašo ML/DL pārklājumu. plkst saite šeit un saite šeit, Piem.

Atgriežoties pie nemirstīgajiem un mirstīgajiem datoru veidiem, pētniekam ir jāpadomā vairāk:

• “Programmatūras atdalīšana no aparatūras ir viens no datorzinātņu pamatiem, un tam ir daudz priekšrocību. Tas dod iespēju izpētīt programmu īpašības, neuztraucoties par elektrotehniku. Tas dod iespēju vienreiz uzrakstīt programmu un kopēt to miljoniem datoru. Tomēr, ja mēs esam gatavi atteikties no nemirstības, vajadzētu būt iespējai panākt milzīgus enerģijas ietaupījumus, kas nepieciešami aprēķinu veikšanai, un aparatūras, kas veic aprēķinu, izgatavošanas izmaksas. Mēs varam pieļaut lielas un nezināmas dažādu aparatūras gadījumu savienojamības un nelinearitātes variācijas, kas paredzētas viena un tā paša uzdevuma veikšanai, un paļauties uz mācīšanās procedūru, lai atklātu parametru vērtības, kas efektīvi izmanto katra konkrētā gadījuma nezināmās īpašības. aparatūru. Šīs parametru vērtības ir noderīgas tikai konkrētajam aparatūras gadījumam, tāpēc to veiktā aprēķins ir nopietns: tas nomirst kopā ar aparatūru” (turpat).

Tagad jūs esat iepazīstināts ar to, kā šajā kontekstā tiek lietots nemirstīgais un mirstīgais.

Ļaujiet man precizēt.

Priekšlikums ir tāds, ka datoru, kas ir īpaši izveidots, pamatojoties uz ANN, varētu izveidot tā, lai aparatūru un programmatūru uzskatītu par nedalāmām. Tiklīdz aparatūra kādreiz vairs nefunkcionēs (kas, protams, mēs sakām, ka tas integrē programmatūru), šāda veida dators šķietami vairs nav noderīgs un vairs nedarbosies. Saka, ka tas ir mirstīgs. Tikpat labi varat apglabāt datoru, kura pamatā ir ANN, jo tas vairs nenāks par labu pēc tam, kad neatdalāmā aparatūra un programmatūra vairs nedarbosies kā komanda.

Ja vēlaties mēģināt to saistīt ar analoģiju ar cilvēka smadzenēm, jūs varētu iztēloties cilvēka smadzeņu nepatīkamo situāciju, kas pilnībā pasliktinās vai tiek kaut kā neatgriezeniski bojāta. Mēs pieņemam uzskatu, ka cilvēks ir mirstīgs un viņa smadzenes galu galā un neizbēgami pārtrauks darboties. Zināšanas, ko viņi saturēja viņu smadzenēs, vairs nav pieejamas. Ja vien viņi nav mēģinājuši pastāstīt citiem vai nepierakstīt to, ko zināja, viņu zināšanas tiek nodotas pasaulei.

Jūs, bez šaubām, esat dzirdējuši vai redzējuši ziņojumus par mēģinājumiem saglabāt smadzenes, piemēram, nolikt tās sasaldētā stāvoklī, pamatojoties uz teoriju, ka varbūt cilvēki kādreiz varētu būt nemirstīgi vai vismaz pagarināt savu ierasto mūžu. Jūsu smadzenes varētu dzīvot tālāk, pat ja ne jūsu ķermenī. Daudzas zinātniskās fantastikas filmas un stāsti ir spekulējuši par šādām idejām.

Tagad mēs esam gatavi detalizētam ieskatam mirstīgo datoru un nemirstīgo datoru kā jēdzienu un to, ko tas pareģo.

Uzmanīga diskusija un pārdomāta analīze

Pirms iedziļināties šīs postulētās pieejas analīzes pamatos, ir vērts pieminēt dažus svarīgus brīdinājumus un papildu punktus.

Pētnieks uzsvēra, ka izdomāja mirstīgie datori īpaši neaizstātu vai neizstumtu no pastāvēšanas nemirstīgie datori ko mēs šodien dēvējam par parastajiem digitālajiem datoriem. Pastāvētu abu veidu datoru līdzāspastāvēšana. Es to saku tāpēc, ka daži ir reaģējuši, ka aicinājums pie kārtības bija vispārējs apgalvojums visi nepieciešamības gadījumā datori ir vai virzīsies uz mirstīgo tipu.

Tā nebija pretenzija.

Savas runas laikā viņš minēja, ka šie ir specializējušies neiromorfiski orientēts datori veiktu skaitļošanas darbu, kas pazīstams kā mirstīgie aprēķini: “Mēs darīsim to, ko es saucu par mirstīgo aprēķinu, kur zināšanas, ko sistēma ir apguvusi, un aparatūra ir neatdalāmas” (kā citēts ZDNET rakstā, ko 1. gada 2022. decembrī publicēja Tīrnans Rejs).

Un jo īpaši: “Tas neaizstās digitālos datorus” (turpat).

Turklāt šie jaunie datoru veidi noteikti drīz nebūs pieejami jūsu vietējā datorveikalā vai tūlīt būs pieejami iegādei tiešsaistē, kā teikts viņa prezentācijas laikā: “Es domāju, ka mēs redzēsim pavisam cita veida datoru, nevis dažus gadus, taču ir visi iemesli, lai izpētītu šo pilnīgi atšķirīgo datoru veidu. Arī izmantošanas veidi atšķiras: “Tas nebūs dators, kas pārvalda jūsu bankas kontu un precīzi zina, cik daudz naudas jums ir.”

Papildu pavērsiens ir tāds, ka mirstīgie datori šķietami tiktu audzēti, nevis izgatavoti, kā mēs to darām šodien datoru procesoru un skaitļošanas mikroshēmu ražošanai.

Izaugsmes procesa laikā mirstīgā datora spējas palielinātos skaitļošanas nobriešanas stilā. Tādējādi konkrētais mirstīgais dators varētu sākt ar gandrīz jebkādām iespējām un nobriest par to, par ko tam bija paredzēts kļūt. Piemēram, pieņemsim, ka mēs vēlamies izveidot mobilos tālruņus, izmantojot mirstīgos datorus. Jūs sāktu ar vienkāršu mirstīga datora variantu, kas sākotnēji ir izveidots vai iesēts šim nolūkam. Pēc tam tas pāraugs uzlabotajā versijā, kuru meklējāt. Īsi sakot: "Jūs to aizstātu ar katru no šiem mobilajiem tālruņiem, kas jāsāk kā mazuļa mobilais tālrunis, un tam būtu jāiemācās būt par mobilo tālruni."

Vienā no viņa pamata slaidiem par mirstīgo aprēķinu ieguvumi tika aprakstīti šādi: “Ja mēs atsakāmies no nemirstības un pieņemam, ka zināšanas nav atdalāmas no konkrētas aparatūras precīzām fiziskajām detaļām, mēs iegūstam divas lielas priekšrocības: (1) Mēs varam izmantot ļoti mazjaudas analogos aprēķinus. (2) Mēs varam attīstīt aparatūru, kuras precīza savienojamība un analogā darbība nav zināma.

Daļa no tās pašas runas un arī viņa pirmsdrukas pētnieciskajā rakstā ir piedāvāts paņēmiens, kā labāk izstrādāt ANN, ko viņš norāda kā uz priekšu-uz priekšu tīklošanas pieeja. Daži no jums, kas pārzina ANN, neapšaubāmi jau ir labi informēti par backpropagation vai back-prop izmantošanu. Jūs varētu vēlēties apskatīt viņa piedāvāto uz priekšu uz priekšu tehniku. Šo aizraujošo pieeju es aplūkošu nākamajā slejā, tāpēc esiet uzmanīgi, lai saņemtu manu gaidāmo rakstu par to.

Pārslēdzot pārnesumus, ņemsim vērā to, ko AI kopienas gaiteņos un malās runā par šo nekaunīgo mirstīgais dators mahinācija.

Mēs sāksim ar to, ko daži teiktu, ka nav iesācējs par visu pateikto tēmu.

Vai esat gatavi?

Beidziet saukt šo lietu par a nāvējoši dators.

Tāpat beidziet sludināt, ka tādi ir mūsdienu parastie datori nemirstīgs.

Abi lietojumi ir vienkārši nepareizi un ļoti maldinoši, mudina skeptiķi.

Ikdienas vārdnīcā nemirstīgā definīcija sastāv no kaut kā, kas nevar mirt. Tas dzīvo mūžīgi. Lai nenomirtu, jādomā, ka lieta pati par sevi ir dzīva. Jūs ejat uz nepareizā ceļa, lai apgalvotu, ka mūsdienu datori ir dzīvi. Neviens saprātīgs cilvēks mūsdienu datoriem nepiedēvētu bona fide “dzīvas” īpašības. Tās ir mašīnas. Tās ir lietas. Tie nav cilvēki, dzīvnieki vai dzīves apstākļi.

Ja vēlaties paplašināt nemirstīgā definīciju, lai pieļautu, ka mēs runājam arī par nedzīvām būtnēm, tādā gadījumā nedzīvajai būtnei, šķiet, nekad nebūs jāsairst un tā nevar neizbēgami sadalīties putekļos. Vai varat izteikt šādu apgalvojumu par mūsdienu datoriem? Tas šķiet izstiepts (sānu piezīme: mēs, protams, varētu iesaistīties grandiozā filozofiskā diskusijā par matērijas un eksistences būtību, bet šajā gadījumā neiesim tur).

Būtība ir tāda, ka vārdu “mirstīgais” un “nemirstīgais” ļaunprātīga izmantošana vai daži teiktu, ka tas ir neparasts un nevajadzīgs. Bieži lietotas tautas valodas pārņemšana un atkārtota izmantošana citiem mērķiem rada apjukumu un rada neskaidrus ūdeņus. Jums ir jābūt gatavam acīmredzami pārdomāt, ko šajā konkrētajā kontekstā nozīmē mirstīgais un nemirstīgais. Tas kļūst problemātiski.

Vēl satraucošāk ir tas, ka šīs vārdu izvēles mēdz antropomorfizēt datora aspektus.

Jau tagad ir vairāk nekā pietiekami daudz problēmu, kas saistītas ar AI antropomorfizāciju, mums noteikti nav jāizdomā vairāk šādu iespēju. Kā esmu plaši apspriedis savā pārskatā par AI ētiku un ētisko AI, ir dažādi veidi, kā cilvēki datoriem piedēvē jutīgas spējas. Tas savukārt maldina cilvēkus, liekot maldīgiem domāt, ka datori, kuru pamatā ir AI, var domāt un rīkoties tāpat kā cilvēki. Tā ir slidena apdraudējuma nogāze, kad sabiedrība sāk iemidzināt, ka mūsdienu mākslīgais intelekts un skaitļošana ir līdzvērtīga cilvēces intelektam un veselajam saprātam, piemēram, skatiet manu analīzi vietnē saite šeit un saite šeit.

Labi, mēs varam noraidīt vai nicināties pret neveiklo formulējumu izvēli, bet vai tas liek domāt, ka mums vajadzētu izlaist bērnu ar vannas ūdeni (sens izteiciens, iespējams, tuvojas pensijai)?

Daži apgalvo, ka, iespējams, mēs varam atrast labāku formulējumu šai vispārējai pieejai vai koncepcijai. Atmetiet vārdus “mirstīgais” un “nemirstīgais”, lai pārējās idejas netiktu sabojātas ar neatbilstošu vai nepareizu lietošanu. Tikmēr ir pretargumenti, ka ir pilnīgi pieņemami izmantot šīs vārdu izvēles vai nu tāpēc, ka tās ir piemērotas, vai tāpēc, ka mums nevajadzētu būt neelastīgiem attiecībā uz vārdu atkārtotu izmantošanu. Viņi paziņo, ka roze ir roze ar jebkuru citu nosaukumu.

Lai izvairītos no turpmākām asām diskusijām, es turpmāk izvairīšos lietot vārdus “mirstīgais” un “nemirstīgais” un tikai paziņošu, ka mums ir divi galvenie datoru veidi, no kuriem viens ir tradicionāls mūsdienu digitālais dators un cits ir ierosināts neiromorfs dators.

Šķiet, ka šajā jautājumā nav jāievelk mirstības mīkla. Saglabājiet debesis skaidras, lai redzētu, ko vēl mēs varam izdarīt no šī jautājuma.

Tādā gadījumā daži iebilst, ka ierosinātā ideja par neiromorfisku datoru nav nekas jauns.

Varat izsekot AI agrākajām dienām, it īpaši, kad sākotnēji tika pētītas ANN, un redzēt, ka tika runāts par specializētu datoru izstrādi mākslīgo neironu tīklu darbam. Tika piedāvāta visa veida jauna aparatūra. Tas joprojām notiek līdz šai dienai. Protams, jūs varētu iebilst, ka lielākā daļa mūsdienu specializētās aparatūras izpētes ANN un mašīnmācībai joprojām balstās uz parasto pieeju skaitļošanai. Tādā ziņā šī aparatūras un programmatūras analogā nedalāmība zināmā mērā nospiež aploksni, un piedāvājums “audzēt” datoru arī dara, vismaz attiecībā uz iziešanu ārpus aplūkojamās galvenās plūsmas.

Īsāk sakot, ir daži, kas ir pilnībā pārņemti ar šiem jautājumiem, kuri ir pārsteigti, ka kāds cits varētu būt pārsteigts par izvirzītajiem priekšlikumiem. Šie jēdzieni ir vai nu tādi paši kā iepriekš, vai arī sasaucas ar to, kas jau tiek pētīts dažādās pētniecības laboratorijās.

Viņi saka, ka nesatrauc savus matus.

Tas mūs noved pie cita aspekta, kas daudziem ir apgrūtinošs.

Vienā vārdā: Paredzamība.

Mūsdienu datori parasti tiek uzskatīti par paredzamiem. Varat apskatīt aparatūru un programmatūru, lai noskaidrotu, ko dators darīs. Tāpat varat izsekot, ko dators jau ir paveicis, lai noskaidrotu, kāpēc tas darīja visu, ko tas darīja. Protams, tam ir ierobežojumi, tāpēc es nevēlos pārspīlēt paredzamību, bet es domāju, ka jūs kopumā saprotat ideju.

Jūs varētu zināt, ka viena no sarežģītākajām problēmām, ar ko mūsdienās saskaras AI, ir tā, ka daži AI ir izstrādāti tā, lai tie varētu pašregulēties. AI, ko izstrādā izstrādātāji, var mainīties, kamēr tas tiek izmantots. AI ētikas jomā ir daudzi piemēri AI, kas tika ieviesti un kuriem sākotnēji nebija nepamatotu aizspriedumu vai diskriminējošas tendences, kas pēc tam pakāpeniski tika skaitļotu pašmutācijas laikā, kamēr AI tika ražots, skatiet manu detalizēti novērtējumi plkst saite šeit.

Bažas rada tas, ka mēs jau ieejam iestatījumā, kas saistīts ar AI, kas ne vienmēr ir paredzams.

Pieņemsim, ka mākslīgais intelekts ieroču sistēmām tiek pašregulēts, un rezultāts ir tāds, ka mākslīgais intelekts apbruņo un palaiž nāvējošus ieročus mērķos un laikā, kas nav paredzēts. Cilvēki var nebūt gatavi apturēt AI. Cilvēki, kas atrodas cilpā, var nespēt pietiekami ātri reaģēt, lai apsteigtu AI darbības. Papildu atdzesēšanas piemērus skatiet manā analīzē vietnē saite šeit.

Attiecībā uz neiromorfiskiem datoriem bažas rada tas, ka mēs steroīdiem radām neparedzamību. Sākotnēji neiromorfiskā datora būtība varētu būt tāda, ka tas darbojas tādā veidā, kas ir pretrunā prognozēšanai. Mēs lepojamies ar neparedzamību. Tā kļūst par goda zīmi.

Ir divas nometnes.

Viena nometne saka, ka mēs varam sadzīvot ar nepatīkamajām neprognozējamības bažām, to darot, uzliekot aizsargmargas, lai neļautu AI pārāk tālu nokļūt. Otra nometne apgalvo, ka jūs vedat pasauli pa bīstamu ceļu. Pienāks diena, kad pieteiktās aizsargmargas vai nu neizdosies, vai tās nav pietiekami stingras, vai arī nejaušības vai ļauna nolūka dēļ aizsargmargas tiek noņemtas vai ar tām tiek ķemmētas.

Vai mums vajadzētu novērst šaubas par neiromorfiskiem datoriem un paredzamību?

Saskaņā ar pētnieka piezīmēm: "Starp cilvēkiem, kurus interesē analogie aprēķini, joprojām ir ļoti maz tādu, kas ir gatavi atteikties no nemirstības." Turklāt: "Ja vēlaties, lai jūsu analogā aparatūra katru reizi darītu vienu un to pašu... Jums ir reāla problēma ar visām šīm klaiņojošajām elektriskajām lietām un lietām."

Es to uztaisīšu.

Paredzams un nedaudz drūma perspektīva ir tāda, ka tā sauktā paredzamība, kas saistīta ar mūsdienu digitālajiem datoriem, tik un tā virzās neparedzamības virzienā. Kā minēts, tas jo īpaši var notikt ar AI, kas pats pielāgojas parastajās datoru platformās. Tas, ka neiromorfie datori varētu būt šķietami neparedzami, nav zīme, ka parastie digitālie datori patiesībā ir paredzami.

Neprognozējamības tvaikonis tuvojas mums ar pilnu tvaiku neatkarīgi no tā, kuru skaitļošanas platformu vēlaties izvēlēties. Lai uzzinātu, kā es novērtēju jaunākos centienus sasniegt AI drošību šajā kontekstā, sk saite šeit.

Šim paredzamības pavērsienam vajadzētu likt jūsu prātam pievērsties kaut kam tādam, kas ir atklāts. Tie no jums, kas ir saistīti ar AI ētiku un AI likumu, varētu nav ir apsvēruši sekas neiromorfiskie datori.

Jūs droši vien esat mērķējis uz parastajiem digitālajiem datoriem, kuros darbojas AI. Uzminiet, jums ir pilnīgi papildu un jauns AI skaitļošanas segments, par kuru tagad varat neuztraukties naktī. Jā, neiromorfiskie datori. Ievietojiet to savā uzdevumu sarakstā.

Atvainojiet, vēl jums bezmiega naktis.

Īsi apskatīsim, ko AI ētika un AI likums ir darījuši attiecībā uz parasto digitālo skaitļošanu un AI.

Iepriekšējās slejās esmu apskatījis dažādus valsts un starptautiskos centienus izstrādāt un ieviest likumus, kas regulē AI, sk. saite šeit, piemēram. Esmu apskatījis arī dažādus mākslīgā intelekta ētikas principus un vadlīnijas, ko ir noteikušas un pieņēmušas dažādas valstis, tostarp, piemēram, Apvienoto Nāciju Organizācijas centienus, piemēram, UNESCO AI ētikas kopumu, ko pieņēma gandrīz 200 valstis, sk. saite šeit.

Šeit ir noderīgs ētisko AI kritēriju vai raksturlielumu saraksts attiecībā uz AI sistēmām, kuras esmu iepriekš rūpīgi izpētījis.

• Caurspīdīgums
• Taisnīgums un godīgums
• Ne-ļaunprātība
• atbildība
• Privātums
• Labums
• Brīvība un autonomija
• Uzticēties
• Ilgtspējība
• cieņa
• Solidaritāte

Šie AI ētikas principi ir nopietni jāizmanto AI izstrādātājiem, kā arī tie, kas pārvalda AI izstrādes centienus, un pat tie, kas galu galā veic AI sistēmu apkopi un uzturēšanu.

Visas ieinteresētās puses visā AI izstrādes un lietošanas dzīves ciklā tiek uzskatītas par ētiskā AI noteikto normu ievērošanu. Tas ir svarīgs akcents, jo parasti tiek pieņemts, ka “tikai kodētāji” vai tie, kas programmē AI, ir pakļauti AI ētikas jēdzieniem. Kā jau iepriekš tika uzsvērts, ir nepieciešams ciemats, lai izstrādātu un ieviestu AI, un tam visam ciematam ir jābūt pieredzējušam un jāievēro AI ētikas priekšraksti.

Tā daļa, par kuru jūs, iespējams, iepriekš neesat īpaši domājis, ir tas, kā tie paši AI ētikas priekšraksti un plaukstošais jauno AI likumu saraksts attieksies uz neiromorfiskiem datoriem. Lai precizētu, AI ētikā un AI likumā tas patiešām ir skaidri jāņem vērā. Es norādu, ka daži to dara, un jāņem vērā, ka pastāv iespēja, ka neiromorfo datoru parādīšanās daudziem radīs jaunu dimensiju, lai mēģinātu valdīt AI.

Mums ir jāapsver ētiskais AI un AI likumi pietiekami plašā veidā, lai ietvertu visu jaunizveidoto AI, tostarp neiromorfos datorus.

Šūpoles alternatīva ir klasisks kaķa un peles gambīts. Lūk, kā tas notiek. Tiek izdomāti un izveidoti jauni AI izveides veidi. Esošie mākslīgā intelekta ētikas un mākslīgā intelekta likumi tiek ignorēti, un tie pilnībā neaptver jaunākās mākslīgā intelekta viltības. Steidzīgi tiek pieliktas pūles, lai atjauninātu ētiskos AI priekšrakstus un mainītu šos jaunizveidotos AI likumus.

Putojiet, noskalojiet, atkārtojiet.

Mums visiem būtu labāk palikt spēles priekšā, nevis aizķerties aiz astoņām bumbām.

Secinājumi

Esmu jūs aizvedis nelielā ceļojumā.

Sākumā es piedāvāju, ka tiks izskatītas divas galvenās tēmas:

1) Aparatūras un programmatūras integrācija AI mehanizācijai, nevis kā atšķirīgas un atsevišķas sabiedrotās

2) Mašīnmācīšanās formulējumu pārsūtīšana vai destilēšana no viena AI modeļa uz citu, kas to dara, neprasot un ne vienmēr vēloties (vai pat citādi iespējams) tiešu tīrasiņu kopēšanu.

Pirmā tēma par aparatūras un programmatūras sasaisti ir bijusi šī ceļojuma lielākā daļa. Tas mūs ieveda mirstīgo un nemirstīgo skaitļošanas netīrumos. No kuriem bija daži būtiski mākslīgā intelekta ētikas un mākslīgā intelekta tiesību apsvērumi, kas citādi parasti netiktu izvirzīti, jo daži parasti uzskata, ka šāda veida ar datoru saistītas tēmas ir tīri tehnoloģiskas, nevis rada bažas par ietekmi uz sabiedrību.

Es saku, ka ir prātīgāk rīkoties ātrāk un drošāk, nevis vēlāk un sliktāk, kad runa ir par ētisko AI un AI likumu.

Otrā tēma, kuru es šeit vēl neesmu izteicis, ir būtiski saistīta ar pirmo tēmu.

Lūk, darījums.

Pieņemsim, ka mums ir “mirstīgais dators” un mēs vēlamies saglabāt iespējas, lai mums būtu iespēja iegūt AI ietvertā dublējumu vai šķietami kopijas. Mēs varētu būt noraizējušies par to, ka kāds konkrēts mirstīgais dators tuvojas beigām. Ak, mēs esam no tā atkarīgi. Kas mums jādara? Viena atbilde ir tāda, ka mums vajadzētu kopēt sasodītā lieta.

Taču skicētā neiromorfiskā datora kopēšana būs grūtāka, nekā varētu šķist no pirmā acu uzmetiena. Lietas var kļūt sarežģītas.

Varbūt mums vajadzētu nākt klajā ar kopēšanas paņēmienu, kas būs vispārināms un piemērojams apstākļiem, kas saistīti ar mašīnmācību un mākslīgajiem neironu tīkliem. Mēs vēlamies, lai tas darbotos liela mēroga un ārkārtīgi liela mēroga gadījumos. Mēs arī būtu gatavi, lai kopija nebūtu precīzs dublikāts, bet gan pēc būtības līdzvērtīgs vai, iespējams, pat labāk izstrādāts kopēšanas darbības rezultātā.

Tehnika, kas pazīstama kā destilācija ir ierosināts.

Man vairs nav vietas šodienas slejā, tāpēc es sākšu šo otro tēmu nākamajā slejā. Es domāju, ka jūs uzreiz vēlaties uzzināt par attiecībām starp šo otro tēmu un pirmo tēmu, kas šeit tika plaši aplūkota. Uztveriet to kā papildu piezīmi, kas kalpo kā teaser vai reklāmkadri par to, kas gaidāms.

Palieciet pie sava sēdekļa malas, jo destilācijas tēma ir diezgan laba.

Kā Betmens mēdza teikt, turiet sikspārņu spārnus un esiet gatavi tam pašam sikspārņa laikam un kanālam, lai atrisinātu satraucošo jautājumu par to, kā kopēt ANN vai mašīnmācības modeli vai neiromorfisku datoru citā.

Pagaidām pēdējā piezīme. Filmā ir slavena līnija Tumšais bruņinieks atgriežas kurā mūsu apmetnī tērptais krustnešs saka: "Pasaulei ir jēga tikai tad, ja jūs to piespiežat." Es mēģināšu pieturēties pie šī ideāla, aplūkojot otro tēmu par ar AI saistīto destilāciju.

Sekojiet līdzi šīs aizraujošās un aizraujošās dubultgalvenes 2. daļai.