AI ētika un ģeopolitiskā cīņa par to, kurš uzvarēs sacensībā, lai sasniegtu patiesu AI

Pasaule ir izmisīgā sacensībā.

Ģeopolitiskās varas apgalvo, ka uzvarētājs it kā nesīs mājās visu bekonu.

Kura rase tiek nikni apkarota un dedzīgi dzīta?

Tās ir AI sacīkstes.

Jūs, iespējams, precīzāk to varētu saukt par sacensību sasniegt patiess Mākslīgais intelekts (AI), pašlaik pilnīgāk saukts par mākslīgo vispārējo intelektu (AGI). Mēs vēlamies kaut kādā veidā sasniegt šķietami izcilāko AI jeb pazīstamu kā AGI, kas ir salīdzināms ar cilvēka intelektu. Mēs vēl neesam tur. Patiešām, neskatoties uz visu veidu mežonīgiem un nekaunīgiem virsrakstiem, mēs nezinām, kad un vai mēs sasniegsim šo augsto atzīmi. Mūsdienu mākslīgajam intelektam ir daudz mazāk iespēju nekā visaptverošam cilvēka intelektam, lai gan noteikti ir daudz šaurāku veidu, kā AI ir veikusi iespaidīgus uzbrukumus, piemēram, spēja spēlēt augstākās klases pasaules klases šahu vai veikt citus salīdzinoši ierobežotus uzdevumus.

Tomēr zelta gredzens ir mākslīgā intelekta parādīšanās, kas parāda cilvēka inteliģenci, kas ir dievbijīgs un līdzīgs cilvēcei. Šis ir AI pētnieku un praktiķu svētais grāls. Laiku pa laikam ir izskanējuši maldinoši apgalvojumi par to, ka esmu jau šķērsojis AI sacensību finiša līniju, ko es atmaskoju savā slejā plkst. saite šeit. Tie, kas cenšas strīdēties par finiša līnijas šķērsošanu, mulsina plašu sabiedrību un reizēm to dara ar dedzīgu nevainību, bet citreiz viņu rokās ir nopietni apšaubāmi motīvi. Kopumā tas rada diezgan nozīmīgus un svarīgus AI ētikas apsvērumus. Manu pašreizējo un plašo informāciju par AI ētiku un ētisko AI skatiet saite šeit un saite šeit, tikai nosaukt dažus.

Jebkurā gadījumā nav šaubu, ka globāla mēroga sprinta AI sacīkstes aktīvi norisinās. Jums būtu grūti apgalvot pretējo.

Padomājiet par to šādā veidā. Ja mums jau būtu izdevies sasniegt patiesu AI vai AGI, pastāv iespēja, ka AI pēdas būtu formāli un globāli pasludinātas par veiksmīgi noslēgtām. Es jums apliecinu, ka šādam skaļam un satricinošam izrāvienam tiks pievērsta pasaules uzmanība. Jūs par to zinātu. Mēs visi to darītu. AI trakā domuzīme faktiski vairs nepastāvētu, lai gan, iespējams, varētu rasties sekundāra versija, iesaistot tos, kuri vēl nebija sasnieguši patieso AI, drudžaini strādāt, lai panāktu. Ir arī satraucošs jautājums par to, kā mēs galu galā kontrolēsim vai pārvaldīsim AGI, ja mēs tur nonāksim.

Neviena persona, organizācija vai nācija vēl nevar pienācīgi pretendēt uz patiesas AI vai AGI radīšanas kroni.

Tikmēr notiek milzīgs un neatslābstošs roku savstarpējs strīds par to, kura tauta (vai tautas) atrodas bara priekšgalā un kura atpaliek. Tiek pieņemts, ka, ja neesat pirmais, jūs paliksit netīrumos. Jūs ēdīsit lūžņus, kas palikuši no AI uzvarētājiem. Jūs, iespējams, uz visiem laikiem būsit pakļauts tai nācijai vai tautām, kas veic vēstīto lēcienu patiesā AI vai AGI.

Īsumā un, lai atvieglotu šīs diskusijas formulējumu, turpmāk es izmantošu “AGI” ikreiz, kad vēlēšos piesaukt patiesas AI auru. Nedaudz jaunākas frāzes “AGI” lietošana dažkārt satrauc tos, kuri nav pieraduši to lietot. Mēs visi esam pazīstami ar “AI”, un jūs varētu būt satraukti, redzot, ka tā vietā tiek lietots saīsinājums “AGI”. Ļaujiet man paskaidrot, kāpēc tā pakāpeniski kļūst par vārdību tendenci.

Daļa iemesla, kāpēc AGI ir palielinājusies mākslīgā intelekta arēnā, ir tas, ka tikai “AI” norādīšana tagad ir kļuvusi par nožēlojami vājinātu frāzi. Neviens nezina, vai jūsu pieminētais mākslīgais intelekts ir AI variants vai arī kaut kāda gandrīz labāka progresējoša AI infūzija, vai arī tas varētu atsaukties uz kādreiz futūristisko, pilnībā cilvēkiem pielīdzināto AI. Lai cīnītos pret “AI” pārslodzi kā iecienītāko frāzi, AGI nikersam priekšroku dod tie AI jomas darbinieki, kuri vēlas īpaši un īpaši atsaukties uz patiesu AI.

Tātad, īsi sakot, uzskatiet, ka mana AGI pieminēšana ir tāda pati, kā teikt “patiess AI”, kura kalibrs ir līdzīgs cilvēka intelektam, paldies.

Ievilksim apdomīgi dziļu elpu un rūpīgi izpētīsim dažus sacensību aspektus, lai sasniegtu AGI. Ir pat meta-aspekts, kas vispirms ir jānorāda. Ņemiet vērā, ka, ja tiek izmantota alegorija par šķietamu skrējienu vai kādu citu sacīkšu aktivitāti kā AGI sacīkstes metaforu, ir nelielas grēmas. Kāpēc tā? Es īsumā pastāstīšu par sarežģījumiem un sarežģījumiem, kāpēc (daži saka), ka skrējiens vai tā ekvivalents ir maldinošs un mānīgs vienkāršs skatījums.

Šeit ir galvenie punkti, par kuriem es runāšu ar jums šajā diskursā:

• Ja šīs ir sacensības, AGI finiša līnija šķiet diezgan slikti definēta
• AGI rase var būt saistīta ar personu, vienību vai nāciju
• Metrika un tas, kā valstis tiek salīdzinātas AGI sacīkstēs
• Ģeopolitiskā manevrēšana un saskaņošana AGI sacīkstēm
• Starptautiskie AI likumi un AI ētika kā tiesneši AGI sacīkstēs

Iespējams, vēlēsities piesprādzēties, kamēr es pārbaudu steidzami notiekošo AGI skrējienu (jā, es uzdrošinos to saukt par pēdu skrējienu), kurā gandrīz visi pārvietojas milzīgā ātrumā un šķietami strauji virzās uz priekšu šajā degošajā meklējumā. Daži varētu teikt, ka šīs ir sacīkstes par cilvēces uzlabošanu, savukārt citi jau iepriekš brīdina, ka sacīkstes var nozīmēt pilnīgu nolemtību mums visiem.

Laiks rādīs.

Ja šīs ir sacīkstes, AGI finiša līnija šķiet diezgan slikti definēta

Finiša līnija parasti ir diezgan noteikta demarkācija. Jūs vai nu esat sasniedzis finiša līniju, vai arī neesat. Šķiet, ka īss kāpums jums nenāks par labu. Iedomājieties olimpisko spēļu 400 metru skrējienu un to, vai jūs īpaši atcerētos vai uzslavētu skrējējus, kuri nepabeidza skrējienu (nekad nav šķērsojuši finiša līniju). Maz ticams.

Vai mēs uzzināsim, kad esam sasnieguši AGI tā, ka viss ir pamatoti vienots, ka finišs ir sasniegts?

Ir karstas domstarpības par AGI demarkāciju.

Piemēram, pieņemsim, ka mēs izstrādājam mākslīgo intelektu, kas, šķiet, ir pilnībā spējīgs demonstrēt cilvēka intelektu, taču tajā pašā par sevi nav jūtama sajūta (skatiet manu stāstījumu par argumentiem par mākslīgā intelekta uztveri vietnē saite šeit). AI skaitļošanas ziņā spēj atdarināt vai citādi darboties kā cilvēka intelekts. Tomēr nav dzīvības vai jūtīguma dzirkstelītes, ko mēs saistām ar cilvēkiem un citām dzīvām radībām. Vai šī AGI tiek uzskatīta par mērķa sasniegšanu, kas, mūsuprāt, ir?

Daži iebilst, ka tam nebūtu nozīmes, ja šķiet, ka šajā AGI ir ietverts jūtīgums pats par sevi. Kamēr tajā var parādīties cilvēka inteliģence, jutības iekļaušana ir kaut kas atšķirīgs, ko mēs varētu vai negribētu redzēt. Jutīgums šajā lietu izpratnē ir papildinājums.

Citi dedzīgi apgalvo, ka vienīgais veids, kā sasniegt cilvēka intelektu AGI, būs neatņemama jūtīguma iemiesošana. AGI un jūtīgums tiek uzskatīti par vienu un to pašu, vai arī tie ir nereducējama, neatdalāma duāla iemiesojuma sajaukums. Viņi apgalvos, ka, lai iegūtu AGI, jums ir jābūt saprātīgam.

Neņemot vērā šo debašu leņķi, cita perspektīva ir tāda, ka mēs varētu izmantot slaveno Tjūringa testu, lai novērtētu, vai AGI ir sasniegts. Esmu padziļināti apskatījis Tjūringa testu plkst saite šeit. Īsi sakot, jēdziens ir tāds, ka cilvēks uzdod jautājumus AGI, un, ja cilvēks nevar atšķirt AGI radītās atbildes no cilvēces atbildēm, mēs paziņosim, ka AGI spēj demonstrēt cilvēka intelektu.

Ar Tjūringa testu bieži vien ir saistītas daudzas problēmas vai nepilnības.

Pieņemsim, ka cilvēks, kas veic izmeklēšanu, veic sliktu darbu un neuzdod izmeklējošus jautājumus. Viena no bažām ir tāda, ka daudzi no mūsdienu šķietami jaudīgajiem lielo valodu modeļiem (LLM) var atgriezt cilvēkā saturu, par kuru LLM tika apmācīts (ti, tekstu un digitālos medijus, kas bieži iegūti, izmantojot liela mēroga skrāpējot internetu). Tādējādi LLM var viegli “atbildēt” īpaši atlasītam cilvēkam, kurš uzdod parastus jautājumus, uz kuriem jau ir atbildēts un kuri pastāv tiešsaistē, taču tas neapšaubāmi nav saistīts ar kādu AGI kalibra cilvēka intelekta iemiesojumu.

Parādās daudzas citas nepatikšanas. Pieņemsim, ka cilvēks nespēj saprast atbildes. Vai arī pieņemsim, ka cilvēks maldina sevi, ticot, ka visas atbildes liecina par cilvēka inteliģenci. Es pat esmu runājis par dažu neparasto ideju, ka viss, kas mums jādara, ir jājautā AI, vai tas ir AGI vai jutīgs, kas, manuprāt, nav pārāk pārliecinošs AGI pierādījuma veids, sk. saite šeit.

Visbeidzot, kā viena doma, vai mums ir pilnībā jāsasniedz finiša līnija, lai uzskatītu, ka AGI ir sasniegts?

Iepriekš minēju, ka mēs parasti aizmirstam par tiem, kas nesasniedz finišu. Tas varētu nebūt saprātīgi analogs AGI sacīkstēm. Es uzskatu, ka var pārliecinoši pierādīt, ka, ja mēs spēsim sasniegt būtisku ceļu uz AGI, mēs jau atradīsim sevi izbrīnā un vai nu lielu labumu, vai lielas problēmas. Redziet, daudzus svarīgus un ļoti noderīgus rezultātus var radīt gandrīz esoša AGI. Izcīnīt īsu laiku nebūs tik problemātiski, kā nepabeigt 400 metru skrējienu, jo īpaši tāpēc, ka tas varētu būt būtisks pamats ceļā uz pilnīgāko AGI versiju (salīdzinājumam, iespējams, tas ir maratons).

Metafora, ka AGI sasniegums ir skrējiena paveids vai tā ekvivalents, dažkārt ir neapmierinoša un neadekvāta.

AGI rase var aiziet uz cilvēku, vienību vai nāciju

Dažiem ir sapņains priekšstats, ka AGI sasniegs kāds garāžā pidžamā strādājošs viltnieks, un tas būs traki izgudrojošu datorizācijas eksperimentu atsegums, ar kuriem viņi ir strādājuši gadiem ilgi. Tas ir klasiskais augsto tehnoloģiju vientuļa vilka trops.

Diemžēl jāziņo, ka šis ir ārkārtīgi zemu izredžu piedāvājums.

Lielākas izredzes būtu tādas, ka uzņēmums, piemēram, uzņēmums vai kāda pētniecības komanda, būs AGI atbalstītāji. Stingra un dominējoša pārliecība ir tāda, ka būs nepieciešams ciems, lai nokļūtu AGI. Vientuļajam vilkam pašam nebūs ne resursu, ne ieskatu, lai sasniegtu AGI. Viņi varētu dot ieguldījumu meklējumos. Viņi varētu nodrošināt puzlei nepieciešamos gabalus. Viņi nespēs savākt visu komplektu un kaboodle.

Runājot par ciemiem, vēl viens stingri pieņemts viedoklis ir tāds, ka tās būs valstis, kas spēj sasniegt tikai AGI. Izmantojot cilvēku, uzņēmumu, akadēmisko aprindu un visu citu nacionālas valsts vienību veidu apvienojumu, AGI nonāks nacionālā kopuma apvienotā darba rezultātā. Vienības uzmanības līmenis uzvarētājam šajā sacīkstē ir vairāk balstīts uz nacionālu valsti, nevis uz kaut ko vairāk izkliedētu, brīvas formas vai individuālistisku.

Īsāk sakot, ja tas aizņem ciematu, ciems būs valsts mēroga, tādējādi nacionālā valsts būs izraudzītā skrējēja, kas šķērsos finiša līniju AGI skrējienā.

Metrika un tas, kā valstis tiek salīdzinātas AGI sacīkstēs

Ņemiet vērā, ka AGI sasniegumi tiks balstīti uz nacionālās valsts līmeni.

Atkārtoti, mēs to nezinām droši, taču tas šķiet pamatots pieņēmums.

Apsveriet nacionālās valsts pamata sekas. Pieņemsim, ka vientuļajam vilkam vispirms izdodas nokļūt AGI un viņš uzskata, ka viņu darbs pārsniedz nacionālo valsti, kurā viņi ir. Šī persona paziņo, ka nav nevienas nacionālas valsts attiecībā uz izstrādāto AGI. Vai mēs joprojām godinātu šo nacionālo valsti un vai AGI būtu šīs nācijas kontrolē un kompetencē?

Iedomājieties citu alternatīvu, ka liels daudznacionāls konglomerāts vispirms nonāk pie AGI. Kura tauta var teikt, ka AGI ir viņu “lieta”, ko izmantot un izvietot (vai tas tiks interpretēts kā īpašums vai tā vietā tiks uzskatīts par juridiskas personas variantu)? Varbūt visām valstīm, kurās uzņēmums pastāv, ir jāsaņem vienādi kredīti. Vai varbūt tikai visur, kur ģeogrāfiski atrodas oficiālais štābs. Tā varētu būt sarežģīta īsta zelta poda sadalīšana.

Jebkurā gadījumā vispārējs populārs viedoklis ir tāds, ka nacionālā valsts būs izšķirošais noteicējs AGI sasniegšanai. Valsts, kas veicina mākslīgā intelekta pētniecību un izstrādi savu nacionālo centienu ietvaros, domājams, ātrāk nonāks pie AGI nekā citas valstis, kuras nedara līdzīgi.

Pastāv uzskats, ka AI sacīkstes ir nacionālās sacensības.

Galvu skrāpējošs jautājums ir par to, kā mēs varam noskaidrot, vai viena nācija ir priekšā vai aiz citas valsts AGI sacīkstēs.

Parastajā skrējienā mēs varētu viegli noteikt metriku, ko var izmantot, lai noteiktu, kuriem skrējējiem klājas labi un kuriem ne. Skrējēja ātrumu var viegli aprēķināt. Tas negarantē, ka viņi finišēs pirmie, bet tas vismaz parāda solījumu. Fiziskais attālums starp skrējējiem un atlikušais attālums līdz finišam ir acīmredzami svarīgi kritēriji, kurus mēs varam viegli izmērīt.

AGI sacīkstēm nav šāda veida nodrošinātas metrikas vai mērījumu formas.

Mēs izmantojam visu veidu surogātpasākumus, jo nav galīga veida, kā aprēķināt, kur atrodas gala līnija un cik tālu mēs esam no tās.

Apskatīsim metriku veidus, kas parasti tiek ņemti vērā. Īpaši parocīgu ar AI saistīto globālo mērījumu avotu katru gadu apkopo un publicē Stenfordas universitātes Stenfordas uz cilvēkcentrēta AI (HAI) institūts. Ziņojums ir pieejams tiešsaistē bez maksas, un jaunākajam laidienam ir tiesības AI indeksa 2022. gada pārskats (pamatojoties uz datiem, kas apkopoti par 2020.–2021. gadu). Pēc brīža es ar jums padalīšos ar dažiem svarīgākajiem nacionālajiem salīdzinājumiem, kas minēti viņu jaunākajā apkopojumā.

Metrika, kas tiek izmantota, lai novērtētu AI nacionālo un starptautisko progresu, parasti ietver mazliet no visa, dažkārt robežojas ar īstās virtuves izlietnes iekļaušanu.

Parasti pārbaudītie pasākumu veidi ietver:

• To AI pētniecības rakstu skaits, kas attiecināti uz konkrētu valsti
• Citēto atsauču skaits uz konkrētas valsts AI rakstiem
• AI žurnālu skaits noteiktā valstī
• AI konferenču skaits, kas notiek noteiktā valstī
• Konkrētas valsts sponsorēto AI konferenču skaits
• Ar AI saistīto patentu skaits, kas piešķirti noteiktā valstī
• AI uzņēmumu dibināšanas skaits noteiktā valstī
• AI darba vietu skaits noteiktā valstī
• Jaunu AI darba vietu skaits vai darbā pieņemšana noteiktā valstī
• Konkrētā valstī ieviesto AI likumu vai likumdošanas likumprojektu skaits
• Konkrētā valstī pieņemto vai pieņemto AI likumu skaits
• cits

Apsveriet šīs mūsdienu norādes no HAI AI indeksa 2022:

• AI publikāciju citāti: “AI repozitoriju publikāciju citātu ziņā Amerikas Savienotās Valstis ieņem pirmo vietu ar 38.6% no kopējā citātu skaita 2021. gadā, nodrošinot dominējošu pārsvaru pār Eiropas Savienību, kā arī Apvienoto Karalisti (20.1%) un Ķīnu (16.4%).
• AI žurnāli/konferences: “2021. gadā Ķīna turpināja ieņemt vadošo pozīciju pasaulē AI žurnālu, konferenču un repozitoriju publikāciju skaita ziņā — par 63.2% vairāk nekā ASV, ņemot vērā visus trīs publikāciju veidus kopā. Tikmēr Amerikas Savienotās Valstis ieņēma dominējošo vadību starp lielākajām AI lielvarām konferenču un repozitoriju citātu skaita ziņā.
• AI patenti: “Ķīna šobrīd iesniedz vairāk nekā pusi no pasaules mākslīgā intelekta patentiem, un tai ir piešķirti aptuveni 6%, apmēram tikpat, cik Eiropas Savienība un Apvienotā Karaliste. Amerikas Savienotās Valstis, kas iesniedz gandrīz visus patentus Ziemeļamerikā, to dara ar vienu trešdaļu no Ķīnas. Salīdzinot ar pieaugošo pieteikto un piešķirto mākslīgā intelekta patentu skaitu, Ķīnā ir daudz lielāks patentu pieteikumu skaits (87,343 2021 1,407. gadā) nekā piešķirto (2021 XNUMX. gadā).
• Jauni finansētie AI uzņēmumi: “Investīciju dati pēc jaunfinansēto AI uzņēmumu skaita katrā reģionā. 2021. gadā pirmajā vietā bija ASV ar 299 uzņēmumiem, kam sekoja Ķīna ar 119, Apvienotā Karaliste ar 49 un Izraēla ar 28. Atšķirības starp tām ir ievērojamas.
• AI darbā pieņemšanas temps: “Jaunzēlande, Honkonga, Īrija, Luksemburga un Zviedrija ir valstis vai reģioni, kuros no 2016. līdz 2021. gadam ir vislielākais AI darbinieku skaita pieaugums.
• AI darba sludinājumi: “2021. gadā Kalifornijā, Teksasā, Ņujorkā un Virdžīnijā bija štati ar vislielāko AI darba sludinājumu skaitu Amerikas Savienotajās Valstīs, un Kalifornijā bija vairāk nekā 2.35 reizes vairāk darba sludinājumu nekā Teksasā, kas ir otrais lielākais. Vašingtonā, DC, bija vislielākais AI darba sludinājumu skaits, salīdzinot ar kopējo darba sludinājumu skaitu
• AI likumdošanas darbība: “AI indeksa analīze par tiesību aktiem par mākslīgo intelektu 25 valstīs liecina, ka likumā pieņemto “mākslīgo intelektu” saturošo likumprojektu skaits pieauga no tikai 1 2016. gadā līdz 18 2021. gadā. Spānija, Apvienotā Karaliste un Amerikas Savienotās Valstis 2021. gadā pieņēma vislielāko ar AI saistīto likumprojektu skaitu, un katrs no tiem pieņēma trīs.

Mēs varam ļoti apbrīnot un novērtēt smago darbu, kas saistīts ar šīs nacionālo valstu skrējēju statistikas apkopošanu AGI sacīkstēm.

Skeptiķi gan diezgan daudz strīdas par jebkāda veida metrikas izmantošanu AGI sacīkstēs.

Sarežģīts jautājums ir par to, vai jūs varat novilkt kādu taisnu līniju no AI rakstu vai AI konferenču skaita konkrētā valstī līdz AGI galīgajam sasniegumam. Tas pats attiecas uz AI darba vietu skaitu, AI uzņēmumu skaitu un citiem rādītājiem. Iespējams, ka šiem rādītājiem ir maz sakara ar AGI sasniegšanu. Arguments ir tāds, ka šie pasākumi ir vairāk siltuma nekā gaismas.

Pretarguments ir tāds, ka mums ir jāmēģina un jāmēra, kur mēs esam un kur mēs ejam. Iebāzt galvu smiltīs nešķiet piemērots veids, kā novērtēt, vai mēs virzāmies uz AGI vai varbūt tālāk no AGI. Tiek cerēts un parasti tiek pieņemts, ka jo vairāk enerģijas un uzmanības AI attīstībai, jo tuvāk mēs nonāksim AGI. Šie rādītāji ir vislabākie, ko varam darīt, lai noskaidrotu, cik daudz enerģijas un uzmanības tiek atvēlēts un patērēts AGI sacīkstēs.

Apkārt un apli, kas iet.

Katrs rādītājs pats par sevi var būt arī sita par galvu.

Piemēram, apsveriet tiesību aktu vai likumprojektu skaitu par AI.

Varat apgalvot, ka, ja likumdevēji koncentrējas uz likumiem, kas saistīti ar mākslīgo intelektu, tā ir laba zīme, ka tauta diezgan saprātīgi uztver AI nozīmi un AI virzienu uz sabiedrību vērstajām sekām. Var uzskatīt, ka tas parāda, ka šajā konkrētajā valstī notiek daudz AI virzības. Kāpēc jums būtu jāpūlas, lai ieviestu AI likumus, ja vien mākslīgais intelekts īpaši plaukst un neburbuļo kā jūsu valsts demonstratīvs elements?

Tādā veidā valstis, kas izsludina jaunus mākslīgā intelekta likumus, tiek interpretētas kā signāls vai signāls par AGI progresu šajā valstī.

Daži kritiķi apgalvo, ka ierosinātie jauni AI likumi apslāpēs AI centienus katrā šādā valstī. Likumdevēji un politiskie līderi grasās nošaut savas kājas. Likumi priekšlaicīgi liks drūmu ēnu pār AI centieniem šajā konkrētajā valstī. Mākslīgā intelekta uzlabošanas jaucējkrāns sastrēgs ar likumīgu matu aizsērēšanu, un AGI progresa temps palēnināsies, lai tajā AI likumu pasludinātu valstī. Tikmēr citas valstis, kas nepieņem šāda veida AI likumus, turpinās darboties. It kā jūs nolēmāt uzlikt svina svarus skrējējam, kurš jau atrodas 400 metru trasē. Ja jūs gribējāt viņiem palīdzēt un paātrināt, jūs esat izdarījis tieši pretējo.

Oho, AI likumu pieņemšana ir vairāk līdzīga tam, lai pārliecinātos, ka skrējēja priekšā nav nevajadzīgu šķēršļu. Likumi sniedz norādījumus tādā pašā veidā, ka sacīkšu trases līnijas ir paredzētas, lai skrējējs vienmērīgi virzītos pareizajā virzienā. Bez šīm krāsotajām līnijām skrējēji varētu aiziet uz prātu. Jaunie AI likumi ļaus viņiem virzīties unisonā uz vēlamo rezultātu. Valstīs, kas nerīkojas līdzīgi attiecībā uz jaunajiem mākslīgā intelekta likumiem, skrējēji dosies visos mežonīgos virzienos, tostarp, iespējams, pilnībā izskrien no trases un kaitēs tiem, kas ir nevainīgi ārpus pašas AGI sacīkstes.

Ir arī “slēpti” ar mākslīgo intelektu saistīti likumi, kurus daži skaita, bet tikmēr daži citi neieskaita kā daļu no šiem rādītājiem (kas rada sajukumu, mēģinot salīdzināt skaitu).

Piemēram, ja valsts pieņem likumu par autonomiem transportlīdzekļiem, piemēram, pašbraucošām automašīnām, vai jūs to uzskatāt par AI likumu? Lai precizētu autonomu transportlīdzekli, piemēram, pilnībā autonomu pašbraucošu automašīnu, būs AI braukšanas sistēma, kas ir bezvadītāja iespēju pamatā (skatiet manu pārklājumu vietnē saite šeit). Iesaistītā mākslīgā intelekta dēļ visus likumus par autonomiem transportlīdzekļiem var saprātīgi argumentēt kā AI likumus. No otras puses, jūs varētu pārliecinoši apgalvot, ka likums attiecas uz autonomu transportlīdzekli, nevis per se par AI, tāpēc tas netiek ņemts vērā AI specifisko likumu uzskaitē.

Tas ir nekārtīgs.

Visa šī satraukums par metriku var likt jums paraustīt plecus, ņemot vērā pretējos viedokļus par šiem svarīgajiem apsvērumiem. Kā varētu būt skaidrs, rādītāji gandrīz vienmēr ir pakļauti atšķirīgai interpretācijai par to, ko tie nozīmē un kā tiek atbilstoši analizēts nācijas statuss attiecībā uz AGI.

Ģeopolitiskā manevrēšana un saskaņošana AGI sacīkstēm

Kuras valstis ir priekšā AGI sacīkstēs?

Kuras tautas atpaliek?

Iepriekš minētie rādītāji mēģina parādīt, kur pašlaik atrodas katrs no skrējējiem. Pamatpieņēmums ir tāds, ka, ja metrika parāda atbilstošu norādi par AGI meklēšanu pozicionēšanai, šīs dažādās polu pozīcijas laika gaitā var palikt nemainīgas. Protams, realitāte ir tāda, ka valsts interese un uzmanība var palielināties vai samazināties, ejot bedrainajā ceļā uz AGI. Visprātīgāk jūs varētu sagaidīt izmaiņas pozicionēšanā.

Viens no svarīgiem apsvērumiem ir tas, ka valstis patiesībā nepiedalās šajā sacīkstē pašas.

Visticamāk, valstis savā starpā nodos stafeti uz priekšu un atpakaļ. Dažkārt AGI sacīkstēs viena vai vairākas valstis labprāt strādā roku rokā. Dažreiz tas tiek darīts piesardzīgi, nevis ar draudzīgu prieku. Citos gadījumos valstis varētu atturēties viena no otras. Jebkurā brīdī sacensību pozīcija var būt pavisam citāda, nekā tā bija dažus soļus atpakaļ, kā arī var būt pavisam citāda dažus soļus nākotnē.

Apsveriet šo HAI AI indeksa 2022. gada ziņojumā par sadarbību starp valstīm: “Neskatoties uz pieaugošo ģeopolitisko spriedzi, ASV un Ķīna AI publikācijās no 2010. gada līdz 2021. gadam bija vislielākais starpvalstu sadarbības skaits, kas kopš 2010. gada ir pieaudzis piecas reizes. Sadarbībā starp abām valstīm tika izdots 2.7 reizes vairāk publikāciju nekā starp Apvienoto Karalisti un Ķīnu — tas ir otrais augstākais rādītājs sarakstā.

Ciniķi teiktu, ka, iespējams, savstarpējās sadarbības izmantošana reizēm tiek izmantota kā viltība. Nācija varētu atklāti apgalvot, ka sadarbojas, šķiet, ka tā dara, bet dziļi dziļi tās labāko AGI progresu tur slēptā nacionālajā noslēpumā. Varbūt tas tiek darīts, lai mazinātu starpsadarbības nācijas progresu. Varbūt tas tiek darīts, lai netiktu netīšām izdalīta slepenā mērce. Iespējami visdažādākie iemesli.

Mūsdienu modernajā digitālā interneta tiešsaistes pasaulē mēģinājums slēpt AGI ieskatus var būt grūts darbs. Intensīvā vēlme atklāt vai izgudrot AGI ir pārliecinošs vilinājums, kas var mudināt atsevišķus AGI izstrādātājus un pētniekus atklāti dalīties savos jaunākajos darbos. Valstis var atklāt, ka mēģinājums ierobežot šādu koplietošanu ir daudz grūtāk, nekā varētu šķist, un, iespējams, daudz grūtāk nekā tajos laikos, kad viss bija uz papīra un bija nepieciešama dokumentu fiziska pārvietošana visā pasaulē.

Virzība uz atvērto avotu noteikti ir bijusi mūsdienu uzsvars lielākajai daļai jaunāko AI un AGI pētījumu, kā minēts HAI AI indeksa 2022. gada ziņojumā: “Katru gadu tūkstošiem un tūkstošiem AI publikāciju tiek izlaistas atklātā pirmkoda veidā neatkarīgi no tā, vai konferencēs vai failu apmaiņas vietnēs. Pētnieki atklāti dalīsies ar saviem atklājumiem konferencēs; valdības aģentūras finansēs AI izpēti, kas nonāk atvērtā koda versijā; un izstrādātāji izmanto atvērtās programmatūras bibliotēkas, kas ir brīvi pieejamas sabiedrībai, lai ražotu vismodernākās AI lietojumprogrammas. Šī atvērtība arī veicina mūsdienu AI pētniecības un izstrādes globāli savstarpēji atkarīgo un savstarpēji saistīto raksturu.

Kopumā valstis parasti dalās, taču tās var izrādīt tikai daļu no savas puses. Citas valstis var nedalīties vai tikai izlikties, ka to dara. Dažas valstis ļoti cīnās, cenšoties izmērīt to, ko tie, kas atrodas viņu valstī, atdod un pieķeras. Un tā tālāk.

Šo nacionālo kustību raksturu esmu raksturojis šādi:

• AI Go-it-alone Nation (mēģina rīkoties pats)
• AI Vienvirziena valsts (ņem iekšā, neizdos)
• AI Leftover Nation (saņem no citiem to, ko var)
• AI Open-sharing Nation (lepojas ar dalīšanos)
• AI Dobu koplietošanas valsts (patiesība dalīšanā)
• AI alianses valsts (cenšoties izveidot tik daudz alianses, cik vien iespējams)
• AI nav spēlē Nation (AGI meklēšana nav valsts prioritāte)
• AI Cheating Nation (reversā inženierija vai slepena zagšana no citām valstīm)
• cits

Tauta vienlaikus var būt vairāk nekā vienā no šiem spaiņiem.

Tauta kādu laiku var būt vienā no šiem spaiņiem, izkļūt no spaiņa un, iespējams, vēlāk atgriezties.

Nacionālās valsts vēlmes un uzmanība, kas saistīta ar AGI meklēšanu, ir dinamisks bēgums un bēgums, kas noteikti turpināsies un būs kustīgs mērķis attiecībā uz to, kura nācija ir sacīkstēs, un būs nepieciešama pastāvīga acs, lai noskaidrotu. kur visi spēlētāji atrodas noteiktā laika brīdī.

Starptautiskie AI likumi un AI ētika kā tiesneši AGI sacīkstēs

Iepriekšējās slejās esmu apskatījis dažādus valsts un starptautiskos centienus izstrādāt un ieviest likumus, kas regulē AI, sk. saite šeit un saite šeit, piemēram. Esmu apskatījis arī dažādus mākslīgā intelekta ētikas principus un vadlīnijas, ko ir noteikušas un pieņēmušas dažādas valstis, tostarp, piemēram, Apvienoto Nāciju Organizācijas centienus, piemēram, UNESCO AI ētikas kopumu, ko pieņēma gandrīz 200 valstis, sk. saite šeit.

Šeit ir noderīgs ētisko AI kritēriju vai raksturlielumu saraksts attiecībā uz AI sistēmām, kuras esmu iepriekš rūpīgi izpētījis.

• Caurspīdīgums
• Taisnīgums un godīgums
• Ne-ļaunprātība
• atbildība
• Privātums
• Labums
• Brīvība un autonomija
• Uzticēties
• Ilgtspējība
• cieņa
• Solidaritāte

Šie AI ētikas principi ir nopietni jāizmanto AI izstrādātājiem, kā arī tie, kas pārvalda AI izstrādes centienus, un pat tie, kas galu galā veic AI sistēmu apkopi un uzturēšanu.

Visas ieinteresētās puses visā AI izstrādes un lietošanas dzīves ciklā tiek uzskatītas par ētiskā AI noteikto normu ievērošanu. Tas ir svarīgs akcents, jo parasti tiek pieņemts, ka “tikai kodētāji” vai tie, kas programmē AI, ir pakļauti AI ētikas jēdzieniem. Kā jau iepriekš tika uzsvērts, ir nepieciešams ciemats, lai izstrādātu un ieviestu mākslīgo intelektu, un tam visam ciematam ir jābūt pieredzējušam un jāievēro AI ētikas priekšraksti.

Apsvērsim starptautisko mākslīgā intelekta likumu un AI ētikas priekšrakstu starptautisko pasludinājumu ietekmi uz AGI sacīkstēm.

Valstis, kas tiecas uz AGI, var to darīt ar pamešanu un nonākt pie dažiem bieži popularizētajiem AGI eksistenciālajiem riskiem. Cerams, ka, ieviešot starptautiskos AI likumus un starptautiskos AI ētikas priekšrakstus, valstis tiks virzītas uz AI uz labu un izvairieties no AI For Bad.

Saskaņā ar mūsu hipodroma analoģiju šie AI likumi un AI ētikas apsvērumi ir kā mēģinājums atturēt skrējējus ārpus trases. AGI sacīkstēs ir milzīgi kārdinājumi izmantot īsceļus. Šie īsceļi varētu novest nāciju šķietami ātrāk līdz finiša līnijai, vienlaikus pakļaujot šo nāciju un citas valstis nepamatotam riskam. Smalks, bet pārliecinošs piemērs ir divējāda lietojuma AI, ko esmu izskatījis saite šeit, kur mākslīgā intelekta attīstība ar milzīgām pūlēm tiek viegli pārslēgta no labestības uz labestību uz kataklizmiskas ļaunuma radīšanu.

Jūs varētu apgalvot, ka starptautiskie AI likumi un starptautiskā MI ētika ir kā tiesneši vai tiesneši.

Tiek pieņemts, ka šie starptautiski izstrādātie juridiskie un ētiskie mehānismi noturēs AGI sacensības vienmērīgākā līmenī. Lieta ir tāda, ka tas, vai konkrētas valstis izvēlas ņemt vērā tiesnešus vai tiesnešus, ir cits jautājums. Tāpat ir satraucošs jautājums par to, kā šīs iestādes var nodrošināt sodus vai stimulus, lai noturētu skrējējus uz pareizā ceļa. Izredzes ir tādas, ka valstis darīs, kā tās vēlēsies, un tādēļ citām valstīm, iespējams, vajadzēs mainīt savu svaru, lai stiprinātu atbalstu neparedzētai noteikumu pārkāpšanai, kas dažām valstīm ir jāuzņemas.

Secinājumi

Leģendārais ķīmiķis un mikrobiologs Luiss Pastērs ir teicis šādi: “Zinātne nepazīst valsti, jo zināšanas pieder cilvēcei un ir lāpa, kas apgaismo pasauli. Zinātne ir nācijas augstākā personifikācija, jo tā paliks pirmā, kas nes tālāk domas un saprāta darbus.

Vai mēs varam teikt, ka AGI sasniegšana nepazīst nevienu valsti un ka AGI piederēs visai cilvēcei?

Vai arī tauta, kas pirmā nonāks AGI, to pārņems, apreibināsies no nežēlīgas varas un kļūst varas traka?

Tiem no jums, kam patīk mazliet pagriezt šo konkrēto mīklu, apsveriet, ka AGI pats par sevi varētu būt tas sasniegums, kas ir sakāmvārda čūska zālē. Čūskas atklājējs varētu būt pirmais, kurš dabū čūskas kodumu. Būt pirmajam ir savi riski.

AGI finiša līnijas šķērsošana ne vienmēr būs tik svinīga un bezrūpīga, kā daži varētu domāt. Arī AGI izmantošana noteikti nebūs vienkārša. Daži varētu iebilst, ka tikt galā ar AGI varētu būt gandrīz neiespējami, jo šķietami, ka AGI būs salīdzināma cilvēcei piemītošā viltība un atjautība. Tautām ir jāapzinās, ko tās cenšas sasniegt un kāds būs rezultāts, darot to iepriekš un nepārsteidzot. Viņiem varētu būt sirsenu ligzda viņu nacionālo dārgumu lādē.

Kā Pasters piedāvāja: "Fortūna dod priekšroku sagatavotam prātam."