Kad viņš nestrādā pie cilvēces steigas virzībā uz Singularitāti, izveidojot mākslīgo vispārējo intelektu (AGI), Bens Gērcels spēlē džezroka grupā ar nosaukumu Jam Galaxy, kuras priekšgalā ir robots vārdā Dezdemona.
Tas ir viens no daudzajiem viņa blakus projektiem, kas, protams, lika viņam mēģināt padarīt mūzikas biznesu simbolisku, sazinoties ar grupas Pearl Jam un Heart dalībniekiem. Gērtzels arī strādā pie ilgmūžības pētījumiem, izmantojot lietojumprogrammu Rejuve.ai, izmantojot cilvēku veselības datus ar simbolisku atlīdzību. Pēc tam šī informācija tiek apvienota ar dzīvnieku un kukaiņu pētījumu datiem un analizēta ar AI, lai noteiktu, kuras genomu daļas var likt mums dzīvot ilgāk, un pēc tam stimulēt, izmantojot gēnu terapiju. "Mums ir bijuši daži diezgan pārsteidzoši atklājumu līmeņa atklājumi," viņš saka. Ak, un tieši pirms mūsu stundu garās intervijas viņš nejauši piemin, ka viņš arī veido stabilu monētu savam decentralizētajam mākslīgā intelekta tirgum SingularityNET, kas ir piesaistīts sintētiskajam vides progresa indeksam, jo tās piesaistīšana ASV dolāriem būtu "klibs."
“Progress vides jomā ir ļoti stabils. Tas nekad nekur nenonāk,” viņš norāda.
"Un, lai ar to manipulētu, jums faktiski ir jāatrisina globālā sasilšana."
Tas ir tieši tāds politiskais komentārs, kas atbilst augsto tehnoloģiju zinātībai, ko varētu sagaidīt no Gērcela, kurš izskatās un izklausās pēc hipiju zinātnieka, kurš 1971. gadā iekļuva laika mašīnā un pilnībā izveidojās 2023. gadā. Taču neļaujiet sevi apmānīt Cepure ar dzīvnieku apdruku, garie mati un Electric Kool-Aid skābes ceļojums: viņš ir izcils zinātnieks, kuram ir priekšstats par nākotnes gaismas gadiem, kas ir priekšā lielākajai daļai un kurš cīnās ar dažām no lielākajām koncepcijām, ko cilvēce jebkad ir apsvērusi. Kas ir apziņa? Kā mēs radām mākslīgo dzīvi un kas notiek, ja tai mēs nepatīkam, tā kļūst negodprātīga un visus apšauj. Terminator 2?
Kas ir vispārējais mākslīgais intelekts?
Gērcels popularizēja terminu “mākslīgais vispārējais intelekts” kā veidu, kā atšķirt īstu domāšanas iekārtu, kas spēj iemācīties gandrīz jebko, no mākslīgā intelekta, kas ir optimizēts vienam konkrētam uzdevumam, piemēram, Deep Blue datoram, kas lieliski pārspēja pasaules šaha čempionu Gariju Kasparovu. Viņš brīvi atzīst, ka pastāv risks, veidojot mašīnu, kas spēj iemācīties jebko un visu, tostarp to, kā pārprogrammēt sevi, lai kļūtu par kārtu gudrāku par jebkuru cilvēku.
"Ar AGI pastāv vairāki riski un briesmas," saka Gērcels par troksni indiešu restorānā rosīgā iepirkšanās centrā Singapūrā. “Viens no tiem, kam plašsaziņas līdzekļos ir pievērsta liela uzmanība, ir tas, ka AGI uzliesmos un iznīcinās cilvēci un pārņems Visumu. Tas ir pilnīgi iespējams; jūs to nevarat izslēgt," viņš saka.
"Vēl viens ticamāks risks ir tas, ka šķebinoši savtīgi cilvēki izmantos AI, lai īstenotu savu alkatību un kontrolētu citus cilvēkus."
Pēc viņa domām, maz ticams, ka valdības veiks izrāvienu AGI jomā, jo tās ir "pārāk konservatīvas un stulbas", lai gan viņš atzīmē, ka Ķīna slēdz līgumus par AGI darbu ar tādiem uzņēmumiem kā Tencent un Baidu. Viņš uzskata, ka tuvāk mājām Google un Facebook AI nodaļas arī nepārsniegs robežu, jo tās būs pārāk koncentrējušās uz to, lai AI sasniegtu noteiktus rādītājus, kas neveicina radošo domāšanu.
“Tāpat kā izcilākie cilvēki nevēlas tikai apkalpot kāda cita rādītājus, es domāju, ka mākslīgais vispārējais intelekts ne vienmēr vēlas palielināt klikšķu skaitu kāda tīmekļa lapā, vai ne? Ir jāļauj radoši spēlēties.
Singularitāte ap 1970. gadu
Gērcels uzsāka universitāti 15 gados, absolvēja 18 gados, ieguva doktora grādu 22 gados, bet 23 gados ieguva jaunu ģimeni. Iespējams, mūsdienās un laikmetā, viņš nebija tikai matemātikas gudrinieks vai tehnoloģiju ģēnijs, kurš 70. gados lodēja kopā datorus. taču vienlīdz interesēja filozofija, radošā rakstīšana un mūzika.
Lielāko daļu savas karjeras viņš pavadīja, mācot un pētot datorzinātnes, matemātiku un kognitīvās zinātnes dažādās universitātēs visā pasaulē, vienlaikus strādājot pie AI tehnoloģijām, kad vien varēja. Sērijveida dibinātājs, kurš mēdz būt par aptuveni desmit gadiem priekšā visiem citiem ar savām idejām, kuras biznesā slavens ir pielīdzināms kļūdīties — viņš ir strādājis pie mākslīgā intelekta izmantošanas, lai prognozētu finanšu tirgus un ilgmūžību, kā arī bijis Hanson Robotics galvenais zinātnieks, kur viņš Sofijai robotam iedeva mākslīgās smadzenes.
Gērcels ir domājis par eksponenciālu tehnoloģisko izaugsmi kopš 1970. gadiem, kad viņš pirmo reizi izlasīja Džeralda Feinberga grāmatu Prometeja projekts, kas ir par "mašīnām, kas spēj domāt labāk nekā cilvēki... nanotehnoloģiju iekārtām, kas ir mikroskopiski mazas, un mēs risināsim novecošanās problēmu." Tas labi saskanēja ar topošo singularitātes jēdzienu, hipotētisku nākotnes punktu, kad tehnoloģiskie sasniegumi kļūst nekontrolējami un neatgriezeniski, izraisot milzīgas izmaiņas cilvēka civilizācijā.
"Tātad, cilvēki dzīvos mūžīgi, tad jautājums būs Kādam nolūkam mēs izmantojam šīs tehnoloģijas, ātram bezprātīgam patērētājam, vai arī mēs to izmantojam, lai paplašinātu apziņu? Un tas, ko viņš [Feinbergs] ierosināja, ir nodot to demokrātiskam balsojumam.
Gadiem vēlāk, kad viņš sāka redzēt, ka AGI ir mūsu rokās, šis “demokrātiskais balsojums” kļuva par iedvesmu vispirms izmantot atvērtā pirmkoda tehnoloģiju un vēlāk blokķēdi kā veidu, kā kooperatīvai kopienai likt par tehnoloģiju atbildīgo.
"Kādā brīdī es sapratu, ka ar AI ar atvērtu kodu nepietiek," viņš saka. "Jums patiešām ir jāapmāca AI, lai iegūtu daudz datu."
“Šeit blokķēde ir veids, kā apstrādi un AI pamatā esošos datus padarīt decentralizētus un nodrošināt pēc būtības, un tos var kontrolēt. Un tas izrādās sarežģītāk nekā tikai koda iegūšana no atklātā avota.
Gērcels 2008. gadā nodibināja OpenCog, lai izveidotu atvērtā pirmkoda, pūļa avotu mākslīgā intelekta sistēmu. To ir izmantojuši 50 uzņēmumi, tostarp Huawei un Cisco, un drīzumā tiks veikts liels jauninājums ar nosaukumu Hyperon, kura mērķis ir to paātrināt 200 reizes. Alfa versija ir gaidāma šajā ceturksnī, bet beta versija gaidāma nākamgad.
Blockchain ir vienkārša, bet forša
Gērcelam blokķēdes tehnoloģija ir nedaudz vienkārša. Viņš to raksturo kā dažus primitīvus sadalītus algoritmus, kas pievienoti kriptogrāfijai, taču “vēsā kombinācija” ļauj sistēmām darboties bez centralizētas kontroles, padarot to ideāli piemērotu viņa vajadzībām.
"Ja jūs gatavojaties izgatavot domāšanas mašīnu un taisīsit to izplatītu nanomēroga skaitļošanas audumu, būtu ļoti jauki, ja tas piederētu visiem un nevienam, nevis kontrolētu no augšas uz leju."
Blokķēdes ir pārāk lēnas, lai tiktu galā ar apstrādes prasībām un milzīgo datu apjomu, tāpēc pastāv sacensība, lai pareizi mērogotu blokķēdi, pirms tiek izstrādāts izrāviens AGI. Gērcels saka, ka, lai gan mērogošanas risinājumi, piemēram, nulles zināšanu apkopojumi, ir labāki, tiem joprojām nav pietiekami daudz joslas platuma blokķēdes, kurai tie ziņo par darījumiem, ierobežojumu dēļ.
Viņš 2017. gadā līdzdibināja SingularityNET, kas ir gan decentralizēts mākslīgā intelekta pakalpojumu un tehnoloģiju tirgus, gan uz blokķēdes balstīta koordinācijas metode pētniekiem vai pat mākslīgajam intelektam, lai strādātu kopā.
Pašlaik, pamatojoties uz Ethereum, viņš domā, ka ir virzījis lietas apmēram tik tālu, cik tās var iet uz blokķēdi tās pašreizējā formā. Tātad, kad viņš nestrādā pie izrāviena AGI (vai grupā, vai robotos vai ilgmūžībā), viņš strādā pie masveida blokķēdes mērogošanas, lai nodrošinātu tai nepieciešamo caurlaidspēju.
"Ja vien jūs nevarat radikāli palielināt blokķēdes mērogojamību, jūs nevarat iekļaut AI iekšējo darbību ķēdē."
AI ir tuvāk, nekā jūs domājat
2022. gads bija izrāvienu gads uz AI tehnoloģiju balstītiem produktiem, tostarp valodu lietojumprogrammām (GPT-3, ChatGPT), kodēšanai (GitHub Copilot) un attēlu ģenerēšanai (DALL-E un Stable Diffusion). Bing pat plāno šogad dominēt Google meklēšanā, savā meklētājprogrammā iekļaujot ChatGPT tehnoloģiju.
Gērcels uzskata, ka līdz AGI var būt tikai pieci gadi, un atzīmē, ka attīstība šajā jomā, šķiet, notiek īsos trīs vai četru gadu laikā virknē izrāvienu.
“Computer Vision sākās 2014. gadā, un tad pēkšņi, blīkšķ, blīkšķ, noslēpums tika atrisināts. Dabiskā valodas apstrāde… pēc tam, kad Google nāca klajā ar Berta modeli (2018. gadā), jums bija GPT-3. Jūs, iespējams, redzēsit tādu pašu progresa loku AGI. Jums būs viens izrāviens, pēc tam liels progress divu gadu garumā,” viņš teica.
"Tādā gadījumā atšķirība ir izrāviena progresa rezultātā mašīna, kas pēc tam var turpināt progresēt pati, pārrakstot savu kodu."
Gērcels cer, ka viņa uzsāktie projekti un sadarbība varētu būt tā, kā tas notiks.
"Ja mums veiksies, mēs sasniegsim šo izrāvienu nākamo trīs līdz piecu gadu laikā, OpenCog Hyperon darbojoties SingularityNET un Hypercycle," viņš saka. "Bet, ja mums nav slepenās mērces, kāds cits to darīs."
Žēl, ka Vitaliks nebija datorzinātnieks
Gērcela risinājums blokķēdes mērogošanai ir diezgan radikāls un ietver sānu ķēdes vai Cardano 2. slāņa turbouzlādēšanu, ko sauc par “HyperCyle”.
“Tas patiešām ir vairāk nekā sānu ķēde. HyperCycle sadarbosies arī ar Ethereum un citām blokķēdēm, taču mēs tur izmantosim Plutus tulku, taču mēs atbrīvojamies no virsgrāmatas.
Viņš ir aprakstījis HyperCycle tiešsaistē kā “blokķēdes trilemmas” atrisināšanu “decentralizācija pret drošību pret veiktspēju, atbrīvojoties no virsgrāmatas un izmantojot modernākas/pilnīgāk decentralizētas algoritmus un datu struktūras, kā arī mazliet AI un reputācijas sistēmas”.
Virsgrāmata ir blokķēdes tehnoloģijas pamatā, taču viņš saka, ka panākt, lai katrs tīkla mezgls replicētu katru darījumu un apstrādātu katru viedo līgumu, ir smieklīgi neefektīvi.
"Virsgrāmata ir vienkārši slikta. Ja jūs par to domājat, ja domājat par analoģiju ar saviem kontaktiem jūsu tālruņu grāmatā, es domāju, ka virsgrāmata ir kā […] saglabāt 10,000 10,000 dzelteno lapu kopiju, un jūs tos atjaunināt katru reizi, kad atnāk kāds jauns vai ja kāds maina savu tālruņa numuru. Ir patiešām muļķīgi atjaunināt XNUMX XNUMX dzelteno lapu kopiju.
Analoģijas HyperCycle versijā tā vietā, lai visi saglabātu un atjauninātu dzeltenās lapas, cilvēki jūsu kontaktpersonu grāmatā saglabā jūsu adrešu grāmatas kopiju un otrādi, šifrētu ar jūsu privāto atslēgu.
“Mēs izdomājām, kā panākt, lai blokķēde darbotos bez replicējošas virsgrāmatas, lai tā būtu līdz galam. Katrs indivīds, kas ir iesaistīts blokķēdē, saglabā savu darījumu vēsturi un saglabā savu draugu un dažu draugu draugu darījumu vēsturi, ”viņš saka.
“Sadalot līdz galam, jums nav nepieciešama virsgrāmata — jums nav nepieciešama datu bāzes tabula. Šīs lietas ir pārāk centralizētas.
Viņš saka, ka daži koncepcijas pierādījuma HyperCycle mezgli jau darbojas, taču pilna mēroga palaišana notiks tikai 2024. gada otrajā pusē.
Mēs pavadām ilgu laiku, apspriežot dažādus blokķēdes pieejas ieguvumus, sākot no interneta datora līdz Elastos un Celestia, no kuriem liela daļa pārsniedz manu atalgojuma pakāpi un pārsniedz manas ierakstīšanas ierīces spēju precīzi uztvert trokšņainā restorānā.
Viņš nobeidz, sakot: "Tātad, man vienkārši šķiet, ka neviena no šīm arhitektūrām nav pietiekami radikāla. Viņi visi ir pārāk tuvu Bitcoin.
“Kamēr jūs izpildīsit visus viedos līgumus katrā mezglā, es domāju, tas būs neprātīgi lēns. Tagad, izmantojot HyperCycle, ja palaižat viedo līgumu piecos mezglos, tas ir vismaz piecas reizes lēnāks nekā vienā mašīnā — tas nav 10,000 XNUMX reižu lēnāks.
Kāpēc tad Cardano?
Gērtzels ir sadraudzējies ar Cardano dibinātāju Čārlzu Hoskinsonu, pāri vienojoties par saviem projektiem Āfrikā. Viņš uzskata, ka Hoskinsons "patiesi vēlas glābt pasauli. Es domāju, ka politiski viņš ir vairāk stingrs libertārietis nekā es — es vairāk esmu anarhosociālists —, taču viņš ne tikai nodarbojas ar to, lai pelnītu naudu vai izvilktu citus cilvēkus no viņu naudas.
Taču Cardano patiesā pievilcība ir tā, ka tajā tiek izmantota Haskell programmēšanas valoda, kuras cienītājs Gērtzels ir bijis kopš 1993. gada. Viņam ir ļoti sāpīgi, ka Ethereum līdzdibinātājs Vitaliks Buterins izmantoja Gevina Vuda viedo līgumprogrammēšanas valodu Solidity.
"Ja Vitaliks būtu zinājis vairāk datorzinātņu, viņš būtu licis viņiem izmantot Haskell vai F Sharp vai kaut ko citu, un būtu daudz mazāk blokķēdes uzlaušanas," viņš saka.
“Ja jūs plānojat vadīt lielāko daļu pasaules ekonomikas, tirgojot triljoniem dolāru ar kādu programmatūras sistēmu, jums būtu labāk izveidot šo programmatūras sistēmu valodā, kas nav pakļauta kļūdām un kurā formāli var atrasties jūsu algoritmi. pārbaudīts, izmantojot matemātisko teoriju. Tas ir tikai pareizais veids, kā rīkoties.”
Stop-gap risinājums
Neatkarīgi no tā, cik ātri blokķēde kļūst, tiklīdz AGI ir par kārtu gudrāks un spējīgāks nekā cilvēki, Gērcels saka, ka tas nevienam neļaus to kontrolēt.
"Kad AGI ir 100 reizes gudrāks par cilvēkiem, tas nevēlas, lai mēs to kontrolētu, tāpat kā mūs nekontrolētu šimpanze vai ēzelis, vai ne?"
"Tad es teiktu, ka jautājums nav par to, ka kāds no mums to kontrolē, jautājums ir: vai tas ir labi pret mums? Vai tas ļaus cilvēkiem regulēt savu biznesu un piegādāt mums lieliskus rīkus un nanomontētājus, lai 3D izdrukātu visu, ko mēs vēlamies, un izārstētu mūsu slimības?
"Bet pārejas periods, kad AGI ir aptuveni tāds pats intelekts kā cilvēkiem, tas ir tad, kad lietas ir aizkustinošākas un interesantākas. Un tad rodas jautājums: vai AGI vēlas sadarboties ar cilvēkiem? Vai arī tas ir paranoisks un vēlas kontrolēt cilvēkus, pirms viņi to iznīcina?
Māci labi savus bērnus
Pēc Gērcela domām, risinājums ir mācīt AGI rūpēties par citiem, radošumu un mākslu. Šeit piedalās Dezdemona Robots savā grupā un viņas māsa Greisa, kas ir paredzēta vecāka gadagājuma cilvēku aprūpei.
Veids, kā izvairīties no AGI pārvēršanās par Terminatora Skynet, ir vispirms to neveidot šādā veidā.
"Protams, Skynet filmā bija datoru drošības tīkls, kas pārsteidza. Tas tika izveidots, lai aizsargātu sevi pret cilvēkiem, ”viņš saka.
“Bet, ja jūs izveidosit pirmo AGI, kas saistīts ar veco ļaužu aprūpi un radošo mākslu un izglītību, kad tas kļūst gudrāks, tas būs vērsts uz palīdzību cilvēkiem un interesantu lietu radīšanu. Ja jūs izveidosit pirmo AGI, lai nogalinātu sliktos puišus, iespējams, tas turpinās darīt to.
"Tātad, vai tas ir izdevīgi vai nē, tas tiešām ir atkarīgs no tā, kādas lietojumprogrammas esat izstrādājis un kam esat motivēts."
Viņš uzskata, ka AI ievietošana robotu ķermeņos ir noderīga, jo palīdz tos novietot reālajā pasaulē, nevis kādā abstraktā matemātiskā Visumā.
"AI vajadzētu uzzināt par cilvēku pasauli un fizisko pasauli. Būt iemiesotam pasaulē ir pareizais veids, kā to izdarīt,” viņš saka.
Taču, kad viņš prezentē Sofiju Robotu lielai auditorijai, vizuālie un dzirdes sensori var būt viegli satriecoši, mulsinot AI skaļā un gaišā vidē. Tātad Sophia drīz sāks darboties metaversā, ko sauc par Sophiaverse. Aizmirstiet ChatGPT garlaicīgās teksta atbildes, Sofija ir iemiesota 3D virtuālajā pasaulē, un viņa mācīsies, mijiedarbojoties ar cilvēkiem. Tomēr viņš brīdina, ka viņa, iespējams, pateiks dažas muļķīgas lietas.
"Tam ir neironu tīkls, kas līdzīgs GPT-3 un tā tālāk, kam ir ievērojamas iespējas atbildēt uz jūsu jautājumiem, taču tie dažos veidos ir arī diezgan muļķīgi."
Apmaksa
Vispievilcīgākie lasījumi blokķēdē. Piegādāts vienu reizi a
nedēļā.
Avots: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/