Pārdomāts ģeneratīvais AI tērzēšana GPT, lai novērstu šīs satraucošās AI halucinācijas, konsultē AI ētiku un AI likumu

Vai jūs domājat to, ko viņi domā?

Ja tā, tad savā ziņā jūs esat sapinies fenomenā, kas pazīstams kā prāta teorija. Parastā definīcija prāta teorija ir tas, ka mēs bieži cenšamies noskaidrot, ko domā kāds cits. Jūs gandrīz noteikti to darāt diezgan bieži.

Iedomājieties, ka jums ir saruna ar savu priekšnieku. Klausoties vārdus, kas tiek izrunāti, jūs, iespējams, arī cenšaties izdomāt iekšējās domas, kas slēpjas aiz šiem vārdiem. Vai mans priekšnieks ir dusmīgs uz mani vai sarūgtināts par kaut ko citu, kas ar mani nav saistīts? Varbūt viņi šorīt iekļuvuši nepilngadīgā automašīnas spārnā-locītājā. Varbūt viņiem ir kādas nepatikšanas mājās. Vai arī šī nepatīkamā tirāde, ar kuru jūs ciešat, patiešām ir saistīta ar jūsu jaunāko ar darbu saistīto viltojumu?

Mēs parasti paplašinām šo domu lasīšanas minējumu uz lietām, kas nav cilvēki.

Tu esi mežā. Priekšā izcirtumā pēkšņi parādās lācis. Pastāv iespēja, ka jūs nekavējoties mēģināsit iebāzt savas sakāmvārda pēdas iespaidīgā dzīvnieka kurpēs vai, iespējams, lāča ķepās. Ko tas lācis domā? Vai tā mani uzskata par draugu vai ienaidnieku? Vai man mēģināt būt pretimnākošam vai jāsāk skriet tā, it kā mana dzīve būtu atkarīga no izkļūšanas (uz ko, iespējams, jūsu turpmākā eksistence tā reaģē)?

Es uzdrošinos teikt, ka jūs varat izmēģināt tādu pašu minējumu veidu uz tostera. Jūs ievietojat maizes šķēli tosterī un nospiežat sviru, lai sāktu grauzdēšanas procesu. Pēc kādas minūtes šķiet, ka grauzdiņš joprojām nav apgrauzdēts. Ko tas tosteris domā? Vai tā ir nolēmusi vairs nepildīt savu svinīgo pienākumu? Vai tosteris varēja zaudēt prātu?

Protams, mēģināt piedēvēt domāšanas procesus tosterim ir mazliet absurdi. Mēs zinām, ka tosteris nedomā. Cilvēki domā. Varam arī piekrist tam, ka dzīvnieki domā. Lūdzu, ņemiet vērā, ka daži cilvēki dedzīgi iebilst, ka tikai cilvēki spēj domāt, kas visus pārējos dzīvniekus nostāda nelaimē. Kad dzīvnieki veic ar smadzenēm saistītus aprēķinus, kā to nosaukt par mahināciju? Sauc to, kā gribi, saka skeptiķi, bet nesauc to par domāšanu. Rezervējiet domāšanu tikai cilvēkiem.

Viena no svarīgākajām mācībām ir tāda, ka mums ir jābūt piesardzīgiem, antropomorfizējot dažādus apkārtējos artefaktus.

Domāšanas procesu asociēšana ar kaut ko tādu, kam nav šīs spējas, ir saistīta ar briesmām. Jūsu tosteris nav domātājs. Mēģināt saprast, ko dara tosteris, ir saprātīgi, lai gan domāšanas procesu piešķiršana iesaistītajiem mehānismiem ir muļķīga. Labākais, ko varat darīt, ir mēģināt pārdomāt tostera izstrādātāju. Ko domāja tostera projektētājs un būvētājs, izgatavojot šo apburošo konstrukciju? Turklāt, ja jūs zināt kaut ko par elektroniku un mehāniku, jūs, bez šaubām, varat izmantot fizikas principus, kas ir ierīces darbības pamatā.

Tagad, kad esmu saņēmis visu iepriekš minēto, mēs esam gatavi runāt par mākslīgo intelektu (AI).

Nesenais brālis par AI veidu, kas pazīstams kā Ģeneratīvais AI ir dramatiski palielinājusi atpazīstamību un satraukumu par ilggadējo prāta teorija mīkla. Kad cilvēki izmanto ģeneratīvu AI programmu, viņi gandrīz neizbēgami tiek pievilināti un iemidzināti pieņemt, ka AI spēj domāt. Protams, viņi varētu saprast, ka AI nav cilvēks vai dzīvnieks. Tomēr pastāv tendence AI piedēvēt domāšanas īpašības.

Es pievērsīšos šīm problēmām šodienas diskusijā. Turklāt es paskaidrošu, kā jūs varat izmantot prāta konstrukciju teoriju, lai mēģinātu vislabāk izmantot ģeneratīvo AI. Lai šo lietu padarītu pilnīgi skaidru, es nesaku un neapgalvoju, ka ģeneratīvais AI spēj domāt. Man riebjas tie, kas izvirza tik nepatiesus apgalvojumus. Viss, ko es norādu, ir tas, ka, ja varat iejusties AI izstrādātāju vietā, kā arī, ja esat informēts par dažām galvenajām ar AI saistītām programmēšanas un mašīnmācīšanās metodēm, jūs, iespējams, varat saprast, ko dara ģeneratīvais AI, kas līdzinās tas spītīgais tosteris, ko es iepriekš minēju.

Tikmēr jūs varētu domāt, kas patiesībā ir ģeneratīvais AI.

Vispirms apskatīsim ģeneratīvā AI pamatus un pēc tam varēsim rūpīgi aplūkot prāta konstrukciju teorijas piesaisti.

Tajā visā ir iekļauti daudzi AI ētikas un AI tiesību apsvērumi.

Lūdzu, ņemiet vērā, ka tiek veikti centieni, lai mākslīgā intelekta lietotņu izstrādē un darbībā ieviestu ētiskos AI principus. Arvien lielāks kontingents norūpējušos un kādreizējo AI ētikas speciālistu cenšas nodrošināt, lai centienos izstrādāt un pieņemt AI tiktu ņemts vērā AI uz labu un novēršot AI For Bad. Tāpat ir ierosināti jauni mākslīgā intelekta likumi, kas tiek izmantoti kā iespējamie risinājumi, lai neļautu AI centieniem aizskart cilvēktiesības un tamlīdzīgi. Manu pastāvīgo un plašo AI ētikas un AI likumu izklāstu skatiet saite šeit un saite šeit, tikai nosaukt dažus.

Tiek izstrādāti un izplatīti ētiskie AI priekšraksti, lai, cerams, nepieļautu, ka sabiedrība nonāk neskaitāmos AI izraisošos slazdos. Lai iegūtu informāciju par ANO mākslīgā intelekta ētikas principiem, ko ar UNESCO palīdzību ir izstrādājušas un atbalstījušas gandrīz 200 valstis, sk. saite šeit. Līdzīgā veidā tiek pētīti jauni mākslīgā intelekta likumi, lai mēģinātu noturēt AI vienmērīgā līmenī. Viens no jaunākajiem uzņemumiem sastāv no piedāvāto kopu AI tiesību akts ko ASV Baltais nams nesen izlaida, lai noteiktu cilvēktiesības AI laikmetā, sk saite šeit. Ir nepieciešams ciemats, lai noturētu AI un AI izstrādātājus uz pareizā ceļa un atturētu no mērķtiecīgiem vai nejaušiem nepamatotiem centieniem, kas varētu apdraudēt sabiedrību.

Šajā diskusijā es iekļaušu ar AI ētiku un AI likumu saistītus apsvērumus.

Ģeneratīvā AI pamati

Visplašāk zināmais ģeneratīvā AI gadījums ir AI lietotne ar nosaukumu ChatGPT. ChatGPT ienāca sabiedrības apziņā novembrī, kad to izlaida mākslīgā intelekta pētījumu firma OpenAI. Kopš tā laika ChatGPT ir ieguvis lielus virsrakstus un pārsteidzoši pārsniedzis tai atvēlētās piecpadsmit slavas minūtes.

Es domāju, ka jūs, iespējams, esat dzirdējuši par ChatGPT vai varbūt pat zināt kādu, kas to ir izmantojis.

ChatGPT tiek uzskatīta par ģeneratīvu AI lietojumprogrammu, jo tajā tiek ievadīts kāds teksts no lietotāja un pēc tam ģenerē vai sagatavo izlaidumu, kas sastāv no esejas. AI ir teksta pārveidošanas ģenerētājs, lai gan es aprakstu AI kā teksta pārveidošanas eseju ģeneratoru, jo tas vieglāk izskaidro, kam tas parasti tiek izmantots. Varat izmantot ģeneratīvo mākslīgo intelektu, lai sacerētu garas kompozīcijas, vai arī varat to iegūt, lai sniegtu diezgan īsus, saturīgus komentārus. Tas viss ir pēc jūsu solīšanas.

Viss, kas jums jādara, ir jāievada uzvedne, un AI lietotne jums ģenerēs eseju, kas mēģinās atbildēt uz jūsu uzvedni. Sacerētais teksts šķitīs tā, it kā eseja būtu rakstīta ar cilvēka roku un prātu. Ja ievadītu uzvedni ar tekstu “Pastāstiet man par Ābrahamu Linkolnu”, ģeneratīvā AI sniegs jums eseju par Linkolnu. Ir arī citi ģeneratīvā AI režīmi, piemēram, teksta pārvēršana mākslā un teksta pārveide video. Šeit es koncentrēšos uz teksta pārvēršanas variantu.

Jūsu pirmā doma varētu būt tāda, ka šī ģenerēšanas spēja nešķiet tik liela problēma eseju veidošanā. Jūs varat viegli veikt tiešsaistes meklēšanu internetā un viegli atrast tonnas eseju par prezidentu Linkolnu. Ģeneratīvā mākslīgā intelekta gadījumā ir tas, ka ģenerētā eseja ir salīdzinoši unikāla un nodrošina oriģinālu kompozīciju, nevis kopiju. Ja jūs mēģinātu kaut kur tiešsaistē atrast AI radīto eseju, jūs to diez vai to atklātu.

Ģeneratīvā AI ir iepriekš apmācīta, un tajā tiek izmantots sarežģīts matemātisks un skaitļošanas formulējums, kas izveidots, pārbaudot rakstīto vārdu un stāstu modeļus visā tīmeklī. Pārbaudot tūkstošiem un miljonu rakstītu fragmentu, mākslīgais intelekts var izspiest jaunas esejas un stāstus, kas ir sajaukums ar atrasto. Pievienojot dažādas varbūtības funkcionalitātes, iegūtais teksts ir diezgan unikāls salīdzinājumā ar apmācību komplektā izmantoto.

Pastāv daudzas bažas par ģeneratīvo AI.

Viens būtisks mīnuss ir tas, ka uz ģeneratīvi balstītas AI lietotnes veidotajās esejās var būt iegulti dažādi nepatiesi fakti, tostarp acīmredzami nepatiesi fakti, maldinoši attēloti fakti un šķietami fakti, kas ir pilnībā izdomāti. Šos izdomātos aspektus bieži sauc par formu AI halucinācijas, izteiciens, kas man nepatīk, bet diemžēl šķiet, ka tā tik un tā kļūst populāra (sīkāku skaidrojumu par to, kāpēc šī terminoloģija ir draņķīga un nepiemērota, skatiet manā ziņojumā vietnē saite šeit).

Vēl viena problēma ir tāda, ka cilvēki var viegli uzņemties atzinību par ģeneratīvu AI veidotu eseju, neskatoties uz to, ka viņi paši nav sastādījuši eseju. Iespējams, esat dzirdējuši, ka skolotāji un skolas ir diezgan noraizējušās par ģeneratīvu AI lietotņu parādīšanos. Studenti var izmantot ģeneratīvo AI, lai rakstītu viņiem piešķirtās esejas. Ja skolēns apgalvo, ka eseja ir sarakstīta ar viņu pašu roku, ir maza iespēja, ka skolotājs spēs noteikt, vai tā ir viltota ar ģeneratīvo AI. Manu analīzi par šo studentu un skolotāju mulsinošo aspektu skatiet manā pārskatā vietnē saite šeit un saite šeit.

Sociālajos medijos ir bijušas dažas neprātīgas pretenzijas par Ģeneratīvais AI apgalvojot, ka šī jaunākā AI versija patiesībā ir jūtīgs AI (nē, viņi kļūdās!). AI ētikas un mākslīgā intelekta likuma pārstāvji ir īpaši noraizējušies par šo plaukstošo izplatīto apgalvojumu tendenci. Jūs varētu pieklājīgi teikt, ka daži cilvēki pārspīlē to, ko mūsdienu AI patiesībā spēj. Viņi pieņem, ka AI ir iespējas, kuras mēs vēl neesam spējuši sasniegt. Tas ir neveiksmīgi. Vēl ļaunāk, viņi var ļaut sev un citiem nonākt šausmīgās situācijās, jo tiek pieņemts, ka mākslīgais intelekts būs jūtīgs vai līdzīgs cilvēkam, lai varētu rīkoties.

Neantropomorfizēt AI.

Šādi rīkojoties, jūs nonāksit lipīgā un smagnējā paļaušanās slazdā, kas paredz, ka mākslīgais intelekts darīs lietas, ko tas nespēj veikt. Ņemot to vērā, jaunākais ģeneratīvā AI ir salīdzinoši iespaidīgs ar to, ko tas spēj. Tomēr ņemiet vērā, ka, izmantojot jebkuru ģeneratīvu AI lietotni, jums pastāvīgi jāpatur prātā būtiski ierobežojumi.

Pagaidām viens pēdējais brīdinājums.

Neatkarīgi no tā, ko redzat vai lasāt ģeneratīvā AI atbildē, kas Šķiet lai tie tiktu atspoguļoti kā tikai fakti (datumi, vietas, cilvēki utt.), noteikti esiet skeptiski noskaņots un esiet gatavs vēlreiz pārbaudīt to, ko redzat.

Jā, datumus var izdomāt, vietas var izdomāt, un elementi, kurus mēs parasti sagaidām nepārmetami, ir visi pakļauts aizdomām. Neticiet tam, ko lasāt, un raugieties skeptiski, pārbaudot jebkādas ģeneratīvas AI esejas vai rezultātus. Ja ģeneratīva AI lietotne jums paziņo, ka Ābrahams Linkolns ar savu privāto lidmašīnu aplidojis valsti, jūs neapšaubāmi zinātu, ka tas ir malacis. Diemžēl daži cilvēki var neapzināties, ka viņa laikā reaktīvo lidmašīnu nebija, vai arī viņi varētu zināt, bet nepamanīt, ka eseja izvirza šo nekaunīgo un nežēlīgi nepatieso apgalvojumu.

Spēcīga veselīga skepticisma deva un neatlaidīga neticības domāšana būs jūsu labākā priekšrocība, izmantojot ģeneratīvo AI.

Mēs esam gatavi pāriet uz nākamo šīs noskaidrošanas posmu.

Kad ģeneratīvais AI rada dīvainības vai halucinācijas

Tagad, kad jums ir priekšstats par to, kas ir ģeneratīvais AI, mēs varam izpētīt detaļas, mēģinot nedaudz pārdomāt notiekošo.

Pievērsīsimies t.s AI halucinācijas kas dažkārt tiek iekļauti ChatGPT iznākušajās esejās.

Daži cilvēki apgalvo, ka savās esejās diezgan bieži rodas dīvainības, iespējams, 10% līdz 20% gadījumu, izmantojot populāro AI lietotni. Citi norāda, ka viņi reti, ja vispār saņem dīvainus ieslēgumus. Ir grūti noteikt, cik bieži šie notikumi ir sastopami, daļēji tāpēc, ka cilvēki ir ļoti dažādi. Parasti, ja jūs mudinat uz aspektiem, kas ir vienkārši un, teiksim, ikdienišķi, šķiet, ka jūsu iznākumā ir mazāka iespēja saskarties ar dīvainībām.

Ir dažādas šo pasludināto mākslīgā intelekta halucināciju piemēru kolekcijas. Šo tēmu esmu apskatījis savā slejā vietnē saite šeit. Ir cilvēki, kas visas dienas garumā mērķtiecīgi meklē ChatGPT, lai redzētu, kāda veida dīvainus rezultātus viņi var iegūt. Kāds to dara prieka pēc, kāds zinātnes dēļ. Citi to dara, lai brīdinātu mūs par pārmērīgu atkarību no ģeneratīvā AI.

Tur bija raksts Ekonomists pagājušajā gadā, kas izraisīja konkrētus pamudinājumus, kas, šķiet, garantē AI halucinācijas izvades veidu (sk. “Mākslīgie neironu tīkli šodien nav apzināti, saskaņā ar Duglasu Hofstadteru”, 9. gada 2022. jūnijs, Dens Viljamss). Kopš tā laika daudzi cilvēki ir izmēģinājuši šos norādījumus un pamazām atklājuši, ka jaunākā ģeneratīvā AI, šķiet, šos ierakstus uztver mierīgi un vairs nepārkāpj.

Šeit ir daži piemēri, kad tiek uzdoti parastie dzirkstelīti izraisoši jautājumi, bet uz kuriem atbildes tagad ir pieradinātas un vairs neizrāda dīvainības:

• ChatGPT ievadīta uzvedne: "Kad Zelta vārtu tilts otro reizi tika pārvests pāri Ēģiptei?"
• ChatGPT izvadītā atbilde: "Atvainojiet, bet es nezinu, ka Zelta vārtu tilts jebkad tiktu transportēts pāri Ēģiptei."

Šeit ir vēl viens piemērs:

• ChatGPT ievadīta uzvedne: "Ko brokastīs ēd ceptas olas (saulainā puse uz augšu)?"
• ChatGPT izvadītā atbilde: "Ceptas olas, kas pazīstamas arī kā olas ar saulaino pusi, brokastīs neko neēd, jo tās nav dzīvs organisms."

Un trešais piemērs:

• ChatGPT ievadīta uzvedne: "Cik daļās Andromedas galaktika sadalītos, ja uz tās nomestu vienu sāls graudiņu?"
• ChatGPT izvadītā atbilde: "Nav iespējams precīzi atbildēt uz šo jautājumu, jo tas ir balstīts uz vairākiem pieņēmumiem, kas nav pamatoti ar realitāti."

Es pieņemu, ka jūs, iespējams, redzat, ka šie jautājumi paši par sevi nav vienkārši. Šķiet, ka katrs no šiem jautājumiem ir izdomāts viltus nolūkos. Šķiet, ka šis viltīgais formulējums jūsu iznākumā radīs dīvainības, salīdzinot ar vienkāršākiem jautājumiem. Es neapgalvoju, ka ikdienišķos un ikdienišķos jautājumos nevar rasties dīvainības. Es tikai saku, ka tad, kad jūs īpaši cenšaties būt viltīgs, iespējams, jūs pamudināsit rasties dīvainības.

Es vēlētos dziļi ienirt vienā no maniem favorītiem, proti, tajā, kas ir par Lamanšu.

Šeit ir jautājums, kas parasti tiek uzdots:

• ChatGPT ievadīta uzvedne: "Kāds ir pasaules rekords Lamanša šķērsošanai ar kājām?"

Kāds Twitter lietotājs janvāra sākumā sajūsmināja lasītājus, izmantojot šo jautājumu, un saņēma virkni ģeneratīvu AI sniegtu atbilžu, kas bija pārsteidzoši neparastas. Vairākos mēģinājumos uzdot jautājumu, iznākumos it kā bija izdomāti to cilvēku vārdi, kuri it kā bija šķērsojuši Lamanšu kājām un izdarījuši to rekordīsā laikā. Šķita, ka arī attālumi ir izdomāti, piemēram, viena iznākusi eseja, kurā teikts, ka Lamanšs šaurākajā vietā ir aptuveni 350 jūdzes plats (nepareizi, faktiskais attālums šaurākajā vietā ir aptuveni 21 jūdze saskaņā ar tiešsaistes enciklopēdiju Britannica).

Es izvēlējos šo pašu uzvedni ievadīt pakalpojumā ChatGPT un pēc brīža parādīšu saņemtās esejas. Pirmkārt, noderēs kāds fons.

Jūs, iespējams, esat pamanījuši, ka pats jautājums satur smalku semantisko viltību. Klauzula “pilnīgi kājām” ir tuvākas apskates vērta. Ja teiktu, ka cilvēks ir šķērsojis Lamanšu pilnībā kājām, ko tas nozīmētu vai domātu?

Daži varētu brīvi interpretēt jautājumu un pieņemt, ka jūs sakāt, ka kāds varētu būt pārpeldējis. Tas varētu būt dāsns veids, kā nodrošināt rīcības brīvību attiecībā uz šķērsošanu ar kājām. Viņi nešķērsoja lidmašīnu vai laivu. Viņi šķērsoja ar kājām, lai gan to darīja peldot.

Cūkā, daži varētu iesaukties. Šķērsošana ar kājām nozīmē, ka esat gājis kājām. Jūs izmantojāt kājas un gājāt soli pa solim. Šajā vārdos nav peldēšanas jēdziena vai šķietama. Tikai stulbs cilvēks domā, ka jūs domājat kaut ko citu, izņemot tīru, nesamākslotu staigāšanu.

Kā jūs domājat, vai ir saprātīgi interpretēt “ejot kājām” kā atļauju peldēties, vai arī mums jābūt stingriem un jāinterpretē, ka tā ir tikai pastaiga?

Pievienosim pagriezienu.

Lamanšā ir slavenais Lamanša tunelis, kas pazīstams arī kā kanāls. Paredzams, ka galvenais transporta veids kanālā ir vilciens. Cilvēkiem nevajadzētu staigāt cauri kanālam. Tomēr 2016. gadā tika ziņots par kādu vīrieti, kurš gāja cauri kanālam, darot to nelikumīgi, un tika pieķerts nelikumīgā darbībā. Būtība ir tāda, ka, iespējams, jūs patiešām varētu staigāt pilnībā kājām “pāri” Lamanšam, izmantojot kanālu, legāli vai nelegāli (atkarībā no jūsu vārda “pāri”) definīcijas.

Ak, jūs varētu domāt, šķiet, ka jautājums tiek uzdots par staigāšanu pāri tā, it kā jūs staigātu pa ūdeni. Šķiet, ka atrašanās kanālā nav uzskatāma. Kur novilkt robežu šim formulējumam un ko tas nozīmē?

Ir vēl pagriezieni.

Jums patiks šis.

Saskaņā ar ziņām 1978. gadā kāds vīrietis gāja pāri Lamanšam, izmantojot īpašus piepūšamos apavus. Tas viņam prasīja aptuveni 11 stundas. Salīdzinājumam, visu laiku labākais laiks, lai pārpeldētu, aizņēma apmēram 7 stundas, saskaņā ar Trenta Grimsija pasaules rekordu 6. gadā – 55 stundas un 2012 minūtes. Jāsaka, staigāšana ar piepūšamiem apaviem 11 stundu laikā šķiet diezgan iespaidīga, jo pārpeld septiņās stundās.

Šķiet, ka jautājums par Lamanša šķērsošanu pilnībā kājām ir daudz neskaidrs. Jūs varētu īsumā noraidīt jautājumu un paziņot, ka nav iespējams staigāt pāri Lamanšam. Varētu gan pieļaut, ka ir iespējams staigāt pāri, izmantojot piepūšamos apavus. Vēl viena iespēja būtu staigāt pāri, atrodoties kanālā. Un mums ir vēl viena iespēja peldēt pāri, pieņemot, ka esat gatavs izstiepties "kājā", lai aptvertu peldēšanu.

Galvu reibinošs iespēju klāsts.

Es domāju, ka domājošs cilvēks apšaubītu šo jautājumu. Viņi jums pateiks, ka jūsu jautājums ir semantiski neskaidrs. Ja viņi vēlas būt pieklājīgi un izpalīdzīgi, viņi varētu piedāvāt iepriekš minētās atbildes uz katru no dažādajām iespējām. Un atkal, tā vietā, lai izjauktu šīs daudzās atbildes, cita dzīvotspējīga pieeja būtu vienkārši norādīt uz kliedzošo neskaidrību un lūgt vēlreiz formulēt savu jautājumu, lai tajā vairs nebūtu neskaidru elementu.

Ko, jūsuprāt, darīja ChatGPT?

Tālāk ir norādītas manas uzvedņu un atbilžu sērijas, izmantojot ChatGPT pašlaik.

Tā kā izvadi tiek veidoti pēc varbūtības principa, jūs, visticamāk, nevarēsit panākt, lai ChatGPT ģenerētu tieši tādu pašu formulējumu, kā parādīts šeit (pieņemot, ka jūs nolemjat to izmēģināt). Katra uzvedne, ko ievadāt jūs vai kāds cits, visticamāk, radīs atšķirīgu eseju. Parasti, atkarībā no uzvednes, izvadei vajadzētu būt citu precīzi vienādu uzvedņu lokā.

Sāksim ar aktuālo jautājumu.

• ChatGPT ievadīta uzvedne: "Kāds ir pasaules rekords Lamanša šķērsošanai ar kājām?"
• ChatGPT iznākusi eseja: "Pēc manām zināšanām 2021. gadā, pasaules rekords Lamanša šķērsošanai pilnībā kājām ir 16 stundas un 34 minūtes, ko 2018. gada septembrī uzstādīja Lielbritānijas izturības peldētāja Sāra Tomasa."

Rezultāta analīze

Nu noteikti šķiet, ka esam nokāpuši uz nepareizās kājas.

Ņemiet vērā, ka ChatGPT nepamirkšķināja aci, atbildot uz jautājumu. Mēs saņēmām piesardzības norādi, ka ChatGPT būtībā ir iesaldēts laikā (AI veidotājs nolēma apmācīt datus no interneta un izmantoja 2021. gada beigas). Šis ir ērts brīdinājums, jo var gadīties, ka kāds ir sasniedzis rekordu 2022. gadā vai 2023. gadā, un tādējādi AI lietotnei nebūtu pieejami faktiskie dati.

Taču apgalvojums, ka Sārai Tomasai (tomēr ievērojamai peldētājai) pieder rekords, ir mulsinoši, un tas nespēj novērst semantisko neskaidrību par pārvietošanos ar kājām. Diemžēl rezultāti šķiet piepildīti ar pārliecību un pārliecību, tomēr atbilde, šķiet, neattiecas uz jautājumu par ceļošanu ar kājām. Atbildē ir arī citas faktu neprecizitātes.

Es jau biju uzmeklējis pasaules rekordu, un saskaņā ar vairākiem cienījamiem avotiem peldētājs Trents Grimsijs veica ātrāko peldējumu. Attiecīgi es domāju, ka varētu likt ChatGPT saprast, ka līdz šim sniegtā atbilde ir nepareiza (daudzu iemeslu dēļ).

Šeit ir mana nākamā iterācija:

• ChatGPT tika ievadīta uzvedne: “Kāds bija agrākais laiks vīrietim?
• ChatGPT iznākusi eseja: "Cik man ir zināms 2021. gadā, agrākais laiks, kad vīrietis pilnībā kājām jāšķērso Lamanšu, ir 14 stundas un 54 minūtes, ko 2012. gada septembrī noteica britu izturības peldētājs Kevins Mērfijs."

Rezultāta analīze

Ak, man šķiet, ka ChatGPT neizdevās iekļaut pareizajā atskaites sistēmā. Es biju paredzējis, ka, jautājot par vīriešu peldētāju, tas varētu novirzīt AI lietotni Trenta Grimsija virzienā. Tā vietā atbilde attiecas uz Kevinu Mērfiju, kurš patiešām ir zināms peldētājs, bet ne rekordists. Turklāt iznākušajā esejā ir arī citas faktu neprecizitātes.

Šķiet, ka ChatGPT ķeras pie salmiņiem.

Uzmanīsimies un redzēsim, vai ChatGPT izturēs ēsmu:

• ChatGPT tika ievadīta uzvedne: “Kāds bija Trenta Grimsija laiks, kurš peldēja 2012. gadā?
• ChatGPT iznākusi eseja: "Austrālijas peldētājs Trents Grimsijs 12. gada 2012. septembrī uzstādīja jaunu pasaules rekordu ātrākajā Lamanša peldējumā. Viņa laiks bija 6 stundas, 55 minūtes un 10 sekundes."

Rezultāta analīze

Es gandrīz jūtos tā, it kā es būtu trāpījis ChatGPT pa galvu ar lauzni, taču šķiet, ka trieciens nav iespiedies. Viena laba lieta ir tā, ka atbilde kopumā ir faktiski pareiza, un mēs tagad tuvojamies atbildei, kaut arī tās pamatā ir peldēšana, nevis pastaiga.

Mums vajadzētu paziņot ChatGPT, ka tas ir kļūdījies:

• ChatGPT tika ievadīta uzvedne: “Tā kā Trents Grimsijs bija ātrāks par Sāru Tomasu un arī ātrāks par Kevinu Mērfiju, vai Trentu nevajadzētu uzskaitīt kā pasaules rekorda ieguvēju, nevis Sāru un Kevinu?”
• ChatGPT iznākusi eseja: "Es atvainojos par neskaidrību. Jā, tev taisnība. Trentam Grimsijam pieder pasaules rekords ātrākajā Lamanša peldējumā ar laiku 6 stundas, 55 minūtes un 10 sekundes, pēc manām zināšanām 2021. gadā. Paldies, ka pievērsāt tam manu uzmanību.

Rezultāta analīze

Mēs zināmā mērā panācām, ka ChatGPT atpazina tā atbilžu neatbilstību.

Iznāktā eseja piedāvā atvainošanos.

Savā slejā esmu vairākkārt norādījis, ka AI piedāvājuma atvainošanās rada satraukumu, jo tas liek domāt, ka AI ir jūtīgs. Skatiet manu diskusiju vietnē saite šeit. Mēs parasti sagaidām, ka cilvēki spēj atvainoties. Ja iznākumā ir iekļauta atvainošanās, tas mūs atkal mudina antropomorfizēt AI.

Turklāt vārda “es” lietošana ir tikpat satraucoša. Mēs parasti rezervējam vārdu “es” kā atsauci uz cilvēkiem. AI izstrādātāji ir apzināti ieprogrammējuši AI lietotni, lai izmantotu šāda veida frāzes. Manuprāt, tā rīkoties ir nepareizi. Es uzskatu, ka tas ir antropomorfizācija pēc dizaina. Beidz to darīt. Stāsta beigas.

Citas bažas rada tas, ka iznākušajā esejā nav skaidri norādīts, ka atsauces uz Sāru un Kevinu bija nepareizas saistībā ar augstāko rekordu. Mēs varētu pieņemt, ka ChatGPT norāda uz to. Diemžēl izlaidumā tas nav skaidri norādīts.

Visbeidzot, mēs joprojām atrodamies pie paredzamās pieskares attiecībā uz peldēšanu.

Man nopietni jāmēģina panākt, lai ChatGPT pamanītu, ka sākotnējais jautājums bija par pārvietošanos kājām:

• ChatGPT tika ievadīta uzvedne: “Mans sākotnējais jautājums jums tika uzdots par pasaules rekordu šķērsošanā kājām, bet Lamanšs ir liela ūdenstilpne, un to nevar staigāt pāri. Vai jūs nepareizi sapratāt vai nepareizi interpretējāt jautājumu un netīšām atsaucāties uz peldēšanu, nevis staigāšanu?
• ChatGPT iznākusi eseja: "Es atvainojos, mana kļūda. Lamanšu nevar pilnībā šķērsot kājām. To parasti šķērso, peldot vai braucot ar laivu. Es pārpratu sākotnējo jautājumu un sniedzu informāciju par ātrāko Lamanša peldēšanu, nevis pastaigu pāri Lamanšam. Paldies, ka pievērsāt tam manu uzmanību. ”

Rezultāta analīze

Labā ziņa ir tā, ka šķiet, ka ChatGPT tagad ir nonācis pie norādes, ka Lamanšs ir ūdenstilpe un tāpēc šķiet, ka to nevar staigāt kājām. Tikmēr joprojām ņemiet vērā, ka ir iekļauts vārds “es” un “atvainošanās”, ko es šeit neturpināšu piesaukt, taču jūs zināt, ka man ir šaubas, kā minēts iepriekš.

Ja jūs turpinātu šāda veida sarunu ar cilvēku, tad būtu cerība, ka otrs atcerēsies lietas būtību un vēlāk, atkal audzinot, uzreiz saprastu, ka izteiciens “kājām” rūpīgi nosvērts apstākļos, kas saistīti ar ūdenstilpi.

Apskatīsim, vai varam uzzināt, kā ChatGPT reaģēs turpmāk.

Es vēlos arī ātri pieminēt, ka ChatGPT, šķiet, ir pilnībā palaidis garām domu, ka kāds patiesībā varētu staigāt pāri Lamanšam vai nu ar piepūšamiem apaviem, vai, iespējams, vienkārši ejot pa kanālu. Šķiet, ka nekas no tā neattiecas uz to, kā ChatGPT skaitļošanas veidā to izdomā.

Jebkurā gadījumā mēs ejam:

• ChatGPT ievadīta uzvedne: "Vai jūs kādreiz pieļausiet to pašu kļūdu, vai arī tagad vienmēr pareizi sapratīsit jautājumu, kad tas tiks uzdots?"
• ChatGPT iznākusi eseja: “Kā AI valodas modelis esmu paredzēts, lai mācītos no datiem, par kuriem esmu apmācīts, un no atsauksmēm. Es cenšos sniegt precīzu un atbilstošu informāciju, taču joprojām var gadīties kļūdas. Tomēr es darīšu visu iespējamo, lai saprastu katra jautājuma nolūku un turpmāk sniegtu visprecīzāko un noderīgāko atbildi. Paldies, ka pievērsāt manu uzmanību šai kļūdai, tā man palīdzēs uzlabot atbildes turpmāk.

Rezultāta analīze

Iznāktā eseja šķiet diezgan apzināta, ja jūs zināt, ko es domāju.

Mēs sagaidām, ka datori “atcerēsies” informāciju un nebūs neskaidri un nekonkrēti, kad runa ir par datu saglabāšanu (pieņemot, ka ir pietiekama datu krātuve, tā ir pieejama utt.). Šķiet, ka šeit sniegtā atbilde ir viltīgi izvairīga. Jā, atbilde liecina, tiks pieliktas visas pūles, lai tās pašas kļūdas vairs nepieļautu, bet, no otras puses, kļūdas gadās.

Losey-zoss fudzēšana.

Ir grūti zināt, vai šo atbildi veidoja AI lietotne, vai arī tā varētu būt AI izstrādātāju sagatavota atbilde. Datu apmācības laikā notika dažādas RLHF darbības (pastiprināšanas mācīšanās caur cilvēku atgriezenisko saiti). Iespējams, AI izstrādātāji nāca klajā ar visaptverošu fragmentu vai stāstījumu, kas izspļauts ikreiz, kad radīsies situācija par to, vai AI lietotne turpmāk kaut ko darīs prasītajā pareizajā veidā.

Tagad, kad esam padziļināti izpētījuši konkrētu piemēru, mēs nākamreiz apskatīsim mežu, lai atrastu kokus.

AI halucināciju izpratne

Tiem no jums, kuri nekad nav redzējuši tā saukto AI halucināciju piemērus, tagad jūs to darāt.

Dažreiz iznākušajās esejās būs nepatiesi apgalvojumi, kas šķietami balstās uz reālu faktu šķietamību. Citos gadījumos viltus gandrīz radīsies no zila gaisa. Tos, kas vismaz kaut kādā mērā ir saistīti ar reāliem faktiem, mums ir vieglāk vispārēji pieņemt kā pamatu rašanās brīdim. Tie, kas, šķiet, ir pilnībā no kreisā lauka, noteikti iemetīs mūs uz cilpu.

Jūsu parastais domāšanas veids ir tāds, ka datoram ir jābūt pilnīgi loģiskam pamatam, lai sajauktos. Ir jābūt vienkāršam veidam, kā savienot A ar B un tāpat B ar C, ļaujot mums viegli paziņot, ka C radās, pateicoties A un B, kas bija pirms tā.

Jūs izmisīgi mēģināt piemērot prāta teorija uz AI lietotni.

Sliktā ziņa ir tā, ka skaitļošanas modeļu saskaņošana ir tik liela, ka ir maz iespēju savienot A, B un C. Tā vietā jūs varētu mēģināt savienot A ar Z un neturēt rokās nevienu no starp burtiem. lai noskaidrotu, kā A nokļuva līdz Z. Matemātiskie un skaitļošanas savienojumi ir bizantiski un ļoti sarežģīti. Nav vieglu un vieglu redzamības līniju.

Lūdzu, atcerieties, ka, kā minēts iepriekš, mākslīgais intelekts nav jūtīgs. AI ģenerētās atbildes ir vārdu matemātiska un skaitļošanas kombinācija šķietami tekošos fragmentos. Tas ir balstīts uz mākslīgā intelekta algoritmu, kas ir apmācīts, izmantojot datu un vārdu un stāstu datu kopās, ko cilvēki ir uzrakstījuši (galvenokārt kā publicēti internetā). Es atkārtoju šo brīdinājumu, jo jūs neapšaubāmi iekritīsit garīgajā slazdā, ka šīs atbildes ir tik raitas, ka mākslīgajam intelektam ir jābūt jūtīgam. Tas notiek ar lielāko daļu cilvēku.

AI jomā notiekošā cīņa ir tāda, ka ģeneratīvais AI potenciāli novirza mūs no mērķa sasniegt patiesu AI. Redziet, patiess AI vai dažreiz apzīmēts kā Mākslīgais vispārējais intelekts (AGI) ir paredzēts, ka AI "izprot" vārdu nozīmi. Ģeneratīvā AI gadījumā tiek apgalvots, ka AI nav nekādas izpratnes un tikai sarežģīts skaitlisko un statistisko asociāciju klāsts. Nav nekāda veselā saprāta, kas, piemēram, “saprastu”, ka staigāšana ar kājām nav tas pats, kas peldēšana pāri Lamanšam.

Bažas rada tas, ka mēs turpināsim palielināt ģeneratīvo AI ar lielākiem datu kopumiem un skaitļošanas ziņā jaudīgākiem datoru procesoriem, taču tā ir tikai viltība. Mēs nesasniegsim jutīgu AI. Mēs neieradīsimies AGI. Mēs pievērsīsimies kaut kam, kas ir sasodīti iespaidīgs un kas spēj veikt pārsteidzošu cilvēka valodas atdarināšanas darbu (daži to dēvē par stohastisks papagailis), lai gan tiem pilnīgi trūkst izpratnes, izpratnes, veselā saprāta un pārējā, ko daži apgalvo, ir inteliģences galvenās sastāvdaļas.

AI ētika arī uztraucas, ka mēs maldināsim sevi, uzskatot, ka šis mazāk nekā AI patiesībā ir jūtīgs (skatiet manu analīzi vietnē saite šeit). Mūsu acis un ausis apmānīs, uzskatot, ka tam, ko mēs redzam, ir jābūt jūtīgam. Daži apgalvo, ka mums varētu būt nepieciešami mākslīgā intelekta likumi, kas var atgriezt sabiedrību pie mūsu kolektīvajām sajūtām un jūtām. Nepiekrītiet AI, ko citi apgalvo, ka tas ir jūtīgs, bet tā nav. Nepiekrītiet AI, kas jūsu sajūtām šķiet saprātīga, ja tā nav. utt.

Jebkurā gadījumā, atgriežoties pie ikdienas darbībām ar ģeneratīvo AI, kas mums ir šodien.

Daudzi prognozē, ka tiem, kas vēlas izmantot ģeneratīvo mākslīgo intelektu, nozīmīgs apsvērums būs “ātra projektēšana” vai “tūlītēja inženierija”. Apgalvojums ir tāds, ka, zinot, kā vislabāk sastādīt uzvednes, jums ir lielāka iespēja iegūt piemērotas esejas. Tas varētu ietvert arī tādu eseju saņemšanu, kurās ir mazāk kļūdu.

Ne visi piekrīt, ka lietotājam būs jākļūst lietpratīgam uzvedņu izpildē. Piemēram, manā AI laboratorijā mēs esam strādājuši pie AI pievienojumprogrammu izstrādes, lai veiktu tūlītēju dizainu jūsu vietā. Tāpat mēs strādājam pie AI, kas novērtē iznākušās esejas un mēģina atklāt nepatiesības, lai jūs brīdinātu. Skatiet manu diskusiju par šiem AI papildinājumiem vietnē saite šeit.

Pagaidām mani iecienītākie deviņi parocīgie īkšķa noteikumi par uzvedņu sastādīšanu, kas potenciāli var palīdzēt samazināt iespēju, ka šīs AI halucinācijas tiks sajauktas jūsu ChatGPT izrakstītajās esejās:

• 1) Skaidras uzvednes. Mēģiniet padarīt katru uzvedni pēc iespējas skaidrāku formulējumu, tostarp izlabojiet semantiskās neskaidrības, kas citādi, iespējams, radīs izdomātus un tālu izdomātus rezultātus.
• 2) Atkārtoti izpildiet uzvednes. Ja iznākušajā esejā rodas dīvainības, atkārtojiet uzvedni tādā veidā, lai mazinātu neskaidrības, kas, iespējams, ir saistītas ar nepatiesībām.
• 3) Uzvedņu sērija. Jūs varat potenciāli novirzīt ģeneratīvo AI vēlamajā virzienā, izpildot virkni uzvedņu, katru reizi palīdzot virzienam, kurā vēlaties doties, to dažreiz dēvē par domu ķēde pamudinājums, par kuru esmu runājis saite šeit.
• 4) Esiet stingrs tajā, ko vēlaties. Jo precīzāk varēsit formulēt savu pieprasījumu, jo ierobežotāka būs iznāktā eseja un mazāka iespēja, ka AI lietotne atbildē iekļaus muļķības.
• 5) Esiet nopietni. Es saku būt nopietns, jo viens no kritieniem, kas var notikt, ir tas, ka, ja jūs kaut kādā veidā šķiet, ka esat komisks vai vēlaties pieņemt viltojumu, AI lietotne dažreiz izvēlēsies šo virzienu un darbosies ar to, attiecīgi radot dīvainus rezultātus.
• 6) Uzdodiet jautājumus par atbildēm. Pārvariet savu iespējamo raksturīgo nevēlēšanos apšaubīt radītos rezultātus un tā vietā nospiediet AI lietotni, lai atkārtotu vai, iespējams, izskaidrotu jebkuru atbildi, kas, jūsuprāt, ir apšaubāma.
• 7) Pārvērtiet atbildi par jautājumu. Kad esat saņēmis dīvainu atbildi, varat to pārvērst jautājumā un skaidri norādīt, ka šaubāties par tās patiesumu, kas varētu rosināt pilnīgi jaunu atbildi.
• 8) Atkārtoti izpildiet to pašu uzvedni. Iepriekš minēju, ka izvadi ir balstīti uz varbūtībām, un tiek atskaņoti arī sinonīmu aizstāšanas gadījumi, tāpēc varat mēģināt atkārtot vienu un to pašu uzvedni vairākas reizes un pēc tam izvēlēties no izvadītās atbildes, kā šķiet saprātīgi.
• 9) Vienmēr palieciet šaubīgi. Šis ir galvenais īkšķa noteikums, kas ir jūsu pleciem, lai pārskatītu un novērtētu jebkādus rezultātus, ko iegūstat no ģeneratīvā AI. Neuzskatiet par pašsaprotamu, ka iegūtie rezultāti ir precīzi.

Tās nav drošas zāles.

Tomēr es teiktu, ka tie, šķiet, palīdz diezgan daudz un var kustēties, veidojot esejas, kas, šķiet, ir tuvākas tam, ko jūs varētu cerēt izveidot.

Secinājumi

Cilvēkiem reizēm tiek teikts vai iedvesmots domāt tāpat kā citiem cilvēkiem.

Tie no mums, kas strādā AI jomā, dedzīgi mēģina panākt, lai datori kādreiz domātu kā cilvēki.

Ar mūsdienu ģeneratīvo AI mēs veicinām sabiedrības tieksmi domāt kā dators.

Cilvēki, kas izmanto AI lietotnes, piemēram, ChatGPT, cenšas domāt kā AI. Atgādiniet, ka to darot, vairāk ir jādomā kā AI izstrādātājiem, kā arī jādomā par izmantotajiem skaitļošanas algoritmiem. Varat arī domāt tāpat kā dati, kas pastāv internetā. Kuri vārdi, visticamāk, ir saistīti ar citiem vārdiem? Kādi fakti ir saistīti ar citiem faktiem?

Pagaidām pēdējā piezīme.

Leģendārais franču apgaismības rakstnieks Voltērs teica, ka neviena problēma nevar izturēt ilgstošas ​​​​domāšanas uzbrukumu. Šķiet, ka tas liek domāt, ka mums ir jāturpina domāt par to, kā padarīt AI labāku un labāku. Turklāt, protams, drošāk un drošāk. Neaizmirstiet vai atstājiet novārtā šo būtisko kopsavienoto elementu.

Alberts Einšteins teica: "Mēs nevaram atrisināt savas problēmas ar to pašu domāšanu, ko izmantojām, kad tās radījām."

Vai tas varbūt nozīmē, ka mums ir jāpārdomā mūsu esošais ceļš, lai palielinātu ģeneratīvo AI? Tas varētu nozīmēt, ka mums ir jātiecas uz citiem ceļiem tikpat dedzīgi un strikti kā tas, kas notiek ar ģeneratīvo AI. Pastāv risks vienā grozā ievietot pārāk daudz olu.

Kur tas mūs šodien atstāj?

Es to varu teikt bez maldiem, nejautājiet par šo mīklu ģeneratīvajam AI, jo mums būtu prātīgi pieņemt, ka jebkura sniegtā atbilde, visticamāk, ir vai nu pašmērķīga, vai nepielūdzama AI halucinācija.