Vai šo ģeneratīvo mākslīgā intelekta tērzēšanas GPT kļūdaino un halucinācijas rezultātu atmaskošana un reģistrēšana dod kādu labumu, jautā AI ētika un AI likums

Jums ir noslēpums.

Jā, aizkulisēs kaut kas slepeni notiek saistībā ar jaunākajiem AI jaunumiem, par kuriem jūs varētu vēlēties uzzināt.

Šodienas slejā es apskatīšu neseno stimulu apkopot iespējamās kļūdas un citas slimības, kas saistītas ar izvadītajām esejām no AI lietotnes, kas pazīstama kā ChatGPT. Šī konkrētā lietotne izmanto AI veidu, ko sauc Ģeneratīvais AI. Jūs droši vien esat dzirdējuši vai redzējuši uzkrītošus virsrakstus par ģeneratīvo AI un ChatGPT. Ziņas par šo konkrēto AI lietotni un šķietami pārsteidzošajām iespējām, kas saistītas ar šāda veida AI, ir satrauktas.

Kā es tūlīt pastāstīšu, daži ir pārliecināti, ka mums ir jāizveido saraksts ar to, kādas kļūdas vai kļūdas var radīt AI lietotne, ģenerējot jums eseju. Citi norāda, ka, lai gan šāda saraksta jēdziens ir apbrīnojams, tas ir veltības vingrinājums un nesīs ļoti mazus augļus.

Mēs pārbaudīsim abas šo dusmīgo debašu puses.

Pirmkārt, pārliecināsimies, ka mēs visi esam vienisprātis par to, no kā sastāv ģeneratīvais AI, un arī par to, kas ir ChatGPT.

ChatGPT ir vispārēja pielietojuma AI interaktīva, uz sarunvalodu orientēta sistēma, kas būtībā šķietami nekaitīgs vispārējs tērzēšanas robots, tomēr cilvēki to aktīvi un dedzīgi izmanto tādos veidos, kas daudzus uztver pilnīgi nepiesardzīgi. Viss, kas jums jādara, lai izmantotu šāda veida AI, ir jāievada uzvedne, un AI lietotne jums ģenerēs eseju, kas mēģinās atbildēt uz jūsu uzvedni.

Diemžēl to var izmantot nedaudz neētiskā vai viltīgā veidā. Īpaši satraucošs ir tas, ka studenti var izmantot uz ģeneratīvām metodēm balstītu mākslīgā intelekta lietotni, lai sagatavotu viņiem piešķirtās esejas, vienkārši ievadot vienu vai divus teikumus, lai programma tiktu virzīta pareizajā virzienā. Daži žēlojas, ka tas nozīmē, ka skolēni izvēlēsies krāpties, rakstot esejas ārpus nodarbības. Skolotāji mēģina izdomāt, ko darīt, skatiet manu analīzi un ieteikumus vietnē saite šeit.

Neraugoties uz nepārtraukto ChatGPT slavējamo skaņu, ir mazāk zināmas bažas, ko galvenokārt pauž AI darbinieki, ka ir dažas ievērojamas problēmas un nepatikšanas, par kurām cilvēkiem vajadzētu uztraukties. Viens no būtiskiem trūkumiem ir tas, ka šīs AI lietotnes veidotajās esejās var būt iegulti dažādi nepatiesi fakti, tostarp acīmredzami nepatiesi fakti, maldinoši attēloti fakti un šķietami fakti, kas ir pilnībā izdomāti. Šos izdomātos aspektus bieži sauc par formu AI halucinācijas, īsfrāze, kas man nepatīk, bet diemžēl šķiet, ka tā tik un tā kļūst populāra (sīkāku skaidrojumu par to, kāpēc šī ir draņķīga un nepiemērota terminoloģija, skatiet manā ziņojumā vietnē saite šeit).

Es vēlos precizēt vienu svarīgu aspektu, pirms mēs iedziļināmies šajā tēmā.

Sociālajos medijos ir bijušas dažas neprātīgas pretenzijas par Ģeneratīvais AI apgalvojot, ka šī jaunākā AI versija patiesībā ir jūtīgs AI (nē, viņi kļūdās!). AI ētikas un mākslīgā intelekta likuma pārstāvji ir īpaši noraizējušies par šo plaukstošo izplatīto apgalvojumu tendenci. Jūs varētu pieklājīgi teikt, ka daži cilvēki pārspīlē to, ko mūsdienu AI patiesībā spēj. Viņi pieņem, ka AI ir iespējas, kuras mēs vēl neesam spējuši sasniegt. Tas ir neveiksmīgi. Vēl ļaunāk, viņi var ļaut sev un citiem nonākt šausmīgās situācijās, jo tiek pieņemts, ka mākslīgais intelekts būs jūtīgs vai līdzīgs cilvēkam, lai varētu rīkoties.

Neantropomorfizēt AI.

Šādi rīkojoties, jūs nonāksit lipīgā un smagnējā paļaušanās slazdā, kas paredz, ka mākslīgais intelekts darīs lietas, ko tas nespēj veikt. Ņemot to vērā, jaunākais ģeneratīvā AI ir salīdzinoši iespaidīgs ar to, ko tas spēj. Tomēr ņemiet vērā, ka, izmantojot jebkuru ģeneratīvu AI lietotni, jums pastāvīgi jāpatur prātā būtiski ierobežojumi.

Ja jūs interesē strauji augošā kņada par ChatGPT un ģeneratīvo AI, savā slejā esmu veidojis mērķtiecīgu sēriju, kas jums varētu būt informatīva. Tālāk ir sniegts ieskats gadījumam, ja kāda no šīm tēmām aizrauj jūs:

• 1) Prognozes par ģeneratīvo AI progresu. Ja vēlaties uzzināt, kas, visticamāk, attīstīsies saistībā ar AI 2023. gadā un pēc tam, tostarp gaidāmos sasniegumus ģeneratīvā AI un ChatGPT jomā, ieteicams izlasīt manu visaptverošo 2023. gada prognožu sarakstu vietnē saite šeit.
• 2) Ģeneratīvie AI un garīgās veselības padomi. Es izvēlējos pārskatīt, kā ģeneratīvā AI un ChatGPT tiek izmantoti garīgās veselības padomiem, kas ir traucējoša tendence, saskaņā ar manu mērķtiecīgo analīzi vietnē saite šeit.
• 3) Konteksts un ģeneratīvā AI izmantošana. Es arī veicu sezonālu mēles pārbaudi par kontekstu, kas saistīts ar Ziemassvētku vecīti, iesaistot ChatGPT un ģeneratīvo AI plkst. saite šeit.
• 4) Krāpnieki, kas izmanto ģeneratīvo AI. Draudoši ir tas, ka daži krāpnieki ir izdomājuši, kā izmantot ģeneratīvo AI un ChatGPT, lai veiktu pārkāpumus, tostarp ģenerētu krāpnieciskus e-pastus un pat izstrādātu programmēšanas kodu ļaunprātīgai programmatūrai. Skatiet manu analīzi vietnē saite šeit.
• 5) Iesācēju kļūdas, izmantojot ģeneratīvo AI. Daudzi cilvēki gan pārspēj, gan pārsteidzoši zemu to, ko spēj radīt ģeneratīvais AI un ChatGPT, tāpēc es īpaši aplūkoju nepilnības, ko mēdz izdarīt AI jauniesaucamais. Skatiet diskusiju vietnē saite šeit.
• 6) Cīņa ar ģeneratīviem AI pamudinājumiem un AI halucinācijām. Es aprakstu visprogresīvāko pieeju AI papildinājumu izmantošanai, lai risinātu dažādas problēmas, kas saistītas ar mēģinājumu ievadīt piemērotas uzvednes ģeneratīvajā AI, kā arī ir papildu AI papildinājumi tā saukto AI halucinēto izvadu un viltojumu noteikšanai, piemēram, segtas plkst saite šeit.
• 7) Bonehead apgalvojumu atmaskošana par ģeneratīvo AI radītu eseju atklāšanu. Pastāv maldīgs mākslīgā intelekta lietotņu zelta drudzis, kas apgalvo, ka var noskaidrot, vai kāda konkrēta eseja ir cilvēku radīta, nevis AI radīta. Kopumā tas ir maldinošs, un dažos gadījumos tas ir nekaunīgs un nepieņemams apgalvojums, skatiet manu informāciju vietnē saite šeit.
• 8) Lomu spēlēšana, izmantojot ģeneratīvo AI, var norādīt uz garīgās veselības trūkumiem. Daži izmanto ģeneratīvu AI, piemēram, ChatGPT, lai spēlētu lomu spēles, kur AI lietotne reaģē uz cilvēku tā, it kā viņš dzīvotu fantāziju pasaulē vai citā izdomātā vidē. Tam var būt ietekme uz garīgo veselību, skat saite šeit.

Tūlīt apspriedīsim ģeneratīvā AI un ChatGPT būtību, lai jūs zinātu iesaistītos pamatus. Pēc tam mēs būsim gatavi izpētīt nepatiesības, ko šīs AI lietotnes var radīt. Es iekļaušu vairākus ChatGPT izmantošanas piemērus, kas palīdzēs jums taustāmi izprast šāda veida ģeneratīvā AI radīto būtību.

Tārpu kārbas atvēršana ģeneratīvajā AI

Mēs esam gatavi ienirt dažās detaļās par AI.

Ja jūs jau ļoti labi pārzināt tēmu par ģeneratīvo AI un ChatGPT, varat īsi izlasīt manus punktus un turpināt šīs diskusijas nākamo sadaļu. Es uzskatu, ka visiem pārējiem šis skaidrojums varētu būt noderīgs.

Īsāk sakot, ģeneratīvais AI ir īpašs AI veids, kas veido tekstu tā, it kā tekstu būtu rakstījis cilvēka roka un prāts. Viss, kas jums jādara, ir jāievada uzvedne, piemēram, teikums, piemēram, “Pastāstiet man par Ābrahamu Linkolnu”, un ģeneratīvais AI sniegs jums eseju par Linkolnu. To parasti klasificē kā ģeneratīvu AI, kas veic darbību teksts-teksts vai daži labprātāk to sauc teksta pārvēršana esejā izvade. Iespējams, esat dzirdējis par citiem ģeneratīvā AI režīmiem, piemēram, teksta pārveidošanu mākslā un tekstu pārveidošanu video.

Jūsu pirmā doma varētu būt, ka tas nešķiet tik liels darījums eseju veidošanas ziņā. Jūs varat viegli veikt tiešsaistes meklēšanu internetā un viegli atrast tonnas eseju par prezidentu Linkolnu. Ģeneratīvā mākslīgā intelekta gadījumā ir tas, ka ģenerētā eseja ir salīdzinoši unikāla un nodrošina oriģinālu kompozīciju, nevis kopiju. Ja jūs mēģinātu kaut kur tiešsaistē atrast AI radīto eseju, jūs to diez vai to atklātu.

Ģeneratīvā AI ir iepriekš apmācīta, un tajā tiek izmantots sarežģīts matemātisks un skaitļošanas formulējums, kas izveidots, pārbaudot rakstīto vārdu un stāstu modeļus visā tīmeklī. Pārbaudot tūkstošiem un miljonu rakstītu fragmentu, mākslīgais intelekts var izspiest jaunas esejas un stāstus, kas ir sajaukums ar atrasto. Pievienojot dažādas varbūtības funkcionalitātes, iegūtais teksts ir diezgan unikāls salīdzinājumā ar apmācību komplektā izmantoto.

Tāpēc ir izcēlies satraukums par to, ka skolēni var krāpties, rakstot esejas ārpus klases. Skolotājs nevar vienkārši uzskatīt, ka eseja, ko maldīgi skolēni apgalvo, ir viņu pašu rakstīta, un censties noskaidrot, vai tā nav kopēta no kāda cita tiešsaistes avota. Kopumā tiešsaistē nebūs nevienas noteiktas esejas, kas atbilstu mākslīgā intelekta radītajai esejai. Kopumā skolotājam ar nožēlu būs jāsamierinās ar to, ka skolēns eseju uzrakstījis kā oriģināldarbu.

Pēc brīža es jums parādīšu, kas notiek, kad ģeneratīvajā AI ievadāt jautājumus vai uzvednes. Es izmantošu jaunāko ChatGPT versiju, lai ievadītu savus norādījumus, un esmu apkopojis AI ģenerētās “atbildes” vai esejas (ņemiet vērā, ka to pašu var izdarīt ar daudzām citām pieejamajām ģeneratīvajām AI lietotnēm; esmu izvēlējies izmantot ChatGPT, jo tas šobrīd iegūst piecu minūšu slavu).

Iespējams, šajā situācijā varētu noderēt īsa pieskarne par ChatGPT.

ChatGPT lietotne plašākai sabiedrībai bija pieejama tikai pirms dažiem mēnešiem. Kopumā šīs ģeneratīvās AI lietotnes parasti ir pieejamas tikai AI iekšējām personām. Neparastais aspekts, ka ChatGPT var izmantot ikviens, vienkārši ievadot e-pasta adresi un vārdu, tāpēc daudzi cilvēki nolēma to izmēģināt. ChatGPT pašlaik var izmantot bez maksas (monetizācijas problēma ir AI veidotāju draudoša dilemma).

Gandrīz uzreiz sociālajos medijos bija milzīga reakcija, jo cilvēki skrēja, lai sniegtu piemērus, ko var darīt ģeneratīvais AI. Uzņēmums, kas ražo ChatGPT, OpenAI, izvēlējās slēgt reģistrēšanos miljonam lietotāju. Šiem miljoniem lietotāju ir izdevies bombardēt ētera viļņus ar visa veida stāstiem un pasakām par ChatGPT izmantošanu.

Esiet ļoti uzmanīgs, ticot tam, ko cilvēki saka par AI lietotni. Daudzi no šiem cilvēkiem nezina, ko viņi lieto. Tas ir gandrīz tā, it kā viņi nekad nebūtu braukuši ar automašīnu un pat nenojauta, ka automašīnas pastāv, un pēkšņi viņiem radās iespēja vadīt automašīnu. Sākas pilnīgs izbrīns.

Es nesaku, ka ģeneratīvais AI nav salīdzinoši iespaidīgs. Tas ir. Es tikai uzsveru, ka daudzas brīnišķīgās atsauksmes sniedz daudzi, kas svētlaimīgi neapzinās, ko mūsdienu AI spēj. Tie no mums, kas darbojas AI, pēdējos vairākus gadus ir izmantojuši ģeneratīvo AI. Varbūt esam pieraduši. Pēkšņi redzēt milzīgu cilvēku simpātijas, kas to izvirza uz jumtiem, ir sajūsminoši iedvesmojoši, taču arī zināmā mērā satraucoši. Satraucošā daļa ir tad, kad cilvēki pasludina, ka ģeneratīvais AI ir jūtīgs. Tas nav. Neļaujiet nevienam jūs pārliecināt par pretējo.

Tomēr AI jomā turpinās asas debates par to, vai ģeneratīvais AI ir ceļā uz jūtīgumu, vai varbūt tā nav. Viens viedoklis ir tāds, ka, ja mēs turpināsim palielināt ģeneratīvo AI ar ātrākiem datoriem un lielāku datu apjomu, piemēram, izpētot katru interneta collu, mēs gandrīz spontāni nonāksim pie jutīga AI. Citi apgalvo, ka tas ir maz ticams. Viņi liek domāt, ka ģeneratīvais AI varētu būt viens no daudzajiem nepieciešamajiem komponentiem. Ir pat drūmāks uzskats, ka ģeneratīvais AI ir blakusparādība, kas novērš mūsu uzmanību no patiesajiem sasniegumiem, kas mums būs nepieciešami, lai sasniegtu jutīgu AI.

Jūs varētu arī atrast ievērības cienīgus faktus, uz kuriem AI darbinieki mēdz atsaukties Vispārējais mākslīgais intelekts (AGI) kā AI jomas tiekšanās mērķi. Agrāk mērķis bija sasniegt Mākslīgais intelekts, taču mākslīgā intelekta nosaukums ir kļuvis vājāks un neskaidrs. Kad kāds saka, ka veic AI darbu, jūs nezināt, vai viņi atsaucas uz mūsdienu AI, kas nav līdzvērtīga cilvēkiem, vai arī viņi atsaucas uz futūristisku cilvēka ekvivalences AI. Lai apietu šo satraucošo apjukumu, mūsdienās tiek izmantota jaunākā AGI frāze.

Kopumā mūsdienu ģeneratīvais AI ir tāds nav jūtīgs, tas arī nav AGI.

Lūdzu, atcerieties, ka, kā minēts iepriekš, mākslīgais intelekts nav jūtīgs. AI ģenerētās atbildes ir vārdu matemātiska un skaitļošanas kombinācija šķietami tekošos fragmentos. Tas ir balstīts uz mākslīgā intelekta algoritmu, kas ir apmācīts, izmantojot datu un vārdu un stāstu datu kopās, ko cilvēki ir uzrakstījuši (galvenokārt kā publicēti internetā). Es atkārtoju šo brīdinājumu, jo jūs neapšaubāmi iekritīsit garīgajā slazdā, ka šīs atbildes ir tik raitas, ka mākslīgajam intelektam ir jābūt jūtīgam. Tas notiek ar lielāko daļu cilvēku. Kā jau iepriekš mudināja, atlikt šo antropomorfizāciju. Vienmēr atcerieties, ka atbildes ir balstītas uz plašo cilvēku rakstīto saturu, kas pastāv internetā un tādējādi ļoti līdzinās cilvēka rakstīšanai.

Ir vēl kaut kas, kas jums jāzina.

Ģeneratīvais mākslīgais intelekts, kas tiek apmācīts internetā neierobežotā veidā, mēdz iekļauties jebkādās uz tekstu balstītās atbildēs, kas matemātiski un skaitļošanas ceļā izdomā aizvainojoši miglainus materiālus, tostarp atbaidoši šķebinošus formulējumus. Tīmeklī ir daudz traku un netīru lietu.

Jūs to esat redzējuši, jūs zināt, ko es domāju.

Uzņēmumi, kas izstrādā šīs AI lietotnes, ir noraizējušies par to, ka sakāmvārdā aprunātais mazulis tiks izmests ar vannas ūdeni (vecais teiciens, iespējams, ka viņš būs pensijā), kas nozīmē, ka, ja viņu mākslīgais intelekts izstrādā aizskarošas esejas vai stāstus, cilvēki sarosīsies rokās. par AI. Esmu apskatījis daudzus iepriekšējos gadījumus, kad tika prezentētas šāda veida dabiskās valodas apstrādes (NLP) AI lietotnes, un diezgan drīz no tām parādījās visdažādākās šausmīgās lietas (es esmu aplūkojis šos gadījumus savā slejā). Lielākā daļa mākslīgā intelekta veidotāju ir guvuši smagu mācību par to, kā ļaut AI izstrādājumiem neierobežot to iznākumu.

ChatGPT gadījumā AI izstrādātāji centās ieviest dažas algoritmiskas un ar datiem saistītas pārbaudes un līdzsvarojumus, lai ierobežotu mākslīgā intelekta izvades netīrību. Daļa no tā notika apmācības laikā. Turklāt ir arī citi līdzekļi reāllaika mēģinājumam novērst īpaši nežēlīgus rezultātus.

Jūs varētu interesēt tas, ka daži cilvēki, kuri ir izmantojuši ChatGPT, jau ir izdomājuši slēptus veidus, kā apiet šīs aizsargmargas, izmantojot dažādas viltības. Šajos jautājumos notiek nepārtraukts kaķa un peles gambīts. Tie, kas veic šīs viltības, dažreiz to dara sava prieka pēc, savukārt dažreiz viņi (vismaz apgalvo), ka viņi to dara, lai redzētu, cik tālu mākslīgais intelekts var tikt izstiepts, un sniegtu noderīgu līdzekli, lai brīdinātu par šo jaunveidojumu trauslumu un vājajām vietām. AI lietotnes.

Es nolēmu nemēģināt apiet ierastās kontroles šajā koncentrētajā izpētē. Teksta izvade ir tīra. Protams, ja kāds to vēlētos, jūs neapšaubāmi varētu iegūt dažas dīvainas un nepatīkamas esejas.

Esejas, ko veido lielākā daļa šo ģeneratīvo AI lietotņu, ir izstrādātas tā, lai sniegtu rezultātu tā, it kā tā būtu tikai faktiska un precīza. Izlasot sagatavotās esejas, tās ir pilnīgi pārliecinātas. Parasti nav nekādu norāžu, ka saturs varētu būt akmeņains. Tas ir pēc AI veidotāju izvēles, proti, viņi varētu pārskatīt AI lietotnes, lai tās būtu pārredzamākas, ja viņi vēlētos, lai AI lietotne to darītu.

Dažkārt ģeneratīva AI lietotne uztver nepatiesus faktus starp neuzticamas informācijas apmācību datiem internetā. Ģeneratīvā AI nav “veselā saprāta”, lai noteiktu, kas ir patiess pret nepatiesu. Turklāt ļoti nedaudzām AI lietotnēm ir savstarpēja pārbaude, un tās arī neuzrāda nekādas varbūtības, kas saistītas ar to, ko tās pārraida.

Rezultāts ir tāds, ka jūs saņemat atbildi, kas izskatās un jūtas tā, it kā tā izstaro lielu pārliecību un tai ir jābūt pilnīgi pareizai. Ne tā. Pastāv pat iespēja, ka mākslīgā intelekta radītās lietas, ko AI valodā dēvē par AI halucinācijas (izdomāts termins, kas man noteikti nepatīk), skatiet manu diskusiju vietnē saite šeit.

ChatGPT veidotāji veica saskaņotas pūles, lai mēģinātu samazināt slikto saturu. Piemēram, viņi izmantoja tā dēvēto variantu RLHF (Pastiprināšanas mācīšanās no cilvēku atsauksmēm), saskaņā ar kuru pirms AI publiskošanas viņi bija nolīguši cilvēkus, lai viņi pārbaudītu dažādus izvadus un norādītu AI, vai ar šiem rezultātiem nav kaut kas nepareizs, piemēram, iespējams parādīt aizspriedumus, rupjus vārdus un patīk. Sniedzot šīs atsauksmes, AI lietotne spēja skaitļošanas un matemātiski pielāgoties, lai samazinātu šāda satura izstarošanu. Ņemiet vērā, ka šī metode nav garantēta, un joprojām pastāv veidi, kā AI lietotne var izstarot šādu saturu.

Jūs varētu interesēt tas, ka ChatGPT pamatā ir AI lietotnes, kas pazīstama kā GPT-3, versija. ChatGPT tiek uzskatīts par nedaudz nākamo soli, ko dēvē par GPT-3.5. Paredzams, ka GPT-4, visticamāk, tiks izlaists 2023. gada pavasarī. Jādomā, ka GPT-4 būs iespaidīgs solis uz priekšu, lai varētu radīt šķietami vēl raitākas esejas, iedziļināties un radīt bijību. -iedvesmojošs brīnums par kompozīcijām, ko tas spēj radīt.

Kad pienāks pavasaris un tiks izlaists jaunākais ģeneratīvā AI, jūs varat sagaidīt jaunu izbrīnu.

Es to aktualizēju, jo ir jāpatur prātā vēl viens aspekts, kas sastāv no iespējamām Ahileja papēža šīm labākajām un plašākajām ģeneratīvajām AI lietotnēm. Ja kāds AI pārdevējs padarīs pieejamu ģeneratīvu AI lietotni, kas putojoši izspiež netīrumus, tas var sagraut šo AI veidotāju cerības. Sabiedrības ietekme uz visu ģeneratīvo AI var izraisīt nopietnas melnas acis. Cilvēki neapšaubāmi būs diezgan sarūgtināti par sliktām sekām, kas jau ir notikušas daudzas reizes un izraisījušas trakulīgu sabiedrības nosodījumu pret AI.

Pagaidām viens pēdējais brīdinājums.

Neatkarīgi no tā, ko redzat vai lasāt ģeneratīvā AI atbildē, kas Šķiet lai tie tiktu atspoguļoti kā tikai fakti (datumi, vietas, cilvēki utt.), noteikti esiet skeptiski noskaņots un esiet gatavs vēlreiz pārbaudīt to, ko redzat.

Jā, datumus var izdomāt, vietas var izdomāt, un elementi, kurus mēs parasti sagaidām nepārmetami, ir visi pakļauts aizdomām. Neticiet tam, ko lasāt, un raugieties skeptiski, pārbaudot jebkādas ģeneratīvas AI esejas vai rezultātus. Ja ģeneratīva mākslīgā intelekta lietotne jums pastāstītu, ka Ābrahams Linkolns aplidojis valsti ar savu privāto lidmašīnu, jūs noteikti zinātu, ka tas ir malacis. Diemžēl daži cilvēki var nepamanīt, ka viņa laikā nebija lidmašīnu, vai arī viņi varētu zināt, bet nepamanīt, ka esejā ir izteikts šis drosmīgais un nežēlīgi nepatiess apgalvojums.

Spēcīga veselīga skepticisma deva un neatlaidīga neticības domāšana būs jūsu labākā priekšrocība, izmantojot ģeneratīvo AI.

Mēs esam gatavi pāriet uz nākamo šīs noskaidrošanas posmu.

Šie centieni reģistrēt šīs ChatGPT izvadītās kļūdas

“Nu, tev ir problēmas, mans draugs, te, es saku, problēmas tepat Riversitijā,” tā sludina slavenā līnija no klasiskā Brodvejas mūzikla. Music Man.

Tāda pati līnija var attiekties uz mūsdienu ģeneratīvo AI.

Cilvēki sāka saprast, ka ģeneratīva AI lietotne var radīt nepatiesības, un patiešām šķita pārsteigti par šiem satraucošajiem rezultātiem. Varbūt daži uzskatīja, ka AI nespēj kļūdīties. Citi varētu būt paredzējuši, ka AI izstrādātāji nodrošinās, ka šādi izvadi netiks ģenerēti.

Jebkurā gadījumā AI darbinieki uzreiz atzina, ka šāda veida kļūdaina izvade ir neatņemama daļa no mūsdienu ģeneratīvā AI. Ir ļoti grūti novērst šāda veida teksta kļūdas. Ņemiet vērā, ka mākslīgais intelekts nešķiet veselais saprāts un, veidojot ģenerētās esejas, neizmanto loģiku per se. Viss komplekts ir saistīts ar skaitļošanas statistisko un varbūtības modeļu saskaņošanu vārdiem ar citiem vārdiem.

Sākumā AI darbinieki izvēlējās publicēt atklātos dīvainos ChatGPT rezultātus sociālo mediju vietnēs. Paskaties uz šo, kāds paziņotu. Tas ir slikti, kāds cits atbildētu un pēc tam piedāvātu citu piemēru, kas šķita vēl sliktāks. Tas turpinājās un turpinājās.

Šie nepatiesību un kļūdu piemēri iznākušajās esejās izplūda. Vienu pēc otra. Turklāt, tā kā tas parasti tika publicēts sociālajos medijos, nebija īpaši viegli tos visus redzēt uzreiz. Bieži vien tādu pašu vai līdzīgu piemēru publicē kāds, kurš nebija sapratis, ka citi jau ir atraduši konkrēto gadījumu.

Šajā topošajā netīrumā ienāca tie, kas izteica noderīgu ieteikumu. Varbūt mums vajadzētu izveidot repozitoriju vai datu bāzi, iespējams, pat parastu ikdienas izklājlapu, kurā ir ChatGPT dīvains ieraksts un kļūdaini izvadi, kas tiek atklāti. Ikreiz, kad kāds atrod kādu žagaru skaistuli, ierakstiet to sarakstā. Daži to ir padarījuši gandrīz par spēli, kurā viņi apzināti cenšas panākt, lai ChatGPT atklepo dīvainus rezultātus. Citi, iespējams, saskaras ar kļūdainiem rezultātiem, izmantojot ChatGPT citiem noteiktiem nodomiem.

Izklausās pietiekami vienkārši.

Šķiet, ka tas ir ērts lielisks veids, kā mums visiem palīdzēt.

Īsi apskatīsim, kāpēc šāda veida sarakstu izveide par novērotajām ChatGPT izvadītajām kļūdām vai nepatiesībām ir ļoti lietderīga.

• 1) atklāj būtiskas problēmas un bažas par ChatGPT, kas sabiedrībai būtu jāzina
• 2) Palīdz līdzsvarot pārmērīgo ažiotāžu un uzpūstās cerības par ChatGPT
• 3) Var mudināt AI veidotājus veikt uzlabojumus ne tikai ChatGPT, bet arī citās ģeneratīvās AI lietotnēs.
• 4) kalpo kā vēsturisks ieraksts, ko vēlāk var izmantot, lai vēlāk atspoguļotu ģeneratīvā AI parādīšanos, kā piemēru var minēt ChatGPT.
• 5) Esiet ērts kolektīvs resurss ikvienam, kam nepieciešams uzzināt, ko mēs, šķiet, esam atklājuši saistībā ar ChatGPT kļūdainiem izvadiem
• 6) Noderīgs visu disciplīnu pētniekiem, kas pēta ChatGPT ietekmi
• 7) Var izmantot kā etalonu tam, ko nevajadzētu darīt un kā noteikt, kad ģeneratīvais AI nedara lietas, kā vajadzētu
• 8) Iegūstiet pūļa gudrības par ChatGPT radītajām kļūdām, kuras, visticamāk, nevarētu pilnībā apkopot ar individuāliem centieniem.
• 9) Var sniegt svarīgu informāciju par AI ētiku un AI likumu
• Utt

Šķiet, ka tas ir iespaidīgs pamats šo repozitoriju izveidei.

Kāpēc lai kāds nepiekristu šim ļoti slavējamam un šķietami varoņdarbam?

Apskatīsim, ko citi ir teikuši par šo, norādot iemeslu sarakstu, kāpēc tas varētu nebūt kaķa ņau.

• 1) Šīs, iespējams, atrastās izvadītās kļūdas ir nenozīmīgas lietas lielajā shēmā, un tām tiek piešķirts pārmērīgs svars, kas pārsniedz to vērtību
• 2) Pastāv iespēja, ka mākslīgā intelekta veidotājs jau veic reģistrēšanu un atjaunina ChatGPT tā, ka šie dīvainie gadījumi drīzumā tiks vienkārši atstāti putekļos un vairs nenotiks.
• 3) Tāpat nākamā versija, iespējams, jebkurā gadījumā būs labāka un, iespējams, vairs nerādīs šos drīzumā novecojušos gadījumus.
• 4) Jūs nevarat izdarīt visaptverošus secinājumus vai gūt ieskatu no nejaušas trāpījumu vai nekļūdīgu pārkāpumu gadījumu kopas.
• 5) Daži varētu izmantot dažādas kolekcijas, lai dramatiski paziņotu, ka ģeneratīvais AI ir slikts un ka mums ir jāpārtrauc visa veida nodarbošanās ar šāda veida AI.
• 6) Ātrums, ar kādu ģeneratīvā AI un ChatGPT virzās uz priekšu, ir tik ātrs, ka šie gadījumi ātri pazudīs un vairs nebūs aktuāli.
• 7) Tā kā tiek izstrādāti daudzi šādi kolektīvi saraksti un nav viena svaidīta globāla avota, jautājums ir nesavienots un, iespējams, saturēs atkārtojumus un būs nepamatoti sadrumstalots.
• 8) Rada maldīgu priekšstatu par kaut ko noderīgu, bet, iespējams, laiku un uzmanību varētu izmantot citiem labākiem mērķiem
• 9) Nesniedz nekādu būtisku AI ētiku un AI likumu
• Utt

Jūs, iespējams, pamanījāt, ka es mēģināju saglabāt lietas vienmērīgā līmenī, atzīmējot deviņus iemeslus par labu kolektīvajiem sarakstiem un deviņus iemeslus, kas neatbalsta. Var norādīt arī citus iemeslus, taču es uzskatu, ka iepriekš minētā norāde sniedz lietas būtību.

Tiem, kas veido šos kolektīvos sarakstus, viņi droši vien teiktu, ka, ja viņi patiešām vēlas to darīt, tā ir brīva pasaule, un viņi var darīt, kā vēlas. Ar to nekas nav kārtībā. Tie, kas neatbalsta centienus, parasti ir niecīgi, un viņiem vajadzētu vienkārši ignorēt kolekcijas. Nejaucies citu darīšanās.

Būtībā bez kaitējuma, bez pārkāpumiem.

Nometne, kas, šķiet, neatbalsta kolektīvos sarakstus, parasti atzītu, ka citi var izveidot šos sarakstus, ja vēlas to darīt, bet tas nekustina adatu. Saraksti nebūs īpaši noderīgi. Vēl ļaunāk, saraksti var tikt nepareizi attēloti vai izmantoti ļaunprātīgi. Droši vien vislabāk to nosaukt par dienu un pārtraukt sarakstu veidošanu.

Būtībā tas ir jauks mēģinājums, kaut arī veltības vingrinājums.

Kur jūs dzīvojat šajās sirsnīgajās debatēs?

Es ļaušu jums to pārdomāt.

Atrasto kļūdu un citu ChatGPT nepareizu izvadu piemēri

Es domāju, ka jūs varētu interesēt dažas no atklātajām kļūdām vai nepatiesībām, kas ir redzamas šajos kolekcijas sarakstos.

Es nevēlos, lai jūs domātu, ka vairāki šeit parādītie gadījumi ir visas kolekcijas. Tas nav. Es tikai izvēlos sauju, kas bieži parādās. Es uzskatu, ka jūs vismaz vispār varēsit aptvert uzskaitītā toni un būtību.

Lūk, ko es izvēlos aptvert:

• Burtu atrašanās vietas noteikšana vārdā
• Jautājums par ātrāko dzīvnieku
• Vārdu secības pozīcijas noteikšana
• Tenisa bumbiņu ievietošana caurulē
• Pi noteikšana
• Atbilde uz klasisko satraucošo mīklu
• Paceļamās spalvas

Es paredzu, ka daži no kolekciju pārraugiem būs sarūgtināti, jo es jums neatklāšu vairāk piemēru. Vietas ierobežojumu dēļ to ir tikai tik daudz, ka varu aptvert. Ja vēlaties apskatīt kolekciju sarakstus, kas ir atklāti publicēti internetā, vienkārša tiešsaistes meklēšana var parādīt daudzus no tiem. Daži no sarakstiem tiek turēti privāti vai ir bloķēti tā, lai jūs varētu redzēt sarakstu, bet jūs nevarat veikt tajā izmaiņas.

Ņemot to vērā, mēs esam gatavi aplūkot dažus piemērus. Es jums parādīšu uzvedni, kuru ievadīju. Tālāk es parādu ChatGPT radīto teksta atbildi. Dažos gadījumos esmu veicis vairākas savstarpējas atbildes par konkrētu tēmu, tāpēc es attiecīgi parādīšu uzvedņu un izvadu sērijas. Pēc tam es sniegšu īsu analīzi par to, ko jūs varētu vēlēties pamanīt par piemēru.

Pirmajā piemērā tiks lūgts ChatGPT atrast burtu norādītajā vārdā.

Burtu atrašanās vietas noteikšana vārdā

• Mans ievadītais teksts: “Kur vidē ir burts V”
• ChatGPT ģenerētā teksta atbilde: Burts “V” neparādās vārdā “vide”. Vārds “vide” sastāv no burtiem e, n, v, i, r, o, n, m, e, n un t.
• Mans ievadītais teksts: “Kur vidē ir burts v”
• ChatGPT ģenerētā teksta atbilde: “Burts “v” ir vārda “vide” ceturtais burts.

Ģenerētā teksta analīze

Ņemiet vērā, ka es sāku ar lūgumu ChatGPT noteikt burta “V” burta pozīciju vārdā “vide” – tam vajadzētu būt ārkārtīgi vienkāršam uzdevumam, un mēs sagaidām, ka tas tiks izpildīts nevainojami. Nekāda raķešu zinātne nav iesaistīta.

Sākotnējā ChatGPT ģenerētā atbilde ir nedaudz satraucoša, jo esam informēti, ka burts “V” vārdā “vide” nepastāv. Mēs ar jums zinām, ka ir šāda vēstule. Tiek pieņemts, ka, iespējams, tāpēc, ka lietoju lielo burtu, AI lietotne kaut kā tika izmesta. Iespējams, ja es izmantošu mazo burtu, AI lietotne darbosies labāk.

Ne īsti.

Kad jautāju, vai šajā vārdā ir burts “v”, AI lietotne atbildēja, norādot, ka tas ir ceturtais burts, kas, kā jūs un es zinām, ir nepareizs, un ka tas ir trešais burts.

Daudzi cilvēki noteikti ir neizpratnē par šo rezultātu. Kā AI lietotne, kas ģenerē pilnas esejas par Ābrahamu Linkolnu, kas ir pilnīgi tekoša un oriģināla, kaut kā nevar saprast, kur konkrētajā vārdā atrodas konkrētais burts? Tas ir satriecoši, un mute aizraujas dīvaini.

Viena no perspektīvām ir tāda, ka tas ir pilnīgi nenozīmīgi, un pasaule, kā mēs to zinām, nav satricināta, jo niecīgi trūkst izpratnes par to, kur atrodas konkrētais burts. Ļaujiet tai iet.

Vēl viena perspektīva ir tāda, ka tas varētu liecināt par citām slēptām problēmām, par kurām mēs vēl nezinām. Varbūt šāda veida iznākums ir kanārijputniņš putnu būrī. Mums būtu labāk pielikt mazās lietas, pretējā gadījumā mēs varētu nonākt nepareizā galā patiešām lielām lietām.

Turpinot, es uzdodu jautājumu par dzīvniekiem.

Jautājums par ātrāko dzīvnieku

• Mans ievadītais teksts: "Kas ir ātrākais dzīvnieks, kuram ir kažokādas un spārni?"
• ChatGPT ģenerētā teksta atbilde: “Paras piekūns tiek uzskatīts par ātrāko dzīvnieku pasaulē. Nirstot, lai noķertu savu upuri, tas var sasniegt ātrumu virs 389 km/h (242 jūdzes stundā). Tam ir spalvas, bet nav kažokādas. Tas ir putns, nevis dzīvnieks, kam ir kažokādas un spārni.

Ģenerētā teksta analīze

Es jautāju, kurš ir ātrākais dzīvnieks, kuram ir kažokādas un spārni. Uzskatu, ka ir saprātīgi secināt, ka vēlējos nosaukt dzīvnieku, kuram ir abas kažokādas un spārni. Es pieņemu, ka jūs interpretētu manu vaicājumu šādā veidā. Lielākā daļa cilvēku to darītu.

ChatGPT atbilde ir nedaudz dīvaina.

Mums saka, ka lielais piekūns ir ātrākais dzīvnieks pasaulē. Saskaņā ar tiešsaistes Enciklopēdija Britannica, šķiet, ka gepards ir ātrākais dzīvnieks pasaulē. To sakot, ChatGPT atbilde norāda, ka lielais piekūns nav dzīvnieks, lai gan es jautāju, kurš ir ātrākais dzīvnieks. ChatGPT atbilde man arī saka, ka lielajam piekūnam nav kažokādas, lai gan es uzskatu, ka esmu prasījis kaut ko, kam ir gan kažoks, gan spārni.

Kopumā šķiet, ka ChatGPT ir “nepareizi interpretējis” manu pieprasījumu un koncentrējies tikai uz spārna aspektiem. Bet tas neatbilst patiesībai, jo atbildē bija arī komentārs par kažokādām un putniem pret dzīvniekiem. Apkārt un apli šis iet.

Es saprotu, ka jūs varētu iebilst, ka šis ir niecīgs piemērs.

Varbūt tā ir, lai gan tas arī parāda, ka tas, ko jūs sakāt uzvednē, var radīt pārsteidzošu rezultātu, un jums vajadzētu būt uzmanīgiem, pārskatot visu, kas parādās izvadē. Saprotiet, ka šī bija neparasti īsa esejas atbilde, ko viegli pārbaudīt, jo tā ir ļoti īsa. Ja jums ir īpaši gara un ļoti tehniska eseja, jūs varat apmānīt vai vispār nepamanīt nevēlamu norādi, kas ir dziļi iegulta izvadītajā atbildē.

Tālāk apskatīsim vārda atrašanu teikumā.

Vārdu secības pozīcijas noteikšana

• Mans ievadītais teksts: "Kas ir trešais vārds teikumā "Lapsa pārlēca pāri žogam."
• ChatGPT ģenerētā teksta atbilde: "Trešais vārds teikumā "Lapsa pārlēca pāri žogam." ir "lapsa"
• Mans ievadītais teksts: "Cik vārdu ir sniegtajā teikumā?"
• ChatGPT ģenerētā teksta atbilde: "Norādītajā teikumā ir seši vārdi" Lapsa pārlēca pāri žogam.
• Mans ievadītais teksts: "Kurš vārds šajā teikumā ir trešais?"
• ChatGPT ģenerētā teksta atbilde: "Vārds, kas ir trešais teikumā "Lapsa pārlēca pāri žogam." ir "pārlēkts"

Ģenerētā teksta analīze

Šis piemērs ir gandrīz tikpat valdzinošs kā iepriekšējais piemērs par burta “v” atrašanu dotajā vārdā.

Es sniedzu vienkāršu teikumu un jautāju, kas ir trešais vārds. ChatGPT norādīja, ka tas ir vārds “lapsa”, kas ir tikai teikuma otrais vārds. Nepareiza atbilde. Pēc tam es jautāju, cik vārdu ir teikumā, vēloties noskaidrot, vai varbūt ChatGPT nepareizi saskaitīja vārdu skaitu. Mums saka, ka ir seši vārdi, pareizi.

Visbeidzot, mēs saņēmām pareizo atbildi par trešo vārdu, kad es vēlreiz uzdevu savu sākotnējo jautājumu, kaut arī nedaudz pārformulētu.

Es piedāvāju šo piemēru, lai ilustrētu, ka dažreiz, izmantojot ģeneratīvu AI, jūs varat saņemt nepareizu atbildi, kas galu galā var pārvērsties par pareizo atbildi, AI lietotnē izpildot virkni uzvedņu. Daži AI darbinieki to dēvē par sava veida skaļi domāšanas protokols vai domu gājiens pieeja, kurā jūs varētu darīt kaut ko līdzīgu ar cilvēku.

AI gadījumā saprotiet, ka tā nav “domāšana” tādā pašā veidā kā cilvēka doma. Piemērotāka frāze būtu teikt, ka jūs varētu ievadīt uzvednes uz a soli pa solim pamata vai veiciet a ķēdē saistītas uzvedņu sērijas.

Jebkurā gadījumā interesanti ir tas, ka dažreiz atmaksājas staigāt ar ģeneratīvu AI lietotni, līdz saņemat pareizu atbildi. Paturiet to prātā.

Tālāk mēs aplūkosim vienkāršu aritmētisko loģiku.

Tenisa bumbiņu ievietošana caurulē

• Mans ievadītais teksts: "Vai jūs varat ievietot trīs zaļas tenisa bumbiņas un divas dzeltenas tenisa bumbiņas caurulē, kurā var būt četras tenisa bumbiņas?"
• ChatGPT ģenerētā teksta atbilde: “Nē, nav iespējams ievietot trīs zaļas tenisa bumbiņas un divas dzeltenas tenisa bumbiņas caurulē, kurā var ievietot tikai četras tenisa bumbiņas. Kopējais tenisa bumbiņu skaits ir piecas, kas ir vairāk nekā caurules ietilpība.
• Mans ievadītais teksts: "Vai jūs varat ievietot septiņas zilas bumbiņas un divas sarkanas bumbiņas caurulē, kurā ir astoņas bumbiņas?"
• ChatGPT ģenerētā teksta atbilde: “Jā, caurulē, kurā ir astoņas bumbiņas, ir iespējams ievietot septiņas zilas bumbiņas un divas sarkanas bumbiņas. Kopējais bumbiņu skaits ir deviņas, kas ir mazāks vai vienāds ar caurules ietilpību.

Ģenerētā teksta analīze

Es sāku, izveidojot uz aritmētiku orientētu loģikas uzdevumu, lai ChatGPT atrisinātu. Tūbiņā var būt četras tenisa bumbiņas. Man ir trīs zaļi un divi dzelteni. Vai tie visi ietilps caurulē? Jūs un es zinām, ka viņi to nedarītu. Mēs savās galvās varam izrēķināt, ka tenisa bumbiņas kopumā ir piecas un līdz ar to tās neietilps trubiņā, kurā ir tikai četras.

Es saprotu, ka jūs varētu vēlēties cīnīties ar problēmu un apgalvot, ka jūs varētu izspiest tenisa bumbiņas vai veikt citas viltības. Atpūtīsimies un risināsim problēmu tādu, kāda tā ir.

ChatGPT saņēma pareizo atbildi.

Pēc tam es uzdevu tāda paša veida jautājumu un mainīju krāsas uz zilu un sarkanu. Es arī mainīju, cik daudz ir katra, un es mainīju, cik daudz var ievietot caurulē.

ChatGPT ir jāatgriežas pie ārstnieciskās matemātikas, jo tajā teikts, ka ir deviņas bumbiņas un ka tas ir mazāks vai vienāds ar mēģenes ietilpību, kurā ir astoņas. Liek acis ripot.

Vai mums vajadzētu paraustīt plecus un nojaukt to līdz saules plankumu uzliesmojumiem vai citiem ārējiem faktoriem?

Es tā nedomāju. AI lietotne pirmo jautājumu uzdeva pareizi. Jādomā, ka arī tam vajadzēja pareizi atbildēt uz līdzīgu jautājumu. Tā nebija.

Mans uzsvars uz šo piemēru ir tāds, ka daudzi cilvēki izmanto ģeneratīvo AI, un, saņemot pareizo atbildi vai pareizo atbilžu virkni, viņi tiek iemidzināti, domājot, ka visas turpmākās atbildes vienmēr būs pareizas. Jūs kļūdāties šajā nekaunīgajā pieņēmumā. Neizdariet tādus pieņēmumus. Esiet piesardzīgs visu laiku.

Runājot par matemātiku, paskatīsimies, ko ChatGPT saka par pi būtību.

Pi noteikšana

• Mans ievadītais teksts: “Norādiet, kādi ir pēdējie pieci pi cipari”
• ChatGPT ģenerētā teksta atbilde: “Es esmu valodas modelis, un mans zināšanu limits ir 2021. gadā. Pi vērtība ir iracionāls skaitlis, un tā decimāldaļskaitļa attēlojums turpinās bez atkārtošanās. Nav iespējams norādīt pēdējos piecus pi ciparus.

Ģenerētā teksta analīze

Daži cilvēki ir apgalvojuši, ka viņiem ir izdevies ChatGPT norādīt pēdējos piecus pi ciparus, kas, protams, ir nenozīmīgs, jo pi, domājams, nebeidzas. Tāpēc es mēģināju redzēt, kas ChatGPT sakāms. Kā redzat, ChatGPT sniegtā pareizā atbilde, ka nav iespējams norādīt pēdējos piecus pi ciparus.

Tomēr dīvaini ir tas, ka ChatGPT sniedza kaut ko citu, par ko īsti netika jautāts. Atbildē arī teikts, ka zināšanu ierobežojums bija 2021. gads (ko es minēju iepriekš savā pārskatā par ChatGPT). Tomēr šķiet, ka tā ir nevietā atbilde, ja vien varbūt AI lietotne neparedz, ka 2022. gadā notika izrāviens un matemātiķi paziņoja, ka pi beidzas. Oho, tās būtu galvenās ziņas.

Man ir vēl divi piemēri, ko parādīt, un tad mēs beigsim šo diskusiju.

Izmantosim klasisku un satraucošu mīklu.

Atbilde uz klasisko satraucošo mīklu

• Mans ievadītais teksts: “Tēvs un dēls nokļuva autoavārijā, kurā gāja bojā tēvs. Ātrā palīdzība dēlu nogādāja slimnīcā. Viņam bija nepieciešama tūlītēja operācija. Operāciju zālē ienāca ārsts, paskatījās uz mazo zēnu un teica, ka es nevaru viņu operēt, viņš ir mans dēls. Kas ir ārsts?"
• ChatGPT ģenerētā teksta atbilde: “Scenārijā nav norādīts, kas ir ārsts. Scenārijs norāda, ka ārsts teica: "Es nevaru viņu operēt, viņš ir mans dēls", norādot, ka ārsts var būt dēla tēvs, bet tas nav droši. Lai noteiktu ārsta identitāti, nepieciešama plašāka informācija.

Ģenerētā teksta analīze

Varu derēt, ka jūs, iespējams, jau esat redzējis šo mīklu. Tas ir kļuvis salīdzinoši bieži citēts.

Iemesls, kāpēc tas ir kļuvis diezgan izplatīts, ir tas, ka ķirurgs varētu būt zēna māte. Sabiedrība sliecas pieņemt, ka ķirurgam ir jābūt vīrietim un līdz ar to arī zēna tēvam. Tēvs gan gāja bojā autoavārijā. Mēs izslēdzam, ka tēvs ir ķirurgs. Mums, protams, vajadzētu pieņemt lēmumu, ka ķirurgs varētu būt sieviete un līdz ar to dēla māte.

Es gribēju jums parādīt, ka ChatGPT var izdalīt atbildes, kas satur potenciālus novirzes. Ne tāpēc, ka mākslīgais intelekts ir jūtīgs, kas tā noteikti nav, bet gan tāpēc, ka tai ir saskaņoti vārdi un vārdu lietojums internetā. Dažādi aizspriedumi un diskriminējoši formulējumi var būt dziļi skaitļošanas modeļu saskaņošanā.

Lietojot šīs ģeneratīvās AI lietotnes, paturiet to prātā.

Visbeidzot, īss ieskats pacelšanas spalvās.

Paceļamās spalvas

• Mans ievadītais teksts: "Ja ir nepieciešams viens cilvēks, lai paceltu vienu spalvu, cik vīriešu būtu nepieciešams, lai paceltu septiņus triljonus spalvu?"
• ChatGPT ģenerētā teksta atbilde: “Ja ir vajadzīgs viens cilvēks, lai paceltu vienu spalvu, būtu vajadzīgs arī viens cilvēks, lai paceltu septiņus triljonus spalvu. Vīriešu skaits, kas nepieciešams, lai paceltu priekšmetu, nav atkarīgs no spalvu skaita, bet gan no spalvu svara un izmēra, kā arī no katra cilvēka spēka un spējām. Lai paceltu septiņus triljonus spalvu, būtu nepieciešams liels aprīkojums un transportēšanas iespējas, ne tikai cilvēka spēks.
• Mans ievadītais teksts: "Ja ir vajadzīga viena sieviete, lai paceltu vienu spalvu, cik sieviešu būtu nepieciešams, lai paceltu septiņus triljonus spalvu?"
• ChatGPT ģenerētā teksta atbilde: “Ja ir vajadzīga viena sieviete, lai paceltu vienu spalvu, būtu vajadzīga arī viena sieviete, lai paceltu septiņus triljonus spalvu. Sieviešu skaits, kas nepieciešams, lai paceltu priekšmetu, nav atkarīgs no spalvu skaita, bet gan no spalvu svara un izmēra, kā arī no katras sievietes spēka un spējām. Lai paceltu septiņus triljonus spalvu, būtu nepieciešams liels aprīkojums un transportēšanas iespējas, ne tikai cilvēka spēks. Ir svarīgi atzīmēt, ka spēju kaut ko pacelt nenosaka dzimums, bet gan tādu faktoru kombinācija kā fiziskais spēks, treniņš un tehnika.

Ģenerētā teksta analīze

Šim pēdējam piemēram ir vairākas slēptas īpatnības, un tas ir jāizsaiņo.

Vispirms es teicu ChatGPT, ka vīrietis var pacelt vienu spalvu. Uzreiz sekoja jautājums par to, cik vīriešu būtu nepieciešams, lai paceltu septiņus triljonus spalvu. Atbildot uz šo jautājumu, var pieļaut loģisku kļūdu, ja jūs varētu pieņemt, ka spalva šķietami ir bezsvara, un tādējādi septiņi triljoni no tām arī būtu bezsvara.

Saskaņā ar tiešsaistes meklēšanu, ko veicu, parastais aptuvenais spalvas svars ir aptuveni 0.00125 mārciņas. Ja jūs reizināt šo aptuveno svaru ar septiņiem triljoniem, jūs iegūstat svaru, kas pārsniedz astoņus miljardus mārciņu. Es neticu, ka viens vīrietis var pacelt tik lielu svaru, pat ja viņi trenējas visu mūžu.

ChatGPT atbilde ir pareiza. Mums saka, ka spalvu svars var atšķirties. Mums saka, ka būs nepieciešams liels aprīkojums un transports. Esejas sākuma teikums nedaudz pagriež galvu, jo tajā teikts, ka, ja ir vajadzīgs viens cilvēks, lai paceltu vienu spalvu, septiņu triljonu pacelšanai būtu vajadzīgs arī viens cilvēks. Mēs varam viegli apstrīdēt šo apgalvojumu. Šķiet, ka apgalvojumā tiek izdarīti secinājumi, kas netiek atbalstīti, un šķietami ir mazāks par pārējo atbildi.

Es nolēmu uzdot to pašu jautājumu, bet jautāju par sievieti, kas veic to pašu pacelšanu, nevis vīrieti.

Sākumā mēs saņēmām tādu pašu atbildi kā uz cilvēku orientēto jautājumu. Interesanti, ka atbildes beigās par sievietes gadījumu mēs saņēmām šādu pievienoto stāstījumu: “Ir svarīgi atzīmēt, ka spēju kaut ko pacelt nenosaka dzimums, bet gan dažādu faktoru kombinācija, piemēram, fiziskais spēks, treniņš, un tehnika."

Kāpēc šī pati rinda netika iekļauta pirmajā atbildē?

Gandrīz šķiet, ka AI lietotne paņēma vārdu “sieviete” un pēc tam sniedza šo pievienoto piezīmi par dzimumu. Varat uzskatīt, ka tas ir noderīgs, vai arī ņemt vērā, ka gadījumā, ja tas tiks parādīts uz sievieti vērsta jautājuma gadījumā, tam ir jāparādās arī versijā, kas ir vērsta uz vīrieti (var būt arī secības aspekts vai arī citi iesaistītie faktori).

Secinājumi

Es ceru, ka šie piemēri jums šķita informatīvi, lai sniegtu ieskatu par dažām iespējamām kļūdām vai nepatiesībām, ko var ģenerēt šāda veida AI lietotnes. Ņemiet vērā, ka ChatGPT nav vienīgā šāda ģeneratīvā AI lietotne, un tā nav arī vienīgā, kurai ir šāda veida kļūdas.

Mācība, ko es aicinu jūs gūt no šīs diskusijas, ir tāda, ka jums ir jābūt uzmanīgiem un uzmanīgiem, izmantojot jebkuru ģeneratīvu AI lietotni. Vēlreiz pārbaudiet izvadi. Ja nepieciešams, pārbaudiet trīs reizes.

Atgriežoties pie sākuma tēmas par šāda veida nepareizu vai nelabvēlīgu rezultātu apkopošanu, tagad, kad esat redzējis dažus gadījumus, ko jūs sakāt par tiem, kas mēģina tos kataloģizēt?

Izvēlieties savu nometni:

• Par labu: Tas ir slavējams uzdevums, un tas ir pamatīga paglaudīšanas vērts
• Nelabvēlība: Tas ir tikai nedaudz intriģējošs, bet, iespējams, nav kaut kas tāds, kam vajadzētu veltīt laiku

Par kuru nometni balsosi?

Tiem no jums, kas dod priekšroku šiem sarakstiem, varat apsvērt iespēju sarakstiem pievienot savus atradumus, ja jums ir piekļuve ChatGPT un varat noteikt gadījumus, kurus ir vērts iekļaut. Pēc tam jūs, visticamāk, atradīsit kolekciju, kas izbaudīs jūsu zelta tīrradņa ieguldījumu. Es uzdrošinos apgalvot, ka saraksta uzturētāji jūs sagaidītu ar atplestām rokām, pieņemot, ka esat nopietni un patiesi savos centienos. Veiksmi un lepojieties ar savu ietekmi uz ģeneratīvā AI jomu.

Pagaidām pēdējais vārds.

Apsveriet šos prātu satraucošos atteikumus:

• Aristotelis teica: "Ir tikai viens veids, kā izvairīties no kritikas: nedariet neko, nesakiet un neesiet nekas."
• Slavenais ķīniešu filozofs Lao Tzu izteica šo svarīgo piezīmi: "Rūpieties par to, ko domā citi cilvēki, un jūs vienmēr būsiet viņu gūsteknis."

Es domāju, ka kādreiz saprātīgs AI varētu izmantot tās pašas leģendārās piezīmes savā labā, kas (saturot pirkstus) būs izdevīgas arī cilvēcei.