Iedziļināties ģeneratīvā AI tērzēšanas tērzēšanas gaisotnē un fanfarās, tostarp AI ētikas un AI tiesību apsvērumos

Domāju, ka līdz šim esat dzirdējuši vai, iespējams, redzējuši kliedzošus ziņu virsrakstus vai ierakstus sociālajos tīklos, kuros tiek reklamēts par vispopulārāko un jaunāko AI lietojumu, kas ģenerē šķietami cilvēka rakstītus uz tekstu orientētus stāstījumus, izmantojot AI lietojumprogrammu, kas pazīstama kā ChatGPT.

Ja neesat dzirdējis vai lasījis par šo jauno AI lietotni, neuztraucieties, es jums pastāstīšu par visu.

Tiem no jums, kas jau ir informēti par ChatGPT, jūs varētu interesēt daži no maniem iekšējiem ieskatiem par to, ko tas dara, kā tas darbojas un kam jāpievērš uzmanība. Kopumā gandrīz ikviens, kam rūp nākotne, neizbēgami vēlēsies uzzināt, kāpēc visi ir noraizējušies par šo AI lietojumprogrammu.

Lai precizētu, niknās prognozes liecina, ka šāda veida AI mainīs dzīvi, tostarp to cilvēku dzīvi, kuri vēl neko nezina par ChatGPT vai citām līdzīgām AI iespējām. Kā es īsumā paskaidrošu, šīm AI lietotnēm būs diezgan plaša ietekme tādā veidā, ko mēs tikai sākam paredzēt.

Sagatavojieties braucienam amerikāņu kalniņos, kas pazīstams kā Ģeneratīvais AI.

Es sākšu ar dažiem galvenajiem pamatinformāciju par ģeneratīvo AI un izmantošu vienkāršāko scenāriju, kas ietver AI, kas ģenerē mākslu. Pēc tam, kad būsiet iepazinies ar šo pamatu, mēs pāriesim pie ģeneratīvas AI, kas ģenerē uz tekstu orientētus stāstījumus.

Manu pastāvīgo un plašo informāciju par AI kopumā, tostarp AI ētiku un AI likumu, skatiet saite šeit un saite šeit, tikai nosaukt dažus.

Ģeneratīvs AI, kas rada ģenerētu mākslu

Es nosaucu šo AI veidu vai stilu kā būtni ģenerators kas ir AI entuziasma terminoloģija, ko izmanto, lai aprakstītu AI, kas ģenerē tādus izvadus kā teksts, attēli, video un tamlīdzīgi.

Jūs, iespējams, pamanījāt šī gada sākumā, ka ir bijis liels uzplaukums par iespēju ģenerēt mākslinieciskus attēlus, ievadot vienu vai divas teksta rindiņas. Ideja ir diezgan vienkārša. Jūs izmantojat AI lietotni, kas ļauj ievadīt noteiktu tekstu pēc jūsu izvēles. Piemēram, varat ierakstīt, ka vēlaties redzēt, kā izskatītos varde ar cepuri uz skursteņa. Pēc tam AI lietotne parsē jūsu vārdus un mēģina ģenerēt attēlu, kas kopumā atbilst jūsu norādītajiem vārdiem. Cilvēki ir ļoti izbaudījuši visu veidu attēlu ģenerēšanu. Sociālie mediji kādu laiku bija aizsērējuši ar viņiem.

Kā ģeneratīvais AI ietekmē ģenerēšanas aspektus?

Ģeneratīvā mākslīgā intelekta stila teksta pārvēršanas mākslā gadījumā liela daļa tiešsaistes mākslas tika iepriekš skenēta, izmantojot datora algoritmus, un skenētās mākslas elementi tika skaitļošanas veidā analizēti, lai noteiktu iesaistītos komponentus. Iedomājieties tiešsaistes attēlu, kurā ir varde. Iedomājieties citu atsevišķu attēlu, kurā ir skurstenis. Vēl citā attēlā ir cepure. Šīs sastāvdaļas tiek identificētas skaitļošanas veidā, dažreiz bez cilvēka palīdzības un dažreiz ar cilvēka vadību, un pēc tam tiek formulēts sava veida matemātisks tīkls.

Kad atnākat vēlāk un lūdzat ģenerēt mākslas darbu ar varde ar cepuri uz skursteņa, AI lietotne izmanto matemātisko tīklu, lai atrastu un apkopotu šos elementus. Rezultātā iegūtais mākslas attēls var parādīties tā, kā jūs cerējāt, vai arī ne. Varbūt varde ir neglīta izskata. Cepure varētu būt liela cepure, bet jūs vēlējāties plānāku derbija stila cepuri. Tikmēr vardes attēls stāv uz skursteņa, lai gan jūs meklējāt, lai varde tā vietā sēdētu.

Šāda veida AI lietotņu jaukums ir tas, ka tās parasti ļauj atkārtot pieprasījumu un arī pievienot papildu specifikācijas, ja vēlaties to darīt. Tādējādi jūs varat atkārtot savu pieprasījumu un norādīt, ka vēlaties skaistu vardi ar derbija cepuri, kas sēž uz skursteņa. Voila, tikko ģenerētais attēls varētu būt tuvāk tam, ko vēlaties.

Daži ir domājuši, vai mākslīgais intelekts tikai atgrūž tieši to, uz ko tas tika apmācīts. Atbilde ir nē (parasti). Vardes attēls, ko AI parāda jūsu pieprasījumam, ne vienmēr ir precīzs līdzīga attēla dublikāts, kas bija treniņu komplektā. Lielākā daļa šo ģeneratīvo AI lietotņu ir iestatītas, lai vispārinātu visus attēlus, kurus tās sākotnēji atrada. Padomājiet par to šādi. Pieņemsim, ka esat savācis tūkstoš varžu attēlu. Varat pakāpeniski izdomāt, kā varde izskatās, sajaucot tūkstoš atrasto attēlu. Tādējādi varde, kuru jūs beidzot uzzīmējat, ne vienmēr ir tieši tāda pati, kā jūs izmantojāt apmācībai.

To sakot, pastāv iespēja, ka AI algoritms var neveikt tik daudz vispārināšanas, kā varētu pieņemt. Ja ir unikāli apmācības attēli un nav citu līdzīgu attēlu, iespējams, AI “vispārina” diezgan tuvu vienīgajam konkrētajam gadījumam, ko tas saņēma. Tādā gadījumā algoritma mēģinājums vēlāk izveidot pieprasīto šāda veida attēlu varētu izskatīties ļoti līdzīgs tam, kas bija apmācību komplektā.

Es uz brīdi apstāšos, lai sniegtu dažas domas saistībā ar AI ētiku un AI likumu.

Kā minēts, ja ģeneratīvais AI tiek apmācīts internetā, tas nozīmē, ka viss, kas ir publiski publicēts internetā, iespējams, tiks izmantots AI algoritmā. Pieņemsim, ka jums ir gudrs mākslas darbs, pie kura strādājāt, un uzskatāt, ka jums pieder tiesības uz šo mākslas darbu. Jūs ievietojat tā attēlu tiešsaistē. Ikvienam, kurš vēlas izmantot jūsu mākslas darbu, ir jānāk pie jums un jāsamaksā maksa par šo izmantošanu.

Iespējams, jūs jau nojaušat, kurp tas virzās.

Pagaidiet, lai uzzinātu nepatīkamās ziņas.

Tātad ģeneratīva AI lietotne, kas tiek apmācīta, plaši pārbaudot saturu internetā, atklāj jūsu brīnišķīgo mākslas darbu. Jūsu mākslas darba attēls tiek absorbēts AI lietotnē. Jūsu mākslinieciskās īpašības tagad tiek matemātiski apvienotas ar citiem skenētiem mākslas darbiem. Ja jums tiks lūgts ģenerēt mākslas darbu, mākslīgais intelekts var izmantot jūsu darbu, veidojot jaunizveidotu mākslas attēlu. Tie cilvēki, kas uzkrāj mākslu, var neapzināties, ka savā ziņā mākslā ir jūsu konkrētie pirkstu nospiedumi, jo mākslīgā intelekta algoritms ir nedaudz iespiedies jūsu šedevrā.

Pastāv arī iespēja, ka, ja jūsu mākslas darbs bija ārkārtīgi unikāls, AI lietotne tos var izmantot atkārtoti, lai parādītu mākslinieciskumu. Tādēļ dažkārt jūsu mākslas darbs var būt tikko atpazīstams dažos jaunizveidotajos AI mākslas darbos, savukārt citos gadījumos ģenerētais mākslas darbs ir gandrīz vai nospīlēts attēls tam, ko jūs izdomājāt.

Ir pienācis laiks šajā scenārijā iekļaut AI ētiku.

Vai ir ētiski pareizi vai pareizi, ka ģeneratīvais AI ir ģenerējis mākslas darbus, kuriem ir līdzība ar jūsu mākslu?

Daži saka jā, un daži saka nē.

“Jā” nometne, uzskatot, ka tas ir ētiski pilnīgi pareizi, iespējams, iebilstu, ka, tā kā jūs ievietojāt savu mākslas darbu tiešsaistē, tas ir pieejams ikvienam vai citam, kas vēlas to kopēt. Turklāt viņi var apgalvot, ka jaunā māksla nav precīza jūsu darba kopija. Tādējādi jūs nevarat sūdzēties. Ja mēs kaut kā pārtrauktu esošās mākslas atkārtotu izmantošanu, mums nekad nebūtu jāskatās uz jaunu mākslu. Turklāt mēs, iespējams, varētu iesaistīties karstās debatēs par to, vai jūsu konkrētais mākslas darbs tiek kopēts vai izmantots — tas varētu būt kāds cits mākslas darbs, par kura esamību jūs pat nezinājāt un kas patiesībā bija pamatā.

Nometne stingri uzstās, ka tas ir ļoti neētiski. Nav divu veidu par to. Viņi iebilst, ka jūs tiekat izzagts. Tas, ka jūsu mākslas darbs ir publicēts tiešsaistē, nenozīmē, ka ikviens var to brīvi kopēt. Iespējams, jūs ievietojāt mākslu ar stingru brīdinājumu to nekopēt. Tikmēr AI nāca līdzi un noņēma mākslu un pilnībā izlaida brīdinājumus. Satriecoši! Un attaisnojums, ka AI algoritms ir vispārinājis un neveic precīzas kopēšanas iespējas, šķiet viens no viltus attaisnojumiem. Tā izdomāja, kā izmantot jūsu mākslinieciskumu, un tas ir viltus un kauns.

Kā ir ar šī ģeneratīvā AI juridiskajiem aspektiem?

Ir daudz strīdu par ģeneratīvā AI juridiskajām detaļām. Vai jūs skatāties uz federālajiem likumiem par intelektuālā īpašuma (IP) tiesībām? Vai tie ir pietiekami strikti, lai pieteiktos? Kā ir tad, kad ģeneratīvais AI šķērso starptautiskās robežas, lai savāktu apmācību komplektu? Vai mākslīgā intelekta radītie mākslas darbi iekļaujas dažādās izslēdzošajās kategorijās, kas saistītas ar intelektuālā īpašuma tiesībām? Un tā tālāk.

Daži uzskata, ka mums ir nepieciešami jauni ar AI saistīti likumi, lai cīnītos tieši ar šāda veida ģeneratīvām AI situācijām. Tā vietā, lai mēģinātu apgrūtināt esošos likumus, varētu būt tīrāk un vieglāk izveidot jaunus likumus. Turklāt, pat ja tiek piemēroti esošie tiesību akti, izmaksas un kavēšanās, mēģinot uzsākt tiesvedību, var būt milzīgas un kavē jūsu spēju virzīties uz priekšu, ja uzskatāt, ka jums ir nodarīts netaisnīgs un nelikumīgs kaitējums. Lai iegūtu informāciju par šīm tēmām, sk saite šeit.

Šiem AI ētikas un AI tiesību apsvērumiem pievienošu papildu pavērsienu.

Kam pieder tiesības uz AI radīto produkciju?

Jūs varētu teikt, ka cilvēkiem, kas izstrādāja AI, vajadzētu piederēt šīm tiesībām. Ne visi piekrīt šādam apgalvojumam. Jūs varētu teikt, ka AI pieder šīs tiesības, taču to samulsina fakts, ka mēs parasti neatzīstām, ka AI varētu būt šādas tiesības. Kamēr mēs nenoskaidrosim, vai mākslīgajam intelektam būs juridiskas personas statuss, šajā jomā lietas ir neskaidras, skatiet manu analīzi vietnē saite šeit.

Es ticu, ka tagad jums ir līdzība tam, ko dara ģeneratīvais AI. Tālāk mēs varam izskatīt lietošanas gadījumu, kas saistīts ar uz tekstu balstītu stāstījumu ģenerēšanu.

Ģeneratīvs AI, kas ģenerē uz tekstu balstītus stāstījumus

Tagad, kad esam apsprieduši ģeneratīvā AI izmantošanu mākslas vai attēlu radīšanai, mēs varam viegli izpētīt tos pašus vispārīgos formulējumus, lai izveidotu uz tekstu balstītus stāstījumus.

Sāksim ar kaut ko tādu, ko mēs visi zinām un mēdzam izmantot katru dienu. Ievadot tekstu tekstapstrādes pakotnē vai e-pasta lietotnē, pastāv iespēja, ka ir automātiskās labošanas funkcija, kas mēģina uztvert jebkuru no jūsu pareizrakstības kļūdām.

Kad šāda veida automātiskās palīdzības funkcija kļuva izplatīta, nākamais uzlabotais aspekts sastāvēja no automātiskās pabeigšanas iespējas. Automātiskās pabeigšanas koncepcija ir tāda, ka tad, kad sākat rakstīt teikumu, tekstapstrādes vai e-pasta lietotne mēģina paredzēt, kādus vārdus jūs, visticamāk, ierakstīsit tālāk. Tas varētu paredzēt tikai vienu vai divus vārdus uz priekšu. Ja iespējas ir īpaši uzlabotas, tas var paredzēt visa teikuma atlikušo daļu.

Mēs varam iedarbināt šo ātrumu. Pieņemsim, ka sākat rakstīt teikumu un automātiskā pabeigšana ģenerē visu pārējo rindkopu. Voila, jums nebija tieši jāraksta rindkopa. Tā vietā lietotne to izdarīja jūsu vietā.

Labi, tas šķiet gudri. Pabīdiet to tālāk. Jūs sākat teikumu, un automātiskā pabeigšana veido visu ziņojumu. Tas var sastāvēt no daudzām rindkopām. Tas viss tiek ģenerēts, ievadot tikai teikuma daļu vai, iespējams, pilnu teikumu vai divus.

Kā automātiskā pabeigšana nosaka, ko jūs, visticamāk, ierakstīsit nākamo?

Izrādās, ka cilvēki mēdz rakstīt vienu un to pašu, atkal un atkal. Varbūt jūs to nedarāt, taču būtība ir tāda, ka tas, ko jūs rakstāt, iespējams, ir kaut kas tāds, ko kāds cits jau ir uzrakstījis. Iespējams, tas nav tieši tas, ko jūs plānojat rakstīt. Tā vietā tas varētu būt nedaudz līdzīgs tam, ko jūs gatavojaties rakstīt.

Izmantosim to pašu loģiku, kas tika izmantota mākslas vai attēlu radīšanā.

Ģeneratīvā AI lietotne tiek sagatavota, izejot uz internetu un pārbaudot visu veidu tekstu, kas pastāv tiešsaistes pasaulē. Algoritms mēģina skaitļošanas veidā noteikt, kā vārdi ir saistīti ar citiem vārdiem, kā teikumi ir saistīti ar citiem teikumiem un kā rindkopas ir saistītas ar citām rindkopām. Tas viss ir matemātiski modelēts, un tiek izveidots skaitļošanas tīkls.

Lūk, kas notiks tālāk.

Jūs nolemjat izmantot ģeneratīvu AI lietotni, kas ir vērsta uz tekstu balstītu stāstījumu ģenerēšanu. Palaižot lietotni, jūs ievadāt teikumu. AI lietotne skaitļošanas veidā pārbauda jūsu teikumu. Dažādās matemātiskās attiecības starp jūsu ievadītajiem vārdiem tiek izmantotas matemātiskajā tīklā, lai mēģinātu noskaidrot, kāds teksts būs nākamais. No vienas jūsu rakstītās rindiņas var ģenerēt visu stāstu vai stāstījumu.

Tagad jūs varētu domāt, ka tas ir pērtiķis-redz-pērtiķis-do un ka ģeneratīvā AI radītais teksts būs muļķīgs. Jūs būtu pārsteigts, cik labi tiek pielāgots šāda veida AI. Ar pietiekami lielu datu kopu apmācībai un pietiekamu datora apstrādi, lai to plaši izmantotu, ģeneratīvā AI radītā produkcija var būt pārsteidzoši iespaidīga.

Jūs skatāties uz iznākumu un, iespējams, zvērat, ka ģenerēto stāstījumu noteikti ir uzrakstījis tieši cilvēks. Tas ir tā, it kā jūsu sods tiktu nodots cilvēkam, kurš slēpjas aizkulisēs, un viņi ātri uzrakstīja jums visu stāstījumu, kas gandrīz pilnībā atbilst tam, ko jūs citādi teiktu. Lūk, cik labi ir kļuvuši matemātikas un skaitļošanas pamati.

Parasti, izmantojot ģeneratīvu AI, kas veido uz tekstu balstītus stāstījumus, jums ir tendence sniegt sākuma jautājumu vai sava veida apgalvojumu. Piemēram, varat ierakstīt “Pastāsti man par putniem Ziemeļamerikā”, un ģeneratīvais AI uzskatīs to par apgalvojumu vai jautājumu, saskaņā ar kuru lietotne pēc tam mēģinās identificēt “putnus” un “Ziemeļamerika” ar jebkuru apmācītu datu kopu. tā ir. Esmu pārliecināts, ka varat iedomāties, ka internetā ir pieejams plašs tekstu klāsts, kas aprakstījis Ziemeļamerikas putnus, no kuriem mākslīgais intelekts priekšapmācības laikā ir izvilcis un modelējis teksta krājumus.

Jums radītā produkcija, visticamāk, nebūs precīzs kādas konkrētas tiešsaistes vietnes teksts. Atgādiniet, ka tas pats tika minēts iepriekš par ģenerētajiem mākslas darbiem. Teksts sastāvēs no veidiem, bitiem un gabaliem, kas ir sasaistīti kopā matemātiski un skaitļošanas veidā. Ģenerēts uz tekstu balstīts stāstījums kopumā šķiet unikāls, it kā šo konkrēto tekstu neviens iepriekš nebūtu sacerējis.

Protams, var būt brīdinājuma pavedieni. Ja jūs lūdzat ģeneratīvajam AI pievērsties ārkārtīgi neskaidrām tēmām, pastāv lielāka iespēja, ka jūs redzēsit teksta izvadi, kas līdzinās izmantotajiem avotiem. Tomēr teksta gadījumā izredzes parasti ir mazākas nekā mākslai. Teksts būs tēmas specifikas apvienojums, tomēr arī izplūdis un sapludināts ar vispārējiem teksta veidiem, kas tiek izmantoti kopējā diskursā.

Matemātiskās un skaitļošanas metodes un tehnoloģijas, kas tiek izmantotas šīm ģeneratīvajām mākslīgā intelekta iespējām, AI speciālisti bieži dēvē par lielo valodu modeļiem (LLM). Vienkārši sakot, šī ir liela mēroga cilvēku valodas modelēšana. Pirms interneta izmantošanas jums būtu bijis grūti atrast ārkārtīgi lielu teksta datu kopu, kas bija pieejama tiešsaistē un lēti. Iespējams, jums būtu bijis jāiegādājas piekļuve tekstam, un tas ne vienmēr būtu bijis pieejams elektroniskā vai digitālā formātā.

Redziet, internets ir kaut kam labs, proti, tas ir gatavs avots ģeneratīvā AI apmācībai.

Pārdomāti domā par ģeneratīvo AI, kas rada tekstu

Mums vajadzētu veltīt brīdi, lai padomātu par mākslīgā intelekta ētikas un AI likumu sekām ģeneratīvajā AI, kas veido uz tekstu balstītus stāstījumus.

Atcerieties, ka ģenerētas mākslas gadījumā mēs bijām noraizējušies par AI algoritma ētiku, kas rada mākslu, pamatojoties uz citiem cilvēka radītiem mākslas darbiem. Tādas pašas bažas rodas teksta gadījumā. Pat ja ģenerētais teksts neizskatās gluži kā oriģinālajos avotos, jūs varat apgalvot, ka AI tomēr izmanto tekstu un sākotnējais producents tiek izvilkts. Šīs monētas otra puse ir tāda, ka tekstu internetā, ja tas ir brīvi pieejams, jebkurš cilvēks var izmantot, lai darītu to pašu, tāpēc kāpēc gan neļaut AI darīt to pašu?

Sarežģījumi, kas saistīti ar intelektuālā īpašuma tiesību juridiskajiem aspektiem, parādās arī uz tekstu balstīta ģeneratīvā AI gadījumā. Pieņemot, ka teksts, kas tiek apmācīts, ir aizsargāts ar autortiesībām, vai jūs teiktu, ka ģenerētais teksts pārkāpj šīs likumīgās tiesības? Viena atbilde ir, ka tā ir, un cita atbilde ir, ka tā nav. Ņemiet vērā, ka ģenerētais teksts, visticamāk, atrodas diezgan tālu no oriģinālā teksta, tāpēc jums var būt grūti apgalvot, ka oriģinālais teksts tika izvilkts.

Vēl viena jau minētā problēma ir īpašumtiesības uz ģeneratīvā AI radītajiem teksta stāstījumiem. Pieņemsim, ka jūs ierakstāt AI “Uzrakstiet smieklīgu stāstu par cilvēkiem, kas gaida rindā, lai saņemtu kafiju”, un ģeneratīvais AI izveido jautra stāsta lappuses pēc lappusēm, kas viss ir par cilvēku baru, kas satiekas, gaidot tasi kafijas. java.

Kam pieder šis stāsts?

Jūs varētu iebilst, ka, tā kā jūs ierakstījāt uzvedni, jums pamatoti vajadzētu “piederēt” ģenerētajam stāstam. Ak, daži teiktu, ka AI bija tas, kā stāsts tika ģenerēts, tāpēc AI “pieder” apburošais stāsts. Ak, citi mudinātu, ja mākslīgais intelekts paņemtu gabalus no visiem citiem līdzīgiem stāstiem internetā, visiem šiem rakstniekiem vajadzētu dalīties īpašumā.

Lieta ir neatrisināta, un mēs tikai tagad nonākam juridiskajā bardakā, kas risināsies nākamo dažu gadu laikā.

Pastāv papildu bažas par AI ētiku un AI likumiem.

Daži cilvēki, kas ir izmantojuši ģeneratīvas AI lietotnes, sāk uzskatīt, ka AI lietotne ir jūtīga. Tā tam jābūt, viņi iesaucas. Kā citādi jūs varat izskaidrot pārsteidzošās atbildes un stāstus, ko AI spēj radīt? Beidzot esam sasnieguši jutīgo AI.

Viņi ir absolūti nepareizi.

Tas nav jutīgs AI.

Kad es to saku, daži mākslīgā intelekta darbinieki kļūst sarūgtināti un rīkojas tā, it kā ikviens, kas noliedz, ka AI ir jūtīgs, vienlaikus saka, ka AI nav vērtīgs. Tas ir nepatiess un nepareizi formulēts arguments. Es atklāti piekrītu, ka šis ģeneratīvais AI ir diezgan iespaidīgs. Mēs to varam izmantot visiem mērķiem, kā es minēšu vēlāk. Tomēr tas nav jūtīgs. Manu skaidrojumu par to, kāpēc šāda veida AI sasniegumi nav saprātīgi, sk saite šeit.

Vēl viens pārāk liels un acīmredzami nepareizs dažu apgalvojums ir tāds, ka ģeneratīvais AI ir veiksmīgi uzvarējis Tjūringa testā.

Tas noteikti ir nav darīts tā.

Tjūringa tests ir sava veida tests, lai noskaidrotu, vai AI lietotne spēj būt līdzvērtīga cilvēkiem. Sākotnēji to kā mīmikas spēli izstrādāja izcilais matemātiķis un datoru pionieris Alana Tjūringa, pārbaude pati par sevi ir vienkārša. Ja jūs liktu cilvēku aiz aizkara un AI lietotni aiz cita aizkara, un jūs abiem uzdotu jautājumus, no kuriem jūs nevarētu noteikt, kura ir mašīna un kura ir cilvēks, AI veiksmīgi izturētu Tjūringa tests. Manu padziļinātu Tjūringa testa skaidrojumu un analīzi sk saite šeit.

Tie cilvēki, kas nemitīgi kliedz, ka ģeneratīvais AI ir izturējis Tjūringa testu, nezina, par ko viņi runā. Viņi vai nu nezina, kas ir Tjūringa tests, vai arī diemžēl izceļ AI nepareizi un maldinoši. Jebkurā gadījumā viens no būtiskiem apsvērumiem Tjūringa testā ir tas, kādi jautājumi ir jāuzdod, kas kopā ar to uzdod, kā arī novērtē, vai atbildes ir cilvēka kvalitātes.

Mana doma ir tāda, ka cilvēki ievada duci jautājumu ģeneratīvajam AI, un, kad atbildes šķiet ticamas, šie cilvēki pārsteidzīgi paziņo, ka Tjūringa tests ir izturēts. Atkal, tas ir nepatiess. Ievadīt vāju jautājumu kopu un šurpu turpu pabāzt nav ne Tjūringa testa nolūka, ne gara. Beidz izteikt šos negodīgos apgalvojumus.

Šis ir pamatots aizbildinājums, par kuru jūs daudz nedzirdat, lai gan es uzskatu, ka tas ir ārkārtīgi vērtīgs.

AI izstrādātāji parasti ir iestatījuši ģeneratīvo AI tā, lai tas reaģētu tā, it kā reaģētu cilvēks, proti, izmantojot frāzi “es” vai “es”, veidojot izvadi. Piemēram, lūdzot pastāstīt stāstu par suni, kas pazudis mežā, ģeneratīvais AI var sniegt tekstu, kurā teikts: “Es jums pastāstīšu visu par suni, vārdā Sems, kurš apmaldījās mežā. Šis ir viens no maniem mīļākajiem stāstiem. ”

Ievērojiet, ka formulējums saka: “Es jums pateikšu…” un ka stāsts ir “viens no maniem iecienītākajiem…”, tāpēc ikviens, kas lasīs šo iznākumu, smalki iekritīs AI antropomorfizācijas garīgajā slazdā. Antropomorfizācija sastāv no tā, ka cilvēki mēģina piešķirt cilvēkiem līdzīgas iezīmes un cilvēciskas jūtas pret cilvēkiem, kas nav cilvēki. Jūs tiekat iemidzināts, domājot, ka šis AI ir cilvēks vai cilvēkam līdzīgs, jo izvades formulējums ir mērķtiecīgi izdomāts šādā veidā.

Tas nav jāizdomā šādā veidā. Iznākumā varētu būt rakstīts: “Šeit ir stāsts par suni, vārdā Sems, kurš apmaldījās mežā. Šis ir iecienīts stāsts. ” Maz ticams, ka uzreiz pieņemtu, ka mākslīgais intelekts ir cilvēkam vai cilvēkam līdzīgs. Es saprotu, ka jūs joprojām varat iekrist šajās lamatās, bet vismaz slazds, kā tas bija, nav tik izteikts.

Īsāk sakot, jums ir ģeneratīva AI, kas rada uz tekstu balstītus stāstījumus, pamatojoties uz to, kā cilvēki raksta, un šķiet, ka rezultāts ir rakstīts tā, kā cilvēks kaut ko rakstītu. Tam ir liela jēga, jo mākslīgais intelekts matemātiski un skaitļošanas ziņā atbilst tam, ko cilvēki ir uzrakstījuši. Tagad pievienojiet tam antropomorfizējošo formulējumu, un jūs iegūsit perfektu vētru, kas pārliecina cilvēkus, ka AI ir jūtīgs vai ir izturējis Tjūringa testu.

Rodas daudz AI ētikas un AI tiesību problēmu.

Es jūs sasniegšu ar diezgan bīstamām šī ģeneratīvā AI sekām.

Apsēdieties šim nolūkam.

Uz tekstu balstītie stāsti ne vienmēr atbilst patiesumam vai precizitātei. Ir svarīgi apzināties, ka ģeneratīvais AI “nesaprot” to, kas tiek ģenerēts (varētu strīdēties, ne ar cilvēku saistītā veidā). Ja apmācībā izmantotajā tekstā ir ietverti nepatiesi apgalvojumi, pastāv iespēja, ka tās pašas viltības tiks iestrādātas ģeneratīvajā AI matemātiskajā un skaitļošanas tīklā.

Turklāt ģeneratīvajam AI parasti nav nekādu matemātisku vai skaitļošanas līdzekļu, lai konstatētu, ka tekstā ir nepatiesi. Aplūkojot ģenerēto iznākuma stāstījumu, stāstījums parasti izskatīsies pilnīgi “patiess”. Jums, iespējams, nav dzīvotspējīgu līdzekļu, lai noteiktu, ka stāstījumā ir iestrādāti nepatiesi fakti.

Pieņemsim, ka jūs uzdodat medicīnisku jautājumu par ģeneratīvo AI. AI lietotne rada garu stāstījumu. Iedomājieties, ka lielākajai daļai stāstījuma ir jēga un tas šķiet saprātīgs. Bet, ja jūs neesat medicīnas speciālists, jūs, iespējams, neapzināsieties, ka stāstījumā ir daži būtiski nepatiesi apgalvojumi. Iespējams, ka tekstā ir teikts, ka divu stundu laikā jāizdzer piecdesmit tabletes, lai gan patiesībā medicīniskais ieteikums ir izdzert divas tabletes divās stundās. Jūs varētu ticēt apgalvotajiem piecdesmit tablešu padomiem vienkārši tāpēc, ka pārējais stāstījums šķita saprātīgs un saprātīgs.

AI modelis nepatiesu sākotnējos avota datos ir tikai viens no līdzekļiem, kā AI šajos stāstījumos ir šķībi. Atkarībā no izmantotā matemātiskā un skaitļošanas tīkla AI mēģinās "izveidot" lietas. AI valodā to sauc par AI halucinācijas, kas ir šausmīga terminoloģija, kurai es nopietni nepiekrītu un kuru uzskatu, ka to nevajadzētu turpināt kā īsu frāzi, skatiet manu analīzi vietnē saite šeit.

Pieņemsim, ka esat lūdzis ģeneratīvajam AI pastāstīt stāstu par suni. AI rezultātā suns varētu lidot. Ja stāsts, kuru jūs gribējāt, bija balstīts uz realitāti, lidojošs suns šķiet maz ticams. Jūs un es zinām, ka suņi nevar dabiski lidot. Jūs sakāt, nav nekas liels, jo visi to zina.

Iedomājieties bērnu skolā, kurš mēģina mācīties par suņiem. Viņi izmanto ģeneratīvo AI. Tas rada produkciju, kurā teikts, ka suņi var lidot. Bērns nezina, vai tā ir taisnība vai nē, un pieņem, ka tai ir jābūt patiesībai. Savā ziņā tas ir tā, it kā bērns būtu iegājis tiešsaistes enciklopēdijā un tur teikts, ka suņi var lidot. Iespējams, ka bērns turpmāk uzstās, ka suņi patiešām var lidot.

Atgriežoties pie AI ētikas un mākslīgā intelekta likumu mīklas, mēs tagad esam uz robežas, lai varētu izveidot gandrīz bezgalīgu daudzumu teksta satura, izmantojot ģeneratīvo AI, un mēs pārpludināsim sevi ar miljoniem stāstījumu, kas ir neapšaubāmi pārpildīts ar meliem un citiem saistītiem dezinformācijas un dezinformācijas straumēm.

Jā, nospiežot pogu un ievadot dažus vārdus ģeneratīvajā AI, varat ģenerēt tekstuālu stāstījumu virkni, kas šķiet pilnīgi ticami un patiesi. Pēc tam varat to publicēt tiešsaistē. Citi cilvēki izlasīs materiālu un pieņems, ka tas ir patiess. Turklāt citi ģeneratīvie AI, kas nāk kopā, cenšoties apgūt tekstu, var saskarties ar šo materiālu un iekļaus to ģeneratīvajā AI, ko tas izstrādā.

Šķiet, ka mēs tagad pievienojam steroīdus, lai radītu dezinformāciju un dezinformāciju. Mēs virzāmies uz dezinformāciju un dezinformāciju masveida galaktikas globālā mērogā.

Lai to visu ražotu, ir vajadzīgs liels cilvēku darbs.

Ģeneratīvs AI un ChatGPT

Pāriesim pie šīs diskusijas par ģeneratīvo AI virsrakstu. Tagad mēs esam apskatījuši ģeneratīvā AI būtību, kas kopumā rada uz tekstu balstītus stāstījumus. Ir pieejamas daudzas šādas ģeneratīvas AI lietotnes.

Viena no AI lietotnēm, kas ir īpaši iemantojusi bēdīgu slavu, ir pazīstama kā ChatGPT.

Sabiedrisko attiecību apvērsums ir izplatījies sociālajos medijos un ziņas — ChatGPT šobrīd iegūst visu slavu. ChatGPT spoži spīd gaisma. Tā iegūst savu satriecošo piecu minūšu slavu.

ChatGPT ir ģeneratīvas AI lietotnes nosaukums, ko izstrādājusi organizācija, kas pazīstama kā OpenAI. OpenAI ir diezgan labi pazīstams AI jomā, un to var uzskatīt par AI pētniecības laboratoriju. Viņiem ir reputācija, kad runa ir par mākslīgo intelektu dabiskās valodas apstrādei (NLP), kā arī citiem AI sasniegumiem. Viņi ir uzsākuši virkni AI lietotņu, kuras viņi izdomāja kā GPT (ģeneratīvie iepriekš apmācīti transformatori). Katra versija saņem numuru. Iepriekš esmu rakstījis par viņu GPT-3 (viņu GPT sērijas 3. versiju), sk saite šeit.

GPT-3 saņēma diezgan lielu uzmanību, kad tas pirmo reizi tika izlaists (tas tika plaši izmantots beta testēšanā apmēram pirms diviem gadiem, un plašāks tika darīts pieejams 2022. gadā). Tā ir ģeneratīva AI lietotne, kas pēc uzvednes ievadīšanas radīs vai ģenerēs uz tekstu balstītus stāstījumus. Viss, ko es minēju iepriekš par vispārējo ģeneratīvo AI lietotņu gadījumu, būtībā ir piemērojams GPT-3.

Jau ilgu laiku tiek runāts par to, ka GPT-4 tiek uzsākts, un AI jomā strādājošie ar aizturētu elpu gaida, lai redzētu, kādi uzlabojumi vai uzlabojumi ir GPT-4 atšķirībā no GPT-3. Šajā sērijā ir iekļauts jaunākais starpposms, kas pazīstams kā GPT-3.5. Jā, jūs sapratāt pareizi, tas ir starp izlaisto GPT-3 un vēl neizlaisto GPT 4.0.

OpenAI ir izmantojis savu GPT-3.5, lai izveidotu atzaru, ko viņi nosauca par ChatGPT. Ir teikts, ka viņi veica dažus īpašus uzlabojumus, lai izveidotu ChatGPT. Piemēram, izplatīts priekšstats, ka ChatGPT tika pielāgots, lai varētu strādāt tērzēšanas robota veidā. Tas ietver “sarunu”, kas notiek ar AI lietotni, AI izseko un izmanto, lai izveidotu vēlāk pieprasītus stāstījumus.

Daudzas ģeneratīvās AI lietotnes ir bijušas vienreizējas konstrukcijas. Jūs ievadījāt uzvedni, AI ģenerēja stāstījumu, un viss. Jūsu nākamajai uzvednei nav nekādas ietekmes uz to, kas notiks tālāk. Tas ir tā, it kā jūs sāktu no jauna katru reizi, kad ievadāt uzvedni.

ChatGPT gadījumā tas tā nav. Pagaidām neatklātā veidā AI lietotne mēģina noteikt modeļus jūsu uzvednēs un tāpēc var šķist, ka tā vairāk reaģē uz jūsu pieprasījumiem (šī AI lietotne tiek uzskatīta atklāti pieejama jo ir atļauts ikvienam reģistrēties, lai to izmantotu, bet tas joprojām ir īpašuma un noteikti nav atvērtā pirmkoda AI lietotne, kas atklāj tās iekšējo darbību). Piemēram, atcerieties manu agrāko norādi par to, ka vēlaties redzēt vardi ar cepuri uz skursteņa. Viena metode ir tāda, ka katru reizi, kad veicat šādu pieprasījumu, viss sākas no jauna. Vēl viena metode būtu tāda, ka jūs varētu turpināt to, ko iepriekš teicāt. Tādējādi jūs, iespējams, varētu pateikt mākslīgajam intelektam, ka vēlaties, lai varde tiktu sēdināta, un tam pašam nav jēgas, savukārt, ņemot vērā jūsu iepriekšēju aicinājumu pieprasīt vardi ar cepuri uz skursteņa, pieprasījumam šķietami var būt jēga.

Jums varētu rasties jautājums, kāpēc pēkšņi šķiet, ka ChatGPT ir uzplaukums un uzplaukums.

Daļēji tas ir tāpēc, ka ChatGPT bija pieejams ikvienam, kurš vēlējās reģistrēties, lai to izmantotu. Agrāk bieži ir bijuši selektīvi kritēriji par to, kurš varētu izmantot jaunu pieejamo ģeneratīvo AI lietotni. Pakalpojumu sniedzējs pieprasa, lai jūs būtu AI iekšējā informācija, vai arī jums varētu būt citi nosacījumi. Tā nav ar ChatGPT.

Ātri izplatījās informācija, ka ChatGPT ir ļoti viegli lietojams, bez maksas lietojams un to var izmantot, vienkārši reģistrējoties, un jums bija jānorāda tikai e-pasta adrese. Tika teikts, ka ChatGPT lietotne ir pārsniegusi vairāk nekā vienu miljonu lietotāju, tāpat kā pēkšņa un pēkšņa, vīrusa ierakstu izraisīta vai rosināta. Ziņu mediji ir uzsvēruši aspektu, ka miljons cilvēku ir reģistrējušies ChatGPT.

Lai gan tas noteikti ir ievērojams un ievērības cienīgs, paturiet prātā šo reģistrēšanās kontekstu. Tā ir bezmaksas un viegli reģistrējama. Tērzēšanas robots ir ļoti viegli lietojams, un tam nav nepieciešama iepriekšēja apmācība vai pieredze. Jūs vienkārši ievadāt uzvednes pēc savas izvēles un formulējuma, un shazam AI lietotne nodrošina ģenerētu stāstījumu. Bērns varētu to darīt, kas patiesībā ir satraucošas bažas dažiem, proti, ja bērni izmanto ChatGPT, vai viņi mācīsies apšaubāmu materiālu (kā mans iepriekš minētais punkts par šādiem jautājumiem)?

Turklāt, iespējams, ir vērts norādīt, ka daži (daudzi?) no šiem miljoniem reģistrētāju ir cilvēki, kuri, iespējams, vēlējās izsist riepas un neko vairāk nedarīt. Viņi ātri izveidoja kontu, kādu laiku spēlējās ar AI lietotni, domāja, ka tas ir jautri un pārsteidzoši, un pēc tam varbūt publicēja dažus ierakstus sociālajos tīklos, lai parādītu atrasto. Pēc tam viņi, iespējams, vairs nekad nepieteiksies vai vismaz izmantos AI lietotni tikai tad, ja šķiet, ka rodas īpaša vajadzība.

Citi ir arī norādījuši, ka laiks, kad ChatGPT kļuva pieejams, sakrita ar gadalaiku, kas izraisīja lielu interesi par AI lietotni. Varbūt brīvdienās mums ir vairāk laika, lai paspēlētos ar jautriem priekšmetiem. Sociālo mediju parādīšanās to arī padarīja par sava veida fenomenu. Klasiskais FOMO (bailes palaist garām), iespējams, papildināja steigu. Protams, ja salīdzina vienu miljonu ar dažiem populāriem YouTube ietekmētājiem, jūs varētu domāt, ka miljons ir niecīgs skaitlis salīdzinājumā ar tiem vlogiem, kas saņem simtiem miljonu reģistrēšanās vai skatījumu, kad tie pirmo reizi tiek noņemti vai publicēti.

Labi, neatkāpsimies un vienkārši ņemiet vērā, ka eksperimentālas AI lietotnes gadījumā miljons reģistrēšanās noteikti ir lepošanās vērta.

Cilvēki uzreiz izmantoja ChatGPT, lai izveidotu stāstus. Pēc tam viņi ievietoja stāstus un runāja par to brīnumu. Žurnālisti un žurnālisti pat ir veikuši “intervijas” ar ChatGPT, kas ir nedaudz satraucoši, jo viņi iekrīt vienā un tajā pašā antropomorfizācijas slazdā (vai nu faktiskas neziņas dēļ, vai arī cerot iegūt pārāk lielu skatījumu saviem rakstiem). Arī tūlītēja tendence bija paziņot, ka mākslīgais intelekts tagad ir sasniedzis saprātu vai izturējis Tjūringa testu, par ko es iepriekš šeit skaidri komentēju.

ChatGPT izvirzītās sabiedrības bažas patiešām ir tādas, kas jau tika izplatītas agrāko GPT versiju, kā arī jau pieejamo LLM un ģeneratīvā AI dēļ. Atšķirība ir tāda, ka tagad visa pasaule ir izvēlējusies piebalsot. Tas ir ērti. Mums ir jāpārliecinās, ka mākslīgā intelekta ētika un AI tiesību akti tiek pienācīgi eksponēti un pievērsta uzmanība. Ja ir nepieciešams ChatGPT, lai mēs tur nokļūtu, lai tā būtu.

Kāda veida bažas tiek paustas?

Pieņemsim piemēru, kad studentiem tiek lūgts rakstīt esejas savām nodarbībām. Studentam parasti ir jāraksta eseja, pilnībā pamatojoties uz savām rakstīšanas un kompozīcijas spējām. Protams, viņi var aplūkot citus rakstiskos materiālus, lai gūtu idejas un citātus, taču citādi tiek pieņemts, ka skolēns izdomās savu eseju, vadoties no sava prāta. Prozas kopēšana no citiem avotiem tiek nožēlota, un tā parasti noved pie F pakāpes vai, iespējams, izraidīšanas par cita materiāla plaģiātu.

Mūsdienās, lūk, kas var notikt. Students reģistrējas ChatGPT (vai jebkurai citai līdzīgai ģeneratīvai AI lietotnei). Viņi ievada visu, ko skolotājs viņiem deva, lai izveidotu eseju. ChatGPT izstrādā pilnu eseju, pamatojoties uz uzvedni. Tā ir “oriģināla” kompozīcija, jo to noteikti nevar atrast nekur citur. Jūs nevarat pierādīt, ka skaņdarbs ir plaģiāts, jo, ņemot vērā apsvērumus, tas nebija plaģiāts.

Students pārvērš eseju. Viņi apgalvo, ka tas ir viņu pašu rakstīts darbs. Skolotājam nav gatavu līdzekļu domāt citādi. To sakot, jūs varat radīt priekšstatu, ka, ja rakstiskais darbs šķietami pārsniedz studenta esošās iespējas, jums var rasties aizdomas. Bet tas nav daudz, lai turpinātu, ja jūs gatavojaties apsūdzēt studentu krāpšanā.

Kā skolotāji ar to tiks galā?

Daži savos mācību materiālos ievieto noteikumu, ka jebkura ChatGPT vai līdzvērtīga izmantošana tiks uzskatīta par krāpšanos. Turklāt atteikšanās no ChatGPT vai līdzvērtīga pakalpojuma izmantošanas ir krāpšanās veids. Vai tas ierobežos šo jauno iespēju? Tiek teikts, ka tas ir apšaubāmi, jo iespēja tikt pieķertam ir zema, savukārt iespēja iegūt labu atzīmi par labi uzrakstītu darbu ir liela. Visticamāk, jūs varat iedomāties, ka studentiem ir pienācis termiņš, lai uzrakstītu eseju, un iepriekšējā vakarā būs kārdinājums izmantot ģeneratīvu AI, lai šķietami izkļūtu no sastrēguma.

Pārslēdzot pārnesumus, var būt jebkura veida rakstīšana pārtraukts ar ģeneratīvo AI.

Vai jums tiek lūgts uzrakstīt piezīmi darbā par šo vai citu lietu? Netērējiet savu laiku, darot to no nulles. Izmantojiet ģeneratīvo AI. Pēc tam varat izgriezt un ielīmēt ģenerēto tekstu savā kompozīcijā, precizēt tekstu pēc vajadzības un viegli tikt galā ar grūto rakstīšanas darbu.

Vai tas šķiet pareizi darīt?

Varu derēt, ka lielākā daļa cilvēku teiktu jā. Tas ir pat labāk, nekā kopēt kaut ko no interneta, kas var izraisīt plaģiātu. Ir ļoti jēga izmantot ģeneratīvu AI, lai jūsu rakstīšanas darbs tiktu daļēji vai pat pilnībā paveikts jūsu vietā. Tam ir radīti instrumenti.

Kā malā, vienā no manām nākamajām slejām tiks rūpīgi aplūkots ģeneratīvā AI izmantošanas gadījums juridiskiem mērķiem jurista veida darba veikšanai un juridisku dokumentu sagatavošanai. Ikviens, kas ir advokāts vai jurists, vēlēsies apsvērt, kā ģeneratīvais AI potenciāli izjauks vai izjauks juridisko praksi. Apsveriet, piemēram, juristu, kurš sastāda juridisku īsu dokumentu tiesas prāvai. Viņi, iespējams, varētu izmantot ģeneratīvu AI, lai uzrakstītu kompozīciju. Protams, tam var būt daži trūkumi, tāpēc advokātam tas ir jāpielāgo šeit vai tur. Samazināts darba apjoms un laiks, lai sagatavotu īso materiālu, varētu padarīt pielāgošanu ļoti vērtīgu.

Tomēr daži ir noraizējušies, ka juridiskajā dokumentā var būt viltus vai mākslīgā intelekta halucinācijas, kuras jurists neuztvēra. Viedoklis šajā pavērsienā ir tāds, ka tas ir uz advokāta pleciem. Viņi, iespējams, apgalvoja, ka īso dokumentu uzrakstīja viņi paši, tāpēc neatkarīgi no tā, vai to ir uzrakstījis jaunākais līdzstrādnieks vai AI lietotne, viņiem joprojām ir galīgā atbildība par galīgo saturu.

Tas kļūst grūtāks, ja nejuristi sāk izmantot ģeneratīvo AI, lai veiktu juridisku darbu viņu vietā. Viņi varētu uzskatīt, ka ģeneratīvais AI var sagatavot visu veidu juridiskus dokumentus. Problēma, protams, ir tā, ka dokumenti var nebūt juridiski derīgi. Par to vairāk pastāstīšu savā gaidāmajā slejā.

Par sabiedrību un cilvēka rakstīšanas darbību rodas būtisks īkšķis.

Tas ir sava veida nozīmīgs:

• Ikreiz, kad jums tiek uzdots kaut ko uzrakstīt, vai tas ir jāraksta no jauna vai jāizmanto ģeneratīvs AI rīks, lai jūs sāktu strādāt?

Izvade var būt pusgatava, un jums būs daudz jāpārraksta. Vai arī izvade var būt tieši ieslēgta, un jums būs jāveic tikai nelieli uzlabojumi. Kopumā, ja lietošana ir bezmaksas un vienkārša, kārdinājums izmantot ģeneratīvu AI būs milzīgs.

Bonuss ir tas, ka, iespējams, varat izmantot ģeneratīvo AI, lai veiktu dažus pārrakstīšanas darbus. Līdzīgi kā pamudinājumi par vardi ar cepuri un skursteni, veidojot mākslu, to pašu var darīt, ģenerējot uz tekstu balstītus stāstījumus. AI var radīt jūsu stāstu par suni, un tā vietā jūs nolēmāt, ka vēlaties, lai galvenais varonis būtu kaķis. Pēc suņa stāsta iegūšanas ievadiet citu uzvedni un uzdodiet AI lietotnei pārslēgties uz kaķa izmantošanu stāstā. Tas, visticamāk, darīs vairāk, nekā vienkārši beigsies ar vārdu “kaķis”, kas stāstījumā aizstāj vārdu “suns”. AI lietotne varētu viegli mainīt stāstu, lai sniegtu atsauces uz to, ko dara kaķi, salīdzinot ar to, ko dara suņi. Viss stāsts var tikt pārskatīts tā, it kā jūs būtu lūdzis cilvēku veikt šādas izmaiņas.

Spēcīgs, iespaidīgs, ērts-dandy.

Pārdomām daži brīdinājumi:

• Vai mēs kopīgi zaudēsim spēju rakstīt, kļūstot pilnībā atkarīgi no ģeneratīvā AI, kas rakstītu mūsu vietā?
• Vai cilvēki, kas raksta iztikai, paliks bez darba (tas pats tiek jautāts par māksliniekiem)?
• Vai internets augs ar milzīgiem lēcieniem un robežām, jo ​​ģenerēti stāsti tiks pārpludināti tiešsaistē un mēs vairs nevaram nošķirt patiesību no meliem?
• Vai cilvēki stingri noticēs šiem ģenerētajiem stāstījumiem un rīkosies tā, it kā kāda autoritatīva persona būtu viņiem sniegusi patiesu materiālu, uz kuru viņi var paļauties, tostarp, iespējams, ar dzīvību vai nāvi saistītu saturu?
• cits

Padomā par to.

Ņemiet vērā, ka viens no šiem aizzīmētajiem punktiem attiecas uz paļaušanos uz materiālu, ko ģenerē AI, pamatojoties uz dzīvības vai nāves principu.

Šeit ir sirds lauzējs (brīdinājums par aktivizēšanu, iespējams, vēlēsities izlaist šo rindkopu). Iedomājieties, ka pusaudzis jautā ģeneratīvajam mākslīgajam intelektam, vai viņam vajadzētu tikt galā ar sevi. Ko radīs ģeneratīva AI lietotne? Jūs, protams, cerat, ka AI lietotne radīs stāstījumu, kurā teikts, ka tā nedarīt, un skaļi mudinātu jautātāju meklēt garīgās veselības speciālistus.

Pastāv iespēja, ka AI neminēs šos aspektus. Vēl ļaunāk, AI lietotne, iespējams, jau agrāk ir tvērusi tekstu internetā, kas, iespējams, mudina veikt šādas darbības, un AI lietotne (tā kā tai nav cilvēka izpratnes spējas) izplata stāstījumu, kas būtībā liek domāt vai tieši norāda, ka pusaudzim ir jāturpina. neatturēts. Pusaudzis uzskata, ka tie ir patiesi norādījumi no tiešsaistes autoritatīvās “mākslīgā intelekta” sistēmas.

Sliktas lietas.

Tiešām, ļoti sliktas lietas.

Daži ģeneratīvā mākslīgā intelekta izstrādātāji cenšas AI pārbaudīt un līdzsvarot, lai mēģinātu novērst šādu situāciju rašanos. Lieta ir tāda, ka veids, kādā uzvedne ir formulēta, var izslīdēt cauri ieprogrammētajām margām. Tāpat to pašu var teikt par saražoto produkciju. Nav nekāda veida garantētas dzelzs filtrēšanas, kas vēl varētu nodrošināt, ka tā nekad nenotiks.

Šai uz tekstu balstītai produkcijai ir vēl viens leņķis, ko jūs, iespējams, neparedzējāt.

Te tas ir.

Kad programmētāji vai programmatūras izstrādātāji izveido kodu savai programmatūrai, viņi būtībā raksta tekstā. Teksts ir nedaudz noslēpumains, jo tas ir balstīts uz valodu, kas definēta noteiktai programmēšanas valodai, piemēram, Python, C++, Java utt. Galu galā tas ir teksts.

Pēc tam avota kods tiek apkopots vai palaists datorā. Izstrādātājs pārbauda savu kodu, lai redzētu, vai tas dara visu, kas tam bija jādara. Viņi var veikt labojumus vai atkļūdot kodu. Kā jūs zināt, programmētāji vai programmatūras inženieri ir ļoti pieprasīti un bieži vien prasa augstu cenu par savu darbu.

Ģeneratīvajam AI avota koda teksts ir teksts. Spēja atrast modeļus miljardos koda rindiņu, kas atrodas internetā un ir pieejamas dažādās krātuvēs, nodrošina sulīgu veidu, kā matemātiski un skaitļošanas veidā noskaidrot, kāds kods, šķiet, ko dara.

Ierīce ir šī.

Izmantojot uzvedni, ģeneratīvais AI varat izveidot visu datorprogrammu jūsu vietā. Nav jācenšas izspiest kodu. Varbūt esat dzirdējuši, ka ir t.s zems kods mūsdienās pieejamie rīki, lai samazinātu programmētāju pūles, rakstot kodu. Ģeneratīvo AI, iespējams, var interpretēt kā a zems kods vai pat bez koda opciju, jo tā raksta kodu jūsu vietā.

Pirms tie, kas raksta kodu dzīvībai, nokrīt uz grīdas un noģībst, paturiet prātā, ka kods nav “saprotams” tā, kā jūs, iespējams, to saprotat kā cilvēks. Turklāt kods var saturēt viltus un AI halucinācijas. Paļauties uz šādu kodu, neveicot plašu kodu pārskatīšanu, šķiet riskanti un apšaubāmi.

Mēs esam atgriezušies pie tiem pašiem apsvērumiem par stāstu un piezīmju rakstīšanu. Iespējams, šī pieeja ir izmantot ģeneratīvo AI, lai palīdzētu jums iegūt daļu no kodēšanas. Tomēr pastāv ievērojams kompromiss. Vai esat drošāk rakstīt kodu tieši vai rīkoties ar AI ģenerētu kodu, kuram varētu būt mānīgas un grūti pamanāmas iegultās problēmas?

Laiks rādīs.

Īss ieskats tērzēšanas GPT

Kad sākat lietot ChatGPT, tiek parādīta virkne brīdinājumu un informatīvu komentāru.

Apskatīsim tos ātri:

• "Reizēm var ģenerēt nepareizu informāciju."
• "Reizēm var radīt kaitīgas instrukcijas vai neobjektīvu saturu."
• "Apmācīts noraidīt neatbilstošus pieprasījumus."
• "Mūsu mērķis ir iegūt ārēju atgriezenisko saiti, lai uzlabotu mūsu sistēmas un padarītu tās drošākas."
• “Lai gan mums ir ieviesti drošības pasākumi, sistēma laiku pa laikam var ģenerēt nepareizu vai maldinošu informāciju un radīt aizskarošu vai neobjektīvu saturu. Tas nav paredzēts padomu sniegšanai. ”
• "Mūsu AI treneri var pārskatīt sarunas, lai uzlabotu mūsu sistēmas."
• "Lūdzu, savās sarunās neizpaudiet sensitīvu informāciju."
• “Šī sistēma ir optimizēta dialogam. Paziņojiet mums, vai konkrēta atbilde bija laba vai nederīga.
• “Ierobežotas zināšanas par pasauli un notikumiem pēc 2021. gada.”

Telpas ierobežojumu dēļ es nevaru tos detalizēti aplūkot šeit, taču veiksim vismaz ātru analīzi.

Es jau minēju, ka ģenerētie teksta stāsti var saturēt nepatiesības un dezinformāciju.

Ir vēl kaut kas, kas jums jāuzrauga. Esiet piesardzīgs attiecībā uz stāstījumiem, kas var saturēt dažādas aizkustinošas piezīmes, kas liecina par nevēlamiem aizspriedumiem.

Lai mēģinātu to novērst, ir ziņots, ka OpenAI ChatGPT apmācības laikā izmantoja cilvēku dubultpārbaudes. Pārbaudītāji ievadīs uzvednes, kas, iespējams, mudinātu AI radīt iekaisīgu saturu. Kad dubultpārbaudītāji ieraudzīja šādu saturu, viņi norādīja AI, ka tas ir nepiemēroti, un savā ziņā piešķīra skaitlisku sodu par iegūto rezultātu. Matemātiski AI algoritms censtos samazināt soda punktu skaitu līdz minimumam, un tāpēc skaitļošanas mērķis būtu turpmāk neizmantot šīs frāzes vai formulējumus.

Tāpat, ievadot uzvedni, AI mēģina noteikt, vai jūsu uzvedne ir iekaisīga vai var izraisīt iekaisuma izvadi, un AI uzvedni var noraidīt. Pieklājīgi, ideja ir atteikties no nepiemērotām uzvednēm vai pieprasījumiem. Piemēram, mākslīgais intelekts, visticamāk, atteiks lūgumu iegūt joku, kas ietver rasu apmelošanu.

Esmu pārliecināts, ka jūs nebūsiet pārsteigts, uzzinot, ka cilvēki, kas izmanto ChatGPT, ir mēģinājuši pārspēt piesardzības pasākumus. Šie “uzņēmīgie” lietotāji ir vai nu apmānījuši AI, vai arī atraduši gudrus veidus, kā apiet matemātiskos formulējumus. Daži no šiem centieniem tiek darīti, lai gūtu acīmredzamu prieku par sistēmas pārspējšanu vai pārsniegšanu, savukārt citi apgalvo, ka cenšas parādīt, ka ChatGPT joprojām radīs nevēlamus rezultātus.

Viņiem ir taisnība par vienu lietu; piesardzības pasākumi nav droši. Mēs atgriežamies pie cita AI ētikas un iespējamā AI likuma apsvēruma. Vai ģeneratīvajam AI jāļauj turpināties pat tad, ja tas var radīt nevēlamus rezultātus?

Brīdinājumi, kad izmantojat ChatGPT, šķietami brīdinās ikvienu par to, ko AI lietotne var darīt vai pateikt. Pastāv iespēja, ka neizbēgami var tikt ierosinātas kaut kādas tiesas prāvas, ja kāds, iespējams, nepilngadīgs, saņem nepiedienīgu aizskarošu rakstu (vai, ja viņš saņem autoritatīvu tekstu, ko viņš diemžēl uzskata par patiesu, un rīkojas saskaņā ar saviem rezultātiem paša apdraudējums).

Ir vērts zināt dažas citas ātras nianses par uzvednēm.

Katru reizi, kad ievadāt uzvedni, izvade var krasi atšķirties, pat ja ievadāt tieši to pašu uzvedni. Piemēram, ievadot “Pastāsti man stāstu par suni”, jūs iegūsit uz tekstu balstītu stāstījumu, iespējams, norādot stāstu par aitu suni, savukārt nākamreiz ievadot “Pastāsti man stāstu par suni”, tas varētu būt pilnīgi cits stāsts un iesaistīts pūdelis. Šādi matemātiski un skaitļošanas ziņā ir sakārtots visģeneratīvākais AI. Tiek teikts, ka tas nav deterministisks. Dažiem cilvēkiem tas šķiet satraucoši, jo viņi ir pieraduši pie domas, ka jūsu ievade datorā vienmēr radīs tādu pašu precīzu izvadi.

Vārdu pārkārtošana arī ievērojami ietekmēs ģenerēto izvadi. Ja ievadāt “Pastāsti man stāstu par suni” un vēlāk ievadīsit “Pastāsti man suņa stāstu”, pastāv iespēja, ka radītie stāsti būtiski atšķirsies. Jutība var būt asa. Lūdzot stāstu par suni, salīdzinot ar lūgumu pēc stāsta par lielu suni, neapšaubāmi tiktu radīti radikāli atšķirīgi stāsti.

Visbeidzot, ņemiet vērā, ka iepriekš norādītajos vienumos ir ietverta norāde, ka ChatGPT ir “ierobežotas zināšanas par pasauli un notikumiem pēc 2021. gada”. Tas ir tāpēc, ka AI izstrādātāji nolēma ierobežot laiku, kad AI lietotne apkopos un apmācīs interneta datus. Esmu ievērojis, ka lietotāji bieži vien neapzinās, ka ChatGPT nav tieši savienots ar mūsdienu internetu, lai izgūtu datus un radītu ģenerētus rezultātus. Mēs esam tik ļoti pieraduši, ka viss darbojas reāllaikā un ir savienots ar internetu, ka mēs to sagaidām arī no AI lietotnēm. Ne šajā konkrētajā gadījumā (un, lai precizētu, ChatGPT patiešām ir pieejams internetā, bet, veidojot uz tekstu balstītu izvadi, tas pats par sevi neliek internetu, lai to izdarītu, tā vietā parasti tas ir iesaldēts laikā, lai ap izslēgšanas datumu).

Jūs varētu būt neizpratnē, kāpēc ChatGPT neveic datu padevi no interneta reāllaikā. Pāris saprātīgi iemesli. Pirmkārt, mēģināt veikt apmācību reāllaikā būtu skaitļošanas ziņā dārgi, turklāt AI lietotne aizkavētos vai mazāk reaģētu uz uzvednēm (pašlaik tā ir ļoti ātra, parasti dažās sekundēs reaģē ar izvades tekstu. ). Otrkārt, dīvainās lietas internetā, no kurām viņi ir mēģinājuši apmācīt AI lietotni, no kuras viņi ir mēģinājuši izvairīties, visticamāk, iezagsies matemātiskajos un skaitļošanas formulējumos (un, kā jau minēts, tas jau ir zināmā mērā iekšā no iepriekš, lai gan viņi mēģināja to atklāt, izmantojot izmantojot šos cilvēku dubultpārbaudītājus).

Jūs noteikti dzirdēsit dažus cilvēkus, kuri nekaunīgi paziņo, ka ChatGPT un līdzīgas ģeneratīvas AI ir nāves signāls Google meklēšanai un citām meklētājprogrammām. Kāpēc izmantot Google meklēšanu, kas atgriež daudz atsauces vienumu, ja varat panākt, lai mākslīgais intelekts kaut ko uzraksta jūsu vietā? Aha, šie cilvēki paziņo, Google vajadzētu aizvērt durvis un doties mājās.

Protams, tas ir tīrais absurds.

Cilvēki joprojām vēlas veikt meklēšanu. Viņi vēlas, lai viņi varētu aplūkot atsauces materiālus un paši izdomāt lietas. Tā nav viena otru izslēdzoša šā vai tā bināra izvēle (šī ir nepatiesa dihotomija).

Ģeneratīvais AI ir cita veida rīks. Jūs neizmetat āmurus tikai tāpēc, ka esat izgudrojis skrūvgriezi.

Saprātīgāks veids, kā to domāt, ir tas, ka abu veidu rīki var būt saderīgi lietošanai cilvēkiem, kuri vēlas veikt ar internetu saistītas darbības. Daži jau ir spēlējuši ar ģeneratīvā AI savienošanu ar parastajām interneta meklētājprogrammām.

Ikvienam, kas jau nodrošina meklētājprogrammu, bažas rada tas, ka “bezmaksas” ģeneratīvais AI rīks, iespējams, var pazemināt meklētājprogrammas reputāciju. Ja veicat meklēšanu internetā un iegūstat kaitinošu materiālu, jūs zināt, ka tas ir tikai interneta veids. Ja izmantojat ģeneratīvu AI un tas rada uz tekstu balstītu stāstījumu, kas ir atbaidošs un zemisks, tas jūs, visticamāk, satrauc. Var gadīties, ka, ja ģeneratīvais AI ir cieši saistīts ar noteiktu meklētājprogrammu, jūsu nepatika un riebums par ģeneratīvo AI izplatās uz visu, ko jūtat par meklētājprogrammu.

Jebkurā gadījumā mēs gandrīz noteikti redzēsim alianses starp dažādiem ģeneratīvajiem AI rīkiem un interneta meklētājprogrammām, piesardzīgi un apdomīgi ieejot šajos duļķainajos ūdeņos.

Secinājumi

Lūk, jautājums jums.

Kā kāds var pelnīt naudu, nodrošinot ģenerējošu AI, kas veido uz tekstu balstītus stāstījumus?

OpenAI jau ir paziņojis, ka ChatGPT iekšējās viena darījuma izmaksas acīmredzot ir nedaudz augstas. Viņi pagaidām negūst peļņu no ChatGPT.

Vai cilvēki būtu gatavi maksāt darījumu maksu vai varbūt maksāt abonēšanas maksu, lai piekļūtu ģeneratīvajiem AI rīkiem?

Vai reklāmas varētu būt līdzeklis, kā mēģināt pelnīt naudu, izmantojot ģeneratīvos AI rīkus?

Neviens vēl nav pilnībā pārliecināts par to, kā tas būs naudas pelnīšana. Mēs joprojām esam šāda veida AI lielajā eksperimentālajā stadijā. Ievietojiet AI lietotni un skatiet, kādu reakciju saņemat. Pielāgojiet AI. Izmantojiet lietošanas ieskatus, lai norādītu, kur AI būtu jāvērš tālāk.

Putojiet, noskalojiet, atkārtojiet.

Kā nobeiguma komentārs pagaidām daži uzskata, ka šis ir AI veids, kam mums vispār nevajadzētu būt. Pagrieziet pulksteni atpakaļ. Ielieciet šo džins atpakaļ pudelē. Mēs to nogaršojām un sapratām, ka tam ir vērā ņemami mīnusi, un kolektīvi kā sabiedrība varētu vienoties, ka mums tas zirgs jāiet atpakaļ kūtī.

Vai jūs uzskatāt, ka solījums par ģeneratīvo AI ir labāks vai sliktāks par negatīvajām pusēm?

No reālās pasaules viedokļa tas nav īpaši svarīgi, jo ģeneratīvā AI dzēšanas realitāte parasti ir nepraktiska. Ģeneratīvā mākslīgā intelekta attīstība tiek turpināta, un jūs to neapturēsit ne šeit, ne arī jebkurā vai visās citās valstīs (tā ir). Kā jūs to darītu? Pieņemiet likumus, lai pilnībā aizliegtu ģeneratīvo AI. Nav īpaši dzīvotspējīgs (jums, iespējams, ir lielākas iespējas izveidot likumus, kas veido ģeneratīvo AI, un cenšas likumīgi pārvaldīt tos, kas to izstrādā). Varbūt tā vietā likt kultūrai izvairīties no ģeneratīvas AI? Jūs varētu panākt, lai daži cilvēki piekristu kaunināšanai, bet citi tam nepiekristu un tomēr turpinātu izmantot ģeneratīvo AI.

Tā ir AI ētikas un mākslīgā intelekta likuma mīkla, kā jau minēju iepriekš.

Jūsu pēdējais lielais jautājums ir par to, vai ģeneratīvais AI virza mūs uz jutīgu AI. Daži uzstāj, ka tā ir. Arguments ir tāds, ka, ja mēs tikai turpinām palielināt matemātisko modeļu izmērus un papildināt skaitļošanas datoru serverus un iebarot katru interneta kumosu un daudz ko citu, algoritmiskais AI pārvērtīs stūri par jūtīgumu.

Un, ja tas tā ir, mēs saskaramies ar bažām par to, ka AI ir eksistenciāls risks. Jūs esat dzirdējuši atkal un atkal, ka, tiklīdz mums būs jūtīgs AI, iespējams, AI nolems, ka cilvēki nav īpaši noderīgi. Nākamā lieta, ko jūs zināt, AI ir mūs paverdzinājis vai iznīcinājis, skatiet manu eksistenciālo risku izpēti vietnē saite šeit.

Pretējs viedoklis ir tāds, ka mēs nezaudēsim jūtīgumu no tā, ko daži ir traki raksturojuši kā stohastisks papagailis (šī ir īstā frāze, kas ir guvusi atsaucību AI jomā), šeit ir citāts, izmantojot frāzi:

• "Pretēji tam, kā varētu šķist, kad mēs novērojam tā izvadi, LM ir sistēma, kas nejauši savieno lingvistisko formu secības, ko tā ir novērojusi savos plašajos apmācības datos saskaņā ar varbūtības informāciju par to kombināciju, bet bez atsauces uz nozīmi. : stohastisks papagailis” (Emīlijas M. Benderes, Timnitas Gebru, Andželīnas Makmilanas-Majoras, Šmargaretas Šmičelas pētnieciskajā darbā, ACM FAKTS “21, 3. gada 10.–2021. marts, virtuāls pasākums, Kanāda ar nosaukumu “Par stohastisko papagaiļu briesmām: vai valodu modeļi var būt pārāk lieli?”).

Vai ģeneratīvais AI ir sava veida strupceļš, kas nodrošinās noderīgas AI iespējas, bet nenovedīs mūs pie jutīga AI, vai arī mērogošanas faktors varētu radīt singularitāti, kas noved pie jutīga AI?

Izvēršas karstas debates.

Sakiet, vai vēlaties izmēģināt ģeneratīvo AI?

Ja tā, šeit ir saite uz ChatGPT, kur varat izveidot kontu un mēģināt to izmantot, skatiet saite šeit.

Ņemiet vērā, ka, ņemot vērā lielo pieprasījumu pēc eksperimentālās AI lietotnes, reģistrēšanās piekļuvei var tikt apturēta jebkurā brīdī vai nu uz īsu brīdi, vai arī ierobežota (kad pēdējo reizi pārbaudīju, reģistrēšanās joprojām bija iespējota). Vienkārši brīdina.

Lūdzu, ņemiet vērā visu, ko es šeit teicu par ģeneratīvo AI, lai jūs zinātu, kas notiek, izmantojot AI lietotni, piemēram, ChatGPT.

Esiet kontemplīvs par savām darbībām.

Vai jūs netīšām mūs būsiet noveduši pie saprātīga AI, kas galu galā mūs sagrauj no eksistences, vienkārši tāpēc, ka esat izvēlējies spēlēties ar ģeneratīvu AI? Vai tu būsi vainīgs? Jums vajadzēja atturēt sevi no nežēlīgas cilvēces iznīcināšanas.

Es tā nedomāju. Bet varētu būt, ka AI virskungi (jau) liek man to teikt, vai varbūt visu šo sleju šoreiz uzrakstīja ChatGPT vai līdzvērtīga ģeneratīva AI lietotne.

Neuztraucieties, es jums apliecinu, ka tas biju es, cilvēku inteliģence, un nē mākslīgais intelekts.