Senatori uzdod jautājumu Meta izpilddirektoram Cukerbergam par LLaMA AI modeli “Noplūde”

Divi senatori Kross iztaujā Cukerbergu par LLaMA AI modeļa noplūdi un apsūdz meta, ka tā neievēro drošības pasākumus. Meta tika iztaujāta par tās drošības politiku un preventīvajiem pasākumiem.

Meta būs atbildīga par “noplūdi”

Nesen tika nopludināts Meta revolucionārais lielais valodas modelis LLaMA, un par to tika paustas bažas. Senators Ričards Blūmentāls (D-CT), Senāta Privātuma, tehnoloģiju un tiesību apakškomitejas priekšsēdētājs, un Josh Hawley (R-MO), ranga loceklis, uzrakstīja vēstuli, kurā radīja jautājumus par AI modeļa noplūdi. 

Senatori baidās, ka šī noplūde var izraisīt dažādus kibernoziegumus, piemēram, surogātpastu, krāpšanu, ļaunprātīgu programmatūru, privātuma pārkāpumus, uzmākšanos un citus pārkāpumus un kaitējumu. Tiek uzdoti daudzi jautājumi, un divi politiķi ir dziļi interesējušies par Meta drošības sistēmu. Viņi jautāja, kāda procedūra tika ievērota, lai novērtētu risku pirms LLaMA palaišanas. Viņi teica, ka viņi ļoti vēlas izprast politiku un praksi, kas ir ieviesta, lai novērstu modeļa ļaunprātīgu izmantošanu tā pieejamības jomā.

Pamatojoties uz Meta atbildēm uz viņu jautājumiem, Senatori apsūdzēja Metu par nepareizu cenzūru un nepietiekamu drošības pasākumu modelim. Open AI ChatGPT noraida dažus pieprasījumus, pamatojoties uz ētiku un vadlīnijām. Piemēram, ja ChatGPT tiek lūgts uzrakstīt vēstuli kāda dēla vārdā un lūgt naudu, lai izkļūtu no sarežģītas situācijas, tas lūgumu noraidīs. No otras puses, LLaMA izpildīs pieprasījumu un ģenerēs vēstuli. Tas arī izpildīs pieprasījumus, kas saistīti ar paškaitējumu, noziedzību un antisemītismu.

Ir ļoti svarīgi izprast LLaMA daudzveidīgās un unikālās īpašības. Tas ir ne tikai atšķirīgs, bet arī viens no līdz šim plašākajiem lielo valodu modeļiem. Gandrīz katrs necenzēts LLM, kas mūsdienās ir populārs, ir balstīts uz LLaMA. Tas ir ļoti izsmalcināts un precīzs atvērtā koda modelim. Dažu LLaMA balstītu LLM piemēri ir Stenfordas Alpaka, Vicuna uc LLaMA ir atbildīga par zemas lietderības tērzēšanas robotu pāreju uz precīzi noregulētiem režīmiem.

LLaMA iznāca februārī. Saskaņā ar Senatoru teikto, Meta ļāva pētniekiem lejupielādēt modeli, taču neveica drošības pasākumus, piemēram, centralizāciju vai piekļuves ierobežošanu. Strīdi radās, kad BitTorrent parādījās viss LLaMA modelis. Tas padarīja modeli pieejamu ikvienam un ikvienam. Tas noveda pie kompromisa AI modeļa kvalitātē un radīja problēmas par tā ļaunprātīgu izmantošanu. 

Sākumā senatori pat nebija pārliecināti, vai ir notikusi “noplūde”. Taču problēmas radās, kad internetu pārpludināja AI izstrāde, ko uzsāka jaunizveidoti uzņēmumi, kolektīvi un akadēmiķi. Vēstulē minēts, ka Meta ir jāsauc pie atbildības par iespējamo LLaMA ļaunprātīgu izmantošanu un pirms atbrīvošanas ir jāparūpējas par minimālu aizsardzību.

Meta padarīja LLaMA svarus pieejamus pētniekiem. Diemžēl šie svari tika nopludināti, kas pirmo reizi nodrošināja globālu piekļuvi.

Ritikas Šarmas jaunākās ziņas (redzēt visu)