Tech

OpenAI izpilddirektors Sems Altmans liecina "vēsturiskajā" Senāta sēdē par AI drošību

pirms 12 mēnešiem
Bitcoin Ethereum ziņas

Sems Altmans, OpenAI izpilddirektors un Worldcoin līdzdibinātājs, nesen liecināja Kongresā kopā ar IBM uzticības vadītāju Kristīnu Montgomeriju un Ņujorkas universitātes profesoru Geriju Markusu. 

Senāta tiesu iestāžu privātuma, tehnoloģiju un tiesību apakškomitejas sesija pārstāvēja Altmana pirmo oficiālo uzstāšanos Kongresā, dodot senatoriem iespēju iztaujāt OpenAI izpilddirektoru par viņa uzņēmuma viedokli par regulējumu.

Ilinoisas senatora Dika Durbina nodēvēta par “vēsturisku” sesiju, kurā galvenā uzmanība tika pievērsta potenciālo draudu izpratnei, ko rada ģeneratīvā mākslīgā intelekta (AI) modeļi, piemēram, ChatGPT, un to, kā likumdevējiem būtu jāpieiet regulējumam.

Šķiet, ka Altmana komentāri, kurus Kongresa locekļi un kolēģis runātājs Markuss raksturoja kā patiesus un patiesus, pārsteidza vairākus Senāta locekļus.

Viņš iestājās par federālas uzraudzības aģentūras izveidi ar pilnvarām izdot un atsaukt izstrādes licences, norādīja, ka, viņaprāt, radītājiem ir jāsaņem kompensācija, ja viņu darbs tiek izmantots AI sistēmas apmācībai, un piekrita, ka patērētāji, kuri cieš no kaitējuma, izmantojot AI produktus, ir jāatlīdzina. ir tiesības iesūdzēt izstrādātāju tiesā.

Altmans paraustīja plecus par jautājumiem saistībā ar neseno “AI pauzes” vēstuli, kurā aicināts noteikt sešu mēnešu moratoriju tādu sistēmu izvietošanai, kuras ir jaudīgākas par GPT-4, kas ir AI sistēma, kas ir ChatGPT pamatā, norādot, ka OpenAI ir pavadījis ilgāk nekā sešus mēnešus, lai novērtētu GPT. -4 pirms izvietošanas. Viņš sacīja, ka uzņēmums neplāno nākamo sešu mēnešu laikā izvietot citu modeli.

Markuss, pauzes vēstules parakstītājs, atzina, ka viņš vairāk piekrīt vēstules garam, nevis tās saturam, taču NYU profesors mudināja Kongresu apsvērt globālo uzraudzību, kā arī federālo regulējumu — Altmanam piekrita noskaņojums.

Uzklausīšanas laikā trīs vieslektori piekrita lielākajai daļai tēmu. Tas ietvēra atbalstu privātuma aizsardzībai, lielāku valdības uzraudzību, trešo pušu revīziju un to, cik drīz Amerikas Savienoto Valstu valdībai būtu jācenšas (nekavējoties) regulēt nozari.

Tomēr viens no vientuļajiem nesaskaņu avotiem bija IBM Montgomery, kurš nepiekrita domai, ka būtu nepieciešama jauna federālā aģentūra, lai ieviestu noteikumus AI nozarē.

Viņas paziņojumi norādīja, ka IBM atbalsta ķirurģisku pieeju regulējumam, izmantojot pašlaik esošās regulatīvās iestādes, lai koncentrētu izpildi uz konkrētiem lietošanas gadījumiem.

Lai gan visi trīs runātāji bija vienisprātis, ka mākslīgais intelekts var būt kaitīgs un nepieciešami drošības pasākumi, Markuss skaidri norādīja, ka pašlaik neviens nesaprot vai nevar paredzēt, cik kaitīgi var būt vai kļūs esošie AI produkti. Viņš iestājās par piesardzīgu pieeju, kas ietver lielāku pārredzamību.

Runātāji arī bija vienisprātis ar Kongresa locekļiem, ka ASV ir vajadzīgs nacionālais privātuma likums, kas ir līdzīgs Eiropā pieņemtajiem. Tomēr Altmans nepiekrita domai, ka patērētājiem vajadzētu būt iespējai atteikties no viņu publiski pieejamo tīmekļa datu iekļaušanas apmācību datu kopās.

Altmans arī nevēlējās apgalvot, ka OpenAI iebilst pret savu GPT produktu uz reklāmām balstītas versijas piedāvāšanu. Izpilddirektors vienkārši paziņoja, ka viņš "neteiktu nekad".

Neskatoties uz to, ka iepriekš tiesas sēdē tika teikts, ka OpenAI produkti atbilst patērētāju privātuma standartiem, jo ​​uzņēmums neveica lietotāju profilus pielāgotu reklāmu rādīšanai.

Atsaucoties uz Stenfordas absolventa un likumdevēja pieredzi, strādājot ar decentralizētiem finanšu un Web3 uzņēmumiem, Ņūdžersijas senators Korijs Bukers izvirzīja vērienīgāku centralizācijas privātuma jautājumu. Viņš jautāja, kāda būs centralizācijas un monopolizācijas ietekme uz nozari, uz šo jautājumu Markuss atbildēja ar nopietnu brīdinājumu, ka valsts var riskēt, dodot kontroli pār sabiedrības uztveri nelielam skaitam dalībnieku — vadošajiem mākslīgā intelekta uzņēmumiem, kuriem ir pietiekami daudz naudas. konkurēt ar Microsoft, Google un Amazon.

Altmans, kura projekts Worldcoin apvieno decentralizētu kriptovalūtas aktīvu Ethereum blokķēdē ar identitātes autentifikāciju, izmantojot varavīksnenes skenēšanas tehnoloģiju, paskaidroja, ka OpenAI nodrošināja tikai platformu un OpenAI produktu demokratizācija notika, kad izstrādātāji, uzņēmumi un galalietotāji pielāgoja GPT API "fantastisks" lietojums.

Saistītie: OpenAI izpilddirektors "padziļinātās sarunās" par 100 miljonu dolāru Worldcoin finansējumu: ziņojums