Nepilngadīgie var izmantot NCMEC jauno rīku “Take It Down”, lai atzīmētu necenzētu materiālu par viņiem, kas ir bijis vai, viņuprāt, tiks kopīgots tiešsaistē.
Getty Images
Meta finansē valsts mēroga centienus palīdzēt bērniem un pusaudžiem no sociālajiem medijiem noņemt kailu vai seksuāla rakstura attēlus. Vai paša giganta virzība uz pilnīgu šifrēšanu varētu traucēt?
TNacionālais pazudušo un izmantoto bērnu centrs ir izveidojis platformu, ko finansē Meta, lai palīdzētu bērniem un pusaudžiem no sociālajiem medijiem noņemt kailu vai seksuāla rakstura fotoattēlus un videoklipus.
Jaunais pakalpojums nepilngadīgajiem, saukts Noņemiet to, tika prezentēts vienu gadu pēc līdzīga pieaugušajiem paredzēta rīka izlaišanas, kas pazīstams kā StopNCII (saīsinājums no nevienprātīgiem intīmiem attēliem). Šodien Take It Down darbosies tikai piecās platformās, kas piekrita piedalīties: Meta piederošajam Facebook un Instagram, kā arī Yubo, OnlyFans un Pornhub.
"Mēs izveidojām šo sistēmu, jo daudzi bērni saskaras ar šīm izmisuma situācijām," sacīja NCMEC prezidente un izpilddirektore Mišela Delone. "Mēs ceram, ka bērni apzinās šo pakalpojumu un jūtas atviegloti, ka pastāv rīki, kas palīdz noņemt attēlus."
Tas, kā sociālo mediju uzņēmumi aizsargā bērnus un pusaudžus, un kur viņiem neizdodas, jaunajā Kongresā ir kļuvis par svarīgāko divu partiju tehnoloģiju politikas jautājumu, un likumdevējiem ir vislabākās iespējas pieņemt tiesību aktus. Tomēr priekšā ir tāls ceļš uz priekšlikumiem, lai izveidotu vai stiprinātu aizsardzības pasākumus, un, ja likumi nav gaidāmi, NCMEC turpina darboties kā tilts starp tiešsaistes uzņēmumiem un tiesībaizsardzības iestādēm bērnu drošības jautājumos. 2021. gadā bezpeļņas organizācija savās platformās saņēma gandrīz 30 miljonus padomu no visas nozares par acīmredzamu sekrēciju un bērnu seksuālas izmantošanas materiāliem. Par lielāko daļu ziņoja Meta piederošās platformas.
Var izmantot nepilngadīgie un vecāki NCMEC bezmaksas, anonīms rīks lai atzīmētu nepārprotamu nepilngadīgas personas materiālu, kas ir izplatīts vai, viņuprāt, tiks izplatīts tiešsaistē. Kad viņi savā ierīcē ir atlasījuši sensitīvos fotoattēlus vai videoklipus, platforma ģenerē šī fotoattēla digitālā pirksta nospieduma ekvivalentu (sauktu par “jauktu”), ko NCMEC pēc tam kopīgo ar iesaistītajām sociālo mediju vietnēm, lai viņi varētu mēģināt atrast, ierobežot vai noņemt un turpināt uzraudzīt šo saturu.
Saskaņā ar NCMEC datiem attiecīgie fotoattēli vai videoklipi netiek atstāti no ierīces, un tos neviens neskatās. (Jaukšana arī neļauj upuriem identificēt gan NCMEC, gan sociālo mediju lietotni, tikai norādot, ka attēls ir kaitīgs un tas ir jānoņem.) NCMEC paziņoja, ka nav bijuši zināmi tās jaucējkodas datubāzes pārkāpumi, kas varētu potenciāli atklāt personas identitāti. .
Taču viens no lielākajiem šķēršļiem šiem centieniem ir pilnīgas šifrēšanas pieaugums. "Kad tehnoloģiju uzņēmumi ievieš pilnīgu šifrēšanu bez iebūvētiem preventīviem pasākumiem, lai atklātu zināmus bērnu seksuālās vardarbības materiālus, ietekme uz bērnu drošību ir postoša," Senāta Tiesu komitejas sēdē šomēnes sacīja NCMEC prezidents DeLaune. . Zilonis telpā ir tāds, ka finansiālais atbalstītājs un visievērojamākais uzņēmums Take It Down, Meta, ir klipā virzās uz pilnīgu šifrēšanu gan Instagram, gan Messenger.
Kā abas organizācijas var to saskaņot, ir "miljonu dolāru jautājums", sacīja NCMEC viceprezidents Gevins Portnojs. Forbes, norādot, ka NCMEC joprojām precīzi nezina, kādi ir Meta plāni attiecībā uz šifrēšanu un kādi drošības pasākumi varētu būt ieviesti. (Meta teica, ka tas tiek izstrādāts un ka Instagram un Messenger tiek pārbaudītas dažādas šifrēšanas funkcijas.)
"Mēs veidojam Take It Down atbilstoši tam, kā šodien atrodas internets un [elektronisko pakalpojumu sniedzējs]," sacīja Portnojs. "Tas tiešām ir tilts, kas mums būs jāšķērso, kad mēs labāk sapratīsim, kā izskatās [Meta] pilnīga šifrēšanas vide, un vai ir pasaule, kurā var darboties Take It Down."
Meta globālā drošības nodaļas vadītāja Antigone Deivisa pastāstīja Forbes ka "šifrēšanas rezultātā mēs nevaram identificēt noteiktus attēlus", bet tas kļūst par nozares standartu ziņojumapmaiņas jomā, kas ir ļoti svarīga lietotāju privātumam un drošībai. Hash tehnoloģijas izmantošana un NCMEC atbalstīšana tādos projektos kā šis ir viens no vairākiem veidiem, kā Meta cenšas "patiesi tikt galā ar problēmu", viņa teica. (Abas puses atteicās pateikt, cik daudz naudas Meta ir piešķīrusi NCMEC, lai izveidotu Take It Down.)
"Šo problēmu risināšanai nav panacejas," intervijā sacīja Deiviss, raksturojot Meta pieeju kā "daudzpusīgu". Viņa sacīja, ka papildus sadarbībai šīs jaunās sistēmas izveidē, kuras mērķis ir novērst seksuālu izspiešanu un intīmu attēlu izplatīšanu bez piekrišanas, Meta neļauj pieaugušajiem svešiniekiem sazināties ar nepilngadīgajiem, izmantojot tās ziņojumapmaiņas funkcijas. Viņa arī izmanto klasifikatorus, lai novērstu nepilngadīgo kontu un satura pārsūtīšanu pieaugušajiem Meta lietotājiem, kuri ir izrādījuši aizdomīgu uzvedību tiešsaistē, viņa piebilda.
"Es ceru, ka cilvēki, kuriem jaunībā šādi attēli ir dalījušies kāds — kāds no vecākiem, kas tos izmantoja, kāds cits pieaugušais, kurš tos izmantoja, bijušais draugs vai draudzene —, viņi jutīsies ieinteresēti izmantojiet šo rīku, ”sacīja Deiviss.
NCMEC teica, ka tā ir izvirzījusi dažus 200 citi elektronisko pakalpojumu sniedzēji kuri ir iesnieguši informāciju savā “CyberTipline” par pievienošanos programmai Take It Down. Joprojām ir redzams, kurš vēl — bez nelielas saujiņas sociālo mediju spēlētāju, kas šodien cīnās par to — iesaistīsies. Savukārt Yubo sacīja, ka cer, ka šie agrīnie lietotāji mudinās citus pievienoties.
"Lai mazinātu risku un atrisinātu problēmas tiešsaistē, ir nepieciešams vairāk nekā tikai valdības iejaukšanās," pa e-pastu sacīja Yubo izpilddirektors Sacha Lazimi. “Visiem aktieriem ir jāspēlē sava loma. ... Sadarbība ir galvenais, lai noteiktu risinājumus lieliem izaicinājumiem, tāpēc mēs ceram, ka iniciatīvai Take It Down pievienosies vairāk platformu.
Avots: https://www.forbes.com/sites/alexandralevine/2023/02/27/meta-ncmec-minors-take-it-down-ncii/