„Pokalbių valdymas“: paaiškintas prieštaringai vertinamas ES CSAM nuskaitymo teisinis pasiūlymas

Europos Sąjunga jau seniai garsėja stipriais privatumo įstatymais. Tačiau teisėkūros planas, skirtas kovoti su vaikų išnaudojimu, kurį blokas oficialiai pristatė 2022 m. gegužę, grasina sumenkinti šimtų milijonų regioninių pranešimų siuntimo programų naudotojų privatumą ir saugumą.

Europos Komisija, ES teisės aktų leidybos institucija, parengusi pasiūlymą, suformulavo jį kaip planą apsaugoti vaikų teises internete kovojant su piktnaudžiavimu pagrindinėmis technologinėmis priemonėmis, kurias naudoja vaikų išnaudotojai, kurie, jos teigimu, vis dažniau naudoja susirašinėjimo programėles, kad platintų medžiagą apie seksualinę prievartą prieš vaikus. (CSAM) ir netgi gauti prieigą prie naujų aukų.

Galbūt dėl ​​lobizmo iš vaikų saugos technologijų sektoriaus ES pasirinktas požiūris yra techno-solucionistinis. Komisijos iniciatyva daugiausia dėmesio skiriama skaitmeninių paslaugų, visų pirma susirašinėjimo programoms, reguliavimui, nustatant jiems teisinę pareigą naudoti technologines priemones vartotojų pranešimams nuskaityti, siekiant aptikti ir pranešti apie neteisėtą veiklą.

Jau keletą metų pagrindinėms susirašinėjimo programoms buvo taikoma laikina nukrypti leidžianti nuostata nuo bloko e. privatumo taisyklių, reglamentuojančių skaitmeninių ryšių konfidencialumą – leidžianti nukrypti nuostata galioja iki 2025 m. gegužės mėn., kai ji paskutinį kartą pratęsta, todėl jos gali savanoriškai nuskaityti žmonių ryšius, kad nustatytų CSAM. scenarijai.

Tačiau reglamentas dėl piktnaudžiavimo vaikais sukurtų nuolatines taisykles, kurios iš esmės įpareigotų AI pagrįstą turinio nuskaitymą visoje ES.

Pasiūlymo kritikai teigia, kad tai sukeltų situaciją, kai susirašinėjimo platformos būtų priverstos naudoti netobulas technologijas, kad nuskaitytų vartotojų asmeninę korespondenciją pagal numatytuosius nustatymus, o tai turės siaubingų pasekmių žmonių privatumui. Jie taip pat perspėja, kad dėl to ES susiduria su stipriu šifravimu, nes įstatymas priverstų visiškai užšifruotas (E2EE) programas pabloginti savo saugumą, kad atitiktų turinio tikrinimo reikalavimus.

Susirūpinimas dėl pasiūlymo yra toks aštrus, kad paties bloko duomenų apsaugos priežiūros pareigūnas pernai perspėjo, kad tai yra lūžio taškas demokratinėms teisėms. Europos Vadovų Tarybos teisinių konsultacijų tarnyba taip pat mano, kad tai nesuderinama su ES teise, nes nutekėjo jos vertinimas. ES teisės aktai draudžia nustatyti bendrąją stebėsenos prievolę, todėl jei įstatymas bus priimtas, beveik neabejotina, kad tai susidurs su teisiniu iššūkiu.

Kol kas ES teisės aktų leidėjai nesugebėjo susitarti dėl tolesnių veiksmų, susijusių su šiuo klausimu. Tačiau įstatymo projektas išlieka, kaip ir visa jo keliama rizika.

Platus CSAM aptikimo užsakymas

Pradiniame Komisijos pasiūlyme numatytas reikalavimas, kad platformos, gavusios aptikimo nurodymą, turi nuskaityti žmonių pranešimus ne tik dėl žinomo CSAM (ty prievartos prieš vaikus vaizdų, kurie buvo nustatyti anksčiau ir pritaikyti maišai, kad būtų galima aptikti), bet ir dėl nežinomo CSAM ( ty naujus piktnaudžiavimo vaizdus). Tai dar labiau padidintų techninius iššūkius aptikti neteisėtą turinį labai tiksliai ir mažais klaidingais rezultatais.

Kitas Komisijos pasiūlymo komponentas reikalauja, kad platformos nustatytų viliojimo veiklą realiuoju laiku. Tai reiškia, kad programos turi ne tik nuskaityti vaizdų įkėlimą, kad būtų galima ieškoti CSAM, bet ir turėti galimybę išanalizuoti naudotojų komunikacijų turinį, kad galėtų suprasti, kada suaugęs naudotojas gali bandyti suvilioti nepilnametį užsiimti seksualine veikla.

Naudojant automatinius įrankius elgesio požymiams, kurie gali numatyti būsimą piktnaudžiavimą bendroje programos naudotojų sąveikoje, aptikti, yra daug galimybių neteisingai interpretuoti nekaltą pokalbį. Apibendrinant, Komisijos plataus masto CSAM aptikimo reikalavimai paverstų pagrindines pranešimų platformas masinio stebėjimo priemonėmis, teigia pasiūlymo priešininkai.

„Pokalbių valdymas“ yra pagrindinis jų sugalvotas pravardė, reiškiantis susirūpinimą dėl to, kad ES priima įstatymą, reikalaujantį visiško privačių piliečių skaitmeninių pranešimų nuskaitymo, įskaitant žmonių siunčiamų teksto pranešimų tikrinimą.

O šifravimas nuo galo iki galo?

Pradiniame Komisijos pasiūlyme dėl reglamento dėl kovos su seksualine prievarta prieš vaikus E2EE platformoms taip pat netaikomi CSAM aptikimo reikalavimai.

Ir akivaizdu, kad kadangi E2EE naudojimas reiškia, kad tokios platformos neturi galimybės pasiekti skaitomų vartotojų ryšių versijų, nes jose nėra šifravimo raktų, saugios pranešimų siuntimo paslaugos susidurtų su specifine atitikties problema, jei jos būtų legalios. reikia suprasti turinį, kurio jie nemato.

Todėl ES plano kritikai perspėja, kad įstatymas privers E2EE susirašinėjimo platformas sumažinti pavyzdinę jų siūlomą saugumo apsaugą, įdiegiant rizikingas technologijas, tokias kaip kliento nuskaitymas kaip atitikties priemonę.

Komisijos pasiūlyme neminima konkrečios technologijos, kurias platformos turėtų naudoti CSAM aptikti. Sprendimai perkeliami į ES kovos su seksualine prievarta prieš vaikus centrui, kuris būtų nustatytas įstatymu. Tačiau ekspertai prognozuoja, kad jis greičiausiai bus naudojamas norint priversti kliento pusės nuskaitymą.

Kita galimybė yra ta, kad platformos, įdiegusios tvirtą šifravimą, gali nuspręsti visiškai panaikinti savo paslaugas iš regiono; Pavyzdžiui, „Signal Messenger“ anksčiau perspėjo, kad išeis iš rinkos, o ne pagal įstatymą bus priversta pažeisti vartotojų saugumą. Dėl šios perspektyvos ES žmonės gali neturėti prieigos prie pagrindinių programų, naudojančių auksinio standarto E2EE saugos protokolus, kad apsaugotų skaitmeninį ryšį, pvz., „Signal“, „Meta“ priklausanti „WhatsApp“ arba „Apple iMessage“ – tai trys.

Pasiūlymo priešininkai tvirtina, kad nė viena iš ES parengtų priemonių neturės numatyto poveikio, kad būtų užkirstas kelias prievartai prieš vaikus. Vietoj to, jų prognozuojamas poveikis yra siaubingos pasekmės programų naudotojams, nes milijonų europiečių asmeninis bendravimas yra veikiamas netobulų nuskaitymo algoritmų.

Tai savo ruožtu gali sukelti daugybę klaidingų teigiamų rezultatų, teigia jie; milijonai nekaltų žmonių gali būti klaidingai įtraukti į įtartiną veiklą, apkraunant teisėsaugą melagingų pranešimų srautu.

ES pasiūlyme numatyta sistema turėtų reguliariai atskleisti piliečių asmeninius pranešimus trečiosioms šalims, kurios dalyvautų tikrinant platformų aptikimo sistemų jiems siunčiamus pranešimus apie įtartiną turinį. Taigi net jei konkretus pažymėtas turinys nebuvo perduotas teisėsaugai ištirti, nes ankstesniame pranešimo grandinės taške buvo nustatytas kaip neįtartinas, jį vis tiek būtinai būtų peržiūrėjęs kažkas kitas. nei siuntėjas ir jų numatytas gavėjas (-ai). Taigi RIP, ryšių privatumas.

Asmeninių ryšių, kurie buvo išfiltruoti iš kitų platformų, apsauga taip pat keltų nuolatinį saugumo iššūkį, nes kiltų pavojus, kad turinys, apie kurį pranešta, gali būti dar labiau atskleistas, jei bet kuri iš trečiųjų šalių, apdorojančių turinio ataskaitas, taikys prastos saugos praktikos.

Žmonės naudoja E2EE ne veltui, o tarpininkų, besiliečiančių jūsų duomenimis, nėra.

Kur dabar tas velniškai baisus planas?

Paprastai ES teisėkūra yra trijų krypčių reikalas, kai Komisija siūlo teisės aktus, o jos teisės aktų leidėjai Europos Parlamente ir Taryboje dirba su bloko vykdomąja valdžia, siekdami kompromiso, dėl kurio jie visi galėtų susitarti.

Tačiau, kalbant apie prievartos prieš vaikus reglamentą, ES institucijos iki šiol buvo labai skirtingos nuomonės dėl pasiūlymo.

Prieš metus Europos Parlamento įstatymų leidėjai susitarė dėl savo derybinės pozicijos siūlydami esminius Komisijos pasiūlymo pakeitimus. Parlamento nariai iš viso politinio spektro palaikė esminius pakeitimus, kuriais buvo siekiama sumažinti teisių riziką, įskaitant paramą visiškam E2EE platformų atskyrimui nuo nuskaitymo reikalavimų.

Jie taip pat pasiūlė apriboti nuskaitymą, kad jis būtų kur kas tikslesnis: įtraukta nuostata, kad tikrinama tik asmenų arba grupių, įtariamų seksualine prievarta prieš vaikus, žinutės, o ne įstatyme, pagal kurį būtų taikomas bendras nuskaitymas. vartotojams, kai platformai pateikiamas aptikimo užsakymas.

Dar vienas pakeitimas, kuriam pritarė EP nariai, apribotų žinomų ir nežinomų CSAM aptikimą ir panaikintų reikalavimą, kad platformos taip pat imtųsi priežiūros veiklos tikrindamos tekstinius mainus.

Parlamento pasiūlymo versijoje taip pat buvo raginama įtraukti kitų tipų priemones, pvz., reikalavimus platformoms pagerinti vartotojų privatumo apsaugą, nustatant profilius neviešiems, kad būtų sumažinta rizika, kad nepilnamečius aptiktų grobuoniški suaugusieji.

Apskritai EP narių požiūris atrodo daug labiau subalansuotas nei pirminis Komisijos pasiūlymas. Tačiau nuo to laiko ES rinkimai pakeitė parlamento sudėtį. Naujų EP narių požiūris nėra toks aiškus.

Taip pat vis dar kyla klausimas, ką darys Europos Vadovų Taryba, organas, sudarytas iš valstybių narių vyriausybių atstovų. Ji dar turi susitarti dėl derybų mandato dėl bylos, todėl diskusijos su parlamentu negalėjo prasidėti.

Kiekvienas, pasirinkęs privatumą, bus sumažintas iki pagrindinio kvailo telefono stiliaus funkcijų rinkinio, kuriame būtų tik tekstas ir garsas. Taip, regionų įstatymų leidėjai tikrai tai svarstė.

Praėjusiais metais Taryba ignoravo Europos Parlamento narių prašymus laikytis jų kompromiso. Vietoj to, valstybės narės, atrodo, pirmenybę teikia pozicijai, kuri yra daug artimesnė Komisijos originalui „nuskaityti viską“. Tačiau valstybės narės taip pat nesutaria, kaip elgtis toliau. Ir iki šiol pakankamai šalių prieštaravo kompromisiniams tekstams, kuriuos joms pateikia Tarybai pirmininkaujanti valstybė, kad susitartų dėl mandato.

Per Tarybos diskusijas nutekinti pasiūlymai rodo, kad valstybių narių vyriausybės vis dar bando išsaugoti galimybę visapusiškai nuskaityti turinį. Tačiau 2024 m. gegužės mėn. kompromisiniame tekste buvo bandoma pakoreguoti, kaip tai buvo pateikta, eufemistiškai apibūdinant teisinį reikalavimą pranešimų platformoms kaip „įkėlimo moderavimą“.

Tai paskatino viešą Signal prezidentės Meredith Whittaker įsikišimą, apkaltinusią ES įstatymų leidėjus, kad jie įsitraukia į „retorinius žaidimus“, siekiant išgauti paramą masiniam piliečių pranešimų skenavimui. Tai kažkas, ką ji perspėjo nesąmoningais tonais, „iš esmės pakenktų šifravimui“.

Pranešama, kad tuo metu į spaudą nutekėjusiame tekste taip pat buvo siūloma, kad susirašinėjimo programėlių naudotojų būtų galima prašyti sutikimo, kad jų turinys būtų nuskaitomas. Tačiau naudotojai, kurie nesutiko su patikra, bus išjungtos pagrindinės programos funkcijos, o tai reiškia, kad jie negalės siųsti vaizdų ar URL.

Pagal šį scenarijų susirašinėjimo programų naudotojai ES iš esmės būtų priversti rinktis, ar apsaugoti savo privatumą, ar naudotis šiuolaikiškomis susirašinėjimo programėlėmis. Kiekvienas, pasirinkęs privatumą, bus sumažintas iki pagrindinio nebylių stiliaus funkcijų rinkinio, kuriame būtų tik tekstas ir garsas. Taip, regionų įstatymų leidėjai tikrai tai svarstė.

Pastaruoju metu yra ženklų, kad Taryboje gali mažėti parama, skatinanti masinį piliečių pranešimų stebėjimą. Anksčiau šį mėnesį „Netzpolitik“ apžvelgė Nyderlandų vyriausybės pranešimą, kad susilaikys nuo kito patobulinto kompromiso, nurodydama susirūpinimą dėl poveikio E2EE, taip pat dėl ​​kliento nuskaitymo keliamos rizikos saugumui.

Anksčiau šį mėnesį svarstymas dėl reglamento taip pat buvo išbrauktas iš kitos Tarybos darbotvarkės, matyt, dėl to, kad nebuvo gauta kvalifikuotos daugumos.

Tačiau yra daug ES šalių, kurios ir toliau remia Komisijos pastangas nuskaityti bendrus pranešimus. Ir dabartinė Tarybai pirmininkaujanti Vengrija, atrodo, pasiryžusi ir toliau siekti kompromiso. Taigi rizika neišnyko.

Valstybės narės vis dar galėtų priimti pasiūlymo variantą, kuris patenkintų pakankamai jų vyriausybių, kad atvertų duris deryboms su europarlamentarais, o tai padėtų ES trišalių diskusijų procese uždaryti viską. Taigi Europos piliečių teisių ir bloko, kaip privatumo gynėjo, reputacija išlieka didelė.