Europese wetgeving tegen kindermisbruik: deur op kier voor massasurveillance?

[racemaniac]

Jouw positie in net zowel subjectief en persoonlijk hoor, the universe doesn't care. Je zegt dat het makkelijk is om tegenpunten te maken en dat zal wel zijn maar die tegenpunten zijn net zowel persoonlijke voorkeur.

'k bedoel meer in de zin dat als het bv over migratie gaat, er meer harde cijfers zijn van de impact ervan op de economie, en misdaad, en ... En we dan meer beredeneerd keuzes kunnen maken, en er een meer genuanceerde discussie over de waarde ervan kan zijn. Uiteraard speelt het buikgevoel nog steeds een grote rol in zo'n themas, maar er zijn tenminste objectieve cijfers over wat de impact is, en dan kan er veel concreter gediscussieerd worden. Hier blijft alles precies ver hangen in't buikgevoel, en weinig objectieve cijfers of andere objectieve argumenten, een dat stoort me wel wat met dit onderwerp (en al veel langer dan vandaag, maar had nu eens tijd om mee in de discussie te gaan)

 

[Hit Hard]

Voor wie de impact van het voorstel nog niet helemaal duidelijk is:

Wat de EU met dit voorstel wil bekomen is een beetje analoog aan vragen of iedereen vanaf nu elke brief open wil laten in plaats van hem toe te plakken (dit alleen al is voor mij het grootste probleem).

Er kan dan een robot elke brief openen om te kijken of er kinderporno in zit. Is dat niet zo, dan gaat de brief weer dicht, maar niet met de lijm, gewoon de flap in de brief. We vertrouwen erop dat niemand anders in de brief kijkt. Niet de politie, en ook niet de postbode, of ne stouterik die stiekem brieven onderschept. Die stouterik is dan analoog aan de hacker die gebruik maakt van de backdoor in de encryptie die eigenlijk enkel voor de politie is bedoelt.

 

[racemaniac]

Voor wie de impact van het voorstel nog niet helemaal duidelijk is:

Wat de EU met dit voorstel wil bekomen is een beetje analoog aan vragen of iedereen vanaf nu elke brief open wil laten in plaats van hem toe te plakken (dit alleen al is voor mij het grootste probleem).

Er kan dan een robot elke brief openen om te kijken of er kinderporno in zit. Is dat niet zo, dan gaat de brief weer dicht, maar niet met de lijm, gewoon de flap in de brief. We vertrouwen erop dat niemand anders in de brief kijkt. Niet de politie, en ook niet de postbode, of ne stouterik die stiekem brieven onderschept. Die stouterik is dan analoog aan de hacker die gebruik maakt van de backdoor in de encryptie die eigenlijk enkel voor de politie is bedoelt.

Dit is ook weer fout hé... dit is wat me mateloos stoort aan deze discussie. Allemaal van die voorbeelden en analogieën die fout zijn.
In uw voorbeeld is de juiste analogie dat uw envelop wel dicht is, dat een robot die openmaakt, scant voor kinderporno, terug dichtmaakt met een nieuwe envelop waar enkel de robot toegang toe heeft, en die gaat dan naar de ontvanger. Dat de keten maar op 1 zeer specifieke plek gebroken wordt, maar voor de rest veilig blijft.
Ben programmeur, dus dat dit een extra risico is op hacken en zo, spreekt van zich, maar ge stelt het hier voor of het triviaal gaat zijn voor alles en iedereen om nu aan de boodschappen te geraken, maar dat is toch niet noodzakelijk het geval... Er zijn wel systemen om ervoor te zorgen dat dit met genoeg veiligheid gebeurt...

 

[Deckard]

Dit is ook weer fout hé... dit is wat me mateloos stoort aan deze discussie. Allemaal van die voorbeelden en analogieën die fout zijn.
In uw voorbeeld is de juiste analogie dat uw envelop wel dicht is, dat een robot die openmaakt, scant voor kinderporno, terug dichtmaakt met een nieuwe envelop waar enkel de robot toegang toe heeft, en die gaat dan naar de ontvanger. Dat de keten maar op 1 zeer specifieke plek gebroken wordt, maar voor de rest veilig blijft.
Ben programmeur, dus dat dit een extra risico is op hacken en zo, spreekt van zich, maar ge stelt het hier voor of het triviaal gaat zijn voor alles en iedereen om nu aan de boodschappen te geraken, maar dat is toch niet noodzakelijk het geval... Er zijn wel systemen om ervoor te zorgen dat dit met genoeg veiligheid gebeurt...

Je hebt hier al enkele keren iets gezegd zoals uw laatste zin. Ben je daar niet iets te gerust op? Of je nu programmeur bent of niet. Ik vertrouw dat hoegenaamd niet. Genoeg datalekken bij verschillende besturen (Limburg.net o.m.) dacht ik die mij toch wantrouwig maken.

Daarnaast willen de ministers van Binnenlandse Zaken dat zijzelf, politieagenten, soldaten e.d. van deze maatregel worden uitgesloten. Dat geeft ook weinig vertrouwen in zulke maatregelen.

 

[racemaniac]

Je hebt hier al enkele keren iets gezegd zoals uw laatste zin. Ben je daar niet iets te gerust op? Of je nu programmeur bent of niet. Ik vertrouw dat hoegenaamd niet. Genoeg datalekken bij verschillende besturen (Limburg.net o.m.) dacht ik die mij toch wantrouwig maken.

Daarnaast willen de ministers van Binnenlandse Zaken dat zijzelf, politieagenten, soldaten e.d. van deze maatregel worden uitgesloten. Dat geeft ook weinig vertrouwen in zulke maatregelen.

Idd, daarom dat het een extra risico is, maar betekent niet dat het niet technisch mogelijk is om het juist te doen.

 

[kinxton]

Idd, daarom dat het een extra risico is, maar betekent niet dat het niet technisch mogelijk is om het juist te doen.

Het is technisch zeker mogelijk, maar aan welke prijs en welke bedrijven?
Wederom extra personeel en overheidsbelangen.

Zie ook dit artikel waarom het een slecht idee is:

Microsoft moet blokkade Nederlands OneDrive-account opheffen van rechter

Microsoft moet de blokkade van een e-mail- en OneDrive-account van een Nederlandse gebruiker opheffen, nadat die geblokkeerd was om een ongepaste afbeelding die schadelijk is voor kinderen. De gebruiker stapte naar de rechter. Die stelt de vrouw donderdag in het gelijk.

tweakers.net

En zo zijn er nog voorbeelden.
Daarom heb ik m'n eigen domeinnaam en mailservice, en storage, naast de standaard cloud accounts.

 

[Didymus]

Idd, daarom dat het een extra risico is, maar betekent niet dat het niet technisch mogelijk is om het juist te doen.

Meer dan 400 700 experten hebben recent nog een open brief ondertekend waarin ze duidelijk stellen dat technische maatregelen "om het juist te doen" geen bijkomende garanties bieden: https://csa-scientist-open-letter.org/Sep2025

 

[racemaniac]

Meer dan 400 experten hebben recent nog een open brief ondertekend waarin ze duidelijk stellen dat technische maatregelen "om het juist te doen" geen bijkomende garanties bieden: https://csa-scientist-open-letter.org/Sep2025

Corrigeer me als ik verkeerd ben, maar als ik dat lees, gaat het toch gewoon over dat de scans die ze voorstellen niet effectief gaan zijn, dat client side scannen voor vele redenen dom zou zijn (volledig mee eens), maar niets over waar ik het over had? Maar is idd wel een mooi document met wat mooie bezwaren tegen het voorstel.
Ik was hier gewoon een kromme analogie aan't weerleggen omdat het me mateloos stoort hoe iedereen maar de zotste dingen beweert over wat zoiets zou betekenen die kant noch wal raken, niet dat ik dit voorstel steun.

't is wel fascinerend hoe slechte redeneringen blootleggen precies op't internet inherent betekent dat ge het tegenovergestelde steunt. Nee, ik hoop gewoon dat onze kant een degelijk argument kan vormen, en niet de grootste bullshit verspreidt die kant noch wal raakt. En zoals al eerder vermeld, 'k ben ook op zoek naar goede (objectieve) argumenten van waarom het slecht idee is, dat document is interessant, maar kan ook gewoon betekenen dat het systeem een nuttig begin kan zijn, en dat we met de huidige AI vooruitgang in redelijke tijd er resultaten uit zouden kunnen krijgen die nuttig genoeg zijn.

 

[racemaniac]

Het is technisch zeker mogelijk, maar aan welke prijs en welke bedrijven?
Wederom extra personeel en overheidsbelangen.

Zie ook dit artikel waarom het een slecht idee is:

Microsoft moet blokkade Nederlands OneDrive-account opheffen van rechter

Microsoft moet de blokkade van een e-mail- en OneDrive-account van een Nederlandse gebruiker opheffen, nadat die geblokkeerd was om een ongepaste afbeelding die schadelijk is voor kinderen. De gebruiker stapte naar de rechter. Die stelt de vrouw donderdag in het gelijk.

tweakers.net

En zo zijn er nog voorbeelden.
Daarom heb ik m'n eigen domeinnaam en mailservice, en storage, naast de standaard cloud accounts.

Maar... die bedrijven doen dat al? Dus dan is't toch geen achteruitgang op dat gebied? Als het probleem de huidige status quo is, dan is er toch geen probleem?

En volledig gelijk met domeinnaam en mail service etc... van die cloud dingen afhangen is om problemen vragen .

 

[Didymus]

Ik was hier gewoon een kromme analogie aan't weerleggen omdat het me mateloos stoort hoe iedereen maar de zotste dingen beweert over wat zoiets zou betekenen die kant noch wal raken, niet dat ik dit voorstel steun.

Dat zie je volgens mij toch verkeerd, de analogie klopt niet helemaal, maar niet op de manier die jij beweert. Bij Chatcontrol wordt de boodschap wel degelijk "gelezen" (en bij een match doorgestuurd ter controle) vóór hij in een verzegelde envelop terecht komt en wordt verstuurd. De E2E-encryptie wordt hierdoor effectief doorbroken, want de geheimhouding tussen verzender en ontvanger is niet langer gegarandeerd. Dat is waar paragraaf 2 (2 On device detection inherently removes encryption protection) van de open brief over gaat.

 

[racemaniac]

Dat zie je volgens mij toch verkeerd, de analogie klopt niet helemaal, maar niet op de manier die jij beweert. Bij Chatcontrol wordt de boodschap wel degelijk "gelezen" (en bij een match doorgestuurd ter controle) vóór hij in een verzegelde envelop terecht komt en wordt verstuurd. De E2E-encryptie wordt hierdoor effectief doorbroken, want de geheimhouding tussen verzender en ontvanger is niet langer gegarandeerd. Dat is waar paragraaf 2 (2 On device detection inherently removes encryption protection) van de open brief over gaat.

Is on device detection de enige optie? 'k zou vooral verwachten dat ze mitm gaan doen, en dat ge het secure naar een centrale server stuurt, die scant, en die stuurt het dan weer door naar het doel als't ok is. Als ze enkel on device willen doen, dat zou idd stom zijn. En idd, sowieso is er ergens een breuk in de E2E encryptie, of't nu in't begin, aan't eind, of in't midden is.

 

[DéWé]

Corrigeer me als ik verkeerd ben, maar als ik dat lees, gaat het toch gewoon over dat de scans die ze voorstellen niet effectief gaan zijn, dat client side scannen voor vele redenen dom zou zijn (volledig mee eens), maar niets over waar ik het over had? Maar is idd wel een mooi document met wat mooie bezwaren tegen het voorstel.
Ik was hier gewoon een kromme analogie aan't weerleggen omdat het me mateloos stoort hoe iedereen maar de zotste dingen beweert over wat zoiets zou betekenen die kant noch wal raken, niet dat ik dit voorstel steun.

't is wel fascinerend hoe slechte redeneringen blootleggen precies op't internet inherent betekent dat ge het tegenovergestelde steunt. Nee, ik hoop gewoon dat onze kant een degelijk argument kan vormen, en niet de grootste bullshit verspreidt die kant noch wal raakt. En zoals al eerder vermeld, 'k ben ook op zoek naar goede (objectieve) argumenten van waarom het slecht idee is, dat document is interessant, maar kan ook gewoon betekenen dat het systeem een nuttig begin kan zijn, en dat we met de huidige AI vooruitgang in redelijke tijd er resultaten uit zouden kunnen krijgen die nuttig genoeg zijn.

Als je op zoek bent naar deftige argumenten:
- Een telefoon afluisteren mag enkel mits een gemotiveerde aanvraag wordt goedgekeurd.
- Een huiszoeking mag enkel mits goedkeuring.
Enz

Waarom zouden we hier wel aanvaarden dat er standaard controles gebeuren op alle communicatie, zonder een vermoeden van schuld?

Als je ziet hoe zelfs met de bestaande wetgevingen er tal van misbruiken plaatsvonden (e.g. NSA toestanden in de VS) lijkt het me utopisch niet te vrezen dat een dergelijk systeem de deur openzet naar misbruik en/of andere toepassingen. Waarom ook niet scannen op hits m.b.t. terroristische aanslagen? Of voorbereidingen van een overval? Of racistisch taalgebruik?

 

[racemaniac]

Als je op zoek bent naar deftige argumenten:
- Een telefoon afluisteren mag enkel mits een gemotiveerde aanvraag wordt goedgekeurd.
- Een huiszoeking mag enkel mits goedkeuring.
Enz

Waarom zouden we hier wel aanvaarden dat er standaard controles gebeuren op alle communicatie, zonder een vermoeden van schuld?

Als je ziet hoe zelfs met de bestaande wetgevingen er tal van misbruiken plaatsvonden (e.g. NSA toestanden in de VS) lijkt het me utopisch niet te vrezen dat een dergelijk systeem de deur openzet naar misbruik en/of andere toepassingen. Waarom ook niet scannen op hits m.b.t. terroristische aanslagen? Of voorbereidingen van een overval? Of racistisch taalgebruik?

'k heb de analogie al gemaakt naar een flitscamera: een automatisch systeem dat veel ziet, maar automatisch een specifiek ding controleert, en als iemand vermoedelijk tegen de lamp loopt, checkt een mens of dat zo is, en zet die het verdere proces in gang.

Lijkt me meer analoog aan zoiets. Want alle andere dingen die gij beschrijft is waar mensen volle toegang krijgen tot alles, en niet een automatisch systeem dat gewoon 99.99... % van de data negeert en enkel op 1 zeer specifiek ding controleert.

 

[DéWé]

'k heb de analogie al gemaakt naar een flitscamera: een automatisch systeem dat veel ziet, maar automatisch een specifiek ding controleert, en als iemand vermoedelijk tegen de lamp loopt, checkt een mens of dat zo is, en zet die het verdere proces in gang.

Lijkt me meer analoog aan zoiets. Want alle andere dingen die gij beschrijft is waar mensen volle toegang krijgen tot alles, en niet een automatisch systeem dat gewoon 99.99... % van de data negeert en enkel op 1 zeer specifiek ding controleert.

Een flitspaal detecteert snelheid via radar en snelheidstechnologie, en neemt enkel foto's wanneer die wordt overschreden. Er wordt dus op geen enkele vorm data geregistreerd, zelfs niet kortstondig, tenzij er effectief een overtreding plaatsvindt.

Trajectcontroles en ANPR camera's daarentegen registeren wel in bulk data. Die laatste ben ik evenmin fan van vanwege dezelfde reden.

Je vroeg naar argumenten en naar mijn gevoel is privacy wel degelijk een belangrijk argument. We aanvaarden ook niet dat telefonisch verkeer automatisch wordt gemonitord, dat (zoals hierboven ergens aangehaald wordt) alle papieren post wordt opengedaan, of dat men willekeurig eens in huizen langskomt om te kijken dat alles wel kosher is.

Dus zoals ik in mijn vorig bericht schreef, waarom zouden we wel toestaan dat private elektronische communicatie tussen mensen automatisch wordt gemonitord? Je gaat overigens wel in op de toepasbaarheid van de analogie, maar niet op de redenen die ik aanhaal waarom ik hier geen voorstander van ben, met name het risico op misbruik en het recht op privacy.

 

[zwarten]

Ik begin tegenwoordig echt te denken zoals hoe een china, rusland oekraine ons een kloot kan afdraaien.
Mij lijkt dat dit systeem kwetsbaar is voor misbruik. Stel dat bij een datalek telefoonnummers uitlekken en een buitenlandse macht begint Europese nummers te bestoken met illegale beelden: zo kun je politici, ondernemers of tegenstanders beschadigen. Ook binnenlandse actoren zouden dit kunnen misbruiken: als er geen gerechtelijk onderzoek loopt, kan het verspreiden van beelden gebruikt worden om verdenkingen op te wekken of een zaak op gang te brengen. Als de politie begint te graven vinden ze wss wel andere zaken.

 

[racemaniac]

Een flitspaal detecteert snelheid via radar en snelheidstechnologie, en neemt enkel foto's wanneer die wordt overschreden. Er wordt dus op geen enkele vorm data geregistreerd, zelfs niet kortstondig, tenzij er effectief een overtreding plaatsvindt.

Trajectcontroles en ANPR camera's daarentegen registeren wel in bulk data. Die laatste ben ik evenmin fan van vanwege dezelfde reden.

Je vroeg naar argumenten en naar mijn gevoel is privacy wel degelijk een belangrijk argument. We aanvaarden ook niet dat telefonisch verkeer automatisch wordt gemonitord, dat (zoals hierboven ergens aangehaald wordt) alle papieren post wordt opengedaan, of dat men willekeurig eens in huizen langskomt om te kijken dat alles wel kosher is.

Dus zoals ik in mijn vorig bericht schreef, waarom zouden we wel toestaan dat private elektronische communicatie tussen mensen automatisch wordt gemonitord? Je gaat overigens wel in op de toepasbaarheid van de analogie, maar niet op de redenen die ik aanhaal waarom ik hier geen voorstander van ben, met name het risico op misbruik en het recht op privacy.

Idd, maar ik wil ook alle valse analogieën buitenwippen hier.

Ge moet nu toch erkennen dat een analogie trekken naar waar een mens al uw chats zou zien volledig krom is. Maar ben het nog altijd wel eens met de privacy concern, maar mijn reactie was vooral op hoe krom uw analogie was, een automatisch systeem dat 1 specifiek ding zoekt is iets compleet anders dan al uw info aan mensen geven die alles over u mogen zien en lezen.

 

[DéWé]

Idd, maar ik wil ook alle valse analogieën buitenwippen hier.

Ge moet nu toch erkennen dat een analogie trekken naar waar een mens al uw chats zou zien volledig krom is. Maar ben het nog altijd wel eens met de privacy concern, maar mijn reactie was vooral op hoe krom uw analogie was, een automatisch systeem dat 1 specifiek ding zoekt is iets compleet anders dan al uw info aan mensen geven die alles over u mogen zien en lezen.

Ik heb niet beweerd dat een individu al mijn chats zou zien. Het gaat mij om het toegang hebben tot alles wat verstuurd wordt, of dat nu door een algoritme is of door een persoon.

 

[racemaniac]

Ik heb niet beweerd dat een individu al mijn chats zou zien. Het gaat mij om het toegang hebben tot alles wat verstuurd wordt, of dat nu door een algoritme is of door een persoon.

En ge vindt een algoritme dat alles ziet niet iets compleet anders dan een persoon die alles ziet?

Gelijk, bij de meeste providers gaan al uw emails door een spamfilter, dat is even erg voor u als een persoon die al uw mails leest? Ge hebt daar dezelfde privacy concerns mee?

 

[DéWé]

En ge vindt een algoritme dat alles ziet niet iets compleet anders dan een persoon die alles ziet?

Gelijk, bij de meeste providers gaan al uw emails door een spamfilter, dat is even erg voor u als een persoon die al uw mails leest? Ge hebt daar dezelfde privacy concerns mee?

Ik vind een overheid die al mijn private communicatie gaat scannen een probleem ja.

Ik gebruik onder andere Gmail en ik heb daar ook enkele privacy concerns bij. Maar een privébedrijf waarbij ik vrijwillig kies om van hun diensten gebruik te maken, waarbij ik de mogelijkheid heb op elk moment niet langer van hun diensten gebruik te maken, vind ik een compleet ander gegeven dan waar hier over gaat.

Volgens jouw redenering kan de overheid zolang het maar via een algoritme loopt ook al onze telefoons monitoren, want het is toch maar voor 1 specifiek iets en zolang je niets misdoet kan het geen kwaad? Dan kan je ook de volgende stap zetten en de overheid toegang geven om camera's te monitoren die mensen in hun woningen hebben geplaatst, moest er iets fout gebeuren dan kunnen ze ingrijpen.

Ik wil je geen woorden in de mond leggen, maar dat is volgens mij wel waar het hier om gaat. Een zodanig vertrouwen in de overheid vestigen dat je toegang tot private communicatie en situaties geeft onder de logica dat 'als je niets verkeerd doet, je niets te verbergen hebt'.

 

[Didymus]

Is on device detection de enige optie? 'k zou vooral verwachten dat ze mitm gaan doen, en dat ge het secure naar een centrale server stuurt, die scant, en die stuurt het dan weer door naar het doel als't ok is. Als ze enkel on device willen doen, dat zou idd stom zijn. En idd, sowieso is er ergens een breuk in de E2E encryptie, of't nu in't begin, aan't eind, of in't midden is.

Ik heb toch eens goed in mijn ogen moeten wrijven toen ik bovenstaande las.

Men wil de E2EE technisch niet breken omdat het intrinsiek onveilig is, enorme privacyrisico's met zich meebrengt en daar zéker geen draagvlak voor bestaat en jij vraagt je af waarom ze de encryptie niet gewoon volledig ondermijnen met een man-in-the-middle? Daar is niets secure aan, vandaag niet, morgen niet, nooit niet, ongeacht de hoeveelheid technische maatregelen die je ertegenaan gooit.