Archief - The Rise of the Weaponized AI Propaganda Machine

Het finale einde van onze individu gestuurde democratie?
SCOUT | The Rise of the Weaponized AI Propaganda Machine
TL;DR > theGuardian | Robert Mercer: the big data billionaire waging war on mainstream media

Lang artikel maar een enorme aanrader, zeker als je wat inzicht wil krijgen hoe dat hele systeem rond georganiseerde voter manipulatie nu juist in elkaar zit. Hoe sommige bedrijven AIs trainen op massieve datasets waarmee ze dan na de psycho-sociale analyse van een individu een effectieve counterstrategie ontwerpen, al dan niet gestoeld op fake nieuws, om die specifieke persoon van mening te doen veranderen. Zo beweert Cambridge Analytics meer dan 5000 datapoints te bezitten over praktisch elke van de 220 miljoen kiesgerechtigde amerikanen waarmee ze een zodanig accuraat profiel kunnen opbouwen dat ze via A/B testing, gebruik makende van fake nieuws netwerken en nieuwsbots via facebook en andere sociale media hun manipulatieve technieken zodanig hebben weten te perfectioneren dat ze de massa kunnen sturen...

Het democratisch systeem staat al langer onder druk maar het ziet er naar uit dat ze onder invloed van nieuwe technologie als deze nog verder zal afdwalen van de verlichtte idealen waaruit ze ontstond.

DaFreak zei:

Het finale einde van onze individu gestuurde democratie?
SCOUT | The Rise of the Weaponized AI Propaganda Machine
TL;DR > theGuardian | Robert Mercer: the big data billionaire waging war on mainstream media

Lang artikel maar een enorme aanrader, zeker als je wat inzicht wil krijgen hoe dat hele systeem rond georganiseerde voter manipulatie nu juist in elkaar zit. Hoe sommige bedrijven AIs trainen op massieve datasets waarmee ze dan na de psycho-sociale analyse van een individu een effectieve counterstrategie ontwerpen, al dan niet gestoeld op fake nieuws, om die specifieke persoon van mening te doen veranderen. Zo beweert Cambridge Analytics meer dan 5000 datapoints te bezitten over praktisch elke van de 220 miljoen kiesgerechtigde amerikanen waarmee ze een zodanig accuraat profiel kunnen opbouwen dat ze via A/B testing, gebruik makende van fake nieuws netwerken en nieuwsbots via facebook en andere sociale media hun manipulatieve technieken zodanig hebben weten te perfectioneren dat ze de massa kunnen sturen...

Het democratisch systeem staat al langer onder druk maar het ziet er naar uit dat ze onder invloed van nieuwe technologie als deze nog verder zal afdwalen van de verlichtte idealen waaruit ze ontstond.

Klik om te vergroten...

Weet nog dat ik een aantal jaar geleden een artikel had gelezen over Nazi-Duitsland en hun propagandamachine, hun technieken en studies.
Maar dit hier, is van een heel ander niveau.

DaFreak zei:

Het finale einde van onze individu gestuurde democratie?
SCOUT | The Rise of the Weaponized AI Propaganda Machine
TL;DR > theGuardian | Robert Mercer: the big data billionaire waging war on mainstream media

Lang artikel maar een enorme aanrader, zeker als je wat inzicht wil krijgen hoe dat hele systeem rond georganiseerde voter manipulatie nu juist in elkaar zit. Hoe sommige bedrijven AIs trainen op massieve datasets waarmee ze dan na de psycho-sociale analyse van een individu een effectieve counterstrategie ontwerpen, al dan niet gestoeld op fake nieuws, om die specifieke persoon van mening te doen veranderen. Zo beweert Cambridge Analytics meer dan 5000 datapoints te bezitten over praktisch elke van de 220 miljoen kiesgerechtigde amerikanen waarmee ze een zodanig accuraat profiel kunnen opbouwen dat ze via A/B testing, gebruik makende van fake nieuws netwerken en nieuwsbots via facebook en andere sociale media hun manipulatieve technieken zodanig hebben weten te perfectioneren dat ze de massa kunnen sturen...

Het democratisch systeem staat al langer onder druk maar het ziet er naar uit dat ze onder invloed van nieuwe technologie als deze nog verder zal afdwalen van de verlichtte idealen waaruit ze ontstond.

Klik om te vergroten...

Heb hier een tijd gelezen ook al van gehoord, maar heb hier wel mijn bedenkingen bij.
5000 dimensies is al niet zoveel, zelfs als de dataset 220 miljoen groot is.
En het gewicht van al die dimensies, hoe moet dat bepaald worden voor een verkiezing? Die gewichten moeten toch bepaald worden aan de hand van hoe iemand concreet gestemd heeft. Iets dat men nooit op voorhand zal weten en iets dat zich onvoldoende voordoet/herhaald om al die dimensies voldoende feedback te geven.

Het is ook niet duidelijk wat voor methoden ze gebruiken om met die data te werk te gaan.
Verder is het ook nog iets anders om van data gebruiken om kiescampagne bij te stellen naar populaire punten naar manipulatie van de kiezers zelf te gaan.
Dezelfde vragen als bij reclame en marketing in het algemeen kunnen hier gesteld worden. Werkt het effectief?
Die vraag lijkt mij zeer moeilijk te beantwoorden om dat er teveel belangen mee gemengd zijn. Net zoals dit bedrijfje, Cambridge Analytics, belang heeft bij wat hype over hun vermogen om een impact op kiesgedrag te maken. Ik ben daar heel skeptisch over.

Ik ga wel volledig akkoord dat de democratie onder druk staat. En dat er serieuze uitdagingen (mss niet oplosbaar) gepaard gaan met een overdaad aan informatie.

Je bedenkingen worden in het artikel behandelt. De studie waarop deze technology stack gebouwd is heeft aangetoond dat men aan 150 datapoints per individu genoeg heeft om je gedrag beter te kunnen voorspellen dan je vrouw dus 5000 is meer dan genoeg. Ze weten je politieke voorkeur, je geaardheid, je standpunt over welbepaalde ethische kwesties, zelfs of je een hond of kat persoon bent. Bovendien wordt je psychologisch OCEAN profiel constant bijgewerkt aan de hand van gerichte technieken om het verder te verfijnen.

Ze weten juist wel wie op wat gaat stemmen en zelfs waarom. Ze weten zelfs welke hooks en narratieven ze moeten gebruiken om specifieke twijfelaars over de streep te trekken. Lukt het de eerste keer niet dan past de gerichte techniek zich aan en blijft deze evolueren tot hij conversion bereikt, het punt waarop je met deze fijn afgestemde specifieke verkoops boodschap engageerd. Die fake nieuws items worden gecreerd op basis van het aggregaat van profielen. Het narratief van die nieuws items wordt zo geconstueerd dat ze een welbepaalde subgroep met een specifiek OCEAN profiel target. Tel daarbij nog eens het manipuleren van SEO resultaten alsook visibility en virality aan de hand van allerlei andere loesje technieken zoals schaduwposts, linker pages en twitterbots...

Dit gaat heel wat verder dan reclame en gericht adverteren maar ook daarvan weet men wel degelijk dat die technieken werken. Bedrijven smijten daar niet voor niets 100en miljoenen tegenaan. De psychologische experimenten die giganten zoals amazon aan de hand van AB testing uitvoeren op hun webportalen zijn echter 2x niets tov wat er hier aan het gebeuren is.

En dan hebben we het nog niet eens over het feit dat deze firma verweven is met de Trump administratie en hun diensten enkel aanbiedt aan uiterst rechtse ideologen. Zo was ze ook actief voor brexit. Bannon zit in de raad van bestuur ervan en hun trackers zijn actief op het breitbart nieuws netwerk zodat ze niet enkel je facebook, twitter en andere persoonlijke data kunnen opzuigen maar je over het hele internet kunnen volgen. Hier bestaat geen regelgeving rond en de miljoenen die verschillende partijen hierin steken hoeven niet aangegeven te worden. Het gebrek aan transparantie alleen al is nefast voor onze democratie maar de capaciteiten van die technology stack zouden iedereen zorgen mo

DaFreak zei:

Je bedenkingen worden in het artikel behandelt. De studie waarop deze technology stack gebouwd is heeft aangetoond dat men aan 150 datapoints per individu genoeg heeft om je gedrag beter te kunnen voorspellen dan je vrouw dus 5000 is meer dan genoeg. Ze weten je politieke voorkeur, je geaardheid, je standpunt over welbepaalde ethische kwesties, zelfs of je een hond of kat persoon bent. Bovendien wordt je psychologisch OCEAN profiel constant bijgewerkt aan de hand van gerichte technieken om het verder te verfijnen.

Ze weten juist wel wie op wat gaat stemmen en zelfs waarom. Ze weten zelfs welke hooks en narratieven ze moeten gebruiken om specifieke twijfelaars over de streep te trekken. Lukt het de eerste keer niet dan past de gerichte techniek zich aan en blijft deze evolueren tot hij conversion bereikt, het punt waarop je met deze fijn afgestemde specifieke verkoops boodschap engageerd. Die fake nieuws items worden gecreerd op basis van het aggregaat van profielen. Het narratief van die nieuws items wordt zo geconstueerd dat ze een welbepaalde subgroep met een specifiek OCEAN profiel target. Tel daarbij nog eens het manipuleren van SEO resultaten alsook visibility en virality aan de hand van allerlei andere loesje technieken zoals schaduwposts, linker pages en twitterbots...

Dit gaat heel wat verder dan reclame en gericht adverteren maar ook daarvan weet men wel degelijk dat die technieken werken. Bedrijven smijten daar niet voor niets 100en miljoenen tegenaan. De psychologische experimenten die giganten zoals amazon aan de hand van AB testing uitvoeren op hun webportalen zijn echter 2x niets tov wat er hier aan het gebeuren is.

En dan hebben we het nog niet eens over het feit dat deze firma verweven is met de Trump administratie en hun diensten enkel aanbiedt aan uiterst rechtse ideologen. Zo was ze ook actief voor brexit. Bannon zit in de raad van bestuur ervan en hun trackers zijn actief op het breitbart nieuws netwerk zodat ze niet enkel je facebook, twitter en andere persoonlijke data kunnen opzuigen maar je over het hele internet kunnen volgen. Hier bestaat geen regelgeving rond en de miljoenen die verschillende partijen hierin steken hoeven niet aangegeven te worden. Het gebrek aan transparantie alleen al is nefast voor onze democratie maar de capaciteiten van die technology stack zouden iedereen zorgen mo

Klik om te vergroten...

Een beetje zoals hier, maar waar hier "de media" in handen is van linkse ideologieën en wat dan "constructieve berichtgeving" wordt genoemd?

Ja, de democraten hebben de verkiezing verloren en "nee" ze zijn er blijkbaar nog steeds niet over

Een beetje zoals hier? Als je het laatste nieuws leest kan je toch onmogelijk spreken van "linkse" media? Dat terzijde, dit soort technologie is van een volledig andere orde.