Deepfakes in de Metaverse

Horse

Well-known member
Naar aanleiding van deze podcast: https://podcasts.apple.com/be/podca...-amelie-albrecht/id1369624360?i=1000548757380 (dont' worry, het gaat enkel over de eerste 90 minuten) wou ik hier toch even een discussie over beginnen.

Gaat dit niet verkeerd aflopen? Dus een voetballer als Christiano Ronaldo zal binnen 10 jaar zijn rechten verkopen waardoor Niké de man Christiano Ronaldo niet meer nodig heeft om de zoveelste reclame videoclip te maken? Dus we zullen geen vertaler-tolks meer nodig hebben, want dit gaat ook kunnen met audio? Hierdoor gaan heel veel mensen hun job verliezen. Oh ja, Ronaldo zal ook op de illegale markt te downloaden zijn zodat je er virtueel sex mee zal kunnen hebben.

Ook de lach van Alex Agnew als het gaat over prOn snap ik niet. Ok, we gaan dus iedere vrouw volledig naakt zien, wat zegt Alex Agnew: COOL
Tot ik zijn dochtertje Amy kan downloaden met een illegale torrent zeker? Dan opeens zal hij er wél problemen mee hebben.

Dit gaat echt totaal verkeerd aflopen. Chris Ume is gewoon de man van Skynet in de Terminator movie. Dus we gaan (zoals in de podcast voorspeld) misschien niet meer ons huis uit moeten voor werk of plezier? Leuk hoor. Zeker als je hoort dat het allemaal zal kunnen binnen 10 jaar. Zoals Andries zelf zegt: iedere dag 14u in de zetel met brilletje op. Er zijn hier al films over gemaakt en dit wordt dus realiteit voor onze kinderen.

Die Metaverse is helemaal niet zo leuk als men het doet lijken. Andries slaat in de podcast de nagel op de kop: zullen we in de Metaverse uiteindelijk ook niet gewoon ongelukkig worden? Vluchten uit de realiteit gaat op deze manier gewoon erger worden.

We zouden opnieuw kunnen spreken met de doden. We zouden onze grootvader opnieuw kunnen zien in Metaverse. En wat is daar de meerwaarde van? Zijn er hier geen boeken over geschreven dat we dit een plaats moeten geven en moeten klasseren? Dit gaat mensen ongelukkig maken ipv gelukkig. De echte wereld zal ondraaglijk worden voor vele mensen.

Zijn voorbeeld over een CEO in Spanje die kan communiceren met een CEO in Japan, zonder daar naartoe te moeten reizen en zonder vertaler tolk is gewoon zielig. Dus de fun van reizen en mensen face to face zien gaan we ook verliezen. Terug heel wat mensen zonder job want waarom nog reizen eigenlijk?

Een concert bijwonen? Brilletje opzetten. Als die Chris Ume dit meent, dan moet dit gewoon dringend stopgezet worden.
Hij geeft zelfs toe dat we heel wat fake video's niet meer gaan kunnen onderscheiden van echte.

Gelieve eerst de podcast te beluisteren alvorens te reageren. Kwestie van op de hoogte te zijn van de vele uitspraken.
Voor iedereen die kinderen heeft, think about it. Naar school gaan, fysiek met de fiets bedoel ik, zal dus ook niet meer nodig zijn. En wat doen we na school? Brilletje opzetten natuurlijk tot 23u 's avonds. Amai, wat een leuke toekomst visie heb jij Chris!

Ik vind dit allemaal zéér triestig. Als het zover is, verhuis ik naar een of ander arm land waar dit niet bestaat maar waar sociaal contacten wel nog bestaan. Als ik die Chris Ume mag geloven, gaat de westerse en aziatische wereld allemaal naar Metaverse. Maar dat zal dan toch zonder mij zijn.

Ze spreken over ethische regels en wetten, maar dat is toch zeer naïef vind ik. Ze zijn er nu al die mensen pesten in Metaverse. Kinderen slaan op andere kinderen in de Metaverse vandaag de dag. Als het kan zouden ze de vrouwen verkrachten in de virtuele wereld. Torrents bestaan al jaren, dark web bestaat al jaren, ... je kan het sléchte niet tegenhouden

We gaan dus in die virtuele wereld EXACT hetzelfde doen als in de echte wereld. Het kan zelfs eindigen in een oorlog daar.

Maar het ergste is en blijft toch dat we geen enkele video of audio gaan kunnen betrouwen binnenkort.
En dat we zullen belanden in een wereld waar we voor amusement niet meer naar buiten gaan moeten gaan.

En hoeveel jobs zijn er die zorgen voor ons amusement? Veel.
Andries heeft het door in deze podcast. Alex Agnew niet.

Naar aanleiding van deze podcast heb ik op Youtube de film 'Ready Player One' gehuurd - volgens hun is dat een beetje onze toekomst als we zo blijven doorgaan.
 
Laatst bewerkt:
Naar aanleiding van deze podcast: https://podcasts.apple.com/be/podca...-amelie-albrecht/id1369624360?i=1000548757380 (dont' worry, het gaat enkel over de eerste 90 minuten) wou ik hier toch even een discussie over beginnen.

Gaat dit niet verkeerd aflopen? Dus een voetballer als Christiano Ronaldo zal binnen 10 jaar zijn rechten verkopen waardoor Niké de man Christiano Ronaldo niet meer nodig heeft om de zoveelste reclame videoclip te maken? Dus we zullen geen vertaler-tolks meer nodig hebben, want dit gaat ook kunnen met audio? Hierdoor gaan heel veel mensen hun job verliezen.
En wie gaat de reclamevideo vertalen?
Machinevertalingen bestaan al heel lang, en zullen nog zo veel beter worden dat de menselijke rol daarin helemaal gaat veranderen. Een machine kan maar geven wat je erin stopt, dus het werk van vertalers zal vooral daaruit bestaan. En de laatste checks. Maar deepfakes gaat naar geen enkele invloed op hebben.

Voor de rest heb ik nog niet geluisterd naar de podcast, dus daar kan ik niet echt op reageren. Natuurlijk is het belangrijk dat bij nieuwe technologieën ook de ethische regels en wetten mee evolueren, maar iets tegenhouden omdat er te veel gaat veranderen, is toch ook onmogelijk.
 
Destijds die podcast al eens beluisterd. Nog wel al interviews met die Chris Ume gezien trouwens.

Je zegt "Ze spreken over ethische regels en wetten, maar dat is toch zeer naïef vind ik", maar ik vind je openingspost toch ook vrij naiëf: "Als die Chris Ume dit meent, dan moet dit gewoon dringend stopgezet worden.". Het valt niet te stoppen. De technologie is er, zal verder verfijnd worden, zal wijder verspreid worden. Zoals gezegd, er zijn ondertussen tal van mensen en bedrijven mee bezig. Chris Ume is gewoon een voorbeeld van iemand die er een bedrijf heeft rondgebouwd en ondertussen al heel wat knowhow heeft.

Fake news? Dat heb je nu ook al hé. Het internet staat vol valse of verkeerd onderbouwde artikels, het wemelt van de kwakzalvers, beelden die gephotoshopt zijn, valse twitter-berichten, ... Dit komt er gewoon nog eens bovenop. Dit was reeds een uitdaging en de uitdaging zal alleen maar groter worden inderdaad. In een tijd waarin het nieuws snel moet gaan, mensen de tijd niet meer nemen om zich te informeren, niet kritisch genoeg zijn, altijd wel een artikel/persoon vinden die bevestigt wat ze zelf in gedachten hebben, ...

Idem met pestgedrag.

Zoals altijd brengt technologische evolutie zijn voordelen en nadelen met zich mee. Dat is hier niet anders.

Natuurlijk laten zaken zoals de Metaverse toe dat mensen nóg meer op zichzelf terugplooien en meer in isolatie kruipen, maar dat had je de voorbije 20-30 jaar wel met meer zaken zo (fora, sociale media, games, ...)

Je gaat altijd ook een tegenbeweging krijgen. Mensen blijven sociale dieren die nood hebben aan fysiek contact en de nood aan een groepsgevoel. Mensen die geneigd zijn om op zichzelf terug te plooien, zouden dat sowieso doen hoor, mét of zónder Metaverse.

Mensen kunnen thuis in 2 klikken eten bestellen, en toch gaan ze nog steeds op restaurant.
Mensen hebben thuis een waaier aan films, series, ... om te bekijken op mooie grote TV's, en toch gaan ze nog steeds naar de cinema.
Mensen hebben thuis spotify, hebben Youtube en streams van concerten, en toch gaan ze nog steeds naar de zaal/festivalwei.
...

Wat niet wegneemt dat zaken evolueren, en dat we ons gedrag aanpassen, waardoor sommige zaken meer of minder populair worden.


Je bezorgdheid is terecht (zoals over de deepfake-video's), maar op zich is dit gewoon een volgende stap, waar we uiteindelijk wel mee zullen omgaan, met vallen en opstaan. Dit is geen alles-ontketenende revolutie. En al zeker die Metaverse niet.
 
Het is al even geleden dat ik deze afl beluisterd heb, maar zegt Chris Umé ook niet gewoon dat hij het nu doet voor de technologie, lolz en dik geld verdienen en als hij het niet doet, iemand anders wel (zoals Carrion hierboven zegt).
Hij maakt de tools, biedt die aan, en geeft ook wel aan dat er disclaimers moeten komen als het over fakes gaat of reclame is.
Zoals bij die Britains Got Talent, da's toch geestig?

Uiteraard gaan er mensen zijn die slechte bedoelingen hebben, maar kan hij niet veel aan doen é, hij gebruikt het voor entertainment en om te zien hoe ver hij het kan pushen.
Als ik een hamer maak om nagels in hout te kloppen, maar jij gaat die gebruiken voor iemand zijn kop in te slaan, heb ik daar dan niets mee te maken.

Ivm die CEO's, dat wordt nu toch ook al gedaan? Waarom zouden ze moeten reizen als een vergadering van een uur via Facetime efficiënter is.
En het zal niet zo'n vaart lopen dat iedereen thuis blijft zoals in Surrogates :)
 
Na het bekijken van de video 'Ready Player One' (of toch een deel) ben ik al veel minder ongerust. De wereld zal zich inderdaad opdelen in 2, diegene die nog écht squash gaan spelen en diegene die het virtueel willen doen. Ik weet niet waarom maar door die film heb ik minder angst gekregen. Misschien omdat het in de film zo concreet is.

Op deze manier lijkt het mij niet meer dan een videogame (ipv een echte wereld)
Sorry voor de rant :)
 
Ik denk dat er op het einde van de dag toch nog altijd iets onclassificeerbaar is met een ervaring die ge in persoon meemaakt. Er is wel degelijk een verschil tussen op het strand gaan wandelen en met een bril op een soort van interactieve video bekijken van een strandwandeling, omdat het concept 'strandwandeling' uiteindelijk gaat om een optelsom van verschillende zintuiglijke impulsen. Geur, gevoel, temperatuur, wind, etc gaat ge nooit zo maar kunnen emuleren.

Ook om op bezoek te gaan bij iemand, ge kunt nu ook al videobellen, zo'n online conferentie is natuurlijk wel immersiever maar ik betwijfel dat zoiets de plaats kan innemen van elkaars aanwezigheid in de fysieke wereld.

Tegelijkertijd zijn er gewoon heel veel nuttige toepassingen voor te bedenken. Het oneindig kunnen oefenen op bepaalde delicate operaties om maar iets te zeggen. Ook voor mensen met een beperking denk ik dat er tal van toepassingen zijn te bedenken die een wereld van verschil kunnen maken.

Ik vind het wel interessant om over na te denken, het is moeilijk om in te schatten wat de uiteindelijke impact zal zijn, maar ik denk eerlijk gezegd dat mensen maar een beperkt aantal uur per dag zo'n grote bril op hun hoofd zullen willen tolereren. Een van mijn grote bekommernissen bij het opzetten van zo'n virtuele wereld is dat die al vanaf dag 1 ontworpen zal zijn met het vergaren van persoonlijke data en het verkopen van producten in gedachten. Bedrijven als Meta zijn vooral geïnteresseerd in het ontwerpen van een digitaal shopping centrum waar ge zo veel mogelijk tijd wilt doorbrengen en liefst zo veel mogelijk geld gaat uitgeven en schuwen daarbij niet het gebruik van lepe trucs die het 'casino' gedeelte van uw brein triggeren.

Deepfakes is inderdaad een technologie die de capaciteit om het vertrouwen van de mens in de journalistiek en in de media verder uit te hollen. De fakes worden gegenereerd door technologie, en kunnen ook door technologie gedetecteerd worden, maar dit introduceert natuurlijk een soort van wapenwedloop tussen verschillende partijen. Wie in staat is om een deepfake te maken die zo goed is dat ze niet detecteerbaar is, kan proberen om een foutieve boodschap de wereld in te sturen. Ook moeilijk om echt iets sluitends over te zeggen.
 
Laatst bewerkt:
De bekende personen zullen er waarschijnlijk nog het meeste last van hebben, zoals Photoshop in de boekjes. We zullen binnen enkele jaren vele video’s zien van bekende personen die fake zijn, zonder dat we het doorhebben 🤔

Ach ja, dat is dan maar het nadeel van bekend zijn. Ze moeten er maar mee leven.
 
De bekende personen zullen er waarschijnlijk nog het meeste last van hebben, zoals Photoshop in de boekjes. We zullen binnen enkele jaren vele video’s zien van bekende personen die fake zijn, zonder dat we het doorhebben 🤔

Ach ja, dat is dan maar het nadeel van bekend zijn. Ze moeten er maar mee leven.
Tgoh, bekend zijn brengt uiteraard inherent nadelen met zich mee waar iemand mee moet leren leven. Zoals de grote publieke aandacht, paparazzi,... Maar levensechte filmpjes waarop het lijkt dat je seks hebt, deepfake filmpjes waarin je zogezegd zegt dat Hitler toch niet zo'n slecht mens was,... daar moeten ze in mijn ogen dan weer niet mee leren leven.

Van heel die Metaverse heb ik weinig bang. FB heeft daar al miljarden tegenaan gegooid en het ziet eruit als een slechte Nintendo Wii game uit 2006. Ik betwijfel dat daar mensen 12 uur per dag in gaan leven.

Maar de manieren om mensen te scammen en foute informatie te verspreiden met deze technologie zijn vrijwel eindeloos. En daar schuilt volgens mij dan weer wel het gevaar.
 
Tgoh, bekend zijn brengt uiteraard inherent nadelen met zich mee waar iemand mee moet leren leven. Zoals de grote publieke aandacht, paparazzi,... Maar levensechte filmpjes waarop het lijkt dat je seks hebt, deepfake filmpjes waarin je zogezegd zegt dat Hitler toch niet zo'n slecht mens was,... daar moeten ze in mijn ogen dan weer niet mee leren leven.
Voor mensen als Sean Dhondt zal het positief zijn. Die kan gewoon zeggen dat het een deepfake is.

Een beetje zoals Trump altijd standaard antwoordt: it’s a fake - next question !
 
En wie gaat de reclamevideo vertalen?
Machinevertalingen bestaan al heel lang, en zullen nog zo veel beter worden dat de menselijke rol daarin helemaal gaat veranderen. Een machine kan maar geven wat je erin stopt, dus het werk van vertalers zal vooral daaruit bestaan. En de laatste checks. Maar deepfakes gaat naar geen enkele invloed op hebben.

Voor de rest heb ik nog niet geluisterd naar de podcast, dus daar kan ik niet echt op reageren. Natuurlijk is het belangrijk dat bij nieuwe technologieën ook de ethische regels en wetten mee evolueren, maar iets tegenhouden omdat er te veel gaat veranderen, is toch ook onmogelijk.
Zodra er volledige datasets van elke taal beschikbaar zijn stopt het werk voor een vertaler tolk toch gewoon? Zie chatGTP bijvoorbeeld.
 
Zodra er volledige datasets van elke taal beschikbaar zijn stopt het werk voor een vertaler tolk toch gewoon? Zie chatGTP bijvoorbeeld.
In theorie misschien. Maar een taal is veel te complex, en vooral veel te veranderlijk om ooit een vaste (edit: volledige) dataset van te hebben. Intermenselijke communicatie zal nooit stoppen, en tenzij we die altijd en volledig via AI zouden laten verlopen, zal die volledige dataset ook nooit bestaan. Met ChatGPT zijn ze er nu in geslaagd om dat voor één (gelimiteerde) dataset van het Engels voor elkaar te krijgen. Gelimiteerd, want alleen relatief basis-Engels kan gebruikt worden door ChatGPT en kan gebruikt worden in de prompts. En dat is dan binnen 1 taal. Laat staan dat over alle mogelijke registers/jargons moet gaan en tussen alle mogelijke talen.

Waarmee ik absoluut niet wil zeggen dat dat onmogelijk is en er nooit van zal komen. Maar deepfakes gaan geen invloed hebben op de werkzekerheid van vertalers. Computers en AI zullen binnen veel kortere tijd dan we denken heel grote stukken kunnen overnemen van oa het vertalen en het (simultaan)tolken, waar door de rol van de mens daarin zal veranderen. En er waarschijnlijk een pak minder mensen nodig gaan zijn daarin. Maar voor we de singularity bereiken, zal die rol ook niet nul zijn.
 
Laatst bewerkt:
Maar wat als de dataset nu eens niet vast is maar constant gevoedt wordt ?
Om ooit een volledige dataset van te hebben, had daar inderdaad moeten staan.

Want de dataset is bij zulke pojecten per definitie nooit vast. Die wordt inderdaad constant gevoed, maar dat haalt de rol van de vertaler nog altijd niet uit het vertalen. Deepfakes maken vertalers niet overbodig, ChatGPT in de huidige versie ook nog niet. En op het punt dat de menselijke rol daarin nul is, zijn we nog lang niet aangekomen om de redenen die ik hierboven aangaf.

Natuurlijk gaat het wel (snel) die richting op, zoals in ongeveer elk gebied. Maar intermenselijke communicatie komt door veel andere dingen eerder in het gedrang dan AI's die standaard teksten van een gelimiteerde complexiteit kunnen vertalen 😅
 
Is de metaverse eigenlijk al echt actief? Loop ik achter doordat ik nog geen account heb daarop?
Was een soort van meeting(-intro?) een tijdje terug. Ze hadden gehoopt op honderden, die inlogden. Het waren er maar een klein dozijn.
Zou me niet verbazen mocht het zelfde richting uitgaan als de Google Glasses. Althans, daar hoop ik op.
Ik had bijvoorbeeld twintig jaar terug nooit gedacht, dat een enorm deel van de bevolking constant achter hun gsm zou zitten, zelfs op straat, tot ongelukkens toe.
Als je de bevolking zover kan krijgen - met onder meer achter het stuur - dan moet met een gewiekste en voorzichtige strategie VR ook lukken om een heleboel mensen verslaafd te krijgen.
De bekende personen zullen er waarschijnlijk nog het meeste last van hebben, zoals Photoshop in de boekjes. We zullen binnen enkele jaren vele video’s zien van bekende personen die fake zijn, zonder dat we het doorhebben 🤔
Is nu al. Op bepaalde sites :unsure:.
Grotendeels slechte deepfakes, maar ook wel enkele bij, waar je toch eens twee keer moet kijken, ondanks je weet dat desbetreffende actrice niet in die soort branche zit.
De minder bekende medemens moet zich voorlopig geen zorgen maken. Als ik me niet vergis heb je enorm veel foto's nodig om een goede deepfake te maken. Aan de andere kant, velen uploaden gezwind foto' op de sociale media.
 
Is de metaverse eigenlijk al echt actief? Loop ik achter doordat ik nog geen account heb daarop?
Hangt af van je definitie van het metaverse. Naar mijn mening zijn we er nog minstens een kleine 10 jaar van verwijdert. De definitie is tegenwoordig zo afgestompt dat elke vr space waar gebruikers in kunnen rondwandelen er aanspraak op maakt. Er zijn er zelfs die zeggen dat vr geen vereiste is en dat 2d minecraft reeds een metaverse is.

Niet echt nuttig om het zo breed te hanteren imo. In de oorspronkelijke betekenis toen het door Stephenson in Snow Crash gecoined werd ging het veel breder en het lijkt me aangewezen dat zo te houden ipv toe te geven aan marketingstunts die proberen hun huidige waren met zulke buzzwoorden te verkopen. In bredere context kan je het zien als een soort opvolger van het internet waarin een base layer een 1:1 digitale replica is van onze wereld. Dat is de main road als het ware en die kan je zowel virtueel bezoeken als avatar van eender waar of in real time on same location met augmented reality interface. Off the main road heb je een eindeloze hoop zijsprongen, varianten van de aarde in andere tijden, varianten waar whole earth games in draaien, cinematic universe varianten, ... prive locaties, andere planeten, fantasy settings, shopping centers, cinema zalen, museums, ... in de ideale wereld is alles interoperationeel en persistent maar er zullen ook spaces zijn die daar buiten vallen zoals je vandaag bijvoorbeeld het dark web hebt op het internet of hoe game engines zodanig van elkaar verschillen dat sommige zaken niet te porten zijn naar de andere.

Wat we nu zien bij facebook, unreal, roblox en co zijn de primitieve eerste stapjes. Denk Arpanet en splinternet voor het ontstaan van het echte internet. Het is maar eerst eens al die werelden interoperationeel worden dat je echt van een metaverse kan spreken imo. Ik denk dat kapitalisme uit zichzelf er een serieuze rem opzet omdat bedrijven liever walled gardens creeren dan een universum van werelden waarin je vrij van de ene naar de andere kan dwalen. Ook de technologie is er nog lang niet. Zowel hardware als software moeten nog serieus wat iteraties vooruit vooraleer het nog maar kans maakt om mainstream te gaan.

Het uiteindelijke metaverse zal een mix van AR, VR en MR zijn die door het dagelijks leven verweven zit op soms niet intrusieve manier en soms alles overheersende wijze.

Bij ons op het werk zijn ze nu ook de eerste stapjes aan het zetten richting MR met persistence tussen de verschillende diensten. Zodat als ik bijvoorbeeld een installatie moet veilig stellen dat ik de weg ernaartoe getoond wordt, eens ik aankom, exact wat ik moet doen. En dan bedoel ik niet in een info ballonetje maar effectief in realtime de onderdelen tracken en markeren in mijn field of vision. De software zal dan mijn werk controleren en dienen als 2e paar ogen en de installatie in het stysteem aanduiden als veilig gesteld als die zeker is dat ik het correct heb afgehandeld. Ik kan ook ter plekke hulp in roepen en dan verschijnt mijn verantwoordelijke in 3d naast mij die mij kan bijstaan.

Dokters die van de andere kant van de wereld een robotische avatar aansturen die dwars door je tot walvis grootte virtueel opgeblazen lichaam kunnen kijken om nog beter te kunnen opereren, maar evengoed zullen next generation drone swarms virtueel aangestuurd kunnen worden voor militaire doeleinden waarin de speler de AI controllers brede directies kan geven alsof het een RTS spel is.

Het metaverse is meer dan enkel entertainment en shoppen, het zal uiteindelijk denkik met bijna alles interfacen. Er staan ons nog heel zotte tijden te wachten.

Snow Crash of Neuromancer zijn goeie boeken als je een idee wil over wat het metaverse juist zal worden.


En vandaag staan ze nog nergens natuurlijk maar toen facebook zijn naam veranderde naar meta maakten ze wel duidelijk dat ze dezelfde lange termijn visie hebben;
Op de graphics moet je nog niet letten natuurlijk maar het geeft wel aan waar ze heen willen.
 
Laatst bewerkt:
Ik snap niet dat er anno 2023 nog mensen bestaan in België die “bepaalde jobs gaan niet meer nodig zijn” als argument gebruiken TEGEN technologie. Wandel nekeer een museum binnen en check hoeveel jobs daar nog van bestaan, ons voorouders moeten dus allemaal werkloos geweest zijn!

De telefoon moet gij ook een gigantische fout afgelopen uitvinding vinden want plots moesten mensen hun huis niet meer uit gaan om familie te kunnen spreken! Jah zeg. Zelfs in Afrika ga je u niet kunnen verstoppen voor telefoons en technologie hoor.

En wat een idioot argument om kerosine verstokende trans-Atlantische businessvluchten “voor het plezier” te verkiezen boven een online vergadering. In welke tijd leef je eigenlijk nog. De planeet is mensen als u liever kwijt dan rijk hoor.

Wat een illusie om nog maar te denken dat je dit zou kunnen tegenhouden.
 
Laatst bewerkt:
Terug
Bovenaan