De ontwikkeling van Artificiële Intelligentie moet gepauzeerd worden

[Avi]

Een open brief circuleert op het internet met het voorstel om de ontwikkeling van AI een halt toe te roepen of op zi'n minst te pauzeren.

Pause Giant AI Experiments: An Open Letter - Future of Life Institute

We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4.

futureoflife.org

Zelf ben ik hier een voorstander van. In het algemeen ben ik tegen de ontwikkeling van artificiële intelligentie. Er zijn zeker voordelen aan verbonden. Maar het is eigenlijk een vrij eenvoudig voorbeeld dat mij deed beseffen dat het op de wereld zetten, door de mensheid, van een nieuwe vorm van intelligentie een slecht idee is. En toevallig kwam ik dat voorbeeld vandaag tegen op de website van VRT Nieuws.

We weten al minstens 30 jaar dat heel wat dieren een sterk ontwikkeld brein hebben. Maar het zijn misschien de Orka's die samen met walvissen en inktvissen de kroon spannen (in de zee). Orka's in het bijzonder hebben een emotionele intelligentie die die van de mens kan evenaren. Ze hebben een complexe groepsdynamiek en communiceren in hun eigen taal. Ze zijn in staat geavanceerde groepsjachten op te zetten om een ander die te verschalken. Er bestaat beeldmateriaal van groepen orka's die in tandem zwemmen om zo een boeggolf op te bouwen die schuilende zeehonden van drijvende stukken zee-ijs spoelt. Orka's vertonen duidelijke signalen van depressie bij het verlies van hun jongen en in gevangenschap. En wat doen we met die dieren? We steken ze in een aquarium voor ons plezier.

Waarom ben ik tegen de ontwikkeling van artificële intelligentie? Omdat we keer op keer en zonder falen bewijzen dat we als soort niet eens in staat zijn om verantwoordelijk en respectvol om te gaan met de andere vormen van intelligentie die vandaag reeds met ons de planeet delen. Laat dus staan dat we daar op een verantwoorde wijze nog een nieuwe vorm kunnen bijplaatsen.

 

[phate_13]

Ik wil het niet aan de kant schuiven, dat is mijn bedoeling niet. Maar ik snap het argument dat je maakt helemaal niet. "We zijn niet verantwoordelijk als mensheid, dus moeten we stoppen met AI te ontwikkelen." Is dat het argument? Waar slaat dat dan op? Waarom stoppen met AI te ontwikkelen? Waarom dan niet stoppen met alle ontwikkelingen? Waarom dan niet gewoon terug naar de middeleeuwen?

Sorry als het lijkt dat ik het in het belachelijke trek, dat is absoluut mijn bedoeling niet. Maar ik snap de argumenten niet die je aanhaalt. Daar staat toch niets specifieks betreffende AI? Je zegt zelfs helemaal niets over AI. Eigenlijk heb je het gewoon over "technologische vooruitgang" tout court?

Edit: Voor alle duidelijkheid, ik vind het wel een heel interessante discussie. Ben me er momenteel ook wat meer in aan het verdiepen.

 

[the_tiger]

Ik begrijp het voorbeeld ook niet echt om eerlijk te zijn. Wat zie je dan concreet gebeuren met/door AI waardoor je het wilt tegenhouden?

 

[Tonerider]

Volgens mij is het ook best dat ze het verder ontwikkelen van deze technologie even op pauze zetten om zich eerst te buigen over de mogelijke (ethische) kwesties te onderzoeken en te beantwoorden.
Om misschien een dom voorbeeld te noemen: onlangs hoorde ik reclame waarbij de stem van Prince en Kurt Cobain werd gebruikt om reclame te maken voor DAB+. Dus een 'dode' zijn stem wordt gebruikt om boodschappen te verspreiden waar hij of zij geen toestemming heeft voor gegeven. Dat lijkt me toch ethisch niet verantwoord en zelfs potentieel gevaarlijk.

Langs de andere kant: veel van de nieuwe technologien vinden hun oorsprong in het niet respectvol omgaan met anderen (oorlogen) of worden daarvoor gebruikt en dat is altijd al zo geweest (denk maar aan de uitvinding van buskruit). Als we pas vooruit kunnen, wanneer we zeker zijn dat we als mens er verantwoord mee omgaan, dan gaan we eeuwig blijven stilstaan. De mens is van nature uit geen mooi beestje.

 

[JorisBlack]

AI zal de online wereld alvast grondig door elkaar schudden.

Stel je voor wat je met AI tools zou kunnen doen op vlak van hacken. Vooral onze online economie heeft een serieuze impact op het echte leven. Het geld op je bankrekening is een online getalletje, de waarde van aandelen, energie, enz.

Maar bon, ik denk dat de echte 'angst' van die briefschrijvers is dat er een moment komt dat een bepaalde AI tool ontwikkeld wordt die zichzelf verbeterd en aanpast zonder dat we er nog controle over hebben. Ik ken er niet genoeg van om dat in te schatten, maar die briefschrijvers zijn ook niet van de minsten natuurlijk.

 

[Avi]

Ik wil het niet aan de kant schuiven, dat is mijn bedoeling niet. Maar ik snap het argument dat je maakt helemaal niet. "We zijn niet verantwoordelijk als mensheid, dus moeten we stoppen met AI te ontwikkelen." Is dat het argument? Waar slaat dat dan op? Waarom stoppen met AI te ontwikkelen? Waarom dan niet stoppen met alle ontwikkelingen? Waarom dan niet gewoon terug naar de middeleeuwen?

Sorry als het lijkt dat ik het in het belachelijke trek, dat is absoluut mijn bedoeling niet. Maar ik snap de argumenten niet die je aanhaalt. Daar staat toch niets specifieks betreffende AI? Je zegt zelfs helemaal niets over AI. Eigenlijk heb je het gewoon over "technologische vooruitgang" tout court?

Edit: Voor alle duidelijkheid, ik vind het wel een heel interessante discussie. Ben me er momenteel ook wat meer in aan het verdiepen.

Het leek me vrij duidelijk eigenlijk. Er wordt niet nagedacht over een scenario waarin een AI zo ver evolueert dat het niet meer te onderscheiden valt van menselijke intelligentie. De stap daarna wordt dan self-awareness. Het is vandaag reeds duidelijk dat we niet in staat zijn om verantwoord om te gaan met andere vormen van intelligentie, zoals dieren. Waarom zouden we dan plots wel verantwoord kunnen omgaan met een AI die self-aware wordt?

 

[zwarten]

AI zal de online wereld alvast grondig door elkaar schudden.

Stel je voor wat je met AI tools zou kunnen doen op vlak van hacken. Vooral onze online economie heeft een serieuze impact op het echte leven. Het geld op je bankrekening is een online getalletje, de waarde van aandelen, energie, enz.

Maar bon, ik denk dat de echte 'angst' van die briefschrijvers is dat er een moment komt dat een bepaalde AI tool ontwikkeld wordt die zichzelf verbeterd en aanpast zonder dat we er nog controle over hebben. Ik ken er niet genoeg van om dat in te schatten, maar die briefschrijvers zijn ook niet van de minsten natuurlijk.

Maar zijn de briefschrijvers ook geen mensen die een beetje achterlopen op AI technologie en hopen daarmee de concurrenten een beetje ter plaatse te laten trappelen? Ik had dat argument ergens gelezen. Ik ken er ook te weinig van maar de enkele keren dat ik chatgpt gebruik kan je niets anders concluderen... AI gaat inderdaad de wereld veranderen.

Ikzelf zit nu in een ingenieursjob in de bouw en ik zie toch ook wel wat mogelijke toepassingen van AI. Gegeven een gebouw is quasi nooit identiek maar de fysica erachter wel. Het is vaak dezelfde input geven met ietwat verschillende parameters en ik zie dit voor 80% toch geautomatiseerd worden door AI. Dit is nu enkel van toepassing op mijn vakgebied maar ik veronderstel dat er in andere vakgebieden ook wel mogelijkheden bestaan waardoor een werkgever beter een AI inschakelt dan een morrende werknemer

De economische implicaties mogen ook niet geminimaliseerd worden.

 

[phate_13]

Volgens mij is het ook best dat ze het verder ontwikkelen van deze technologie even op pauze zetten om zich eerst te buigen over de mogelijke (ethische) kwesties te onderzoeken en te beantwoorden.
Om misschien een dom voorbeeld te noemen: onlangs hoorde ik reclame waarbij de stem van Prince en Kurt Cobain werd gebruikt om reclame te maken voor DAB+. Dus een 'dode' zijn stem wordt gebruikt om boodschappen te verspreiden waar hij of zij geen toestemming heeft voor gegeven. Dat lijkt me toch ethisch niet verantwoord en zelfs potentieel gevaarlijk.

Langs de andere kant: veel van de nieuwe technologien vinden hun oorsprong in het niet respectvol omgaan met anderen (oorlogen) of worden daarvoor gebruikt en dat is altijd al zo geweest (denk maar aan de uitvinding van buskruit). Als we pas vooruit kunnen, wanneer we zeker zijn dat we als mens er verantwoord mee omgaan, dan gaan we eeuwig blijven stilstaan. De mens is van nature uit geen mooi beestje.

Hoe heeft dat voorbeeld van die stem iets te maken met AI?
Wat bereik je precies met het pauzeren? Hoe ga je dit afdwingen?

Het leek me vrij duidelijk eigenlijk. Er wordt niet nagedacht over een scenario waarin een AI zo ver evolueert dat het niet meer te onderscheiden valt van menselijke intelligentie. De stap daarna wordt dan self-awareness. Het is vandaag reeds duidelijk dat we niet in staat zijn om verantwoord om te gaan met andere vormen van intelligentie, zoals dieren. Waarom zouden we dan plots wel verantwoord kunnen omgaan met een AI die self-aware wordt?

Hoezo wordt er niet nagedacht? Ik ben 100% zeker dat er wel over nagedacht is. Maar nadenken an sich, dat doet niets. Je bedoelt misschien eerder, dat er geen concrete afspraken rond zijn.

Daarnaast, ik ben nog altijd niet mee met wat het probleem is dat je stelt. Wat is het probleem van een AI die niet te onderscheiden is van menselijke intelligentie? Daarnaast, wat is het probleem met een AI die self-aware is.

Je hebt nog altijd geen probleem gedefinieerd.

 

[nestorius]

Ik denk dat mensen toch teveel Terminator gedachten hebben bij het Ai self awareness verhaal.

 

[Mr.Fingers]

Ik denk dat mensen toch teveel Terminator gedachten hebben bij het Ai self awareness verhaal.

Het ding is dat veel technologie een exponentieel verhaal is. De afstand tussen de eerste keer van de grond met een bemande vlieger (600BC in China) tot de luchtballon van Montgolfier (1783) is zeer lang. Van Montgolfier tot het zweefvliegtuig van Lilienthal in 1981 is veel korter. Van het zweefvliegtuig tot gemotoriseerde vlucht is amper 8 jaar. En 60 jaar laten stuurden we mensen al buiten de dampkring.

Zo gaat het met AI ook zijn. Nu is dat nog redelijk knullig en schattig, maar ik vrees ook dat we veel sneller op een punt gaan komen waarbij het niet meer zo onschuldig kan worden, alle failsafe mechanismen ten spijt. Als ik me niet vergis heeft ChatGPT ook een ingebouwde ethische filter, en dat werkt dan nog maar puur via data-verwerking, niet echt autonomous learning.

 

[Dr. Sheldon Cooper]

Veel jobs gaan obsolete worden door AI en daar zit het gevaar imo. Als je ziet dat sommige gamedevs al voice acting en writing door AI's laten doen. Programmeren zal ook wel grotendeels door AI overgenomen worden, copywriting, grafisch ontwerp, ...

Ik merk bij ons op het werk ook eigenlijk wel dat we voor de minste prul alles vragen aan ChatGPT momenteel ipv zelf te zoeken.

Ik kan me trouwens niet inbeelden wat een drama dit voor scholen moet zijn.

 

[phate_13]

Het ding is dat veel technologie een exponentieel verhaal is. De afstand tussen de eerste keer van de grond met een bemande vlieger (600BC in China) tot de luchtballon van Montgolfier (1783) is zeer lang. Van Montgolfier tot het zweefvliegtuig van Lilienthal in 1981 is veel korter. Van het zweefvliegtuig tot gemotoriseerde vlucht is amper 8 jaar. En 60 jaar laten stuurden we mensen al buiten de dampkring.

Zo gaat het met AI ook zijn. Nu is dat nog redelijk knullig en schattig, maar ik vrees ook dat we veel sneller op een punt gaan komen waarbij het niet meer zo onschuldig kan worden, alle failsafe mechanismen ten spijt. Als ik me niet vergis heeft ChatGPT ook een ingebouwde ethische filter, en dat werkt dan nog maar puur via data-verwerking, niet echt autonomous learning.

Akkoord, maar op welke manier is er dan het gevaar? Er wordt hier veel naar verwezen maar weinig concreet van gemaakt lijkt me.

Veel jobs gaan obsolete worden door AI en daar zit het gevaar imo. Als je ziet dat sommige gamedevs al voice acting en writing door AI's laten doen. Programmeren zal ook wel grotendeels door AI overgenomen worden, copywriting, grafisch ontwerp, ...

Ik merk bij ons op het werk ook eigenlijk wel dat we voor de minste prul alles vragen aan ChatGPT momenteel ipv zelf te zoeken.

Ik kan me trouwens niet inbeelden wat een drama dit voor scholen moet zijn.

Dat is geen gevaar an sich. Het gevaar is, hoe gaan we hier mee om. In een utopie zou het toch schitterend zijn als we niet meer MOETEN werken. Buiten AI om zie je dit voor een stuk ook al door andere technologische veranderingen. We moeten stoppen met "jobverlies" als iets dramatisch af te doen. Dat is geen drama. Als een AI, of andere technologie, er voor zorgt dat we meer welvaart hebben met minder jobs. Dan is het probleem "hoe doen we aan welvaartverdeling".

 

[JanusDR]

Ik merk bij ons op het werk ook eigenlijk wel dat we voor de minste prul alles vragen aan ChatGPT momenteel ipv zelf te zoeken.

Wat moet je dan bv. opzoeken?

Ik heb exact 3 dingen opgezocht met chatGPT. Normale dingen, die ik echt wilde opzoeken en dacht 'ik probeer het eens met chatgpt'.
Alle 3 los verkeerd.

Het derde was bv. een tabel die ik wilde. Ik gaf hem zelfs de pagina waar het stond. Het was de enige tabel die op die pagina aanwezig was.
En hij gaf een tabel met het juiste jargon, maar compleet uit de duim gezogen cijfers.
Toen ik zei dat een cijfer helemaal niet op die pagina voorkomt, en hoe dit dat de juiste tabel kan zijn, antwoordde chatGPT "my apologies, here is the correct table: ..."
En hupla, gewoon weer allemaal compleet uit de duim gezogen, maar vol zelfvertrouwen geponeerd.

Totaal onbruikbaar voor mij.

Veel jobs gaan obsolete worden door AI en daar zit het gevaar imo. Als je ziet dat sommige gamedevs al voice acting en writing door AI's laten doen. Programmeren zal ook wel grotendeels door AI overgenomen worden, copywriting, grafisch ontwerp, ...

Software ontwikkeling niet, daar wordt AI gewoon een hulpmiddel, meer niet.

Maar grafisch ontwerp, bepaalde fotografie, fotobewerking, game graphics/sound design, zijn een vogel voor de kat.
DJ's en zo zullen ook moeten opletten denk ik

 

[JorisBlack]

Veel jobs gaan obsolete worden door AI en daar zit het gevaar imo. Als je ziet dat sommige gamedevs al voice acting en writing door AI's laten doen. Programmeren zal ook wel grotendeels door AI overgenomen worden, copywriting, grafisch ontwerp, ...

Ik merk bij ons op het werk ook eigenlijk wel dat we voor de minste prul alles vragen aan ChatGPT momenteel ipv zelf te zoeken.

Ik kan me trouwens niet inbeelden wat een drama dit voor scholen moet zijn.

Prima, dan kunnen we allemaal 3/5e ofzo gaan werken voor hetzelfde loon. Realistischer: we creëren wel wat andere bullshit jobs (voor mensen) op een of andere manier.

Op scholen: back to basics dan maar. Alles met pen en papier.

 

[Avondland]

Maar grafisch ontwerp, bepaalde fotografie, fotobewerking, game graphics/sound design, zijn een vogel voor de kat.
DJ's en zo zullen ook moeten opletten denk ik

Voor een deel heb je gelijk, mensen die hun brood winnen met het creëren van bijvoorbeeld generische muziek zullen dat uit handen moeten geven aan AI. Zoals hitparademuziek, waarbij de focus ligt op het imago van de zangeres wiens stem toch al wordt bijgestuurd door autocue en waar muziek wordt geschreven met oog op wat mensen in het algemeen graag horen. Dat geldt niet voor artiesten voor wie de focus op het creatieve ligt en minder conventionele paden bewandelen.

Geldt ook voor bijvoorbeeld de filmindustrie: AI zal op basis van reviews en analyses scenario's kunnen schrijven die iedereen wel aanspreekt. Dan is het kwestie van dat te tweaken naar eigen smaak en je hebt op die manier een haast geautomatiseerde scenarioschrijver. En daar ligt dan weer de uitdaging: op den duur trekt alles op elkaar.

Maar is dat vandaag al niet het geval, zonder AI? Hitparademuziek bestaat vaak uit herkauwde hits.

 

[zwarten]

Prima, dan kunnen we allemaal 3/5e ofzo gaan werken voor hetzelfde loon. Realistischer: we creëren wel wat andere bullshit jobs (voor mensen) op een of andere manier.

Op scholen: back to basics dan maar. Alles met pen en papier.

Ik denk niet dat er budgetten zijn voor mensen 3/5en te laten werken voor hetzelfde loon, laat staan om bullshitjobs uit te vinden. Zoiets werkt wel in hoogconjunctuur, maar nu? Welke werkgever gaat zo iets betalen in een tanende economie. We hebben quasi niets van productie, ontginning en de meeste europese landen zijn economisch grotendeels tertiar opgebouwd. Lijkt me perfecte economie waar AI serieus disruptief kan zijn.

 

[phate_13]

Ik denk niet dat er budgetten zijn voor mensen 3/5en te laten werken voor hetzelfde loon, laat staan om bullshitjobs uit te vinden. Zoiets werkt wel in hoogconjunctuur, maar nu? Welke werkgever gaat zo iets betalen in een tanende economie. We hebben quasi niets van productie, ontginning en de meeste europese landen zijn economisch grotendeels tertiar opgebouwd. Lijkt me perfecte economie waar AI serieus disruptief kan zijn.

Ik denk niet dat je snapt wat er gezegd wordt. Als AI waarde toevoegd aan de economie. Dan is er extra waarde. Zoals hierboven reeds benoemd. Grootste probleem is de herverdeling van de welvaart.

 

[LSDsmurf]

Mogelijks één van de meest disruptieve technologieën sinds het mainstream worden van internet. Of dit echt een voorbode is van kunstmatige algemene intelligentie dat betwijfel ik maar je ziet nu na slechts enkele maanden al dat AI tools een serieuze impact gaan hebben op bepaalde jobs.

Iets meer dan een jaar geleden heb ik door een grafisch designer een logo laten maken. Uiteindelijk na een paar redesigns was ik nog niet helemaal tevreden. Enkele weken geleden heb ik hetzelfde idee eens laten uitwerken door Midjourney. Na enkele minuten had ik al dingen die beter aanleunden bij wat ik oorspronkelijk in gedachten heb.

Op Reddit stond vorige week een post van een 3D artist die verplicht Midjourney moet gebruiken. Tegen zijn goesting maar werk dat vroeger enkele weken duurde raakt nu klaar in twee tot drie dagen (en zou zelfs van betere kwaliteit zijn).

Voor programmeren heb ik al wat interessante use cases gezien. Bijvoorbeeld een bepaald stuk code aanpassen met een nieuwe functionaliteit, stap-voor-stap uitleggen hoe een stuk code werkt, een test genereren voor een stuk code, of test data genereren aan de hand van klasses (en dit dan omzetten naar bv JSON).

 

[Five-seveN]

1 april!

 

[zwarten]

Ik denk niet dat je snapt wat er gezegd wordt. Als AI waarde toevoegd aan de economie. Dan is er extra waarde. Zoals hierboven reeds benoemd. Grootste probleem is de herverdeling van de welvaart.

Het probleem is dat AI een waarde kan toevoegen maar ook ontnemen.
Het doet me wat denken aan de automatisatie. E.g. Een werknemer die een auto bouwt wordt op termijn vervangen door een robot. De werknemer heeft geen inkomen meer maar de autobouwer kan zijn auto goedkoper verkopen. De koper heeft dan meer koopkracht en kan deze dan ergens anders gaan besteden. Grof gezegd, de een zijn dood is de ander zijn brood maar economisch is hier zeker een groei mogelijk. De automatisatie bedreigt vooral de jobs die bestaan uit handelingen (orderpicker, autobouwer,...) echter nu kan AI mogelijk een groot deel van de jobs opslorpen waarvoor denkwerk nodig is. We moeten gewoon bewaken dat er nog genoeg inkomsten mogelijk zijn voor werknemers om de economie te laten draaien. Akkoord je kan de werkgevers belasten en de welvaart 'herverdelen' maar dan gaan die gewoon ergens anders hun bedrijfje opzetten.