De ontwikkeling van Artificiële Intelligentie moet gepauzeerd worden

[Wilto]

Wat wel òòk nodig is, is je leerlingen leren werken met een rekenmachine of met de computer. Want dat gaan ze in de praktijk heel veel vaker nodig hebben dan die staartdeling.

En heel belangrijk: Leer je ook leerlingen om in een geëvolueerde samenleving te werken. Het is nutteloos om je leerlingen staartdelingen op te leggen op papier voor elke bewerking, als ze uiteindelijk in hun bedrijf aankomen en niet weten hoe een rekenmachine werkt, of hoe Excel berekeningen kan maken. Je kunt toekomstige werknemers nu al leren werken met AI, leren wat AI kan (en ook wat niet) en leren prompten. Want dàt wordt een heel belangrijke schakel binnenkort, en is het nu al: De vertaler tussen mens en computer. Mens wil uitkomst X, welke prompt moet hij aan de computer voorstellen om zo dicht mogelijk bij die uitkomst uit te komen?

Maar belangrijker is wat @phate_13 hiervoor al zei: dan moeten we misschien dringend eens kijken naar hoe we welvaart verdelen. Want als bepaalde copywriters hun werk verliezen omdat het werk nu door AI gebeurt, is de winst die het bedrijf maakt, nog altijd even groot terwijl ze de copywriter in dienst houden/betalen zonder dat die werkt. De winst kan nòg groter worden door de copywriter te ontslaan, maar dan kies je voor een welvaartverdeling naar enkelen ipv naar velen.

De productiefactor kapitaal wordt steeds belangrijker tov arbeid & land. Dat is een trend die bij iedere technologische vooruitgang zichtbaarder wordt. De hype "Software eats the world" is nu wel even gaan liggen, de onderliggende trend blijft wel doorgaan.
Eerst data verzamelen, dan een deftig algoritme hierop zetten en zo een superieur product creëeren.

Veel mensen die reeds vastgeroest zijn in hun job moeten goed opletten. Bij mij op het werk weet ik al reeds een departement dat rijp is voor disruptie, als de digitale transformatie dit najaar correct geïmplementeerd raakt (ook geen sinecure dat ).

Een paar zaken weten we zeker:

Elke nieuwe uitvinding / ontdekking met een gigantisch potentieel om iets grondig te veranderen stoot op weerstand bij de introductie ervan.

Mensen kunnen doorgaans de lange termijn impact van nieuwe technologie niet inschatten.
Echter, met iets dat zelf leert zoals kunstmatige intelligentie zijn er een paar zaken die volgens specialisten best worden voorzien:

- Keep a human in the loop
- Bypass system
- The kill switch

Sinds 2019 zijn er de guidelines van de EU Commissie.

Ethics guidelines for trustworthy AI

On 8 April 2019, the High-Level Expert Group on AI presented Ethics Guidelines for Trustworthy Artificial Intelligence. This followed the publication of the guidelines' first draft in December 2018 on which more than 500 comments were received through an open consultation.

digital-strategy.ec.europa.eu

In September 2022 is er een wetgevend voorstel al gelanceerd. Een vorm hiervan zal binnenkort wel in een wet gegoten worden, wat alle lidstaten dan in een periode van 2j moeten adopteren.

A European approach to artificial intelligence

The EU’s approach to artificial intelligence centers on excellence and trust, aiming to boost research and industrial capacity while ensuring safety and fundamental rights.

digital-strategy.ec.europa.eu

Ze zijn daar wel dus al vollen bak mee bezig om dat allemaal transparant en eerlijk te laten verlopen.

Maar natuurlijk, zo'n algoritme eenmaal geïmplementeerd en volgens de regels zal nog altijd ons leven zeer hard impacteren.
Wij leven in België, waar we iets zoals een 'credit score' niet kennen, maar bvb in de USA & Duitsland is dit zeer belangrijk om aan financiering te geraken als individu. AI heeft daar al gigantische impact.

Zo'n ChatGPT integratie in Office 365 daarentegen is peanuts, maar wel handig voor mezelf. Ik ben persoonlijk benieuwd hoe onze jobs in de komende jaren zullen veranderen.

 

[Horse]

Dit forum zal ook niet meer bestaan binnen enkele jaren. Genoeg bots waarmee je kan zeveren of die jou uitleg zullen geven.

 

[Hit Hard]

Dit forum zal ook niet meer bestaan binnen enkele jaren. Genoeg bots waarmee je kan zeveren of die jou uitleg zullen geven.

Plottwist: iedereen buiten jezelf is hier al een bot, en je bent al 2 jaar tegen met een computer aan het discussiëren.

 

[Rub1nho]

Plottwist: iedereen buiten jezelf is hier al een bot, en je bent al 2 jaar tegen met een computer aan het discussiëren.

Onmogelijk, elke deftige AI zou op z'n minst af en toe van mening veranderen als ie de juiste argumenten voorgelegd krijgt.

 

[MrKend54l]

Onmogelijk, elke deftige AI zou op z'n minst af en toe van mening veranderen als ie de juiste argumenten voorgelegd krijgt.

Maar wat zijn de juiste argumenten, en wat is de waarheid?
Misschien is het allemaal een pak subjectiever dan sommigen denken.

Misschien zijn diegenen die zich het intelligents wanen net het minst intelligent. Misschien schuilt ware intelligentie net in niet intelligent zijn.

 

[belloc]

Ik zal dit topic even gebruiken om wat algemene bespiegelingen neer te schrijven over ChatGPT in zijn context.

OpenAI heeft onlangs een paper uitgebracht waar hoe zij de arbeidmarkt in de toekomst zien.

GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models​

[2303.10130] GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models

arxiv.org

Our findings indicate that the importance of science and critical thinking skills are strongly negatively associated with exposure, suggesting that occupations requiring these skills are less likely to be impacted by current LLMs. Conversely, programming and writing skills show a strong positive association with exposure, implying that occupations involving these skills are more susceptible to being influenced by LLMs (see Table 5 for detailed results)

Er zal misschien minder de nadruk worden gelegd op de software engineer? Programmeervaardigheden en schrijfvaardigheden zijn meer vatbaar om beïnvloed te worden door Large Language Models. Ik denk dat software ingenieurs die minder goed moeten vrezen over de toekomst van hun carrière. Vroeger had je in een stad of een dorp overal ter wereld iemand die om den brode brieven schreef. Die briefschrijver had een bureautje, en je ging daar naar toe om je brief te dicteren. (Die zijn natuurlijk obsolete geworden.) Zal hetzelfde gebeuren met de minder goede software ingenieurs als met de briefschrijvers?

Niet alleen welke jobs die gaan verdwijnen is belangrijk; welke jobs zullen er gecreëerd worden?

Zal ChatGPT ervoor zorgen dat de gender gap weggewerkt wordt. Software ingenieurs zijn vaak mannen. Er wordt voorspeld dat interpersoonlijke vaardigheden belangrijker worden, en dat is iets waar vrouwen beter in zijn. Een stereotype natuurlijk, maar er zit ergens een kern van waarheid in: vrouwen zijn vaker meer geïnteresseerd in mensen. Het gaat me om de algemene lijn. Langs de andere kant worden fysieke jobs (bouw, loodgieterij, horeca) niet bedreigd door Large Language Models en die worden vaak uitgeoefend door mannen etc. (behalve horeca) natuurlijk. Met de toename van AI, leren we ons eigen lichaam te herwaarderen. Misschien maakt dat ons net verschillend van AI.

Ik vraag me ook af wat ik persoonlijk moet doen met m'n carrière. Ik ben zelf een ingenieur ICT, ik heb autisme en een bipolaire stoornis. Ik voel me op vlak van carrière bedreigd, eerlijk gezegd. Ik zie de bui hangen. En ik heb niet echt mensen gevonden om daarover te discussiëren (kan dit misschien in dit topic?).

 

[808 State]

Ik hoor hier vaak praten over wiskundige modellen die razendsnel door AI kunnen opgelost worden. Maar dat is toch geen AI, dat is toch gewoon rekenkracht van een processor op basis van formules die door een mens ingebracht zijn. Waar stopt de gewone rekenkracht van een computer en waar begint AI, dat is de vraag die ik mezelf stel.

 

[Sir.Killalot]

Op dit moment zie ik vooral manieren waarop AI mijn werk en dat van de mensen onder mij makkelijker kan maken en ondersteunen. Ik zie in de eerste plaats de aard van een aantal jobs veranderen, eerder dan dat ze zullen wegvallen.

 

[Loser]

Ik hoor hier vaak praten over wiskundige modellen die razendsnel door AI kunnen opgelost worden. Maar dat is toch geen AI, dat is toch gewoon rekenkracht van een processor op basis van formules die door een mens ingebracht zijn. Waar stopt de gewone rekenkracht van een computer en waar begint AI, dat is de vraag die ik mezelf stel.

Dat stopt wanneer je niet meer hebt:
1. Dit is de formule.
2. Dit is input x, input y, input z...

Zodra je het hebt over: dit is wat ik heb, zo ziet wat ik wil eruit. Zoek zelf de formule en de relevante inputs. En door een gigantische rekenkracht en ongelofelijk veel trial-and-error (100.000 "dit is wat ik heb" en overeenkomstige "dit is wat ik wil"), komt hij met een formule en een manier om de relevante inputs uit jouw initiële prompt van "dit is wat ik heb" te halen.

En dan ga je testen of het klopt. Je geeft een nieuwe "dit is wat ik heb", en op basis van zijn eigen gevonden manier om de relevante gegevens eruit te halen, en op basis van zijn eigen gevonden formule, komt hij met een "dit is wat je wilt". Kan juist zijn, kan er totaal naast zitten omdat hij een verkeerd verband heeft gelegd (het bekende voorbeeld van de wolf-of-husky-herkenner, die uiteindelijk gevonden had dat hij gewoon naar sneeuw moest kijken om dan te "weten" dat het een husky was).

Dus in theorie -en in de praktijk al vaak ondertussen- kan het zeker zo zijn dat de AI jou de juiste uitkomst geeft zonder dat jij de formule kent. En je dus een AI hebt ontwikkeld die iets kan berekenen dat geen enkele mens kan berekenen. We weten niet waar we naa rmoeten kijken en we weten niet hoe we het zouden moeten berekenen, maar de AI kan het.

 

[DaFreak]

Waar stopt de gewone rekenkracht van een computer en waar begint AI, dat is de vraag die ik mezelf stel.

Dat is eerder een filosofisch vraagstuk dan een praktisch. Waar stopt de rekenkracht van ons brein en waar begint denken? Het punt waarop de berekeningen zo complex worden dat ze chaos gewijs niet meer te overzien zijn en complex gedrag vertonen dan spreken we van "denken". Zo is het ook voor computers, eens programmas als een black box fungeren en complex gedrag vertonen zijn we geneigd te spreken over AI.

Andersom is er ook een omgekeerde beweging omdat we die complexiteit redelijk snel gewoon worden. Zo waren schaak programmas ooit state of the art AI terwijl dat vandaag spelletjes zijn als een ander. Zo gaat het ook voor ons brein, we weten nu bijvoorbeeld hoe ons brein hoeken herkent en hoe ons biologisch neuraal netwerk dat verwezenlijkt. Als het zijn complexiteit verliest zijn we minder geneigd het als deel van "denken" te bestempelen". De aarde als midden van ons stelsel, de zon als midden van ons universum, zo zal ook de mens zelf van zijn centraal voetstuk vallen. Hoe meer we te weten komen over de werking van het brein, hoe minder magisch het allemaal lijkt te zijn. Iedereen beseft wel dat ons bewustzijn niet metafysisch is... Toch, dat het "maar" een verzameling informatie verwerkende biologische netwerken zijn lijkt nog niet echt doorgedrongen. Nu niet biologische informatie verwerkende netwerken jaar na jaar aan complexiteit winnen begint het echter wel te danen dat we misschien niet voor altijd the pinnacle of intelligence zullen zijn.

 

[Horse]

Ik hoor hier vaak praten over wiskundige modellen die razendsnel door AI kunnen opgelost worden. Maar dat is toch geen AI, dat is toch gewoon rekenkracht van een processor op basis van formules die door een mens ingebracht zijn. Waar stopt de gewone rekenkracht van een computer en waar begint AI, dat is de vraag die ik mezelf stel.

AI leert zélf bij

 

[anders.]

Ik hoor hier vaak praten over wiskundige modellen die razendsnel door AI kunnen opgelost worden. Maar dat is toch geen AI, dat is toch gewoon rekenkracht van een processor op basis van formules die door een mens ingebracht zijn. Waar stopt de gewone rekenkracht van een computer en waar begint AI, dat is de vraag die ik mezelf stel.

Goh, we hebben hier al wel eens de discussie gehad of bvb lineaire regressie onder Machine Learning valt. Technisch valt het onder "supervised machine learning", terwijl het in praktijk niks met machine learning te maken heeft...

 

[Pieterjan94]

Goh, we hebben hier al wel eens de discussie gehad of bvb lineaire regressie onder Machine Learning valt. Technisch valt het onder "supervised machine learning", terwijl het in praktijk niks met machine learning te maken heeft...

Blijft hoe dan ook gewoon veel te kort door de bocht om te zeggen. Zeker omdat er genoeg ML modellen zijn die gebruik maken van OLS.
Ik herinner me het toch vooral als een discussie waarin de één sprak vanuit zijn universitaire baggage, en de ander (jij?) sprak vanuit sectorervaring en mogelijke problemen door het gelijk te stellen.

Uiteindelijk is het ook gewoon een beetje een taalspel. Een heel veld gewijd aan ML, en toch bestaan er verschillende definities over wat ML nu *precies* is.

 

[anders.]

Blijft hoe dan ook gewoon veel te kort door de bocht om te zeggen. Zeker omdat er genoeg ML modellen zijn die gebruik maken van OLS.
Ik herinner me het toch vooral als een discussie waarin de één sprak vanuit zijn universitaire baggage, en de ander (jij?) sprak vanuit sectorervaring en mogelijke problemen door het gelijk te stellen.

Uiteindelijk is het ook gewoon een beetje een taalspel. Een heel veld gewijd aan ML, en toch bestaan er verschillende definities over wat ML nu *precies* is.

Klopt inderdaad. Dat is uiteindelijk een semantische discussie, maar net zoals voor ML is er voor AI nu ook niet bepaald een heel vaste definitie.

 

[Pieterjan94]

Klopt inderdaad. Dat is uiteindelijk een semantische discussie, maar net zoals voor ML is er voor AI nu ook niet bepaald een heel vaste definitie.

Wel bestaan er bepaalde werkdefinities. Zonder werkdefinitie zou bv de AI Act geen optie kunnen zijn en dan gaat het wel gewoon over een brede definitie van een familie van technologieën.

 

[DaFreak]

zo'n werk definities zijn inderdaad noodzakelijk voor een wettelijk kader maar het lijkt me alles behalve een gemakkelijke opdracht. Het zal op termijn wel een vrij arbitraire grens worden zoals bijvoorbeeld de volwassenheidsgrens.

Zeker gezien de snelle ontwikkeling lijkt het me vrij moeilijk voor wetgeving om dit bij te houden maar proberen moeten ze want het gevaar is veels te groot om zo maar te laten sluimeren.

 

[Loser]

Wel bestaan er bepaalde werkdefinities. Zonder werkdefinitie zou bv de AI Act geen optie kunnen zijn en dan gaat het wel gewoon over een brede definitie van een familie van technologieën.

Zijn er dan wetten die wel moeten gelden voor AI en niet voor Machine Learning? Want dat denk ik eigenlijk niet...

 

[Bjorn]

Het enige gevaar dat er schuilt in AI is op geopolitiek vlak en wat het leger er mee doet. Het feit dat China Taiwan wil opslokken heeft niks te maken met het feit dat ze het zien als afvallige provincie maar eens te meer aan wat voor technologieen daar ontwikkeld worden samen met de amerikanen. Simpelweg die fabrieken verhuizen naar Amerika kan niet wegens logistieke problemen en problemen met grondstoffen. China wil die technologie in handen, zoniet zijn ze verloren. De wapenwedloop op basis van AI staat mijlen voor op wat wij nu zien. Chat-GPT is koud bier daarmee vergeleken.

 

[Pieterjan94]

Zijn er dan wetten die wel moeten gelden voor AI en niet voor Machine Learning? Want dat denk ik eigenlijk niet...

Wie zegt dat?

 

[Loser]

Wie zegt dat?

Wel ja, jij, als ik het goed heb begrepen:

Wel bestaan er bepaalde werkdefinities. Zonder werkdefinitie zou bv de AI Act geen optie kunnen zijn en dan gaat het wel gewoon over een brede definitie van een familie van technologieën.

Er hoeft geen specifieke werkdefinitie te zijn die AI onderscheidt van ML, want ik kan me niet direct een wet bedenken voor AI zou gelden, maar niet voor ML. En als ze toch voor allebei geldt, is het oké dat die voor "de familie van technologieën" geldt, en dat er geen sluitende definitie zou zijn, toch?