De ontwikkeling van Artificiële Intelligentie moet gepauzeerd worden

[Kas de Kalebas]

Hoe zijn AI chips in feite verschillend van gewone GPU's?
Ik zie bij de gewone GPU's eigenlijk minder en minder vooruitgang de laatste jaren op vlak van hardware, de vooruitgang gebeurt vooral op softwarevlak (door gebruik van machine learning / AI te maken (DLSS) haalt men betere performance). Vroeger bood een nieuwe GPU generatie nog 50-60% verbetering, tegenwoordig betekent krachtigere GPU's vooral ook meer stroomverbruik...
De 50xx reeks van Nvidia haalt wel hogere AI TOPS , maar het verbruik is ook hoger (dat zijn ook geen pure AI kaarten, maar het aandeel AI op de grafische chip wordt wel groter lijkt het)

Sustainable Strides: How AI and Accelerated Computing Are Driving Energy Efficiency

AI and accelerated computing are delivering energy efficiency for many industries. NVIDIA delivers many optimizations through system-level innovations.

blogs.nvidia.com

Er leek idd in de periode 2022-2023 een soort plateau te bestaan, maar de trend op langere termijn is wel duidelijk. Bovendien zijn er naast de chips zelf ook heel wat efficientiewinsten te halen in de manier waarop deze samenwerken en geintegreerd worden in het datacenter.

Niet dat ik een expert ben. Ik luisterde gewoon vanochtend naar mijn energiepodcast, en het ging toevallig over datacenters.

Liebreich: Generative AI – The Power and the Glory | BloombergNEF

This year will go down in history as the year the energy sector woke up to AI. This is also the year AI woke up to energy. Is the data center power frenzy just the latest of a long line of energy sector bubbles, or is it the dawning of a new normal?

about.bnef.com

Er kwam volgende passage in voor:

peed and efficiency improvements can be found within each of these components, but also in the way they work together, as well as in the way the algorithms work. Nvidia CEO Jensen Huang gives an example of training a 1.8 trillion-parameter model using Blackwell GPUs, which only required 4MW, versus 15MW using the previous Hopper architecture. That is a 75% reduction despite each individual GPU drawing 70% more power. In another test, the US National Energy Research Scientific Computing Center compared how fast four applications ran, and how much energy they consumed, on CPU and GPU nodes of one of the world’s largest supercomputers. On average the GPUs completed the tasks up to 12 times faster but only consumed one fifth of the energy. One weather forecasting application used one tenth of the energy.

 

[dee]

Het Franse Mistral is momenteel een EU-speler.

Mja.
Mistral 30 mensen en valued op 6.2 miljard.
Openai. 4500 werknemers en geschat op 157 miljard
Ik wil nie weten wat meta, grok, apple nog allemaal uit de mouw gaan schudden maar het zal allezins ook meer zijn dan 30 man. Chinese bedrijven vind ik weinig van terug.

Allez we moeten gewoon bewaken dat we niet afhankelijk worden van een amerikaanse mogul.

Mistral Frans en Aleph Alpha Duits.
Mistral zit volledig op Microsoft Azure.

 

[the_fox]

Ach, concurrentie is good for business.

De Chinese inhaalbeweging en zenuwachtigheid op de Amerikaans beurzen toont aan dat de strijd om het goedkoopste én slimste model is losgebarsten. Al zijn er ook serieuze vraagtekens te stellen bij DeepSeek: zo ontwijkt het vragen over het Tiananmenprotest en netelige geopolitieke vraagstukken zoals een mogelijke Chinese invasie van Taiwan.

Lol.

ChatGPT, CoPilot en andere westerse modellen ontwijken zo ook vragen of doen ook aan censuur hoor. Dit is niet eigen aan dat chinese model. Gewoon even "chatgpt censorship" googlen geeft tal van voorbeelden.

En verder, de modellen zijn zo goed als nergens gecensureerd, het is telkens de frontend. Deepseek-R1 is open-source, als je het zelfs runt dan censureert het de antwoorden op die vragen niet.

 

[Avondland]

ChatGPT, CoPilot en andere westerse modellen ontwijken zo ook vragen of doen ook aan censuur hoor. Dit is niet eigen aan dat chinese model. Gewoon even "chatgpt censorship" googlen geeft tal van voorbeelden.

En verder, de modellen zijn zo goed als nergens gecensureerd, het is telkens de frontend. Deepseek-R1 is open-source, als je het zelfs runt dan censureert het de antwoorden op die vragen niet.

Dat is ook weer waar. Daarom dat ik nooit een antwoord kreeg op de prompt "write me a fascist lovesong".