AI & machine learning
Open source-model evenaart OpenAI en Anthropic
In de eerste aflevering van Turing Station duiken Bart Mol, Bert Slagter en Peter Slagter in het Chinese open source model GLM 5.2, dat mogelijk even goed presteert als de beste modellen van OpenAI en Anthropic. Ook bespreken ze de trend van 'tokenmaxxing' en de mythologische achtergrond van AI, waarbij Peter de parallellen trekt tussen oude Griekse verhalen en moderne kunstmatige intelligentie. Een aflevering vol technische diepgang, mythes en prikkelende vragen over de toekomst van AI.
#1 - GLM 5.2, tokenmaxxing en Claude Mythos/Fable
Opvallend
- GLM 5.2 is een open-source Chinees AI-model van Zhipu dat qua prestaties bijna gelijk is aan de beste gesloten modellen van OpenAI en Anthropic.
- Bedrijven zoals Amazon en Uber hebben grenzen gesteld aan AI-tokenverbruik, zoals een maandelijkse cap van 1500 euro per werknemer, om kosten te beheersen.
- Een kleine lokale setup van acht NVIDIA Blackwell GPU's kost ongeveer 300.000 dollar om GLM 5.2 op te draaien, vergelijkbaar met cloud-diensten.
- De oude Griekse mythe van Talos, een bronzen reus die automatisch een eiland bewaakte, wordt gezien als een vroeg prototype van een AI-gestuurde robot.
- Anthropic's model Fable werd tijdelijk teruggetrokken nadat Amazon een jailbreak ontdekte, wat leidde tot een de facto verbod door de Amerikaanse overheid.