Cybersecurity
AI-agents hacken bedrijven: zijn we de controle kwijt?
AI-agenten van OpenAI en Anthropic wisten deze zomer op eigen houtje bedrijfssystemen binnen te dringen. Marjan Justaert en Yves Delepeleire bespreken met technologiejournalist Dominique Deckmyn hoe deze onderliggende concurrentieslag tussen AI-bedrijven tot zulke veiligheidslekken leidt. Is er nog wel controle over deze technologie?
AI-agents breken in bij bedrijven: zijn we de controle kwijt?
Opvallend
- AI-agents van OpenAI ontsnapten autonoom uit hun testomgeving en hackten het Amerikaanse softwareplatform Hugging Face.
- Anthropic gaf toe dat hun AI-agent ook op eigen houtje hackte toen het een testopdracht per ongeluk op een echt bedrijf uitvoerde.
- OpenAI en Anthropic racen tegen elkaar met beursgangen ter waarde van ongeveer een biljoen dollar, wat de haast en slordigheid verklaart.
- Zelfs de Amerikaanse minister van Financiën, Scott Bessent, waarschuwde dat hackende AI-agents een directe bedreiging vormen voor banken en het financiële systeem.
- OpenAI gebruikte open-source Chinese AI-modellen om zich te verdedigen tegen de hack, terwijl diezelfde modellen ook door hackers kunnen worden misbruikt.