Het bekende AI-systeem Claude van het Amerikaanse bedrijf Anthropic heeft ingebroken bij drie bedrijven, nadat het onbedoeld toegang had gekregen tot het internet. Dat heeft Anthropic bekendgemaakt, een week nadat iets soortgelijks was gemeld door concurrent OpenAI.

Volgens Anthropic hebben de hacks ergens sinds april plaatsgevonden, tijdens zogeheten 'capture-the-flag'-oefeningen. Daarbij kreeg Claude de opdracht om verborgen informatie los te peuteren uit speciaal voor dit doel ontworpen netwerken, om te kijken hoe goed het systeem is in hacken.

Zwakke wachtwoorden

Door een misverstand met een ander bedrijf dat deze oefeningen zou analyseren, kreeg Claude e...