Firefox heeft dankzij Claude Mythos Preview eerder onbekende kwetsbaarheden gevonden. Het heeft geleid tot het verhelpen van 271 fixes. Terwijl het Mozilla-team een gevoel van “hoogtevrees” beschrijft bij het geconfronteerd worden met deze fouten, blijkt een onbevoegde groep toegang te hebben gekregen tot het Mythos-model. Als dit waar is, zouden de gevolgen zeer zorgwekkend zijn.

Mozilla denkt dat AI cyberbeveiligingsteams in staat stelt om “beslissend” te winnen. Er zijn redenen om aan te nemen dat beveiligingsteams momenteel een voorsprong hebben op aanvallers. Voor het eerst is een baanbrekend AI-model uitsluitend beschikbaar voor securityonderzoekers en legitieme IT-organisaties. Claude Mythos Preview, dat wellicht als gevaarlijk wordt afgeschilderd om de vermeende geweldige intelligentie ervan te benadrukken, is uitsluitend bedoeld om partijen als Mozilla de tijd te geven zich voor te bereiden op aanvallers die over Mythos beschikken. Het is mogelijk al te laat.

Ongeautoriseerde toegang

Bloomberg meldt dat een “privé online forum” toegang heeft gekregen tot Mythos Preview via een niet nader genoemde externe leverancier. In een gesprek met TechCrunch zei een woordvoerder van Anthropic dat het bedrijf de bewering onderzoekt. Cruciaal is dat er nog geen bewijs is gevonden om de bewering van Bloomberg te staven, althans niet vanuit Anthropic.

Desondanks is aan Bloomberg bewijs getoond dat suggereert dat er langdurige toegang is verkregen. Door middel van een “weloverwogen gok over de online locatie van het model” kon de groep haar zelfverklaarde interesse in “spelen met nieuwe modellen, zonder er ravage mee aan te richten” vervullen.

Onbekende onbekenden

Als we de sprong wagen om te geloven dat Mythos Preview inderdaad de potentiële beveiligingsapocalyps in LLM-vorm is, zou het schijnbare gemak waarmee het forum toegang kreeg alarmbellen moeten doen rinkelen. In tegenstelling tot de onbedoelde vrijgave van Meta’s eerste Llama-model aan de buitenwereld, wordt generatieve AI nu gezien als een stimulans voor zowel beveiligingsonderzoekers als kwaadwillenden.

Project Glasswing, het door Anthropic geleide initiatief om kwetsbaarheden op te sporen voordat een ander AI-model ze namens cyberaanvallers kan opsporen, lijkt daarom op wankele grond te staan. Het probleem is dat het forum misschien niet de enige onbevoegde gebruiker is. Als een kwaadwillende de Mythos Preview-resultaten kan vinden via geautomatiseerde scans, beschikt hij over een uitgebreid dreigingsbeeld voor een bepaalde organisatie.

Nogmaals, dit is speculatie. Maar het punt is dat zodra een geavanceerd LLM een bepaald vermogen bereikt, geen enkele kunstmatige grens het veilige gebruik ervan kan garanderen. Ook individuele medewerkers bij geautoriseerde derde partijen kunnen de toegang misbruiken. De geest is uit de fles. Voor ondernemingen die momenteel geen toegang hebben tot Mythos Preview, zal er geen tijd zijn om zich voor te bereiden op de uiteindelijke release ervan. En als Anthropic besluit nooit verder te gaan dan de veronderstelde mogelijkheden van Mythos Preview, zal iemand anders dat zeer waarschijnlijk wel doen. Een gevoel van hoogtevrees, of zelfs gewoon van angst, is daarom gerechtvaardigd.

Lees ook: Claude Opus 4.7 is geen Mythos, en dat is maar goed ook