AI-bedrijf Anthropic stelt zijn nieuwste en krachtigste AI-model Mythos nog niet aan het publiek beschikbaar. Grote techbedrijven krijgen eerst de kans om veiligheidslekken te dichten die door Mythos zijn ontdekt.
is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
De lancering van Mythos (voluit Claude Mythos Preview) heeft tot een ware schokgolf geleid in de wereld van de cybersecurity. Het model is volgens zijn maker zo goed in programmeren dat het ‘alle softwarekwetsbaarheden kan vinden en exploiteren’.
Dit betekent dat Mythos in coderen en hacken de capaciteiten van vrijwel alle menselijke experts overtreft. Eerdere Claude-modellen blonken al uit in programmeren, maar Mythos gaat een stap verder, wat wordt geïllustreerd door zijn capaciteiten bij het opsporen van lekken in bestaande softwarepakketten.
Mythos heeft volgens Anthropic al duizenden ernstige beveiligingslekken ontdekt, waaronder lekken in vrijwel elk belangrijk besturingssysteem en elke webbrowser. Een van de voorbeelden is een 27 jaar oude bug in het besturingssysteem OpenBSD, waardoor aanvallers op afstand computers konden laten crashen via een simpele verbinding.
De komst van nieuwe AI-modellen van bedrijven als Anthropic en OpenAI gaat altijd al gepaard met superlatieven en ronkende pr, maar in dit geval is er volgens experts wel degelijk reden voor opwinding én bezorgdheid.
‘Jarenlang was de grootste existentiële zorg binnen de infosecgemeenschap dat kwantumcomputers alle klassieke encryptie zouden omzeilen’, schrijft techsite The Register bijvoorbeeld. ‘Nu hebben ze een nieuwe grote boosdoener: een AI-model dat zero-day-kwetsbaarheden [kwetsbaarheden in computersystemen waarvan de ontwikkelaars niet op de hoogte zijn, red.] kan genereren.’
Tegenover CNN stellen security-experts dat de snelheid en schaal waarop AI-systemen nu naar kwetsbaarheden zoeken (en daar dus ook misbruik van kunnen maken) ‘ver boven normale menselijke mogelijkheden’ uitstijgen. Het gevolg: een ‘radicale verandering’ in de cyberbeveiliging.
Anthropic zelf is zich bewust van de implicaties. ‘In plaats van Mythos Preview algemeen beschikbaar te stellen, geven we verdedigers vroegtijdig gecontroleerde toegang om kwetsbaarheden te vinden en te verhelpen voordat Mythos-achtige modellen zich over het ecosysteem verspreiden’, stelt Anthropic-topman Dario Amodei op X.
Om deze ‘verdedigers’ een voorsprong te geven, heeft het AI-bedrijf ‘Project Glasswing’ gestart. Het doel: het beveiligen van kritieke software in het AI-tijdperk. Bij dit project zijn nu onder andere Apple, Google, Cisco, Microsoft, Amazon, Broadcom en non-profitorganisatie The Linux Foundation betrokken. Zij krijgen de tijd om de door Mythos ontdekte kwetsbaarheden te dichten voordat kwaadwillende hackers dat doen.
Anthropic stelt tot 100 miljoen dollar aan gebruikskredieten beschikbaar voor het project en doneert daarnaast 4 miljoen dollar rechtstreeks aan opensource-beveiligingsorganisaties. Uiteindelijk zullen bedrijven wel moeten betalen voor toegang.
De grote vraag is nu hoe het security-landschap er de komende tijd zal uitzien. Voor Anthropic staat in ieder geval als een paal boven water dat er veel meer modellen zoals Mythos zullen gaan komen.
New York Times-columnist Thomas Friedman, die de komst van Mythos op geopolitiek terrein belangrijker acht dan de oorlog in Iran, pleit alvast voor innige samenwerking tussen de Verenigde Staten en China om zichzelf, en de rest van de wereld, te beschermen tegen mensen die deze technologie gebruiken. Zorgen over Rusland vallen hierbij in het niet, aldus Friedman.
Tegelijkertijd werpt de komst van Mythos ook nieuw licht op het lopende conflict tussen Anthropic en het Pentagon. De Amerikaanse overheid trachtte Anthropic tot een ‘risico voor de toeleveringsketen’ te verklaren nadat het bedrijf weigerde zijn contract met het Pentagon aan te passen om massale binnenlandse surveillance en volledig autonome wapens mogelijk te maken. Nu lijkt het erop dat het ministerie van Oorlog de software van Anthropic harder nodig heeft dan ooit.
Alles over tech vindt u hier.
Geselecteerd door de redactie
Lees hier alle artikelen over dit thema
Source: Volkskrant