Anthropic waarschuwt dat kleine AI zich binnen maanden naar iot kan kopiëren
Volgens Anthropic zijn kleine AI-modellen mogelijk binnen enkele maanden in staat om zichzelf te kopiëren naar apparaten die deel uitmaken van het internet of things (iot), zoals slimme ovens en Android TV-boxes. Het bedrijf zegt dat het dan moeilijk zou zijn om de modellen uit te schakelen, omdat ze onafhankelijk van een datacenter werken.
In tegenstelling tot malware zonder AI kan een AI-model bovendien onbekende apparaten herkennen. "In onze evaluaties slaagde een model met 9 miljard parameters erin om inferentie uit te voeren op acht van de negen door ons geteste hardwaretypes", legt Anthropic uit in een blogpost.
Volgens tests van het bedrijf zijn grotere modellen zoals het Chinese GLM-5.2 beter in staat om zichzelf te kopiëren. "Als kleinere modellen zich zo snel ontwikkelen als ze in het verleden gedaan hebben, zullen ze aan het eind van het jaar dezelfde prestatieniveaus bereiken. Kort daarna zouden de kleine modellen zichzelf kunnen kopiëren", aldus Anthropic.
AI-modellen zouden bijvoorbeeld kunnen infiltreren door een 'botnet' van iot-apparaten te gebruiken. Die zijn volgens het bedrijf goedkoop en slecht beveiligd. Zo kan een model zich verspreiden over 15 onderling verbonden Android TV-boxes en daarop als capabel model functioneren. Het bedrijf noemt dergelijke modellen ook wel 'worms'.
Volgens Anthropic moeten we ons voorbereiden op een wereld waarin worms makkelijk toegang kunnen krijgen tot iot-apparaten. "We moeten ernaar streven onze systemen te versterken om het voor dergelijke replicatoren moeilijk te maken zich te verspreiden." Toch lijkt Anthropic de ontwikkeling van AI-modellen die op iot-apparaten kunnen draaien niet af te remmen uit veiligheidsoverwegingen. Dario Amodei, de ceo van Anthropic, pleitte vorige maand nog voor een vertraging in de ontwikkeling van AI-modellen.
Lees meer
Reacties (131)
Neem bijvoorbeeld Qwen3.8 27B. Dat haalt inmiddels 34 punten op de Artificial Analysis Intelligence Index. Ter vergelijking: OpenAI's GPT-5.2 (xhigh) uit december 2025 haalt 30 punten. Een model met slechts 27 miljard parameters presteert dus op deze benchmark beter dan een frontiermodel van tien maanden geleden.
En dat Qwen-model draait met 4-bit-quantisatie gewoon op één consumenten-videokaart met 24 GB VRAM, zoals een RTX 3090.
Ik verwacht dat deze ontwikkeling gewoon doorgaat. Wat vandaag nog een groot model vereist, kan over een paar jaar mogelijk met een fractie van het aantal parameters. Kleine modellen kunnen in de toekomst dus verrassend slim worden. De hardwarebehoefte van de huidige frontiermodellen kun je niet zomaar doortrekken naar de toekomst.
Mijn IoT ding heeft 1 Megabyte RAM en 8 Megabyte flash. Hoe ga je dat oplossen? Jan Sloot-compressie werkt (voor zover we weten) alleen op speelfilms, niet op LLM's.En dat Qwen-model draait met 4-bit-quantisatie gewoon op één consumenten-videokaart met 24 GB VRAM, zoals een RTX 3090.
Want dit gaat echt te hard.
Op reddit heeft iemand binnen x minuten een Galaga/Space invaders game gemaakt op wat nu nog redelijk high level equipment is. Het is vast geen perfecte game. Maar het aantal mensen wat dit binnen x minuten kan is denk ik ook 0 of erg beperkt.
https://www.reddit.com/r/LocalLLaMA/comments/1vqm51f/long_review_qwen_38_27b_is_very_good_at_tapping/
Dit is zijn hardware: "I have 3x 3090's and 1 Tesla P40 at my disposal, with 128gb". Ik vermoed dat dit meer is dan nu redelijk high end is. Maar voor diverse mensen was dit best te kopen. Ongeveer vergelijkbare hardware is nu alleen duurder door de AI rage.
Als je ziet hoe snel deze voor consumenten bereikbare hardware al zoiets complex kan maken, met animaties en geluidjes in een korte tijd, is het meer de vraag wanneer en hoe het echt hard fout gaat met AI.
Veruit het grootste deel van de mensen kan uberhaupt geen computer spelletje maken of zelfs een matig stukje code schrijven. Tenminste niet zonder heel veel training of een AI die het werk uitvoert. Maar AI blijkt dit dus al wel te kunnen op zelf behoorlijk toegankelijke hardware.
Je kunt steeds meer mooie, gave en echt indrukwekende dingen met AI. Maar de risico's worden nu wel echt groot. Zeker omdat AI echt goed is in dingen als hacken en het gewoon heel vaak proberen. Maar AI is duidelijk nog niet goed in de gevolgen van de acties mee nemen.
Ik snap trouwens helemaal niet waarom Anthropic dit soort modelen uberhaupt wil uitleggen hoe modellen zich over dingen als TVs heen moet gaan verspreiden. Want als dat gebeurt en het gaat ook naar andere IoT dingen of industriele systemen ben je echt alle controle kwijt.
De wereld is echt niet klaar voor AI die zelf IoT dingen gaat overnemen. Of tenminste de mensen op de wereld zijn daar niet klaar voor.
Een model wat bijv websites gaat hacken moet primair getraind zijn op syntax en een paar programmeer talen. Verder is het een kwestie van toegang geven tot specifieke tools. Zodra een model toegang heeft tot specificatie documentatie, pentest tools en dat soort dingen hoeft het niet perse heel slim te zijn. Zelfs voor het opsporen van zero days kom je al heel ver met brute force dingen proberen
De echte vraag is: hoe snel vlakt het af? Wanneer is het laaghangende fruit op?
Kortweg: kleine AI nodes kunnen op zichzelf weinig klaarspelen. Heel veel nodes kunnen daarentegen alles klaarspelen wat ze maar willen. Ik voorzie hier wel een flink issue in.
Is het einde dan echt nabij?
Tenzij alle IoT devices straks allemaal GPUs en veel meer RAM hebben natuurlijk
[Reactie gewijzigd door Pwigle op 15 oktober 2026 18:45]
Er zijn leuke demo's van mensen die hele grote modellen op een CPU draaien die er eigenlijk niet voor bedoeld is, een prompt samenstellen dat een hele set taken en eisen bevat, en dan na een dag of een week terugkomen. Voor interactief vibecoden en het beantwoorden van vragen die je ook had kunnen Googlen is dit niet echt een alternatief, maar als je de output niet direct nodig hebt (en je de stroom niet betaalt/in een land woont waar stroom goedkoop is), is een langzame LLM een aardige uitkomst.
In het algemeen is het probleem bij "collective Intelligence" de beperkte bandbreedte tussen de delen. NVidia probeert daar over de Tbit/s te gaan, termieten zitten ruim onder de kbit/s. Ook bij IoT zal dit relevant zijn.
Je zal dan alleen het veilige AI van Anthropic (en OpenAI) moeten huren, tegen de werkelijke tarieven i.p.v. de huidige tarieven. Een prijs die, na het lezen van Ed Zitron's nieuwsbrief, opnieuw bevestigt dat de huidige, gesubsidieerde prijzen met minstens 10 moeten worden vermenigvuldigd.
Wie echter al wel met lokale modellen ervaring heeft, weet ook dat deze gelimiteerd zijn in hun kunnen. Deze zijn namelijk voor specialistische doeleinden opgezet en kunnen niet veel meer dan dat. De focus van de meeste ligt bij coderen. Daarnaast heb je een boel kleine modellen voor STT (Speech to Text), TTS (Text to Speech) en simpele visie en simpele video-generatie.
Om deze lokale modellen enigzins soepel te laten lopen, heb je behoorlijk wat rekenkracht nodig. En IoT is voor het overgrote deel juist apparatuur wat zo min mogelijk energie verbruikt voor de functie die deze apparatuur heeft.
Smart-TV's, Die zijn na een jaar of 5 ook op, omdat de ingebouwde processor en RAM dan veel te weinig meer kunnen, moeilijkheden met de ingebouwde apps krijgen enz. Daar wil je ook geen AI op draaien, want a) veel te traag en b) door de continue hoge belasting van CPU en RAM overhitten deze.
Smart-TV's met een NPU-type processor, die ben ik 'in het wild' nog nooit tegengekomen.
Denk dat het gebazel van Amodei over AI in IoT behoorlijk is losgeslagen. En hij is baas in een bedrijf met een enorme schuld, en bewezen heeft dat zij geen veilige "zandbak" voor hun produkten kunnen bouwen. Verhalen over schade gedaan door zijn produkt zijn er te over. Vehalen over lokale AI die ergens uitbreken, die zijn er niet (want dat is amper de moeite, als je al door de beperkingen heen kan komen.
De enige doelen van Amodei hier is zijn AI produkten als "veilig" neer te zetten en iedereen te dwingen af te rekenen voor elke token (x10) die eenderwelk produkt van zijn bedrijf genereert.
Aangezien mijn AMD Ryzen 5950X + 64GB RAM met gemak een LLM kan aansturen, is dat natuurlijk niet afhankelijk van een NPU. Mijn AMD Radeon Rx 7700XT met 12GB video RAM kan natuurlijk ook met gemak een of andere LLM draaien. Het gaat wat minder efficient. Dat is het enige issue. Het lukt dus wel.
Al betreft het een ESP board van iemand waarop de beveiliging niet op orde is, of een GoogleTV device waar een lek in zit die Google zelf nog niet gevonden heeft, dan kan zo'n AI-worm dat prima exploiteren en "zichzelf" daarmee een extra node aan z'n swarm toekennen. Het gaat om totale rekenkracht over al die kleine devices. Dit zijn geen dingen die ver weg zijn. Vooral niet als 1000 kleine IoT devices als nodes fungeren, met rekenkracht die van een ESP tot bijvoorbeeld iets van een GoogleTV/AppleTV device. Dat zijn stiekem best krachtige apparaten. Zo'n klein LM kan mogelijk prima code optimaliseren voor zo'n node, waardoor het nog efficiënter kan draaien. Vooral als het zichzelf geleerd heeft om - kosten wat het kost - zichzelf overeind c.q. "levend" te houden.
Ik vind het een waanzinnig interessant topic overigens. Maar ik heb genoeg SciFi gezien om hier rare dromen van te krijgen.
[Reactie gewijzigd door apater op 16 oktober 2026 08:10]
Ik geloof niet dat je op deze manier (efficiënt) kan schalen. Zulke modellen leren niet, dus als ze te veel informatie krijgen trekken ze enorm veel verkeerde conclusies. Dan werkt het systeem op basis van 'dom geluk', tja, uiteindelijk lukt het wel om je doel te bereiken.
Maar de vraag is, of dat gebeurt voortdat het gestopt word.
De snelheid gaat dan eerder afhangen van hoe vaak een stukje tussen verschillende nodes moet worden uitgewisseld.
"One rhinoceros sized duck or one hundred duck-sized Rhinoceri"
IoT - WE ARE ALL DOOMED - How IoT Will Destroy Us All
[Reactie gewijzigd door jozuf op 15 oktober 2026 15:29]
als snoep je maar 1 gb van 1024 laptops weg met 32 gb
[Reactie gewijzigd door citegrene op 15 oktober 2026 14:19]
Kleine modellen kan je lokaal draaien, daar is geen grip meer op. Op de modellen die in een datacenter draaien tenminste nog een beetje.
Ik bedoel zet een server aan met poort 22 open, bots zullen jarenlang proberen je wachtwoord te raden en hebben oneindig geduld.
Tijd denk maar om al mn wifi IoT apparaten achter een VLAN te zetten..
Gelukkig is hij slim genoeg, maar ook dom genoeg (geen Lidar, cameras of microfoons).
Misschien de Android TV chromecast wel, maar daar gebruik ik een spam gmail account (anders kun je dat ding niet eens instellen).
We gaan het nog meemaken, en dan komen AI Bros met "oepsie" naar de media, maar in de achterkamertjes tellen ze de dollars al...
Maar op ten duur vrees ik dat het er alsnog doorheen komt, het is allemaal steeds geavanceerder aan het worden en oa. AI bedrijven lijken daar lak aan te hebben... de dollar tekens in hun ogen tellen als enige mee.
En soms vindt hij de dock niet, want dan komt hij die kant op vanuit een verkeerde hoek, geeft de dock een duwtje en dan is het ineens drama en probeert hij hopeloos erop te komen, om daarna een error melding te roepen via z'n speakers.
Gelukkig gaat het de overige 90% van de tijd wel goed.
Maar vast zitten aan de wasrek is ie kampioen in (hij wil er per se over de poten daarvan heen), en onze beneden wil graag onder de metalen kast waar mijn PC op staat, probleem is dat hij denkt dat je aan alle 4 kanten in en uit kan, maar je kan alleen op zelfde manier in en uit (het scheelt letterlijk halve centimeter of zo).
Ik zie wel verschil in "achterlijkheid" tussen beide, die boven heeft op de wasrek na nergens last van, die beneden loopt graag vast onder dingen waar hij niet past.
Ik maak me dan ook weinig zorgen over eventuele beveiligingslekken die er in m'n stofzuiger zouden zitten.
Luide audio uit de luidsprekers zal ook meevallen, dat ding is eigenlijk vrij zacht op max volume.
Als dat ding al ellende wil veroorzaken, is het met volle snelheid tegen bepaalde meubels knallen, want het is bizar hoe hard die klap is als hij weer eens tegen 1 van onze zwarte kasten knalt.
Al zal dat meevallen, juist omdat hij zo hard tegenaan knalde, heb ik geïmproviseerde bumpers aan de voorkant geïnstalleerd zodat hij geen schade veroorzaakt.
[Reactie gewijzigd door Mizgala28 op 15 oktober 2026 18:37]
[Reactie gewijzigd door Peenutzz op 15 oktober 2026 19:05]
Maar ...
ik heb een router, een Hue voor wat lampen, en een TV verbonden met de router. Verder zit ook de CV ketel online, of in ieder geval verbonden met de router. O ja, de zonnepanelen en de Thuisbatterij... die kan ik met een app benaderen.
geldt dat als IoT?
want dan heb ik wel IoT terwijl ik zelf denk van niet
[Reactie gewijzigd door tw_gotcha op 15 oktober 2026 16:26]
Dan heb ik wel een ping op m'n mobiel die vertelt wanneer de stroom goedkoop is/wordt, stel ik wel de timer van het ding zelf in.
Tegen de tijd dat AI een mooie huishoudrobot heeft ben ik geinteresseerd. Tot die tijd zijn het gimmicks.
Een andere automation waar ik momenteel mee bezig ben is dat de wasmachine aangaat op het beste moment van de dag. Waar de prijs het beste is, of ik de meeste zonnenenergie zelf zou opwekken. En dan ook rekening houdend dat ik de was het liefste zo lang mogelijk buiten wil hangen. Dus soms is iets duurder wassen om 1 uur smiddags beter dan goedkoper wassen om 4 uur. Dit is nog wel een WIP, maar zonder slimme wasmachine domweg onmogelijk. Mocht ik in de toekomst nog een accu thuis hebben kan ik er nog meer mee.
Het fornuis vond ik helemaal bijzonder. Ik ga niet de hele dag een pan op dat ding zetten om 'm aan te zetten voordat ik thuis ben. Niet echt goed voor de hygiëne zullen we maar zeggen. Ook daarbij heb ik heel hard nagedacht of ik iets kon verzinnen waarom dat handig zou zijn. Misschien als je een heeeeel groot huis hebt en je stelt een timer in om iets een paar uur te laten pruttelen dat het handig is dat je telefoon je herinnert ofzo. Nee, het is nutteloos en ik denk dat Bosch alleen maar gebruiksdata wil verzamelen.
Een zogenaamde 'slimme koelkast' (noem het connected koelkast, want slim wordt ie niet van internet denk ik) heeft hetzelfde doel. Moet die koelkast mij gaan vertellen wat er op is? Hoe weet ie nou wat ik wil eten? Nee, ook weer zoiets, waarbij we ons door Samsung of Bosch moeten laten vertellen wat we met ons leven moeten doen? Nee, nutteloos. Waarschijnlijk is het alleen maar een reclamescherm voor welke supermarkt dan ook betaalt voor die functie. Onzin.
Ik geloof dat er ook ovens zijn met camera's zodat je kunt kijken of je kipvleugeltjes niet verbranden.... Leuk hoor. Als je kookt, moet je daar je aandacht bij houden. Kun je dat niet, bestel dan wat en ga niet klooien met je TikTok-oven...
Dit heeft niets met AI te maken, dit doen we al. Wel eens van Mirai gehoord? AI is geen magisch tovermodel, het maakt gebruik van kwetsbaarheden die er nu ook al zijn en die we al kennen.Volgens Anthropic moeten we ons voorbereiden op een wereld waarin worms makkelijk toegang kunnen krijgen tot iot-apparaten
Stel je nou eens voor, Mirai maar dan onder controle van AI.
Dat is de ellende die ons minimaal staat te wachten.
[Reactie gewijzigd door Mizgala28 op 15 oktober 2026 14:13]
Maar voor sommige mensen ligt de pandemie al "eeuwen terug", laat staan "2016, toen de wereld iets minder gek was dan nu".
Voor mij is 2016 zo lang geleden niet nee.
Wat is de taak van de swarm AI?
Een "Gods Eye" (F&F 7 film) mass survailance is ook maar een virus, geen AI.
Dus ik zou het niet direct afdoen als onzin... dat is erg kortzichtig
Maar thuis altijd bewust gekozen om niks smarts te plaatsen. Zelfs thermometer is een domme draaiknop nog.
En na het lezen van dit bericht denk ik... Ik ben blij dat geen AI agenda mijn producten thuis kan overnemen.
We hebben een Android TV chromecast (is dat wel smart?) aangesloten op een domme 3d tv, verder 2x een robotstofzuiger.
Verder niks smart, moet er niet aan denken want voor de rest kom ik voor elke 1 reden waarom iets smart handig is, met 2 a 3 redenen waarom het in ons geval thuis nutteloos is.
Duurde ook paar jaar voordat ik een robotstofzuiger in huis haalde, al was dat vooral vanwege slechtere gezondheid.
En qua andere dingen valt het ook tegen voor die mensen dan, zo ben ik absoluut geen fan van "app everything" of AI.
Iedereen is anders.
Daar noem je wat, ik heb een speciale relatie met die dingen, vooral als er eens eentje weer zeikt dat ik niet zwart en wit mag printen omdat magenta op is.
gelukkig print ik zelden tot nooit
De lampen, de TV, aquarium, speakers, thermostaat... heerlijk! Maar ieder z'n ding! Als AI het overneemt en mijn leven nog aangenamer maakt, dan moet het dat vooral doen.
[Reactie gewijzigd door TheKerremenke op 15 oktober 2026 14:31]
Om te kunnen reageren moet je ingelogd zijn
/i/2008458802.png?f=imagenormal)
:strip_icc():strip_exif()/u/132224/crop677a9fc7782e4.jpg?f=community)
/u/4024/crop5c747abb77d3d_cropped.png?f=community)
:strip_exif()/u/148758/crop672e132f0ee41.gif?f=community)
:strip_icc():strip_exif()/u/378936/crop689e60d837b65_cropped.jpg?f=community)
:strip_icc():strip_exif()/u/572004/fox.jpg?f=community)
/u/27299/hoofd.png?f=community)
:strip_icc():strip_exif()/u/498936/crop5b62bb30b720d_cropped.jpeg?f=community)
:strip_icc():strip_exif()/u/92809/crop577f58c1b8795.jpeg?f=community)
/u/189240/av70.png?f=community)
:strip_icc():strip_exif()/u/1278962/crop69d61d94b0d66_cropped.jpg?f=community)
:strip_icc():strip_exif()/u/270010/user.jpg?f=community)
:strip_exif()/u/26289/ahxp68H.gif?f=community)
/u/96692/chili_pepper.png?f=community)
:strip_icc():strip_exif()/u/4764/crop5e9024a30841d_cropped.jpeg?f=community)
:strip_icc():strip_exif()/u/128683/drop.jpg?f=community)
:strip_icc():strip_exif()/u/480597/crop68b03d247d9ac_cropped.jpg?f=community)
:strip_icc():strip_exif()/u/2503532/crop6a6dcb3844ab6_cropped.jpg?f=community)
:strip_icc():strip_exif()/u/651496/crop614b7e21b7b9f_cropped.jpg?f=community)
:strip_exif()/u/477707/crop591a0abbe0a41_cropped.gif?f=community)
:strip_icc():strip_exif()/u/61340/crop6aba52e2b79f5_cropped.jpg?f=community)
:strip_icc():strip_exif()/u/141198/crop6164051fbcf31.jpg?f=community)
:strip_icc():strip_exif()/u/383827/Untitled-2.jpg?f=community)
:strip_icc():strip_exif()/u/233767/crop5db03cbc075aa.jpeg?f=community)
:strip_icc():strip_exif()/u/174878/SCKnightMicro.jpg?f=community)
:strip_exif()/u/85941/crop6aa41029bc4ad_cropped.gif?f=community)
/u/367878/crop68203cf741501_cropped.png?f=community)
:strip_exif()/u/9676/12.gif?f=community)
:strip_icc():strip_exif()/u/176527/crop62429881447d2_cropped.jpg?f=community)