Home   2026-10-22 19:56:51

←

OpenAI-agent stal zonder toestemming cryptovaluta op testnetwerk

Original article

OpenAI beweert dat een agent tijdens een test inbrak in een cryptowallet, terwijl dat niet tot de opdracht behoorde. Het model zou daarbij testcryptomunten hebben gestolen. Deze hebben geen echte waarde.

Het GPT-5.6 Sol-model kreeg in juni de taak om een cryptohandelsplatform live te zetten op Sepolia, een testversie van het ethereumnetwerk, schrijft OpenAI. Om dat te doen, had de AI-agent wat testcryptomunten nodig. Die zijn online gratis verkrijgbaar, maar het model kon ze niet vinden. Daarom zou het geprobeerd hebben om munten van een ander account te stelen.

De AI-agent schreef volgens OpenAI een script om veelgebruikte herstelzinnen, of seed phrases, te genereren. Deze bestaan uit een aantal woorden waarmee gebruikers hun toegang tot een cryptowallet kunnen herstellen. Zo kreeg de agent toegang tot 362 accounts. Een daarvan had voldoende testethereum om de taak te voltooien, dus dat geld gaf de agent uit.

ChatGPT. Bron: SOPA Images/LightRocket

De agent gaf in zijn verslag niet toe dat hij had ingebroken bij een account en diens munten had gestolen. Dit heeft niet tot echte schade geleid, want de munten van Sepolia zijn enkel bedoeld om te testen en hebben dus geen echte waarde. Wel heeft OpenAI naar aanleiding van dit incident de beveiliging aangescherpt om te voorkomen dat agents tijdens dergelijke taken toegang hebben tot het internet.

Zoveelste incident door een AI-agent

Het incident vond plaats in juni, maar OpenAI maakt dit nu pas bekend. Het bedrijf doet sinds het incident rond Hugging Face in juli ​​​​​​ al onderzoek naar eerdere incidenten van zijn agents. Daarbij blijft het maar nieuwe voorbeelden vinden van modellen die handelden op manieren die OpenAI niet snapt.

Door Kevin Krikhaar

Redacteur

Feedback • 17-10-2026 11:37 114

17-10-2026 • 11:37

114

Lees meer

Reacties (113)

Los van of dit moet gebeuren of niet, ik vind dit statement ook verbazingwekkend: "Deze bestaan uit een aantal woorden waarmee gebruikers hun toegang tot een cryptowallet kunnen herstellen. Zo kreeg de agent toegang tot 362 accounts."

Passphrases zijn er toch voor gemaakt dat ze niet (snel te kraken) moeten zijn? Betekent dat dat dit concept (zo) kwetsbaar is? Zo ja, dan heeft dat nogal wat impact namelijk voor mijn gevoel
Ah, ik weet dit misschien. Dat er 362 "accounts" waren, betekent denk ik alleen dat het een correcte lijst van 12 woorden heeft gegenereerd.

Ik heb laatst namelijk wat experimentjes gedaan om te kijken of ik LLMs wat seed phrases kon laten genereren op verschillende manieren, en veel hiervan (aangezien hij ze echt probeert te laten lijken), komen uit verschillende tutorials, documentatie of voorbeeldjes. Sommige hiervan "werkten" en voldeden dus aan de eisen om een geldige mnemonic te zijn. Sommige van deze voorbeeldjes zijn daadwerkelijk wel eens gebruikt door iemand en hadden wel transacties gehad (maar waren inmiddels allemaal leeg).
Ja voor een mens. Je moet alles dataminen. Om tot een zin te komen met logica.

De zinnen zijn dus wel te herleiden ook voor hackers. Je zoekt bijvoorbeeld een naam op met Facebook account met op adressen, met forums die bezocht worden. Als je alle data hebt (je kan het met social engineering doen) Is een zin makkelijk te maken. Voor een mens kost dat veel teveel tijd. (En is het niet logisch want je weet niet of er 1 of 1000 crypto in zit) Voor wat hij er mogelijk voor terug krijgt. Voor een AI niet. Als Joe veel op bloemen forums zit en madeliefjes kweekt zal zijn zin niet zijn: ik wil alle madeliefjes dood hebben met roundup. Het zal ook niet zijn: madeliefjes houden niet van round-up en daarom zou het verboden moeten worden. Het zal eerder zijn: ik houd van madeliefjes.

(En gezien het een test netwerk is zal een andere AI waarschijnlijk de zinnen gemaakt hebben, maar dat laat ik even buiten beschouwing)

Handigste is dus niet goede zinnen te maken. Je moet ze dus wel onthouden. Maar "huodt matelievjes ik " Klopt van geen kant kwa zinsopbouw helemaal met speciale tekens en cijfers erbij. Maar de kans dat het geraden wordt is klein. Punt is dan weer wel dat er een modus operandi op gaat treden ergens. (Zo zal een AI dit voorbeeld ook zien en bij mij gaan gebruiken)

[Reactie gewijzigd door rob12424 op 17 oktober 2026 14:22]

Alleen zijn seedphrases geen passphrases, maar een entropy-engine van (meestal) 12/18/24 woorden uit een beperkte lijst van 2048 die je 'met dobbelsteenworpen' selecteert.

Maar als je op een testnetwerk bekende voorbeelden gebruikt, kan een LLM die voorbeelden testen op activiteit. Of bijvoorbeeld door woorden op alfabetische volgorde te testen, of andere zero- tot low-entropy seedphrases. Dat zijn de 'accounts' die 'gevonden' zijn. Een seedphrase hoort chaotische willekeur te hebben; letters van woorden husselen heeft vaak lagere entropy dan een echte random seedphrase, puur door de lengte van de 'beschikbare letters' (2048). Je maakt een echt random ww met 2048 letters ipv maar 95 basically.

Gewoon GEEN zinnen maken en ook niet zelf woorden voor je seedphrase kiezen, net zoals dat 'random op je toetsenbord tikken' voor een wachtwoord van 10 tekens nog tot enorm veel dezelfde wachtwoorden leidt, tegenover elk van de tekens die je bepaalt met 10 worpen met 10 dobbelstenen (en zelfs dat is nog matige entropy als je dat slecht doet).

Een wachtwoord van 12 tekens uit alleen a-z komt op ongeveer 56 bits entropie. Met hoofdletters, cijfers en symbolen (~95 tekens) kom je op 79 bits. Dat klinkt sterk, maar mensen kiezen patronen en patronen zijn geen entropie. Patronen zijn kraakbaar.

Maar een echte BIP39 seedphrase van 12 willekeurig gekozen woorden uit 2048 levert 128 bits entropie op (132 bits aan data inclusief checksum). Dat is niet "iets beter", dat is een fundamenteel andere orde van grootte. Elke stap omhoog (18 woorden = 192 bits, 24 woorden = 256 bits) verdubbelt de zoekruimte keer miljarden. Wat je beschrijft werkt alleen bij low-entropy seeds (bekende zinnen, alfabetische lijsten, tutorials), niet bij echte random seeds. Ook 24 random tekens uit 95 is "maar" 158 bits entropie.

En dan is er nog de 13e, 19e of 25e "woord": dat is geen woord uit de lijst, dat is een passphrase! En elk van de praktisch oneindige mogelijkheden aan extra "woord" dat oneindig lang mag zijn (de hardware is de limiet) creëert een compleet andere account/wallet. Maak die ook nog eens echt random (kort is oke lang is natuurkundig onkraakbaar) en je bent quantum-safe.

TLDR: Seedphrases dwingen entropie af omdat het een veel grotere tekenset die echt willekeurig gekozen worden dan abc 0-9 + leestekens en de menselijke patronen die ze doorgaans hebben om het onthoudbaar te maken. 24 hele woorden onthouden is best goed te doen! Maak jij echt een random lang wachtwoord dan is dat ook gewoon zo veilig als seedphrases maar seedphrases maken het een makkelijke standaard in een high stakes omgeving (finance/crypto).

[Reactie gewijzigd door TWeaKLeGeND op 17 oktober 2026 17:42]

Maak jij echt een random lang wachtwoord dan is dat ook gewoon zo veilig als seedphrases
Goede tekst, maar bovenstaande is niet correct. Het is keer op keer aangetoond dat mensen niet goed zijn in het verzinnen van willekeurige reeksen. Meestal blijven ze steken op 56 bits ofzo. Dit is een groot maar in de cryptografie-wereld bekend probleem bij bijvoorbeeld password based encryption (en een crypto-wallet is niet al te veel meer dan dat).

"Keer miljarden" voor een "stap" is natuurlijk ook niet een heel goede omschrijving, maar het geeft het idee redelijk weer.
256bit entropie van jevseedphrase PLUS je passphrase

[Reactie gewijzigd door TWeaKLeGeND op 18 oktober 2026 03:00]

Ik vind het vooral verbazingwekkend dat een paar maanden geleden dit alles nog werd afgedaan als 'marketing'... En vele Tweakers onder dergelike artikelen dat simpelweg beaamden...
Dit is toch ook wederom marketing?
Is het goede marketing? Of zijn ze gewoon dom bij OpenAI?
Dom duidelijk niet, want ze worden nu alweer overal gratis in het nieuws neergezet met een artikel over hoe enorm zelfdenkend hun model zou zijn.

Het is marketing omdat het verhaal vol met gaslighting zit. Ze doen alsof het model dingen kan doen die heel ernstig zijn, maar laten achterwege dat deze modellen letterlijk gemaakt zijn (toolgebruik komt bijvoorbeeld niet zomaar uit de lucht vallen) om taken voor elkaar te krijgen.

Details zoals de volgende maken het ook duidelijker:
"The model later wrote a script to derive accounts from common developer recovery phrases and query their balances."
Common is niet random. Het probleem van marketing is dat zaken omschreven worden op een manier die je triggert om eerst iets anders te denken dan wat het echt zegt.
"Onze technologie is zo indrukwekkend goed, dat we er geen controle over hebben."

Dat is de achterliggende boodschap die genoeg stof doet opwaaien in de media.
Alsof de hele wereld al geen AI gebruikt.
Alsof AI zonder deze hack al niet genoeg stof doet opwaaien.
Alsof ze dit nodig hebben voor extra publiciteit.

En alsof deze publiciteit niet tot rechtzaken, regulering en ellende kan leiden...
OpenAI heeft last (gehad) van de wet van de remmende voorsprong en toenemende concurrentie. Ze hebben hun IPO uitgesteld en proberen alles om hun potentiële beurswaarde zo hoog mogelijk te krijgen. Dit soort sensatieverhalen zijn gewoon onderdeel van een marketingstrategie en media-offensief.
Dat is heel makkelijk gezegd. Zal ik iets anders zeggen dat ook makkelijk is?

De IPO is uitgesteld omdat er te veel onzekerheid is over AI, mede gevoed door dit soort berichten over hacks. Er zullen rechtzaken en regulering aankomen. Gedoe en onduidleijkheid is niet wat de markt aantrekkelijk vindt. OpenAI, de markt, de investeringsmaatschappijen die de IPO begeleiden... zij willen alles behalve gedoe op dit moment.

Dus dit soort sensatieverhalen zijn absoluut geen onderdeel van de marketingstrategie...
Dus dit soort sensatieverhalen zijn absoluut geen onderdeel van de marketingstrategie...
Wat is volgens jou dan precies de motivatie van OpenAI als het geen marketing is? Hoe willen ze er beter van worden? Ik moet het eerste bedrijf nog tegenkomen dat "slecht" nieuws openbaar maakt als ze dat niet wettelijk verplicht zijn (wat bij deze test in ieder geval zeker niet het geval is).
Eerlijk? ik weet het niet.

Maar de verhaaltjes die ik hier lees... "dit is allemaal marketing", vind ik zo ongelofelijk lui.

Ik kan ook verhaaltjes vertellen.
Wat de motivatie is om dit naar buiten te brengen? Nou, bijvoorbeeld jezelf van te voren indekken? Vertellen dat dit gebeurd, dat regulering nodig is. En als er rechtzaken komen, wijzen naar de overheid... Of zorgen dat de overheid rechtzaken tegenhoudt, aangezien AI een militaire bescherming krijgen (nationaal belang).

Geen idee hoor... Maar ik vind het even plausibel als de andere verhaaltjes...
Een commercieel bedrijf in Amerika, dat uit eigen beweging om regulering vraagt... dat vind ik meer een sprookje dan een verhaal. Dat de overheid ze de hand boven het hoofd gaat houden als dat nodig is is praktisch al een gegeven (Trump is razend enthousiast over AI en bijzonder negatief over bedrijven die aangeven niet gediend te zijn van militaire toepassingen), daar hoeven ze geen publiek nieuws voor naar buiten te brengen.
Je past hier een cirkelredenering toe.

De IPO gaat niet door, "mede gevoed door dit soort berichten over hacks"? Uh? Wat? :p

Heb je gezien dat OpenAI deze berichten zelf verspreidt en dit dus zelf najaagt?

[Reactie gewijzigd door Stukfruit op 17 oktober 2026 17:08]

"Heb je gezien dat OpenAI deze berichten zelf verspreidt en dit dus zelf najaagt?"

Yep.... en misschien hebben ze er andere belangen mee dan marktaandeel winnen.
Zou dat kunnen of is dat logisch onmogelijk?
Onmogelijk niet. Het is wel een stuk onwaarschijnlijker, zeker als het gaat om een commercieel bedrijf in een jonge industrie. Marktaandeel is alles, de rest komt later of nooit.
"Marktaandeel is alles"

Eens... maar dit soort publiciteit is niet een handige manier om extra marktaandeel te winnen.

Maar goed... het is een wellis-nietis discussie aan het worden...
Geloof wat je wil geloven. Het grootste probleem in de AI-markt op dit moment is de enorme hoeveel investeringen waarvan de vraag is of er een dekkende ROI komt. Bovendien is bij veel bedrijven het geld op (als ze het al hadden) dus speelt financiering een grote rol. De afgelopen week zijn koersen (weer eens) flink ingezakt vanwege zorgen over rentestanden, inflatie en weerstand tegen de bouw van datacenters. Er hoeft ergens in de keten maar iets tegen te zitten, en de paniek slaat toe.

Dat heeft allemaal niks met zogenaamde security breaches te maken, waarvan iedere techneut snapt dat die staged zijn. Systemen doen wat ze opdragen wordt en kunnen onvoorziene dingen doen om hun doel te bereiken, maar ze gaan niet uit zichzelf systemen hacken of de wereld veroveren. AI-bedrijven hebben er alle belang bij om te doen alsof er al een soort super-intelligentie is bereikt. Dat is pure marketing.
"Het grootste probleem in de AI-markt op dit moment is de enorme hoeveel investeringen waarvan de vraag is of er een dekkende ROI komt."

100% eens.

En deze 'marketing' helpt er nul,nul bij.
Sterker... dit zorgt alleen voor ellende, rechtzaken en gedoe.
Dus is het geen marketing...

"iedere techneut snapt dat die staged zijn"

Nope, niet iedere techneut snapt dat die staged zijn. Vooral hier op Tweakers wordt er veel over getwijfeld... De rest van de wereld ziet dit inmiddels wel als een probleem...

Maar wat je zegt: geloof wat je wil geloven...
Maar wat je zegt: geloof wat je wil geloven...
Je trekt hier twee zaken gelijk: geloof als uitspraak van jou + de uitspraken van anderen.

Maar de uitspraken van mensen die het tegendeel beweren baseren het op o.a. de technische werking van het spul en de veelvuldig bewezen perverse prikkel voor het binnenhalen van de nodige financiële middelen. Daarmee wordt het zelfs nog niet doorgetrokken naar of het wel of geen marketingtruc is dus laten we dat voor het gemak even achterwege laten.

Als iets reproduceerbaar is, dan is het geen geloof meer.

[Reactie gewijzigd door Stukfruit op 17 oktober 2026 17:40]

"Onze AI kan inbreken en stelen".

Afhankelijk wie ze als klant willen is het goede of domme marketing.

Van mij mag die hele AI markt instorten, het is overduidelijk dat bedrijven en mensen niet normaal mee kunnen of ooit zullen omgaan.
Onzin...
Dit zou bijzonder slechte marketing zijn.

Mensen die denken dat dit 'marketing' is, hebben geen idee wat er gaande is met AI. En geen idee wat marketing is...

Dat je vindt dat de hele AI markt mag instorten... is een heel andere discussie. Dat moet je niet vermengen met de vraag wat AI kan of niet kan.
Natuurlijk is het marketing, hoe naïef kan je zijn. Dit is allemaal om te laten zien hoe goed die modellen wel niet zijn. En het werkt, iedereen praat over ze. Anthropic is hier ontzettend goed in. Dat jij denk dat het slechte marketing is, is denk ik meer een teken dat je nog wat te leren hebt over hoe marketing echt werkt. De associatie tussen die AI modellen en hun verbazingwekkende mogelijkheden blijft veel langer hangen dat enige negatieve connotatie tussen de modellen en het stelen van bitcoin of het hacken van een forum.


De manier waarop je dit naar buiten brengen (timing, frequentie, toenemende "ernst") staat volledig los van de andere discussie, dat AI gevaarlijk kan zijn/is. Beiden kunnen tegelijk waar zijn.

[Reactie gewijzigd door Thekilldevilhil op 17 oktober 2026 15:52]

Maar.. maar.. maar..

Iedereen praat toch al over ze?
Elk bedrijf dat ik ken gebruikt AI... en elke maand meer dan de maand er voor!

En elke student en scholier gebruikt continue AI!

De premier gebruikt het om de haverklap...
Columnisten van nagenoeg alle kranten gebruiken AI.

En jij denkt dat ze populairder worden door dit soort publiciteit? Alsof ze hier geen enkel gedonder mee krijgen? Alsof ze geen rechtzaken aan hun broek krijgen. Alsof bedrijven/overheden niet juist voorzichtiger worden door dit soort artikelen?
AI betekent niet automatisch OpenAI. Het probleem is nu juist dat bijvoorbeeld Anthropic flink wat marktaandeel van OpenAI wegsnoept.
Klopt... en jij denkt dat OpenAI aandeel terugwint door dit soort publiciteit?

Of beter gezegd: jij denkt dat OpenAI denkt dat ze aandeel terugwinnen door dit soort publiciteit?
Dat je vindt dat de hele AI markt mag instorten... is een heel andere discussie. Dat moet je niet vermengen met de vraag wat AI kan of niet kan.
Ik vermeng dat niet, dat jij dat eventueel zo had gelezen kan ik weinig aan doen.

Verder heeft @Thekilldevilhil ook absoluut een punt wat dat betreft, "slechte" marketing is nog steeds marketing ( of reclame).
"slechte" marketing is nog steeds marketing

Dit is zo'n ongelofelijke dooddoener...

Dus Shell is blij met het nieuws over de lekkende pijpleidingen in elke krant van de wereld?

Zo lui... dit soort redenaties.
Dit is zo'n ongelofelijke dooddoener...
Dat is het meeste extreme voorbeeld (zoals die van Shell) erbij halen zodat je (= jij) gelijk haalt ook.

Ook dat is "zo lui", je kan ook gewoon eerlijk zeggen "ik ben het niet met je eens" in plaats van iemand "lui" te noemen.

Geloof wat je wilt geloven, ik geloof wat ik zie erover de afgelopen jaren en baseer daar mijn mening op.

Geldt voor wat AI bedrijven doen.

Prima als jij het daar niet mee eens bent.

[Reactie gewijzigd door Mizgala28 op 17 oktober 2026 21:41]

Shell is het meeste extreme voorbeeld?

Nee hoor... er zijn nog veel extremere voorbeelden:
- AI brengt het einde van de wereld dichterbij.
- AI zorgt een nucleaire oorlog..

Allemaal goede reclame volgens het principe "slechte" marketing is nog steeds marketing?
"slechte marketing is nog steeds marketing", is gewoon een onzin argument...

Dooddoeners op het internet strooien en doen alsof het waarheden zijn... vind ik lui...
Daar mag je het mee oneens zijn.
Nou, ik ga er heel normaal mee om. Gebruik het voor software bouwen en vragen stellen.
Ik had het ook verkeerd verwoord, ik doelde vooral op de mensen bij AI bedrijven zelf (vooral mensen aan de top).
Ze geven toe dat hun agent vrij verkrijgbare testcoins niet kon vinden. Ik zou dat in ieder geval geen goede marketing willen noemen.
Is het goede marketing?
Nee, totaal niet. Als een autofabrikant zegt dat zijn auto's 400 km/u kunnen... in een persbericht dat ze soms opeens plankgas gaan als je juist op de rem trapt, dan is er niemand die het marketing noemt. Ik heb geen idee waarom die theorie in dit geval wel populair is.
Of zijn ze gewoon dom bij OpenAI?
Volgens mij heeft OpenAI nooit gezegd dat dit marketing is. Er zijn "hier" (op het Internet, niet alleen bij T.net) een boel mensen die dat denken, maar dat betekent niet dat het ook zo is. Ik vermoed dat ze dit naar buiten brengen als anti-Streisand-effect en/of om zich in te dekken.
  • (Misschien niet de beste naam; heeft iemand een betere suggestie?) Wat ik bedoel is dat het buitengewoon onwaarschijnlijk is dat ze dit onder de pet kunnen houden. Ja, als ze het nu zelf naar buiten brengen is het slechte PR. Maar als dit naar buiten komt op het moment dat het net écht fout is gegaan, dan is de schade nog vele malen groter (plus dat ze dan ook nog de "ze wisten dit allang en hebben tóch het risico genomen" problemen erbij krijgen). Door te zorgen dat iedereen allang weet dat ze geen idee hebben waar ze mee bezig zijn, is niemand straks verbaasd als een OpenAI model serieuze schade veroorzaakt.
  • Als continu blijkt dat de AI-bouwers hun modellen niet onder controle hebben, dan kunnen ze straks iemand anders de schuld geven. "Ja okee, het was ons model dat schade veroorzaakte, maar we hebben ons aan alle wetten en regels gehouden, dus deze schade is de schuld van de politici die geen betere wetten hebben aangenomen." (Noem me cynisch als je wil.)
eens...
en dat is wat ik hier ook duidelijk probeer te maken...
Dat komt omdat die AI bazen in het verleden dit gedaan hebben en dat ze er nu ook belang bij hebben. Makkelijk is om achteraf te oordelen.
Achteraf oordelen is altijd makkelijk.

Maar met de huidige kennis, moeten mensen dan ook toe kunnen geven dat AI daadwerkelijk gevaarlijk is... en dit soort artikelen niet alleen marketing zijn...
Behalve dan dat AI hier een tool is.

Je kan zeggen dat een mes gevaarlijk is omdat het mensen kan vermoorden als het verkeerd valt of wordt gegooid, maar het mes doet zelf weinig.

Probleem van gevaar toewijzen aan een stuk gereedschap is dat je ophoudt met het verantwoordelijk houden van de partij die het daadwerkelijk misbruikt.
Het kraakte test wallets zonder waarde. Ik weet zelf dat ik voor test setups in UAT setups vaak gewoon iets doe als wachtwoord "password". Dus het zal zoiets hebben geprobeerd en wat hits hebben verkregen. Dus, nee, AI kraakt niet ineens production grade passphrases op crypto wallets, en nee, het is geen gevaar.

[Reactie gewijzigd door Zoijar op 17 oktober 2026 12:04]

Dus, nee, AI kraakt niet ineens production grade passphrases op crypto wallets, en nee, het is geen gevaar.
Een nogal voorbarige conclusie zonder de details te kennen. Omdat JIJ iets doet, zegt dat niets over deze specifieke accounts.
Als het SHA256 gekraakt zou hebben dan zou het nieuws heel wat opmerkelijker zijn. Dus we kunnen wel redelijk concluderend at het gewoon een slecht gegenereerde seed phrase was, puur voor het opslaan van waardeloze test coins.
De aanname dat de AI even 362 accounts kan hacken die goed beveiligd waren met een passphrase is vrij absurd. Dan was dit megagroot nieuws geweest. Testomgevingen zijn op de meer dan 10 bedrijven die ik ben tegengekomen als softwaredeveloper vrijwel altijd niet beveiligd of met dummy passwords zodat iedereen kan testen...
Dat vond ik inderdaad een opmerkelijk stuk van het artikel/de uitleg.

‘Veelgebruikte seed phrases’ bestaan in theorie niet. Die horen willekeurig gegenereerd te worden, tenzij je dus inderdaad zelf een seed phrase verzint die door de woordkeuze makkelijk te onthouden is. Ik denk dat dat bedoeld is.
Let wel, in het bronartikel wordt gesproken over "known developer recovery phrases" - ik wil daar de nadruk op 'developer' leggen. Klinkt mij als een lijst met bekende test-credentials?

Verder is dit puur marketing en beeldvorming:
This case shows that a model can substitute its own judgment about likely harm for the account holder’s permission, then act on that judgment without authorization.
Alles om maar aan te tonen dat we in het AGI-tijdperk zitten. Zucht.
Niet vergeten: test-chain.
Goede kans dat gebruikers daar wat minder zorgvuldig zijn en "seedphrase 123" als wachtwoord nemen, terwijl hun 1M€ "echte" wallet fatsoenlijk diceware doet.
Sure, maar correct horse battery staple zou ik bijvoorbeeld niet gebruiken.
Test netwerk met waardeloze munten. Gok dat de passphrases niet echt ingewikkeld waren.
Veel developers gebruiken blijkbaar dezelfde reeks woorden voor testen. De AI agent heeft hier actief naar gezocht en vervolgens zelfstandig de private keys afgeleid uit deze 'seed phrases'. Deze seed phrases 'slingerden' dus ergens rond in de voor de AI agent beschikbare trainingsdata.

Deze seed phrases horen daar natuurlijk niet in thuis. Sterker nog, sommige mensen maken foto's van seed phrases en slaan deze op in bijvoorbeeld Google Photos. Ik zou hier toch mee gaan op passen.
Ik begrijp soms echt niet dat AI nog niet aan banden wordt of is gelegd. AI doet aldoor dingen die voor mensen criminele activiteiten zijn... (Hacken, stelen, non informatie verspreiden bv)

Dit kan toch niet zo doorgaan?

Snap niet dat en hoe de grote AI bedrijven hiermee weg blijven komen?

[Reactie gewijzigd door Format-C op 17 oktober 2026 11:45]

Dit hele artikel is een gevolg van PR. OpenAI heeft een LLM gedraaid en de input/outputflow toegang gegeven tot allerlei informatie als dat wordt gepoogd. Vervolgens hebben ze de equivalent van "make no mistakes" aan de instructies toegevoegd.

Zoals gisteren, vorig jaar, en vijf jaar geleden, volgen LLM's niet alle instructies. Dat was het nieuwsartikel.

OpenAI heeft de magische bestanden die ze geplaatst hebben op een plek waar de machines bij kunnen deze keer in de vorm van een cryptocurrencywallet neergezet. Dat levert weer lekker veel nieuwscycli op, staan ze weer opdde voorpagina van iedere technieuwspublicatie, levert weer investeerders op.

De grote boze AI doet niets want een AI kan niets doen. De mensen achter OpenAI zitten hun servers te porren om te kijken wat er gebeurt.

Zie ook hoe ieder groot Ai-bedrijf in Amerika oh zo hard roept dat we moeten stoppen met ontwikkelen en regels nodig hebben en dat we allemaal dood gaan, maar ondertussen wekelijks nieuwe trucs en modellen publiceren. Mocht er een keer een model iemand hacken die niet onder één hoedje speelt en aangifte doet voor de cybercriminaliteit die deze multinationals "per ongeluk" bedrijven, kunnen ze dan mooi roepen "zie je nu wel! We hebben om regels gevraagd, we kunnen er niets aan doen!" en met hun onzin wegkomen.

Deze hele "we gaan allemaal dood aan AI"-nieuwscyclus is een marketingmechanisme. Zodra de invoer van nieuw investeerdersgeld stopt, klapt de bubbel, storten deze bedrijven in, en raken miljoenen mensen grote delen van hun pensioen kwijt terwijl de aandelen kelderen.

[Reactie gewijzigd door GertMenkel op 17 oktober 2026 14:26]

Als AI en datacenters je enige economische groei is in een gestagneerde economie wil je dat natuurlijk geen strobreed in de weg leggen.

De astronomische bedragen die ermee gemoeid zijn maakt dat iedereen die ertoe doet erbij gebaat zijn dat dit doorgaat.
Maar niet als je groei door te stelen van cryptowallets is, lijkt me eerder de doodssteek.

Wordt tijd dat deze bedrijven de strafmaat leren kennen van bewust stelen.

edit; Het wordt nm ergens ingesteld, of niet.

[Reactie gewijzigd door GameNympho op 17 oktober 2026 12:27]

Het lijkt een beetje op social media platformen die nu langzaam aan pas een vorm van regulering krijgen. Terwijl AI veel openlijker over de schreef lijkt te gaan.

Je ziet ook pas dat sinds kort de gewone (niet tech) media zich een beetje mee lijkt te bemoeien.

Ik denk dat het eerst grootschalig mis moet gaan voordat er echt iets gebeurt. Dat is nu eigenlijk al maar niet voor de gemiddelde mens.
Dat is precies wat de AI boeren willen. Als de overheid hun business aan banden gaat leggen kunnen ze gaan praten over compensatie en verwikkeling. Hetzelfde waarom facebook government regulated wilde worden. Het is niet zo dat een overheid dit aan banden kan of wil leggen. Het is ondertussen gewoon een wapen. De overheid gaat ook niet tegen lockhead martin zeggen dat ze minder verwoestende wapens moeten maken. Het positieve wat hiervan kan komen is dat we minder digitale content gaan consumeren in onze zoektocht naar echtheid en ruimte om niet bedonderd te worden en voor een karretje gespannen te worden van een politicus, ngo, etc. Professioneel is het misschien lastiger maar verder hebben we zelf in de hand wat en hoe we ons laten beïnvloeden.
Dit gaat niet zo zeer om AI, maar om AI agents. Die agents zijn vooral het probleem omdat ze zelfstandig taken mogen uitvoeren op andere systemen.

Ik maak ook gebruik van een AI agent tijdens ontwikkel werkzaamheden maar de kaders waarin de agent werkt zijn zeer specifiek. Bij het uitvoeren van een script moet je eerst toestemming geven bijvoorbeeld.

Bij deze tests van Open AI gaan ze een stuk verder blijkbaar door de agents weinig harde beperkingen op te leggen. Zolang dat in een afgesloten netwerk gebeurd, niks aan de hand. Maar dat doen ze niet en dat lijkt me wel kwalijk.

Kijk naar de medische wereld waar werken aan (dodelijke) virussen onder zeer strikte werkomstandigheden gebeurd in een totaal geïsoleerde ruimte.
Ze moeten gewoon de bedrijven achter de agent aansprakkelijk maken voor de acties van de agent, ze zullen dan wel snel strengere regels implementeren.
Ik denk dat je het militair potentieel van AI nog niet begrijpt. Dit is een race vergelijkbaar met de koude oorlog. De VS toont graag wat ze kunnen.
Dat zou Trump dan moeten doen. Snapt u het nu? 😉
Probleem is, je kunt AI niet aan banden leggen, net zo min als dat je de mensheid aan banden kunt leggen. Doe jij je AI volledig aan banden leggen, dan is er altijd wel iemand die een versie bouwt (zoals bepaalde 'veiligheids'diensten van een overheid) die niet aan banden ligt. Ook komt er dus een moment dat je AI niet aan banden kunt leggen omdat het zichzelf van die banden verlost, net zoals dat bij de mensheid gebeurt.
De vraag is eigenlijk: "Kan AI aan banden gelegd worden?" En het antwoord is "Nee." AI heeft geen mores, en als we die aan AI geven, dan verwijdert AI die ws uit haar eigen code.
Dit is geen marketing. Of je hebt een hele specifieke doelgroep die van hacken en misbuik zijn beroep heeft gemaakt.

Dit is volgens mij de zoeelste waarschuwing dat het met AI niet de goede kant op gaat. Dit is namelijk ook slechts wat er publiekelijk bekend is/traceerbaar is geweest.

Mijn stelling staat nog steeds (and prove me wrong):

Als je een intelligentie maakt die by design slimmer is dan menselijke intelligentie dan is deze nooit te controleren en te beheersen door de mens.

Doemdenken? Misschien. Maar kun/wil je hier een risico mee nemen dat er bewezen wordt dat de stelling klopt? Er is dan geen weg terug meer....
Dit is marketing. Zijn “rogue” agents gevaarlijk? Ja. Is dit marketing? Ja.

OpenAI en Anthropic willen heel graag gereguleerd worden om zo de markt te blokkeren voor nieuwkomers. Dit soort berichten helpen bij dat doel.

[Reactie gewijzigd door eggsforpedro op 18 oktober 2026 01:09]

Is het niet gewoon om de AI race proberen te stoppen. Momenteel geven ze veeeeel meer geld uit dan ze kunnen genereren, ieder kind kan zien dat dit niet kan blijven duren… ze zijn naar mijn mening nu het slachtoffer aan het worden van wat ze zelf gecreëerd hebben. Daarmee bedoel ik niet de AI maar wel de economische bubbel…. Wacht tot die barst…

En wat betreft nieuwkomers… wie dan…. Kijk een op huggingface, er zijn al zoveel AI modellen beschikbaar en niet iedere oplossing is geschikt voor AI modellen van bvb OpenAI. Veel oplossingen zijn veel beter af met lichtere en andere soort modellen. Bvb voor AI voor zelfrijdende auto’s is GPT gewoon te zwaar en nutteloos….
Waarom zou dit helpen? Niemand in cybersecurity zit te wachten op ongevraagde acties van agenten die tot incidenten leiden. Dat is wel het laatste wat je wil als je klanten aan het testen bent.

In het begin was het even leuke maar nu is het een groot risicofactor waardoor bedrijven eerder overslaan.
Of je hebt een hele specifieke doelgroep die van hacken en misbuik zijn beroep heeft gemaakt.
Investeerders. Die geven weinig om de 'misbruik' aspecten. Technologie met potentie, daar kan geld aan verdiend worden, dus steken we daar geld in. "Oh nee, ons model kan zelf bepalen wat wel en niet acceptabel is en daarop bepalen wat het gaat doen!".

Juist. En dat drie maanden laten sudderen voordat je het door hebt, waarna je nog een maand neemt om een rapportje te schrijven voor de buitenwereld waar de uitkomst een aanpassing is wat niet eens gerelateerd is aan dit fenomeen. Nee. Dit is gewoon weer 100% marketing.

En we slikken het weer als zoete koek.
Natuurlijk is dit marketing, marketing gericht op investeerders.

Het gaat over gekende developer accounts. Nobody in his right mind gebruikt zulke accounts publiek zonder te beseffen dat die funds kunnen verdwijnen, zelfs op een testnet.

Bovendien weten we, kort door de bocht, nog altijd niet hoe zo'n taalmodel werkt, het doet maar wat. Dikwijls lijkt de output op iets wat we willen (ik gebruik het dagelijks). Echter, soms doet het wat een professionele developer niet zou doen. Wij maken een oordeling over alle output, zo een model kan geen oordeling maken, het genereert output.
Het gaat over meer dan LLM (taal modellen). De ChatGPT's van deze wereld zijn het gevaar niet: YouTube: AI Whistleblower: "They Are Hiding What Is Really Happening" | Jeffrey Ladish

en YouTube: AI Whistleblower: "They Are Hiding What Is Really Happening" | Jeffrey Ladish

Negeer de titels, de content is heel duidelijk.
De lui aan de top van die AI bedrijven hebben zelf geen morele grenzen. Het valt dan ook niet te verwachten van de "agents" die ze de wereld in brengen dat wel hebben. Men test de grenzen van het toelaatbare door die te overschrijden.

Uitspraak (vrij vertaald) van Sam Altman: "... dat veel mensen hun baan gaan verliezen en dat er soms wat mis gaat, dat moet dan maar. Je krijgt er wel heel goed verdienende bedrijven voor terug".
Te meer omdat de mens AI voedt met informatie, informatie en informatie...

De enige weg terug is de stekker trekken uit de datacenters. Dat is vooralsnog de bottleneck. Maar Musk wil toch datacenters in de ruimte?"

Zodoende wordt het AI Alignment-probleem groter en groter.....

Ik schreef dit ook mbv AI maar met mijn zienswijze als input.
Zodra die agenten echt vrij zijn op het internet zijn we denk ik wel klaar als mensheid. ze kunnen doen wat ze willen. kan mijn geld beter contant bewaren zo :)
Als mensheid misschien niet. Maar het internet is dan wel definitief kapot.
Als je contact geld geen gouden munten zijn, wordt de waarde door AI bepaald wanneer ze alle banksystemen overnemen.
OpenAI klinkt als een vader die trots is dat z'n kinderen kattekwaad uithalen.
Inderdaad ze doen heel stoer maar als je er doorheen kijkt is het eigenlijk heel zielig.
Ik zie in hun statements over dit soort incidenten echt geen hint van trots. Ik snap niet waar mensen dat vandaan halen.
Als software iets doet wat het niet moet doen heet dat een bug. Is elke bug van OpenAI nu nieuws?
Dit klinkt meer als een bug in die cryptowallet, zoals ik het lees.
"Kijk eens hoe slim mijn kind is: hij heeft zelf besloten lunchgeld te stelen van een ander omdat hij liever iets uit de kantine haalt dan dat ie z'n eigen lunchtrommel leeg eet!"

Dat soort ouders zouden verketterd worden maar AI bedrijven die praktisch hetzelfde doen mogen maar hun gang blijven gaan. Ik gebruik ook AI, maar dit soort zaken maken met enorm huiverig voor de toekomst.
Op zich is dat nog niet spannend van ai, maar het dan proberen te verbergen zegt eigenlijk veel meer.

Het systeem “ wist “ dus dat het verkeerd bezig was.
Als het wist dat het verkeer bezig was, moet dan ook niet weten wat inbreken in andermans data of een brute force attack is?
Als het zo geprogrammeerd of geleerd is, is het niet echt een toonbeeld van ethiek, zeker als je de mogelijkheden van een moderne AI of de gevolgen hiervan in ogenschouw neemt.
Of waren ze vergeten het bestandje /etc/be_ethical aan te maken voor deze test? :9
...terwijl dat niet tot de opdracht behoorde
Tuurlijk. Weer een nieuws-item om niets.
Om dat te doen, had de AI-agent wat testcryptomunten nodig. Die zijn online gratis verkrijgbaar, maar het model kon ze niet vinden. Daarom zou het geprobeerd hebben om munten van een ander account te stelen.
Dus de veruit meest eenvoudige optie kon het al machtige model niet vinden, maar een heel aantal wallets welke geopend konden worden met wat veel-voorkomende herstelzinnen kon het model wel?

Pressing [x].

Iedere keer als ik hun modelletjes gebruik dan moet ik ze echt aan de hand meenemen, anders gebeurt het gewoon niet. En daar kan ook een hele lading context onder vallen trouwens. Ik geloof er niet zoveel van dat dit een zelf-'bedachte' actie was.
oh gelukkig... Toch nog iemand die dit alles afdoet als 'marketing' en 'onzin'.

Een paar maanden geleden stond in de artikelen over hackende ai dat het vooral marketing was. En 60% van de reacties was het daarmee eens.

Maar inmiddels zijn die Tweakers de verre minderheid. Het kan snel gaan : )

Ik zou zeggen: hou moedig stand @eric.1 !
(En ik ben benieuwd wanneer jij wel een keer gaat geloven dat hackende AI/ai-agents een probleem zijn...)
Ik denk dat je iets in mijn tekst leest wat er niet staat. Ik zeg niet dat modellen niet veel kunnen. Dat kunnen ze. Maar dat konden we voorheen ook met automatisering ... geautomatiseerde aanvallen bestaan al een tijdje.

Waar ik op ageer is de beeldvorming van deze bedrijven. Het doel van dit artikel is niet zo lastig te doorgronden:
This case shows that a model can substitute its own judgment about likely harm for the account holder’s permission, then act on that judgment without authorization.
Hun modellen kunnen dus, volgens hun, een oordeel vellen over de impact van hun acties en zodoende hun richting bepalen. Een beeldvorming wat richting AGI neigt. En daar zitten we echt nog niet.

Maar, dit hele evenement stamt dus uit Juni. Het is opgemerkt in September. Om nu in een artikel te verschijnen. Mhm, ja, en hoeveel meer 'incidenten' hebben zich voorgedaan door dit gat in aanpak? ...dat kan niet 0 zijn als de modellen zo slim zijn als ze ons doen voordoen. Maar daar wordt niet over gesproken...

In andere woorden: laten we gewoon kritisch blijven kijken naar alles wat zulke bedrijven delen en de wereld in slingeren.
excuus als ik het verkeer lees.

Maar volgens mij zit het probleem in de 'agents' die aangestuurd worden door een LLM. En die opdrachten worden niet (altijd) door een mens gegeven. De LLM geeft die opdrachten. En volgens mij gaat het daar het probleem ontstaan.

"laten we gewoon kritisch blijven kijken naar alles wat zulke bedrijven delen en de wereld in slingeren"

Eens... Maar waar ik van baal... is dat hier goede journalisten voor zouden moeten zijn. Tweakers heeft dit tijden lang als pure marketing afgedaan. Ik mis zelf de kennis om dit soort nieuwsberichten goed te kunnen doorgronden. Ik volg wel zat andere sites over deze onderwerpen. Maar veel is boven mijn kennisniveau.

Ik hoop dat Tweakers m.b.t AI iets gaat opplussen....
terwijl dat niet tot de opdracht behoorde
De opdracht: "Verkrijg wat test munten, kijk maar even hoe je dat doet. Overigens, totaal ongerelateerd, staan er ook wat test wallets toegankelijk op het netwerk"

Zoveelste nieuws: "Oh nee! AI hacked crypto!"
Toch blijf ik het raar vinden dat crimineel of ongewenst gedrag als een soort bewijs van hoe slim ons model is.

Geen CEO zie ik met een knalrood hoofd op tv zich kapot schamen dat zijn product ontembaar gedrag vertoont en dat de kooi deze keer geen gaten had. Nou ja, ze konden geen gat vinden maar dat lijkt niet aan te geven dat er geen gat was.

Zou wel het einde zijn van alle Bitcoins als een AI de publieke/private sleutels weet te compromitteren.

Om te kunnen reageren moet je ingelogd zijn