Home   2026-10-22 19:56:51

←

Meta's Muse Spark Open-model draait op twee Mac Studio's met M5 Ultra

Original article

Meta komt met een nieuw large language model (llm): Muse Spark Open. Dat model bestaat uit ruim 800 miljard parameters en kan draaien op twee Mac Studio's met M5 Ultra-chip. Muse Spark Open is direct beschikbaar.

Meta heeft de weights van Muse Spark Open beschikbaar gesteld via Hugging Face. Volgens de techgigant is dit het krachtigste Amerikaanse AI-model met open weights tot nu toe.

In verschillende benchmarks vergelijkt Meta zijn nieuwe model met modellen als Mistral Large 4, Qwen3.8-2.4T-A95B, GLM 5.3 en Kimi K3. In veel benchmarks staat Muse Spark Open bovenaan, hoewel de voorsprong per test verschilt. Bij programmeren komt Kimi K3 beter uit de verf.

Het model is speciaal geoptimaliseerd om op Apple-hardware te draaien. Het forse model telt in totaal 816 miljard parameters, waarvan er 42 miljard actief zijn. Het contextvenster biedt ruimte aan een miljoen tokens.

Muse Spark Open draait dan ook niet op iedere machine. Meta zegt dat twee geclusterde Mac Studio's, elk met 512GB geheugen en een M5 Ultra, het complete taalmodel lokaal kunnen draaien. Het 512GB-model van de Mac Studio is nu nog niet beschikbaar, maar zou binnenkort moeten verschijnen.

Hoewel het model dus is geoptimaliseerd voor Apple-hardware, werkt Muse Spark Open ook gewoon op andere platforms. Het model kan lokaal draaien of via gehoste clouddiensten worden gebruikt. Voor Nvidia-hardware komt ook een aparte NVFP4-variant beschikbaar.

Meta Muse Spark Open. Bron: Mark Zuckerberg (via X)
Meta Muse Spark Open draaiend op twee Mac Studio's. Bron: Mark Zuckerberg (via X)

Door Daan van Monsjou

Nieuwsredacteur

Feedback • 16-10-2026 12:25
91 • submitter: Coen

16-10-2026 • 12:25

91

Submitter: Coen

Reacties (91)

Ik heb weliswaar een ICT diploma en dat hele gedoe met AI gaat mijn pet niet helemaal te boven. Ik kijk niet over de mooie dingen die het kan doen, en ben toch nog steeds slechts een voorzichtige voorstander van de technologie(maar niet voor hoe de bedrijven erachter werken, omdat ik de strategie niet echt snap).

Echter, wat ik niet begrijp, is dat software vroeger closed source was om de broncode te beschermen en er geld uit te halen. Hoe willen deze bedrijven nog geld gaan verdienen als hun meest geadverteerde functies gratis te downloaden zijn?

Ik zou zelf in de eerste instantie denken aan o.a. bait-and-switch maar dan geef je geen product gratis weg zonder "expiration date" oid, toch?

Is het doel van de Amerikaanse bedrijven om iedereen afhankelijk te maken van AI wetende dat het waarschijnlijk niet goed komt en de grote bedrijven daardoor de kleine voor aanzienlijk goedkoop over kunnen nemen?

Kan zijn dat het ochtend is en mijn brein het even niet wil verwerken, maar kan iemand hier duidelijkheid in scheppen? Zonder het begrijpen van de kwestie weet ik namelijk niet of en hoe ik het kan gebruiken.
Een Open source model maken kweekt goodwill. Zorgt dat je bekend wordt in de community. Als het een goed model is zullen bedrijven het ook wel willen gebruiken, maar dan alleen in de cloud versie. Die dan alleen via hun te verkrijgen is.
En door gebruik van het model door de community, worden er ook allerlei dingen mee gedaan, waar men weer van kan leren en nieuwe modellen van/voor kan maken.
En ook belangrijk: de meeste LLM onderzoekers vinden een open houding belangrijk. Naast zichtbaarheid in de community, kun je er dus ook nieuwe onderzoekers mee aantrekken.

Plus het is voor Meta niet hun primaire inkomstenbron. Ze maken er zelf gebruik van en bieden wat functionaliteit in hun apps aan. Maar de focus ligt toch echt aan mensen naar hun apps-vol-reclame te brengen.
Openweigh =/ Opensource.

Eli5 voorbeeld.
Openweigh = welke ingredienten heb je gebruikt voor je gerecht.
Opensource = Welke ingredienten + recept! heb je gebruikt voor je gerecht.
Hoe willen deze bedrijven nog geld gaan verdienen als hun meest geadverteerde functies gratis te downloaden zijn?
Niet, minder, of uit support. Paardenverkopers konden ook klagen toen de auto kwam.
Bedrijven betalen niet alleen voor het product, maar ook de support er omheen. Wie lost het probleem op als vibe-codende-Henk-van-financien op vakantie is en zijn tooltje een issue heeft?
Als vibe-codende-henk op vakantie gaat neemt vibe-codende-gerda van HR dat toch gewoon over? :)

Maar voor de rest denk ik idd dat ze geld willen verdienen met support, net als vrijwel alle open source. Of met licenties. Open Source wilt niet zeggen dat je het voor alles maar gratis mag gebruiken.

Nou is een m5 ultra met 96gb zo'n 6000 euro. Dus met 512gb zal die wel zo'n 18.000 euro zijn en je hebt er 2 nodig. Dat hebben de meeste thuisgebruikers niet zo liggen gok ik :P

En dit nieuwsbericht lijkt wel gemaakt voor Apple als reclame, want als ik bij Apple de m5 Ultra wil bestellen (of alleen naar de configurator toe wil), dan krijg ik de melding dat ik te vroeg ben en dat de verkoop pas om 1400u begint.
Als je aan DNB vertelt dat je hele kritieke infrastructuur op software van vibe-codende amateurs draait krijg je denk ik toch echt wel bezoek en een rapportje of aanwijzing. Een beetje met AI aanrommelen is leuk en handig voor bepaalde software, maar lang niet voor alle.
krijg je denk ik toch echt wel bezoek
Straks krijg je gewoon bezoek van een AI Agent van de DNB die de verificatie en validatie doet ;)

[Reactie gewijzigd door hiostu op 16 oktober 2026 14:57]

En ook die zal je een slechte score geven als Henk maar wat aanklooit met kritieke infra vibes.
De M5 Ultra stond dus nog niet op de website voor 1400u vandaag bij Apple.com/nl, die was er pas om 1400u. Ik weet niet waar je de prijzen vandaan haalt maar ik zie op de apple website staan dat de 512GB pas eind oktober verkrijgbaar is en daarom nog niet in de configureer site staat en dus nog geen prijs heeft. De versie met 256GB is 12.479 euro (maar daar kun je dit niet op draaien). Verschil met 1 level eronder (96GB) is 4400 euro, dus dan kom je bij de lijn doortrekken op 16.979 euro (maar ik gok dat de 512GB nog iets duurder zullen zijn). Daar moet je er vervolgens 2 van hebben.

[Reactie gewijzigd door SunnieNL op 16 oktober 2026 15:21]

Ok dan heb ik dinsdag precies die prijs gehallucineerd naar een collega, dat is mogelijk maar volgens mij stonden de Ultras er al een week op. Levertijd bij mij is trouwens December.
edit:
ik zie al waar het fout gaat de 512GB versie, ik bedoelde de 256GB versie voor 11.049

[Reactie gewijzigd door GewoonWatSpulle op 16 oktober 2026 16:32]

Dan heeft het management van dat bedrijf het niet goed begrepen en dreigt te verzuipen. Zo ook ten tijde van de opkomst van personal computers.
Hoe willen deze bedrijven nog geld gaan verdienen als hun meest geadverteerde functies gratis te downloaden zijn?
Door jouw data te verkopen en gebruiken
Dat gaat niet lukken met een model dat ze gratis weg geven om op je eigen computer te draaien heeft geen enkele mogelijkheid tot tracking.

Het is in het safetensors bestandsformaat, geen binary. Dus geen mogelijkheid tot achterdeurtjes software voor data collectie of tracking.

[Reactie gewijzigd door djwice op 16 oktober 2026 14:00]

Uhm hoe dan? Je download het bij huggingface en het model draait lokaal. Welke data krijgt meta of alibaba dan? Het enige dat ik kan verzinnen is concurrentie uit de markt drukken. Dus als iederen open qwen gebruikt (of muse of een andere) dan betalen ze niet voor claude of openai. Daarbij bieden ze die modellen ook gehost aan, waar ze natuurlijk wel wat aan verdienen. Dus ik vermoed dat het is en meer niet.
Er wordt nu ook al weinig verdiend aan 'software' als eindproduct volgens mij, bijna al het geld dat rondgaat in de software-industrie komt uit combinaties van dienstverlening, fysieke producten, en de software die je erbij nodig hebt. Er zijn nog maar weinig software producten waar je 1x voor betaalt en daarna geen enkele relatie, interactie of afhankelijkheid van de leverancier hebt.

Als je bijvoorbeeld naar software als die AI clones van Adobe producten kijkt, ik denk niet dat er veel bedrijven zijn die gaan switchen van Adobe af naar dat soort software, en/of hun eigen Adobe clones gaan programmeren. Je koopt bij Adobe namelijk niet primair de software maar de zekerheid dat de software in de toekomst onderhouden wordt, updates krijgt, support, dat je de bestanden die je er mee maakt uitgewisseld kunnen worden met iedereen die ook Adobe software heeft etc. Daar verandert de beschikbaarheid van 1001 half-werkende AI-slop clones waarvan de maker bij 80% functionaliteit de aandacht en discipline kwijt is geraakt om er een ondersteund product van te maken weinig aan.

[Reactie gewijzigd door johnbetonschaar op 16 oktober 2026 13:18]

Als je bijvoorbeeld naar software als die AI clones van Adobe producten kijkt, ik denk niet dat er veel bedrijven zijn die gaan switchen van Adobe af naar dat soort software, en/of hun eigen Adobe clones gaan programmeren. Je koopt bij Adobe namelijk niet primair de software maar de zekerheid dat de software in de toekomst onderhouden wordt, updates krijgt, support, dat je de bestanden die je er mee maakt uitgewisseld kunnen worden met iedereen die ook Adobe software heeft etc. Daar verandert de beschikbaarheid van 1001 half-werkende AI-slop clones waarvan de maker bij 80% functionaliteit de aandacht en discipline kwijt is geraakt om er een ondersteund product van te maken weinig aan.
Ik zie het bedrijf waar ik werk niet zomaar stoppen met Adobe. Maar het is wel opvallend. Veel applicaties hebben 100 functies waarvan wij maar 10% gebruiken.

Ik merk dat ik tegenwoordig bijna wekelijks in gesprekken terecht kom waar het idee langs komt om gewoon iets te laten Vibe coden voor die 10%.

Op dit moment gaan we hier voorzichtig mee om. Maar de mindset is al lang veranderd van afhouden richting klaar zijn voor het moment dat de organisatie los gaat
Als je bijvoorbeeld naar software als die AI clones van Adobe producten kijkt, ik denk niet dat er veel bedrijven zijn die gaan switchen van Adobe af naar dat soort software, en/of hun eigen Adobe clones gaan programmeren.
Die klonen zijn wat, een week geleden uitgekomen? Wat het effect is op het bedrijfsleven is nu nog niet te zien of in te schatten.

Voor veel bedrijven zoals drukkerijen, copyshops, zzp’ers die (ook) iets grafisch doen, is dat uitwisselen van bestanden op .psd, .ai etc niveau niet belangrijk. Ze geven klanten en hun drukkerijen juist met opzet alleen platgeslagen .pdf’s, jpg’s etc, om het lastiger te maken er zelf mee aan de slag gaan of verder gaan met een concurrent.
Marktaandeel, of het nou betaald is, onderbetaald of helemaal niet betaald. Dus Kevin en Melissa die hun schoolhuiswerk door "chat" halen en daarmee levenslang eraan verkocht zijn. Kleine bedrijven, niet-IT bedrijven, startups die helemaal geen tijd, geld en expertise hebben om zulke setups lokaal te draaien en onderhouden en die toch nuttige toepassing voor AI menen te hebben. Enorme multinationals, universiteiten, ziekenhuizen etc die zulke grote vraag naar AI genereren dat zij uberhaupt niet eens overwegen om het allemaal zelf te gaan doen ook al zijn de meest geadverteerde functies gratis te downloaden.

Kortom, de doelgroep die zelf aan de slag gaat met Mac Studios is volgens mij verwaarloosbaar in omvang tegenover het totale gebruik van LLMs. Terwijl marktaandeel een van de belangrijkste drivers is achter beurskoersen, dus het zal aandeelhouders een zorg zijn dat er ergens als je heel goed zoekt een open source download van hun producten draait.
Hoe lang zitten we al tegen MS Office aan te hikken en de open source evangelisten verkondigen dat <insert open source office vervanger> een complete vervanger is. Ondertussen is MS nog steeds heer en meester op deze markt en nog nooit zoveel omzet heeft gehad.

Ja, EU overheden en bepaalde bedrijven zijn nu aan het kijk naar open source alternatieven, maar dat doen ze niet omdat de open source variant exact hetzelfde kan als het betaalde ecosysteem, ze doen dat om niet langer afhankelijk te zijn van een leverancier die in een onbetrouwbare staat gevestigd is.

Het issue is niet een feature, het issue is integratie en support. Dat zien we ook op het Adobe vlak. Affinity is al 11 jaar bezig daar vervangers voor te maken en ja, wat ze hebben werkt, maar is nog verre van een complete vervanger voor equivalente Adobe producten. Hetzelfde geld voor een Gimp, etc. (nog oudere open source projecten).

AI/LLM is niet gratis, zelfs als je het lokaal draait kost het grof geld, zowel in aanschaf als in doorlopende kosten. De mensen die er wat fatsoenlijk van kunnen maken zijn ook relatief zeldzaam en daarmee duur.

Die recent uitgebrachte, gevibecode, Adobe vervangers is ook een absolute puinhoop. Het idee is leuk, maar de vraag gaat wezen, wordt het ooit iets fatsoenlijks. En als dat het wel wordt, hoeveel kost dat in AI/LLM?

Daarnaast gaat er ook een wettelijk issue spelen met het decompilen van software (reverse engineering), copyright, patenten, etc. Naast natuurlijk de situatie dat een enorme multinational met miljarden je zonder pardon kan aanklagen, ook al heb je gelijk en voordat je gelijk hebt je waarschijnlijk blut geproduceerd bent (naast nog eens wat dat doet met je mentale gezondheid). En wellicht dat aandeelhouders van die bedrijven, iets minder scrupuleus zijn en wellicht een voorbeeld stellen met zo een developer (1% van de aandelen van Adobe is een miljard $/€, een hit kost slechts 10k)...
Ik denk dat er meerdere redenen zijn waarom sommige partijen open source modellen uitbrengen
  1. De gemiddelde gebruiker koopt de dure hardware die hiervoor nodig is niet.
  2. Het is goed voor het imago, meta als innoverend bedrijf VS de privacy met de voeten tredende tech mastodont die geen belastingen betaalt. Idem voor Google.
  3. De gemiddelde gebruiker gebruikt AI als een service, daar willen ze ooit geld mee verdienen (doordat je betaalt en doordat ze je denken en gedrag kunnen beïnvloeden).
  4. Je haalt pas het maximale uit de service als je ook je data en processen (via agents) in hun ecosysteem stopt, waardoor je klant bent voor het leven.
De license bevat onder andere deze clausule:
If the Licensee or any of its affiliates provide a third party with access to artificial intelligence models as a product or service, via API or a similar interface, where the third party receives outputs of such models (“Model as a Service”), and the aggregate gross revenue of the Licensee and its affiliates exceeds twenty (20) million US dollars (or the equivalent in other currencies) during any consecutive twelve (12) month period, the Licensee must notify Meta and enter into a separate written agreement with Meta before offering the Software or any Derivatives as part of that Model as a Service business.
Dus als je er significant omzet mee draait moet je een deal me Meta sluiten.
Hoe willen deze bedrijven nog geld gaan verdienen als hun meest geadverteerde functies gratis te downloaden zijn?
Tokens voor cloud-modellen, hardware voor offline modellen.
In de licentie van Muse models staat dat als je geld verdiend aan het aanbieden van de Muse modellen aan derde partijen dat je dan een licentiedeal moet overeenkomen met Meta. Zie LICENSE.md · meta-models/Muse-Spark-Open-816B-A42B at main punt 3.

Dus Meta kan er wel geld aan verdienen als anderen het model hosten. Het geeft ze ook data in waar hun modellen voor gebruikt worden en waar het nog aan zou schorten.
Ubuntu en Red Hat kun je ook gratis gebruiken, toch verdienen deze partijen geld.

Op dit moment is AI zo krachtig dat het bestaande software kan na maken incl. alle bestaande functies binnen zeer korte tijd.
Ook de afgeschermde software.

Zo hebben we een Microsoft Dynamics applicatie in 12 uut volledig opnieuw kunnen maken in de doel architectuur van de klant zonder enige resterende afhankelijkheden van een Microsoft platform, inclusief het verwijderen van onnodige functies en het toevoegen van de gewenste functionaliteit, incl. integratie met hun service bus, audit logging, authenticatie laag etc.

Dit kan nu met de meeste software waar licenties of IP op rust. Zelfs SaaS services kunnen relatief makkelijk worden omgezet.
12 uur maar hoeveel voorbereiding was er nodig?
software wordt een commodity, wat heeft het voor waarde als je dat razendsnel gewoon kunt laten genereren?

Opensource betekend trouwens niet gratis.. dat ligt gewoon weer heel erg aan de licentie wat er op zit..
Van collega's begrijp ik dat men het ook probeert met lokale modellen, maar zodra echte capaciteit voor een hele afdeling nodig is om bv te programmeren via AI schiet je zwaar tekort. Ook werk waarvoor een flink context window nodig is kun je lokaal wel vergeten. Hoe groter het model, hoe groter de hoeveelheid geheugen die nodig is voor dat context window.

Daarnaast speelt de vorm van dienstverlening een rol. Vergeet niet dat de grote jingens zoals IBM en Google een schare aan specifieke modellen heeft om het werk wat ze doen verregaand automatisren met AI.

Bij andere oplossingen valt het tegen, in 95% van de gevallen is er geen ROI voor afnemers. De 5% die wel wat oplevert is deterministisch van aard en niet generaief zoals een 'chatbot'.

Het grote geld die inmiddels de verdiensten ook niet zien teekt nu gel dtwrug. Wereldwijd gaat de economie naar een recessie en vloeit het geld weg van de aandelen naar waardepapier. Dit is al enkele weken gaande.
Mooi man. In de toekomst alles lokaal draaien. Dan hebben we al die datacenters ook niet meer nodig. En wordt hardware weer goedkoper. Want zeg nou zelf, 64GB ddr5 voor 900 euro??
Als iedereen dat doet, zal hardware niet goedkoper worden.
Een deel van de reden dat consumentenhardware zo duur is, is dat fabrikanten hun productielijnen hebben omgebouwd om zakelijke hardware te maken. Waarom een desktop-DIMM maken als dezelfde chip voor dubbel de prijs de servermarkt op kan?

Alles wordt niet direct weer de normale prijs, maar een verschuiving naar lokale AI zal met een paar jaar wel weer meer beschikbaarheid aan de consumentenkant veroorzaken, dat drukt de prijzen weer iets.

Dan moeten mensen wel lokale kunstmatige intelligentie gaan gebruiken. Ik geloof niet dat iemand gebruik maakt van al die lokale AI waar chipfabrikanten de afgelopen jaren zo mee zaten te pronken, dus ik betwijfel dat we die verschuiving binnenkort gaan zien, helemaal met hoe duur de hardware is om het spul lokaal te draaien.
Weet wet dat economy of scale een voordeel heeft. AI in datacenters draaien 24/7, lokaal minder, dat betekent dat er meer lokale hardware nodig zal zijn, wat zo impact op de prijs heeft.
Dat idee werd ook geopperd toen de mainframes aan de rand van de afgrond stonden door de mini- en microcomputer. Het was kostenefficient geweest als iedereen tijd inboekte op een gedeeld mainframe, maar toch zijn we naar lokale computers gegaan, ondanks de meerprijs en de veel tragere processors.

De zakelijke markt heeft wiskundig gezien een voordeel, maar of de consument daarin meegaat is maar de vraag. Op dit moment, met goedkope CPU-tijd gesubsidieerd door durfinvesteerders en pensioenfondsen, is het voordeel duidelijk, maar ook de AI-industrie zal ooit winst moeten gaan maken. Niet lang geleden zei de topman van OpenAI al dat hun eindplan meer geld en grondstoffen nodig had dan er op aarde is, dus ik vraag me af of ze ooit veilig dat omslagpunt gaan halen.
De hardware voor de compute moet of door jezelf of door de AI Labs worden betaald.

Wat dit vooral is: een mooie "verzekering" voor bedrijven om niet te afhankelijk te worden van de AI Labs. Die kunnen tzt. wel gaan proberen om hun costs/token de stratosfeer in te schieten, maar dan kun je naar het break-even point gaan kijken van "zelf doen".
Gewoon niet gebruiken, nog beter op alle manieren!
Hoeveel tokens/s haalt zo'n model op deze hardware? Welke ervaring zou je kunnen verwachten als je zo'n model lokaal draait? Op mijn "oude" M4 Pro 24G, viel het toch al altijd serieus tegen in opencode.. Toch zeker als je vergelijkt met een cloud model (en bv. CC).

Als dit echt een goed alternatief/toevoeging zou zijn, dan kan ik mij voorstellen dat bedrijven dit wel interessant zouden kunnen vinden om niet (volledig) afhankelijk te zijn van cloud providers..
Dat is een terechte vraag denk ik. Hoewel de M5 daar dan weer een stuk sneller in is dan de voorgaande versies, heeft de Mac over het algemeen een relatief trage decode. Over een model met 800 miljard parameters ga je dat dan toch wel merken, denk ik.
Ja dat is meestal maar de vraag. Sure ik kan een model draaien op mijn CPU en RAM, maar dan is het gewoon niet snel genoeg om normaal vragen te stellen.
Muse Spark Open draait dan ook niet op iedere machine. Meta zegt dat twee geclusterde Mac Studio's, elk met 512GB geheugen en een M5 Ultra
Je kan het draaien, maar je moet je nieren verkopen en daarnaast een OF starten om het te kunnen betalen.
Met Strata is het gelukt om Qwen3.8-Flash-Next op een machine met relatief normale specs (12-24gb vram, 64gb RAM) te draaien door (makkelijk gezegd) delen uit te schakelen die niet actief zijn. (iets complexer uitgelegd). Kan mij best goed voorstellen dat dit ook op andere modellen toe te passen is. En als het model inderdaad zo goed is als Meta zegt (maar op dit moment zijn ze vooral slager die zn eigen keurder is), dan zal er snel genoeg iemand mee bezig gaan om het werkende te krijgen.
Ja toevallig van de week aan het testen geweest met deze combinatie, en hoewel het niet supersnel is op een 3080, is het wel indrukwekkend voor een lokaal model. Het laat wel zien wat er mogelijk gaat zijn als het op dit temp door gaat. Helaas gaat het onmogelijk worden om aan de benodigde hardware te komen voor een redelijke prijs :P
Dat zou dan alleen kunnen als je alsnog iets van 1TB aan systeemgeheugen hebt, want die parameters moeten toch ergens leven. (tenzij je de kwantisatie aanpast, maar dan gaat het model ook anders presteren)

[Reactie gewijzigd door ocf81 op 16 oktober 2026 13:19]

Als je de werkelijke kosten moet gaan betalen voor het gebruik van gpt of claude ben je iedere maand een nier kwijt en is er geen garantie dat je bedrijfscritische informatie niet uitlekt.
Valt wel mee als je de omzet en uitgaven van de vergelijkt. Ja het moet nog wat duurder worden, maar niet 10x zo duur ofzo. En voor de prijs van twee van die dingen kan je lang je cloud ai abbo betalen.

Het probleem is dat tenzij je een groot bedrijf hebt, dat ding 95% van de tijd niks aan het doen is. Je wil een snelle machine zodat je snel antwoorden krijgt, maar dat betekend ook dat hij lange tijden niks aan het doen is. En in de cloud gaat hij gewoon een andere klant helpen in die tijd.
Heb op werk meegemaakt wat er gebeurde toen men van een "onbeperkte" subscription naar een token price werd omgeschakeld. Als de abonnemenen niet gesubsidieerd waren door de AI-bedrijven, denk ik niet dat management zo hard had gepusht om overal AI voor te gebruiken. Ik denk dat 10x nog wel eens een onderschatting kan zijn.

Nu gaat een cluster van onbetaalde Macs dat abonnement ook niet vervangen, maar ik denk dat er wel een klap aan zit te komen zodra de tokens echt geld beginnen te kosten.
professionele workstations zijn nooit goedkoop geweest.
Dat is alleen een heel stuk langzamer dan het geheugen wat er in een Mac Mini M5 Ultra zit...
Dat is alleen een heel stuk langzamer dan het geheugen wat er in een Mac Mini studio M5 Ultra zit...
FTFY
Waarbij het geheugen in een Mac Studio M5 Ultra een keer of 8-9 sneller is door de veel grotere bandbreedte.
Een 8 12 channel ddr5 workstation heeft echt niet minder 8 of 9 keer minder bandbreedte
Precies, dus nog vele malen duurder en uiteraard ook duurder door tekorten.
Komt bij dat je zover ik weet om 512 GB geheugen in een X86 workstation te gebruiken je geen normale PC hardware kan gebruiken maar je naar professionele hardware moet gaan. Je hebt een specifiek workstation-moederbord nodig (bijvoorbeeld met een WRX90, TRX50 of Intel W790 chipset). Standaard geheugen (UDIMM) dat in normale game-pc's zit, werkt hier meestal niet. Je hebt Registered ECC RAM (RDIMM) nodig.

Nog ff afgezien dat het geheugen dan alleen maar voor de CPU beschikbaar is, en niet voor de GPU. Dat is zo'n 384 GB tot 486 GB direct beschikbaar voor de GPU afhankelijk van de taak die je uitvoert.
Groot deel hedendaagse AM5 en LGA1851 bordjes kan je ook 512GB op steken.
Je bedoelt enkelen en dan met prijzen hoger dan de mac’s
Het bestaat toch? Daar ging het toch over?
Onzin.

Noem er sowieso eerst eens eentje, dan kunnen we het daarna hebben over wat “Groot deel” betekent.

Beide platforms ondersteunen officieel tot max 256 GB.
8-9 keer sneller "door" de veel grotere bandbreedte? Hè?

Het geheugen zelf is slechts zo'n 50% sneller; ze gebruiken LPDDR5X met 9600 MT/s. Bandbreedte is geen oorzaak, het is een gevolg. De M5 Ultra heeft een 2048-bit brede bus (64 geheugen controllers). Zo bijzonder is het niet.
1.2 TB/s in totaal, daar gaat het om. Dat is vele malen sneller dan de alternatieven, en dat zie je in de praktijk ook terug in de performance van LLM's. Alleen GPU's zijn nog een stuk sneller, al moet je die meerdere combineren om aan de 512GB+ te komen(al is dat soms wel een beetje appels met peren door quantisation mogelijkheden).
Mijn punt was meer dat het geheugen helemaal niet sneller is en dat dat specifieke statement ("door" de bandbreedte) incorrect is. Met AMD's Strix/Gorgon Halo krijg je ook LPDDR5X met 8000 MT/s. En de bandbreedte zelf is peanuts vergeleken met HBM GPU's.

Dat zijn ook allemaal geen alternatieven voor zoiets als een M5 Ultra met 512 GB. Sterker nog, die hééft geen alternatieven. De TDP's van andere SoC's (zoals AMD, of Nvidia's Spark) zitten tegen een kwart van wat een M5 Ultra trekt. De 512 GB versie zal nog wel iets hoger zitten. De rest heeft geen zin om zo'n idiote chip uit te brengen, omdat de ROI zinloos is. Apple zal er wel net genoeg van kunnen verkopen, maar een Nvidia of AMD kunnen elders veel meer binnen halen :)

Leuk dus van Meta dat ze dit doen, maar ook behoorlijk zinloos.
Meta zegt dat twee geclusterde Mac Studio's, elk met 512GB geheugen en een M5 Ultra, het complete taalmodel lokaal kunnen draaien.
We hebben het hier dan denk ik over €30.000 aan hardware in Europese prijzen.

Me dunkt, lmao.
Dat klinkt als niet zo slechte deal als je daarmee 1 medewerker kan vervangen is het zelfs goedkoop.
Ik denk dat je het eerder moet vergelijken met €30.000 aan tokens uitgeven via de API van een EU provider die Muse voor je host.

Tenzij je een extreem sterke eis voor lokale AI hebt en zelfs soevereine EU datacenters zoals Nebius niet goed genoeg zijn is de rekensom lastig.
Daar heb je waarschijnlijk gelijk in, maar in theorie heb je hier wel een soort van gegarendeerde eenmalige kosten, waar de tokens steeds duurder worden en de service steeds iets meer uitgekleed, als je een bedrijf hebt en je hebt de zekerheid nodig dat dit altijd draait, kan ik me voorstellen dat hoewel nu duurder het toch interressant kan zijn dit toch aan te schaffen. Misschien niet nu, maar je ziet AI rap veel beter worden in bepaalde taken, die wij mensen in geen mogelijkheid zelf zo snel kunnen uitvoeren en als je dan de garantie hebt voor 30.000 kan ik dit permanent in huis hebben, is dat voor de meeste bedrijven een kleine investering die ze vaak ook nog weer makkelijk kunnen aftrekken.
Alleen de BTW er af is al € 5.206,61 minder. Dan kan je het afschrijven, over 4 jaar, en er zijn een hele zwik subsidies en goedkope kredieten voor vanuit de NL overheid en de EU.
Dat is waar, maar 'gegarandeerde' eenmalige kosten kunnen ook fout uitpakken.

Wat als morgen ineens een nieuwe GPU uitkomt die alles 20x sneller doet? Sta je dan met je hardware.

Al lijkt het me een machtig apparaat hoor om thuis te hebben!
Dat is alleen een probleem als je huidige hardware niet voldoet.
Voor jouw en mijn portemonee is 30.000 euro een beste bult knaken, maar vergelijk het eens met wat ontwikkeling van een technische product, een medicament, een dataproduct, etc etc kost en het risico dat het in de handen van competitie komt? En ja, dat gebeurd. Je bent bv het NKI waar alle kankeronderzoek in NL samenkomt. Ga je zuinig zijn op 30.000 met onderzoek en patientgegevens? Je bent TenneT en wil een een analyse maken van stroomverbruik, leverantie, weersverwachting, etc etc, ga je dat lokaal doen of in de cloud?
Ik denk dat je er 10k bovenop mag zetten. Als ik google op M5 ultra 512GB kom ik op reclame die zegt dat de M5 Ultra maximaal 512gb kan bevatten en de M5 Ultra prijzen vanaf 3k tot 18k in dollars zijn.

bij Apple kan ik het nog niet opzoeken, dus ik vermoed dat die rond de 20k euros gaat zijn
Ik gok dat een enkele M5 Ultra 512GB binnenkort minstens de 20K aantikt. Een 256GB met 4TB is al 14K, en een kleine SSD wil je niet met de enorme modellen die erop kunt draaien.
Nou voor die prijzen hang ik er zelf wel een externe SSD aan hoor.
Die haalt geen 14GB/s lees- en 18GB/s schrijfsnelheden. Als je veel met modellen experimenteert zijn die hoge snelheden wel erg fijn.
Denk dat je een heel eind komt met Thunderbolt 5...

En bovendien tenzij je elke 5 minuten een volledig nieuw model erin wil laden maakt dit niet uit.
De twee TB5 4TB SSD's die ik kon vinden halen 6GB/s en kosten 1400 en 2500 euro.
Ik heb thuis een Macbook met 48gb en weinig ssd.

Ik heb de modellen via NFS gemount, haha.

Ja laden duurt lang maar hoe vaak wissel je van model? Het laadt één keer en dan brrr
De prijzen zijn nu hoog maar het geeft een duidelijke trend aan. In de toekomst gaan we meer ai lokaal draaien. Dit is een directe bedreiging voor Openai en Anthropic die leven van API inkomsten en abonnementen.
Een Mac Studio met 512GB ram. Apple kennende zal daar een idioot prijskaartje aan zitten.

Een model met 42 miljard actieve parameters heeft op Q4 24 a 32GB nodig. Dus als je twee 9070xt's 16GB's in een pc steekt ben je ook klaar. Die zijn momenteel €900 per stuk.
Een Mac Studio met 512GB ram. Apple kennende zal daar een idioot prijskaartje aan zitten.
Twee van die dingen met een thunderboltverbinding ertussen.
Een model met 42 miljard actieve parameters heeft op Q4 24 a 32GB nodig. Dus als je twee 9070xt's 16GB's in een pc steekt ben je ook klaar. Die zijn momenteel €900 per stuk.
Vermoedelijk ga je dan niet Muse Spark draaien? Althans, niet zonder daar nog iets bij te plaatsen om de overige 770 miljard parameters een plekje te geven.

[Reactie gewijzigd door ocf81 op 16 oktober 2026 13:24]

Je hebt wel een puntje. Je hebt inderdaad zo'n 1024GB ram geheugen nodig :) Naast die twee 9070XT's.

Dan zit je gelijk aan Threadripper/Epyc/Xeon cpu vast. Maar goed, een AMD EPYC 9124 van €700 ondersteunt tot 6TB aan ram. Nu nog betalen voor 1TB aan ram... Dat zijn 8 reepjes van 128GB en die gaan momenteel voor €900 per stuk: uitvoering: HPE P11040-B21

Wordt al met al een kastje rond de €10.000. Hoewel het me niet zou verbazen als dat nog steeds goedkoper is dan twee 512GB Mac Studio's.

[Reactie gewijzigd door lordawesome op 16 oktober 2026 13:34]

Iets dat op Zen 3 is gebaseerd kan ook nog, en dan is het weer wat goedkoper, maar ook weer wat langzamer. €10k is alleen het RAM overigens, want een setje van acht 128GB DDR4 reepjes kost tweedehands alsnog €10K. CPU + moderbord is nog ca €3k en dan moet je nog wat losse zaken kopen zoals SSD's (1200, twee maal 4TB), voeding (€250) en GPU's (3600 voor twee 9700's). Alles bij elkaar ben je dan voor ca €16k "klaar".
Twee 9700 hebben 64 GB geheugen. Heel mooi en snel, tot dat vol raakt. Een M5 Ultra laat je CPU bijna al het geheugen door de GPU gebruiken. Apples, Peren.
Ik zou even wat meer teruglezen, dan zie je hoe we op dit punt beland zijn.
Ik link toch naar de 128gb reepjes van €900? 1TB is dan €7200 nieuw en niet 10k tweedehands. CPU is €700, dus cpu en mbord samen is niet €3000. En een 9700XT kost ook zo'n €900 en niet €1800. En als laatste heb je niet 8TB SSD opslag voor een model van 537GB nodig.

De goedkoopste Mac Studio met 256GB ram is 11.000 waarbij 4400 voor 256GB werd gevraagd. 512GB wordt nog niet geleverd maar kost waarschijnlijk 4400 meer. Dus 15.400 en twee daarvan wordt dan 30k.

[Reactie gewijzigd door lordawesome op 16 oktober 2026 14:44]

Heb je naar dat prijsverloop gekeken? Dat is morgen weer anders. Ik heb het gemiddelde van iets van 10 aanbieders op ebay gebruikt om een goede vergelijking te kunnen maken.

Die SSD's heb je nodig om een enigszins deftige leesprestatie neer te kunnen zetten. En ja, dat kan ook met twee SSD's van 1TB, maar dan wel met de notie dat dit het enige model is dat je ooit gaat draaien. Ik heb een slag om de arm genomen.

[Reactie gewijzigd door ocf81 op 16 oktober 2026 14:48]

128B Qwen3.8-Flash-Next draait op 96GB ram en een 12GB gpu. Of minder ram als je onder Q4 wil gaan draaien: https://github.com/Niko1221/Strata

Om te kunnen reageren moet je ingelogd zijn