RAMDeck: il nuovo hub per ottimizzare la RAM domestica in crowdfunding

RAMDeck è un hub a basso consumo energetico attualmente in crowdfunding su Indiegogo, con un prezzo early-bird di 109 dollari. La campagna, che ha come obiettivo un finanziamento di 10.000 dollari, terminerà l’8 novembre 2026. L’idea alla base di questo progetto è quella di aggregare la memoria RAM di vari dispositivi, tra cui PC Windows, Mac, Linux e smartphone Android, all’interno di una rete domestica, per eseguire modelli di intelligenza artificiale troppo grandi per un singolo dispositivo.

Il contesto di lancio di RAMDeck è caratterizzato da un aumento significativo dei prezzi della memoria DDR5, che ha raggiunto costi circa cinque volte superiori rispetto a metà 2025. È importante notare che RAMDeck non fonde la memoria a livello hardware; piuttosto, i pesi di un modello vengono distribuiti tra le macchine, ognuna delle quali mantiene la propria porzione in memoria locale e trasferisce solo i risultati intermedi tramite rete durante la generazione dei token.

Il software alla base di RAMDeck si basa sull’RPC di llama.cpp: un agente nodo avvia il server ggml RPC su ogni dispositivo partecipante, mentre il coordinamento avviene attraverso un protocollo standard. L’elemento distintivo di TradeMAV è l’orchestrazione attorno a questo motore, che comprende la scoperta automatica dei nodi, il posizionamento dei layer privilegiando GPU veloci rispetto alla RAM di sistema, la gestione dei guasti, una dashboard e un’API compatibile con OpenAI.

Le specifiche hardware di RAMDeck non sono state rese pubbliche, inclusi dettagli su processore, memoria, porte e consumo energetico. Tuttavia, la documentazione suggerisce che chi ha familiarità con gli script da terminale può optare per una soluzione fai-da-te gratuita. Esistono già alternative software operative per il pooling e l’orchestrazione su dispositivi eterogenei, mentre sul mercato sono disponibili soluzioni di clustering ad alte prestazioni che sfruttano interconnessioni come Thunderbolt 5 con RDMA.

TradeMAV avverte che il pooling della memoria comporta un compromesso tra velocità e capacità, raccomandando l’acquisto di GPU con maggiore VRAM per chi cerca prestazioni elevate. Nei benchmark pubblicati, le configurazioni più veloci hanno utilizzato un mini PC con RTX 3060, mostrando risultati significativi: 39 token al secondo per il modello Qwen3-Coder 30B su una coppia di Beelink mini PC e Mac mini M4, e 16 token al secondo per una variante 40B REAP di Qwen3-Coder-Next. Un modello 7B ha raggiunto 43 token al secondo eseguendo esclusivamente sulla 3060. Tuttavia, i modelli densi hanno mostrato prestazioni più modeste, con un 27B denso che ha reso 1,92 token al secondo su quattro dispositivi e un modello 120B che ha impiegato circa sette minuti per l’inizializzazione, raggiungendo poi 3,1 token al secondo.

In sintesi, mentre l’engine sottostante di RAMDeck è un software gratuito già disponibile, l’hub si propone di semplificare l’orchestrazione multi-dispositivo. Tuttavia, mancano dettagli hardware e le misure pubblicate evidenziano limiti di prestazioni per modelli densi. Per chi desidera sperimentare, è possibile provare le modalità RPC di llama.cpp o soluzioni open source simili senza costi. Per chi preferisce la comodità, l’acquisto dell’hub in preorder a 109 dollari comporta i rischi tipici delle campagne di crowdfunding, inclusi ritardi o cambiamenti nei piani di consegna.