In Breve
- Cos'è RAMDeck?
- RAMDeck è un hub in crowdfunding che aggrega la RAM di più dispositivi per eseguire modelli di intelligenza artificiale.
- Qual è il prezzo di preordine di RAMDeck?
- Il prezzo di preordine di RAMDeck è di 109 dollari.
- Quando termina la campagna di crowdfunding di RAMDeck?
- La campagna di crowdfunding di RAMDeck termina l'8 novembre 2026.
In un’epoca in cui l’intelligenza artificiale sta guadagnando sempre più terreno, un nuovo progetto di crowdfunding si propone di ottimizzare l’uso della memoria RAM domestica. Si chiama RAMDeck ed è un hub a basso consumo che permette di aggregare la RAM di diversi dispositivi, come PC Windows, Mac, Linux e telefoni Android, per eseguire modelli di intelligenza artificiale troppo grandi per un singolo dispositivo.
La campagna di crowdfunding, lanciata su Indiegogo, ha un obiettivo di finanziamento di 10.000 dollari e terminerà l’8 novembre 2026. Gli early-bird possono preordinare l’hub a un prezzo di 109 dollari. Questo progetto nasce in risposta all’aumento esponenziale dei costi della memoria DDR5, che ha visto i prezzi quintuplicarsi rispetto a metà 2025.
È importante notare che RAMDeck non fonde la memoria a livello hardware. Invece, distribuisce i pesi di un modello tra le macchine connesse, mantenendo ciascuna la propria porzione di memoria locale e trasferendo solo i risultati intermedi attraverso la rete durante la generazione dei token.
Il software alla base di RAMDeck si basa sull’RPC di llama.cpp, un protocollo standard che consente a un nodo di avviare un server ggml RPC su ogni dispositivo partecipante. Il sistema di orchestrazione sviluppato da TradeMAV include funzionalità come la scoperta automatica dei nodi, il posizionamento dei layer per privilegiare GPU veloci rispetto alla RAM di sistema, la gestione dei guasti e una dashboard intuitiva, oltre a un’API compatibile con OpenAI.
Le specifiche hardware del hub non sono state rese pubbliche, il che solleva alcune domande sulla sua effettiva capacità e prestazioni. Tuttavia, per gli utenti più esperti, è possibile seguire una soluzione DIY gratuita, poiché esistono già alternative software per il pooling e l’orchestrazione su dispositivi eterogenei.
TradeMAV avverte che il pooling della memoria comporta un compromesso tra velocità e capacità. Per chi cerca prestazioni elevate, è consigliabile investire in GPU con maggiore VRAM. I benchmark mostrano che le configurazioni più veloci, come un mini PC con RTX 3060, possono raggiungere fino a 39 token al secondo, mentre i modelli più densi mostrano prestazioni significativamente inferiori.
In sintesi, RAMDeck punta a semplificare l’orchestrazione multi-dispositivo per l’esecuzione di modelli di intelligenza artificiale, ma presenta limitazioni in termini di dettagli hardware e prestazioni per modelli densi. Per chi desidera esplorare le potenzialità di questa tecnologia, è possibile testare le modalità RPC di llama.cpp o soluzioni open source simili senza alcun costo. Tuttavia, per chi preferisce una soluzione pronta all’uso, il preordine dell’hub a 109 dollari comporta i rischi tipici delle campagne di crowdfunding, come ritardi o modifiche nel progetto.
