In Breve
- Qual è la previsione di LinkedIn per gli investimenti in GPU?
- LinkedIn prevede di mantenere gli investimenti in GPU sostanzialmente invariati per il prossimo anno fiscale.
- Come ha migliorato LinkedIn l'efficienza delle GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti grazie a miglioramenti nell'uso e nell'allocazione dei carichi di lavoro.
- Qual è il contesto attuale di LinkedIn sotto Microsoft?
- LinkedIn è controllata da Microsoft dal 2016, ma adotta un approccio diverso rispetto all'espansione infrastrutturale di Microsoft.
LinkedIn ha annunciato che non prevede di aumentare significativamente la spesa per hardware AI nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente invariato, con l’impronta di calcolo e storage mantenuta all’incirca stabile. Questo approccio si basa su un raddoppio dell’efficienza delle GPU esistenti, raggiunto in circa sei mesi grazie a miglioramenti nell’utilizzo delle risorse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro.
Erran Berger, CTO dell’ingegneria, ha spiegato che l’obiettivo è mantenere stabile il footprint di calcolo mentre si introducono nuove funzionalità più esigenti dal punto di vista computazionale. Questo piano si colloca in un contesto particolare, dato che LinkedIn è controllata da Microsoft dal 2016, ma adotta un approccio diverso rispetto all’espansione infrastrutturale del colosso tecnologico.
Microsoft ha recentemente registrato una spesa in conto capitale di 41 miliardi di dollari nell’ultimo trimestre, aggiungendo 31 data center in quel periodo e 88 nell’anno, con previsioni di oltre 50 miliardi per il trimestre corrente. In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. La società ha quindi deciso di puntare su data center propri situati in Oregon, Texas e Virginia.
Avere il controllo dell’intero stack tecnologico è considerato un fattore chiave, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo. Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere stabile per un anno storage e compute senza incrementi è «non una piccola impresa» e ha richiesto un notevole impegno.
I miglioramenti ottenuti sono il risultato di un approccio cumulativo, piuttosto che di una singola innovazione tecnologica. Tra le strategie adottate ci sono un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro, la distillazione di modelli più grandi in versioni più compatte e una riprogettazione della divisione del lavoro tra training, inference, storage e progettazione dei sistemi.
La decisione di non aumentare gli investimenti hardware è anche motivata dalla crescente dinamica dei costi: il costo per singola query è aumentato, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. LinkedIn non afferma di aver trovato una soluzione definitiva a questo problema; piuttosto, la scelta rappresenta un’alternativa alla tendenza generale di crescita proporzionale dell’hardware. La sua efficacia dipenderà dalla capacità del programma di efficienza di mantenersi nel tempo.
