LinkedIn: Investimenti in GPU Stabili per il Prossimo Anno Fiscale

LinkedIn ha comunicato che non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente invariato, con l’obiettivo di mantenere stabile l’impronta di calcolo e storage.

La società ha raddoppiato l’efficienza delle GPU esistenti in circa sei mesi, grazie a miglioramenti nell’utilizzo delle risorse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. Questo margine operativo sarà impiegato per sviluppare nuove funzionalità piuttosto che per l’acquisto di nuovo hardware. Erran Berger, CTO dell’ingegneria, ha descritto l’obiettivo come la capacità di mantenere un footprint di calcolo stabile, pur introducendo funzionalità più esigenti dal punto di vista computazionale.

Questa strategia si colloca in un contesto in cui LinkedIn è controllata da Microsoft dal 2016, ma adotta un approccio diverso rispetto all’espansione infrastrutturale del colosso tecnologico. Infatti, Microsoft ha registrato 41 miliardi di dollari di spesa in conto capitale nell’ultimo trimestre, aggiungendo 31 data center in quel periodo e 88 nell’anno, con previsioni di oltre 50 miliardi nel trimestre corrente.

In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. La società ha quindi deciso di puntare su data center propri situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è considerato un fattore abilitante, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.

Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere per un anno senza incremento di storage e compute è «non una piccola impresa» e ha richiesto un lavoro significativo. I miglioramenti sono presentati come il risultato di un processo cumulativo piuttosto che di una singola innovazione tecnologica. Questi includono un migliore utilizzo delle GPU, la riallocazione dei carichi, la distillazione di modelli maggiori in versioni più piccole e una riprogettazione della divisione del lavoro tra training, inference, storage e progettazione dei sistemi.

La scelta di LinkedIn è anche motivata dalla dinamica dei costi: il costo per singola query era in aumento mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza giudicata insostenibile. Tuttavia, LinkedIn non afferma di aver risolto definitivamente il problema; questa scelta rappresenta un’alternativa alla tendenza prevalente di crescita proporzionale dell’hardware, e la sua efficacia dipenderà dalla capacità del programma di efficienza di mantenersi nel tempo.