Inženjeri u Meta , Facebookova matična tvrtka, otkrila je kako su uspjeli ponuditi besplatnu memoriju koristeći softversko rješenje pod nazivom Transparent Memory Offloading (TMO).
Sada je dio Linux kernel i, ukratko, automatski prebacuje podatke na druge razine pohrane (npr. Samsungov CX memorijski ekspander) koji su jeftiniji i energetski učinkovitiji od memorije.
Uštede su značajne; TMO radi na milijunima Facebooka poslužitelji više od godinu dana, štedeći do gotovo trećine memorije po poslužitelju. Iako će to vjerojatno biti beznačajno na desecima ili čak stotinama poslužitelja, Facebook Ogroman opseg predstavlja jedinstven izazov.
Analiza: Facebookov ogromni apetit za RAM-om
Najveća svjetska društvena mreža ima gotovo tri milijarde aktivnih korisnika mjesečno i milijune poslužitelja raspoređenih na 21 lokaciji diljem svijeta. Ako svaki poslužitelj u prosjeku nosi 128 GB RAM-a, to bi iznosilo 256 milijuna GB (ili 256 PB) RAM što, uz prosječnu cijenu od 4 USD po GB (DDR4 ECC RAM), iznosi oko milijardu dolara vrijedne memorije. To je pod pretpostavkom da Facebook ima najmanje dva milijuna poslužitelja (Facebookov blog citirao je “milijune poslužitelja” još u srpnju 1.), a stvarni broj vjerojatno će biti daleko veći.
Brojevi koje je predstavio tim koji je radio na TMO-u pokazali su da trošak memorije čini trećinu Meta-inog poslužiteljskog popisa materijala, pri čemu komprimirani RAM i SSD čine manje od 11%. Što je još više zabrinjavajuće, troškovno opterećenje RAM-a (kao postotak ukupne infrastrukture) više se nego udvostručilo otkako je Facebook lansirao svoju prvu generaciju poslužitelja (trenutno je na četvrtoj).
Usvajanje TMO-a ima neke nedostatke; prije svega, degradacija u izvedbi. Ali dobici u smislu uštede energije i memorije daleko, daleko nadmašuju nedostatke i buduće iteracije u kombinaciji s poboljšanjima hardvera (npr. bržim SSD ili CXL pogoni) ponudit će daljnje ublažavanje.