Meta díky tomuto chytrému hacku paměti šetří miliony dolarů

Inženýři ve společnosti Meta, mateřská společnost Facebooku, odhalila, jak byla schopna nabídnout volnou paměť pomocí softwarového řešení nazvaného Transparent Memory Offloading (TMO).

Nyní je součástí Linux kernel a, stručně řečeno, automaticky přenáší data do jiných úložných vrstev (např. expandér paměti CX od Samsungu), které jsou méně nákladné a energeticky účinnější než paměť.

Úspory jsou značné; TMO běží na milionech Facebooku servery déle než rok, čímž ušetříte až téměř třetinu paměti na server. I když to bude pravděpodobně nevýznamné na desítkách nebo dokonce stovkách serverů, facebookObrovský rozsah představuje jedinečnou výzvu.

Analýza: Obrovská chuť Facebooku po RAM

Největší světová sociální síť má téměř tři miliardy aktivních uživatelů měsíčně a miliony serverů rozmístěných na 21 místech po celém světě. Pokud by každý server měl v průměru 128 GB RAM, činilo by to 256 milionů GB (nebo 256 PB) RAM což při průměrných nákladech 4 $ za GB (DDR4 ECC RAM) představuje paměť v hodnotě asi 1 miliardy $. To je za předpokladu, že Facebook má alespoň dva miliony serverů (Blog Facebooku citoval „miliony serverů“ již v červenci 2018), přičemž skutečný počet bude pravděpodobně mnohem vyšší.

Čísla prezentovaná týmem, který pracoval na TMO, ukázala, že náklady na paměť tvoří třetinu kusovníku serveru Meta, přičemž komprimovaná RAM a SSD představují méně než 11 %. Ještě znepokojivější je, že náklady na RAM (jako procento z celkové infrastruktury) se více než zdvojnásobily od doby, kdy Facebook spustil svou první generaci serverů (v současnosti je na čtvrté).

Přijetí TMO má určité nevýhody; především snížení výkonu. Ale zisky z hlediska úspory energie a paměti daleko převažují nad nevýhodami a budoucími iteracemi v kombinaci s vylepšeními hardwaru (např. SSD nebo CXL disky) nabídne další zmírnění.

Zdroj