Meta sparer millioner av dollar takket være dette smarte minnehacket

Ingeniører i Meta, Facebooks morselskap, har avslørt hvordan de har kunnet tilby gratis minne ved hjelp av en programvareløsning kalt Transparent Memory Offloading (TMO).

Det er nå en del av Linux kjerne og, i et nøtteskall, automatisk avlaster data til andre lagringsnivåer (f.eks. Samsungs CX-minneutvider) som er mindre kostbare og mer strømeffektive enn minne.

Besparelsene er betydelige; TMO har kjørt på millioner av Facebook servere i mer enn ett år, og sparer opptil nesten en tredjedel av minnet per server. Selv om det sannsynligvis vil være ubetydelig på tvers av dusinvis eller til og med hundrevis av servere, Facebook sin enorme skala byr på en unik utfordring.

Analyse: Facebooks gigantiske appetitt på RAM

Verdens største sosiale nettverk har nesten tre milliarder månedlige aktive brukere og millioner av servere spredt rundt 21 steder over hele verden. Skulle hver server ha 128 GB RAM i gjennomsnitt, vil det utgjøre 256 millioner GB (eller 256 PB) RAM som, til en gjennomsnittlig kostnad på $4 per GB (DDR4 ECC RAM), er omtrent $1 milliard verdt minne. Det er på antagelsen om at Facebook har minst to millioner servere (Facebooks blogg siterte «millioner av servere» allerede i juli 2018), med det reelle tallet som sannsynligvis vil være langt høyere.

Tall presentert av teamet som jobbet med TMO viste at minnekostnadene utgjør en tredjedel av Metas servermateriale, med komprimert RAM og SSD som utgjør mindre enn 11 %. Mer bekymringsfullt er at kostnadsbyrden for RAM (som en prosentandel av den totale infrastrukturen) har mer enn doblet seg siden Facebook lanserte sin første generasjon servere (den er for tiden på den fjerde).

Å ta i bruk TMO har noen ulemper; mest bemerkelsesverdig, en degradering i ytelse. Men gevinstene når det gjelder strøm- og minnebesparelser, oppveier langt, langt ulempene og fremtidige iterasjoner kombinert med maskinvareforbedringer (f.eks. raskere SSD eller CXL-stasjoner) vil tilby ytterligere reduksjon.

kilde