Инженери в Мета , компанията майка на Facebook, разкри как са успели да предложат безплатна памет, използвайки софтуерно решение, наречено Transparent Memory Offloading (TMO).
Сега е част от Linux ядрото и, накратко, автоматично разтоварва данни към други нива на съхранение (напр. разширителят на паметта CX на Samsung), които са по-евтини и по-енергийно ефективни от паметта.
Спестяванията са значителни; TMO работи в милиони Facebook сървъри за повече от година, спестявайки до почти една трета от паметта на сървър. Въпреки че това вероятно ще бъде незначително за десетки или дори стотици сървъри, Facebook Огромният мащаб на 's представлява уникално предизвикателство.
Анализ: огромният апетит на Facebook към RAM
Най-голямата социална мрежа в света има близо три милиарда активни потребители месечно и милиони сървъри, разположени в 21 места по целия свят. Ако всеки сървър носи средно 128 GB RAM, това ще възлиза на 256 милиона GB (или 256 PB) RAM което при средна цена от 4 долара за GB (DDR4 ECC RAM) е памет на стойност около 1 милиард долара. Това е при предположението, че Facebook има поне два милиона сървъра (блогът на Facebook цитира „милиони сървъри“ още през юли 2018 г.), като реалният брой вероятно ще бъде много по-голям.
Цифрите, представени от екипа, който е работил върху TMO, показват, че цената на паметта представлява една трета от спецификацията на сървърите на Meta, като компресираната RAM и SSD представляват по-малко от 11%. По-тревожното е, че тежестта на разходите за RAM (като процент от общата инфраструктура) се е увеличила повече от два пъти, откакто Facebook пусна първото си поколение сървъри (в момента е на четвърто място).
Приемането на TMO идва с някои недостатъци; най-вече влошаване на производителността. Но печалбите по отношение на спестяване на енергия и памет далеч, далеч надвишават недостатъците и бъдещите итерации, комбинирани с подобрения на хардуера (напр. по-бързи SSD или CXL устройства) ще предложи допълнително смекчаване.