Инженеры Мета , материнская компания Facebook, рассказала, как они смогли предложить бесплатную память с помощью программного решения под названием Transparent Memory Offloading (TMO).
Теперь это часть Linux ядра и, в двух словах, автоматически выгружает данные на другие уровни хранения (например, расширитель памяти Samsung CX), которые являются менее дорогостоящими и более энергоэффективными, чем память.
Экономия значительна; TMO работает на миллионах Facebook серверы более года, сэкономив почти треть памяти на сервер. Хотя это, вероятно, будет незначительным для десятков или даже сотен серверов, Facebook Огромный масштаб представляет собой уникальную проблему.
Анализ: гигантский аппетит Facebook к оперативной памяти
Крупнейшая в мире социальная сеть насчитывает почти три миллиарда активных пользователей в месяц и миллионы серверов, расположенных в 21 месте по всему миру. Если каждый сервер будет иметь в среднем 128 ГБ оперативной памяти, это составит 256 миллионов ГБ (или 256 ПБ) оперативной памяти. Оперативная память что при средней стоимости 4 доллара за ГБ (ОЗУ DDR4 ECC) составляет около 1 миллиарда долларов памяти. Это при условии, что у Facebook есть как минимум два миллиона серверов (в блоге Facebook еще в июле 2018 года цитировались «миллионы серверов»), а реальное число, вероятно, намного выше.
Цифры, представленные командой, работавшей над TMO, показали, что стоимость памяти составляет треть стоимости серверов Meta, а сжатая оперативная память и твердотельный накопитель составляют менее 11%. Что еще более тревожно, стоимость оперативной памяти (в процентах от общей инфраструктуры) увеличилась более чем вдвое с тех пор, как Facebook запустил свое первое поколение серверов (сейчас это четвертое).
Принятие TMO имеет некоторые недостатки; в первую очередь снижение производительности. Но преимущества с точки зрения экономии энергии и памяти намного, намного перевешивают недостатки и будущие итерации в сочетании с аппаратными улучшениями (например, более быстрое SSD или диски CXL) предложат дополнительные меры по смягчению последствий.