Engineer di Meta , perusahaan induk Facebook, telah mengungkapkan bagaimana mereka dapat menawarkan memori gratis menggunakan solusi perangkat lunak yang disebut Transparent Memory Offloading (TMO).
Sekarang menjadi bagian dari Linux kernel dan, singkatnya, secara otomatis memindahkan data ke tingkat penyimpanan lain (misalnya expander memori CX Samsung) yang lebih murah dan lebih hemat daya daripada memori.
Penghematannya signifikan; TMO telah berjalan di jutaan Facebook server selama lebih dari satu tahun, menghemat hingga hampir sepertiga memori per server. Meskipun kemungkinan tidak signifikan di lusinan atau bahkan ratusan server, Facebook skala besar 's menghadirkan tantangan yang unik.
Analisis: Selera besar Facebook untuk RAM
Jejaring sosial terbesar di dunia ini memiliki hampir tiga miliar pengguna aktif bulanan dan jutaan server tersebar di 21 lokasi di seluruh dunia. Jika setiap server membawa rata-rata 128GB RAM, itu akan berjumlah 256 juta GB (atau 256PB) dari RAM yang, dengan biaya rata-rata $4 per GB (DDR4 ECC RAM), memiliki nilai memori sekitar $1 miliar. Itu dengan asumsi bahwa Facebook memiliki setidaknya dua juta server (blog Facebook mengutip "jutaan server" pada awal Juli 2018), dengan jumlah sebenarnya kemungkinan akan jauh lebih tinggi.
Angka-angka yang disajikan oleh tim yang bekerja di TMO menunjukkan bahwa biaya memori menyumbang sepertiga dari tagihan material server Meta, dengan RAM terkompresi dan SSD terhitung kurang dari 11%. Yang lebih mengkhawatirkan, beban biaya RAM (sebagai persentase dari total infrastruktur) telah meningkat lebih dari dua kali lipat sejak Facebook meluncurkan server generasi pertama (saat ini berada di urutan keempat).
Mengadopsi TMO memang memiliki beberapa kelemahan; terutama, penurunan kinerja. Tetapi keuntungan dalam hal penghematan daya dan memori, jauh, jauh lebih besar daripada kerugian dan iterasi masa depan yang dikombinasikan dengan peningkatan perangkat keras (mis. SSD atau drive CXL) akan menawarkan mitigasi lebih lanjut.