Нам нужно больше ОЗУ: Технология TMO экономит ОЗУ миллионов серверов Meta

Команда инженеров Meta (признана экстремистской организацией и запрещена на территории РФ) в своем блоге опубликовала интересный пост о Transparent Memory Offloading (TMO) – новой функции ядра Linux , которая уже год используется на серверах Facebook/Meta и экономит от 20% до 32% ОЗУ на миллионах серверов компании.

Специалисты описали TMO как механизм, который в режиме реального времени измеряет потери работы из-за нехватки ресурсов на CPU, памяти и вводе/выводе. Используя эту информацию, технология автоматически определяет объем памяти, который будет выгружен на SSD-накопители или сжатую память. На стороне ядра Linux работу технологии обеспечивает подсистема PSI, анализирующая информацию о времени ожидания ресурсов CPU, памяти и ввода/вывода. А пользовательском пространстве работу TMO обеспечивает компонент Sempai , который через cgroup2 определяет возможность разгрузки не только контейнеров приложений, но и вспомогательных контейнеров, обеспечивающих функции инфраструктурного уровня. К тому же, Sempai анализирует признаки начала нехватки ресурсов через PSI и оценивает чувствительность приложений к замедлению доступа к памяти.

Разгрузка данных осуществляется на более дешевые накопители, такие как NVMe SSD-диски.

Если вам интересно узнать больше интересных технических подробностей о технологии TMO, ознакомьтесь с инженерным блогом Meta .