Это относится к пользовательской памяти, включая файловый кеш.
Проверьте memory.limit_in_bytes здесь https://access.redhat.com/documentation/en-US/Red_Hat_Enterprise_Linux/6/html/Resource_Management_Guide/sec-memory.html
memory.limit_in_bytes устанавливает максимальный объем пользовательской памяти (включая файловый кеш).
Будучи:
кеш: кеш страниц, включая tmpfs (shmem), в байтах
rss: анонимный и своп кеш, не включая tmpfs (shmem), в байтах