oom killer premature
Похоже, быстрый поиск в Google позволяет предположить, что существует несколько причин, по которым убийца OOM может быть вызван, даже если в системе достаточно видимой памяти / подкачки.
Одним из возможных объяснений является фрагментация памяти, в частности:
Normal: 2386*4kB 2580*8kB 197*16kB 6*32kB 4*64kB 0*128kB 1*256kB 1*512kB 1*1024kB 0*2048kB 0*4096kB = 35576kB
Предполагает, что не так много обычных больших страниц.
Боюсь, это не полный ответ на ваш вопрос, но он может указать вам одно из возможных направлений расследования.