Вы должны проверить в zabbix_server.conf значения
CacheSize = 3G
HistoryCacheSize = 1G
HistoryIndexCacheSize = 8M
и так далее.
Возможно, у вас недостаточно памяти для запуска zabbix, настройте эти параметры в соответствии с объемом вашей памяти.