Согласно вашему комментарию «Идея состоит в том, чтобы уменьшить доступную память для любого приложения в целом и посмотреть, как оно работает».
Я предлагаю вам использовать виртуальную машину, чтобы вы могли запускать приложение в этой среде и легко контролировать ресурсы, которые оно имеет.