Если ваша программа 32-битная, она не сможет использовать более 4 ГБ, независимо от процессора или ОС, на которой вы ее запускаете ...
Вы точно знаете, что ваша программа скомпилирована как 64-битная, и что вы запускаете ее на 64-битной ОС?
Трудно сказать по этому вопросу, но ожидаете ли вы запустить какое-либо стандартное программное обеспечение и использовать ли оно более 4 ГБ ОЗУ? Это не сработает, если оно специально не скомпилировано для 64-битных систем, чего не делает большинство готовых программ для Windows.