Базовые часы системы - 533. Поэтому вы должны использовать их множители.
Установите ОЗУ на 2666 и напряжение 1,35 В. Нет никаких причин не работать с этой конфигурацией. Для выше, чем это, вам нужно больше тактовой памяти. Модуль 3200 МГц был бы идеальным для вашей системы, если вы хотите оперативную память на более высоких тактовых частотах.
Для промежуточных экспериментов опубликуйте несколько снимков экрана с настройками параметров OC. Могут быть и другие допустимые варианты.