Для RAID 10 требуется не менее 4 дисков . Два набора из двух, так как вы делаете зеркалирование (RAID 1) и чередование (RAID 0). Если вы используете аппаратный RAID, вы можете установить ОС на массив.
Чтобы ответить на ваш вопрос об установке ОС на отдельном диске, отличном от RAID, минусом является то, что вы не выиграете от использования RAID в том, что касается вашей ОС. Если диск выходит из строя, вы будете испытывать простои и вам придется переустанавливать ОС с нуля или из резервной копии. Поскольку это домашний сервер, я сомневаюсь, что время простоя является проблемой. С другой стороны, по моему опыту, у вас будет гораздо более плавная и менее сложная установка, если вы поместите ОС на отдельный диск без RAID.