Кабель RJ12 будет работать в разъеме RJ11, но третья пара не будет использоваться. Вы можете использовать трех- или четырехпарный кабель с разъемом RJ11 при условии соблюдения соответствующих стандартов.
Использование кабеля RJ11 с разъемом RJ12 может не сработать, так как может потребоваться третья пара. Некоторые кабели RJ11 имеют только 1 пару проводов и не будут работать с устройствами RJ11, которые рассчитывают использовать обе пары.
В интернете есть много документации о телекоммуникационной проводке и применяемых стандартах.