Посмотри на это! http://kb.mozillazine.org/Register_protocol#Firefox_3.5_and_above :
Введите about: config в адресную строку (адресную строку) и нажмите Enter.
Щелкните правой кнопкой мыши -> Создать -> Логическое значение -> Имя: network.protocol-handler.expose.foo -> Значение -> false (замените foo указанным вами протоколом)
В следующий раз, когда вы нажмете на ссылку типа протокола foo, вам будет предложено открыть приложение.
Как только это сработает, не забудьте сбросить значение 'network.protocol-handler.expose.magnet' в True, иначе FF может продолжать просить установить его снова.