Приложение, вероятно, не обнаруживает другие запущенные экземпляры в сети через Интернет . Скорее, приложение, вероятно, просто общается по сети. Это объясняет, почему ваш первый метод работал, а второй - нет.
Убедитесь, что вы блокируете все сетевые подключения, а не только подключения к Интернету.
Вы можете использовать tcpview или Process Explorer, чтобы убедиться, что это так. Вот скриншот из Process Monitor:
Эти инструменты также сообщат вам о сетевых портах, используемых приложением для связи. Затем вы можете добавить еще одно правило в брандмауэр, чтобы заблокировать все входящие соединения на порт, который приложение использует для связи.