Обнаружил это на сайте B & B: использование Bazaar в Windows без прав администратора
Он предоставляет ссылку, по которой можно скачать самораспаковывающийся архив (см. bzr-2.0.0-1-nonadmin.exe
Файл). Как минимум, это позволяет использовать инструменты CLI для Bzr. Надеюсь, они выпустят что-нибудь для v2.1.1, но этот будет работать для того, что мне нужно.
В списке рассылки Bazaar предлагалось запустить программу установки и архивировать извлеченные файлы в самораспаковывающийся архив. Пока, похоже, работает нормально.