Это всего лишь предположение, но в соответствии с man-страницей «UserName» применимо только тогда, когда launchd работает от имени пользователя root.
попробуйте выгрузить plist, если он уже запущен:
launchctl unload /Library/LaunchAgents/com.transmissionbt.transmission-daemon
а затем запустить от имени пользователя root:
sudo launchctl load -w /Library/LaunchAgents/com.transmissionbt.transmission-daemon
Можете ли вы подтвердить, что он действительно загружает:
launchctl list | grep transmissionbt
Дайте мне знать, если это сработает для вас.