Программы должны быть спроектированы и запрограммированы так, чтобы они были многопользовательскими и поддерживающими работу нескольких экземпляров, чтобы иметь хоть какую-то надежду на запуск на сервере RDP по той же причине, с которой вы столкнулись - неожиданные общие ресурсы (в данном случае конкретная папка на конкретный диск)
Исходя из того, что вы нам рассказываете, ваша программа НЕ была написана с учетом многопользовательского режима, не говоря уже о нескольких экземплярах на одном компьютере.
Единственный реальный ответ, по которому вы идете по прямому маршруту RDS: переписать или заменить программу.
Альтернативой, если ваша версия Windows Server поддерживает ее (и у вас есть приличное серверное оборудование), является использование виртуальных рабочих столов. Вы можете настроить его там, где используется один образ Windows (скажем, Windows 7), и каждый раз, когда пользователь отправляет на сервер частную виртуальную машину, запускается копия этого образа (или одного, специально предназначенного для пользователя), и Рабочий стол виртуальной машины - это то, что доставляется пользователю через RDP.
Таким образом, каждый сеанс RDP является собственной виртуальной машиной со своей собственной C:\APP, как при установке на толстых клиентах.
Имейте в виду, вам нужно лицензировать все это. Вам понадобятся правильные лицензии RDS, а также лицензия Windows для каждой из этих виртуальных машин, которые могут работать одновременно.
Чтобы начать, возможно, проверьте некоторые ресурсы, подобные этим: