Попробуйте Sysinternals ProcessExplorer. Это инструмент для замены диспетчера задач, который точно отслеживает каждый маленький всплывающий процесс.
Оставьте его работающим и вернитесь в свое приложение. Когда возникает проблема с Alt-Tab для Procexp, и вы можете поймать то, что привлекает все внимание.
Изменить: Я буквально только что нашел это: Auslogics TaskManager, который почти наверняка поможет вам определить, что происходит, с более интуитивным интерфейсом и множеством более легко доступной информации, чем Procexp.