Вам в любой момент времени нужны только самые свежие. Даже если приложение предназначено для 2, а у вас только 3.5, оно будет работать, так как Framework включает в себя все, что было в предыдущих версиях. Единственное исключение из этого правила - 1.x. Начиная с версии 2.x это накопительно.
Скот Хансельман написал длинную статью об этом, объясняя это в деталях.
Framework 3.0 и 3.5 все еще используют 2.0 в ядре, поэтому части 2.0 останутся. В Vista и Windows 7 3.0 и 3.5 изначально установлены, и вы не можете установить только 2.0 отдельно, как пример.
Пакеты обновления для всех 3 будут загружаться, даже если у меня загружено только 3,5. Вы также обнаружите, что часто не можете удалить один, если есть зависимость от других.
Framework 4.0 включает в себя все, начиная с версии 2.0 и, поэтому, выпустив всего лишь 4.0, вы можете запускать все, кроме приложений 1.x.