На форумах VirtualBox есть учебник, в котором есть этот вопрос,
Q: Как я могу уменьшить размер динамического VDI на диске?
Существует два подхода к очистке и уменьшению размера файловой системы, хранящейся в динамическом VDI. Первый - это то, что я называю на месте, а второй - копирование файловой системы.
Этот ответ касается первого из них.
Еще одна ссылка: как изменить размер / расширить диск vdi (linux guest)