В этой статье объясняется, как преобразовать VMWare VMDK в VirtualBox VDI:
http://blog.rootshell.be/2009/01/24/vmware-to-virtualbox/
Как говорится, после конвертации образа диска вам придется самостоятельно воссоздать конфигурацию машины в VirtualBox.