Аптана основана на затмении. Поэтому, в зависимости от вашей ОС и пути установки, вы сможете найти файл eclipse.ini. Vmargs должны быть помещены в этот файл. Мой файл на OS X выглядит так
-startup ../../../plugins/org.eclipse.equinox.launcher_1.0.201.R35x_v20090715.jar --launcher.library ../../../plugins/org.eclipse.equinox.launcher.cocoa.macosx_1.0.1.R35x_v20090707 -product org.eclipse.epp.package.php.product -showsplash org.eclipse.platform --launcher.XXMaxPermSize 256m -vmargs -Dosgi.requiredJavaVersion=1.5 -XstartOnFirstThread -Dorg.eclipse.swt.internal.carbon.smallFonts -XX:MaxPermSize=512m -Xms128m -Xmx512m -Xdock:icon=../Resources/Eclipse.icns -XstartOnFirstThread -Dorg.eclipse.swt.internal.carbon.smallFonts