Переустановите XQuartz 2.7.4 (последняя версия на момент написания статьи).
Я видел ту же проблему. Я уже установил XQuartz 2.7.4 и работал с Wireshark до того, как установил Mavericks. После установки Mavericks и попытки запуска Wireshark у меня появилось то же диалоговое окно, что и у вас. Переустановка XQuartz 2.7.4 решила проблему для меня.