Я помню, я тоже был озадачен этим, когда впервые столкнулся с ним. Я не думаю, что это специфично для Openbox, но, вероятно, происходит с каждым средством запуска, где matlab запускается без stdout / stdin.
В любом случае, решение состоит в том, чтобы запустить matlab с помощью команды:
matlab -desktop