То, что вы в основном ищете, это softmodem .
Из некоторого базового поиска в Google не так уж и много для Linux, но я нашел этот проект, который в своем описании говорит, что у него есть интерфейс звуковой карты, который он поддерживает.
Другой вариант, если оба компьютера имеют открытые последовательные порты / порты Parralel, это использовать нуль-модемный кабель для их подключения к сети. Это имеет намного лучшую поддержку в Linux.