Эту задачу может решить Asterisk. И вроде у них даже модемные кодеки есть. Все это будет делаться процессором PC.