Хотя я сам им не пользовался, вы можете изучить следующее Надстройка транскодера Wowza
Wowza не бесплатна, я не знаю, есть ли там бюджетные ограничения или нет?
Очень похожий вопрос также был задан на StackOverflow , где OP в конечном итоге разработал решение с GStreamer . В их вики есть страница о перекодировании , которая может служить отправной точкой.