В начале ветки "Кодирование видео, DVD ripping" можно найти немало полезной информации на эту тему, там есть ссылки на статьи и программы. Описана настройка VP62.
http://forum.oszone.net/showthread.php?t=32008
За отправную точку рекомендую взять объемный труд на сайте sharereactor.ru
В нем описана работа с пакетом GordianKnot и видео-кодеком DivX.
Лучше конечно использовать связку VP62+AC3 (или Vorbis).