Чтобы воспользоваться возможностями программы AviSynth в Linux, её можно запускать из-под Wine, и работать совместно с Mplayer.

Для полноценной работы AviSynth в Wine, нужно не забыть установить внутри Wine набор Win32-видеокодеков - KLite Codec Pack или тому подобное.

Кроме AviSynth, понадобится windows-программа avs2yuv. Вот её краткое описание на английском:
 

Avs2yuv - to pipe avisynth scripts to ffmpeg2theora, still CLI though.

Другими словами, программа преобразует avs-файл (с помощью AviSynth) в видеопоток формата YUV (точка-в-точку, без потери качества), и направляет этот поток на стандартный вывод.

Таким образом, направив выходной поток этой программы в Mplayer, можно организовать взаимодействие Mplayer и AviSynth.

Пример:

$ wine avs2yuv.exe video.avs - | mencoder - -o video.avi -ovc lavc -lavcopts mbd=2:trell:v4mv:vqscale=2

В качестве программы-получателя потока можно использовать не только Mplayer, но и любую другую программу, например кодировщих видео в формат Theora:

$ wine avs2yuv.exe video.avs -o - | theora -f yuv4mpegpipe --aspect 16:9 -v 7 --optimize -S 0 --inputfps 23.976 - -o video.ogg

Главный недостаток такого подхода в том, что под Wine могут установиться не все нужные кодеки. Например, я не смог установить кодек DV2 для работы с видео, захваченным с видеокамеры SONY. Поэтому для работы с домашним видео приходится пользоваться нативными Linux-программами.