Ganz entscheidend ist die Wahl des Codecs. Ich erreiche sehr gute Ergebnisse mit dem XVid-Codec bei rund 80% Qualität (quality-based Encoding).
VirtualDub ist nur ein Hilfstool, mit dem du das Video reinladen, das Codec und die Einstellungen wählen und den Encoding-Vorgang starten kannst.
Handelt es sich bei der AVI-Datei um eine völlig unkomprimierte Datei z.b. von einem Digitalcamcorder? Oder ist die Datei bereits encodiert (z.b. in DivX)?
Im ersten Fall bekommst du die Datei ohne große Qualitätsverluste auf 100-200 MB, im zweiten Fall wird es schon komplizierter, die Datei auf eine CD ohne Qualitätsverlust zu packen.
Hier auf Nickles gibts auch eine kleine Virtual-Dub-Anleitung, allerdings auf die Aufnahme von externen Videoquellen bezogen: http://www.nickles.de/artikel/html/227.php3.
Eigentlich musst du aber nur das Video reinladen, einen neuen Video-Codec auswählen und neu encodieren. Die Tonspur kannst du auch komprimieren, falls diese noch im Wav-Format vorliegt.