AW: Xvid oder x264
x264 ist ein plattformübergreifender Encoder für das Video-Format H.264. Wenn ich x264 schreibe, meine ich h264.
XviD ist älter als x264 und war früher eine Alternative zu DivX. Film-DVDs sind im vergleichsweise schlecht komprimierten mpeg2 encodiert und wurden früher meistens in XviD oder DivX umgewandelt damit sie auf eine CD passen. Da XviD besser komprimiert als mpeg2, war die Qualität noch annehmbar, obwohl nur ein sechstel des Speicherplatzes zur Verfügung stand.
Inzwischen hat sich das neuere x264 in den meisten Bereichen durchgesetzt, da es eine noch bessere Bildqualität pro Speicherbedarf ermöglicht. Zum Glück hat man bei den BluRays entschieden h264 zu verwenden und der Speicherplatz wird daher auch beim offiziellen Medium sinnvoll genutzt.
Um Filme von einer BluRay zu verkleinern, damit sie auf eine DVD passt, ist x264 die beste Wahl, dabei wird dann eine niedrigere Bitrate verwendet als bei der BluRay. Für diesen Zweck wird in der Regel heute kein XviD mehr benutzt und die meisten Videos im XviD sind noch von früher oder von Leuten erstellt, die Videos/DVDs noch auf die alte Art komprimieren.
Wenn man die Wahl zwischen XviD und x264 hat, sollte man x264 wählen. Die einzigen Vorteile von XviD sind, dass es weniger Rechenleistung zum Decodieren und Encodieren benötigt und dass es von älteren Playern unterstützt wird, beides ist heute nicht mehr besonders relevant. Sollte man Probleme mit der Rechenleistung haben, macht es mehr Sinn darauf zu achten, ob man 480p, 720p oder 1080p Videos verwendet während man in jedem Fall x264 verwendet.
Zu Deiner anderen Frage:
h265 ist der noch bessere Nachfolger von h264, dieser hat sich aber noch nicht durchgesetzt.