Jednoduše, kodeky. Pokud chceš ušetřit místo na disku, tak pro záběry ze hry můžeš použít bezeztrátový kodek. Např. huffyuv. Bezeztrátový znamená, že obraz je v původní kvalitě, můžeš si to představit jako když soubor zabalíš do zipu/raru. Při používání toho videa se to zase dekodérem samo převádí zpět.
Co se týče finálního renderu, tak se často používá xvid nebo x264. Oba jsou ztrátové, kvalita obrazu a velikost záleží na tom, jak je nastavíš. Ale na tomto webu najdeš tutoriály, které ti pomohou.