Suponho que chames macroblocos a quadradinhos de pixeis que desfiguram a img.
macroblocos em encodes significa os quadros que compõem uma imagem.
o teu erro pode significar um conjunto de situações, a primeira é que quando se faz encodes, temos que ter maquina para tal, processador e ram.
segundo não podes fazer mais nada para não afetar o encode.
segundo li no teu texto, convertes AVI para DVD, ora isso é um downscaling, ou seja o avi é o codec que perde mais qualidade quando se faz encode e tu vais voltar a usá-lo para converter para MPEG (DVD) normalmente é ao contrário que se faz.
De MKV para MPEG já é mais aceitável, depende da fonte.
É preferível adquirir um media center e passar a ver os muitos formatos que existem na net, aytravés de um HD externo ou de um PC.
Outra coisa são as resoluções. se tiveres um video de resolução mais baixa que a resolução de DVD (720x576 / PAL)
ao ser aumentado perde muita da qualidade, deves procurar fontes com resoluções parecidas.
Para resumir se queres continuar a converter para MPEG (DVD) deves escolher boas fontes em AVI e MKV.
Saca de teams conceituadas e de preferência as que tenham mais BitRate (kbps) significa mais qualidade.
Cumps