Ik heb mij ook voor het eerst bezig gehouden met DVD's te converteren aangezien ik wat regio 1 DVD's heb gekocht die ik uiteraard op mijn TV wil kunnen zien via mijn PS3. Daarna ook maar ineens hetzelfde gedaan voor mijn PSP. Ik gebruik Handbrake en blijkbaar was die preset voor PSP video's niet correct. De gebruikte videocodec was blijkbaar verkeerd. Deze veranderd naar H.264 en alles was in orde.
Misschien ligt het probleem bij jouw ook bij de gebruikte codec.