I recently got things setup ok using a bt8xx based card which uses video4linux.  In myth, I think you just set it up as v4l card, then go into the front end, settings, recording profiles, and setup software encoding there.  Your only options for software encoding will be mpeg4 or RTjpeg.  I haven't had to change any 'transport filters' or other funky stuff like that.  
<br>