こちらを参考にしてください→FEZ動画Wiki
Dxtoryで撮影 → AVIUtlでエンコード → zoomeかGAVIEにアップ
上記の流れがいいと思います
撮影時のポイント
・HDDに十分な空きを確保して「生データ(無圧縮)」で撮影するとCPUの負荷が軽い
ただし想像以上のファイルサイズになるのでHDDの空き容量にはくれぐれも注意を
・FEZのクライアントと動画の保存先HDDを別にする
・キャプチャーサイズを縦横比は崩さず共に8の倍数にする(例:1600x900→1280x720)
エンコード時のポイント
・ビットレートを大きくすると綺麗になり圧縮後のファイルサイズは大きくなる
・ビットレートを小さくすると粗くなり圧縮後のファイルサイズは小さくなる
AVIUtlの使い方参考動画