自動録画時に「アマレココ」で使用している設定を書いておきます。
ビデオコーデックは「AMV3 ビデオコーデック（無料）」を使用しています。
この設定で録画した場合、30分でファイルサイズが 1～1.5GB 程度になります。

・ツールの設定画面

　「1:設定A」タブ
　　⇒「ビデオ1」タブ

　　　フレームレート： 12fps （※）
　　　取り込み範囲： 512×384px
　　　ビデオ圧縮： AMV3 高速

　　⇒「オーディオ/録画タイプ」タブ

　　　サンプリングレート： 22050Hz
　　　ビットレート： 16bit
　　　チャンネル： モノラル

　※ 現在のニコ生では、最大16fpsみたいです。
　　　生放送の映像と比べて録画の映像がカクカクする場合は、この値を増やします。
　　　ただ、この値を増やすと、ファイルサイズが大きくなります。

・AMV3コーデックの設定画面

　　圧縮： S3:標準

ニコ生の場合、元々の画質があまり良くなく、高画質で録画しても意味がないため、このような設定にしています。
私自身は、エンコードにあまり詳しくないため、あくまで参考程度にして下さい。
間違っている部分やお勧めの設定等があるようでしたら、掲示板で教えて頂けると助かります。