Mirillis Action, формат AVI ((по соотношению качество/объём это лучший вариант, кадры не жрёт совсем, почти)
И попробуй OBS настроить, битрейт маленький поставь(1000-2000 Kbps, да, будет каша, но что поделать), разрешение 720p, количество кадров в районе 50. Возможно, такой вариант тебе больше понравится с учетом того, что в визуале побольше возможностей у OBS.