Я не знаю ни одного видеокодера на чистом Java, и встроенный видеокодер в Android, по-видимому, ограничен захватом видео только с камеры, а не с пользовательского источника ввода.
Вы можете посмотреть на написание многочастного записывающего устройства JPEG (довольно редкого, но хорошо поддерживаемого) или даже кодера MJPEG (используется многими цифровыми камерами).