Существует три формата с приемлемым уровнем поддержки: H.264 (MPEG-4 AVC), OGG Theora (VP3) и WebM (VP8). Посмотрите вики, связанные с Сэмом, для которых браузеры поддерживают какие; как правило, вам понадобится хотя бы один из них, плюс запасной вариант Flash.
Хотя большинство браузеров не поддерживают AVI, существуют некоторые сборки браузеров, которые предоставляют все мультимедийные возможности базовой ОС для <video>. Эти браузеры действительно смогут воспроизводить AVI, если на них установлены соответствующие кодеки (AVI может содержать около миллиона различных видео и аудио форматов). В частности Safari на OS X с QuickTime или Konqi с GStreamer.
Лично я думаю, что это абсолютно катастрофическая идея, поскольку она предоставляет очень большую кодовую базу для сети, кодовую базу, которая в основном не была написана, чтобы быть устойчивой к сетевым атакам. Одним из худших недостатков плагинов медиаплеера было огромное количество дыр в безопасности, которые они сделали доступными для каждой эксплойты веб-страницы. Давайте не будем повторять эту ошибку снова.