Похоже, вы пытаетесь воспроизвести контейнер .avi на собственном видеоплеере HTML5.Проблема в том, что HTML5 обычно поддерживает только очень ограниченные форматы и кодеки, как уже пишет Offbeatmammal.
Кстати, в отношении вашего названия «метод, который помогает вам понять, почему видео не работают на вашем сайте», это то, что вы уже сделали: вы пытаетесь загрузить его и получаете сообщение об ошибке, что форматне поддерживается.
В основном это зависит от браузера, ОС и версии, какие именно комбинации и подробные настройки кодирования поддерживаются, вот еще один список поддерживаемых форматов.
https://developer.mozilla.org/en-US/docs/Web/HTML/Supported_media_formats
Одним из наиболее распространенных форматов / кодеков в настоящее время является mp4 / h264 / aac.Вы можете использовать, например, ffmpeg для перекодирования вашего avi-файла в совместимый mp4:
ffmpeg -i {input}.avi -vcodec h264 -acodec aac -strict -2 {output}.mp4