1) Загрузить загруженный файл в объект System.Drawing.Image .
Image img = Image.FromStream( yourFileUpload.PostedFile.InputStream );
1a) Обязательно обработайте все исключения, так как загруженный файл может не быть изображением.
2) Проверьте свойство Image.PixelFormat . PixelFormat - это перечисление с большим количеством значений, многие из которых являются RGB. Возможно, имеет смысл отфильтровать те, которые вам конкретно не нужны, а не те, которые вам нужны ... форматы: «16 бит на пиксель RGB», «32 бита на пиксель RGB», «индексированный» и т. д.