Самым проблемным браузером является Internet Explorer (особенно 6 и ниже, 7 не так уж плохо, а 8 - огромный шаг в правильном направлении).
Даже если IE занимает большую часть рынка, разработайте для стандартного совместимого браузера, такого как Firefox или Webkit (Chrome и Safari), используя тип документа XHTML, а затем исправьте расхождения в IE на более позднем этапе. Таким образом, вы достигнете максимальной совместимости практически без усилий (если он работает в движке Gecko или Webkit, вы почти гарантированы, что он будет работать для большинства браузеров [кроме IE, но в большинстве случаев вы будете очень близко к идеальному]).
Большинство проблем, с которыми вы столкнетесь в IE, хорошо документированы в Интернете, и их довольно легко исправить, если ваша страница соответствует стандарту.
Если вы сначала разрабатываете для IE (особенно для IE6), то попробуйте заставить свою страницу работать с остальными браузерами, что будет проблематично, поскольку ваши изменения, вероятно, в конечном итоге приведут к нарушению рендеринга IE.
Кроме того, важно отметить, что доступность шрифтов и рендеринг отличаются от платформы к платформе. Verdana в Windows не может быть сглажена так же, как на Mac, и шрифт может даже не присутствовать в * nix.
QuirksMode имеет полный список функций, поддерживаемых в данном браузере:
Таблица совместимости (quirksmode.org)
Лично моя самая большая слабость в IE6 - его слабая поддержка PNG-24 с прозрачностью. Для его поддержки требуется filter.