В Vista и более поздних версиях (в Aero) это не должно сильно влиять на производительность, поскольку ОС все равно использует композитинг и оптимизирована для этого (именно поэтому Microsoft рекомендует использовать видеокарту для работы с Vista). В XP это определенно замедляет работу, потому что он не был разработан с учетом полноценного альфа-композитинга.
Под альфа-пикселем вы подразумеваете, что хотите, чтобы части вашего окна были прозрачными? Если да, DirectX вам совсем не поможет - DirectX поможет только в рендеринге прозрачных изображений на фоне вашего окна, но не сделает само ваше окно прозрачным.