Mozda je malo kasno za ovo, ali nema veze :)

Koji je tip hook-a u pitanju globalni ili lokalni? Meni globalni shell hook na visti radi bez problema.
Takodje treba imati u vidu da li je sistem 64bitni, jer ako se zeli hook-ovati explorer/shell na ovakvom sistemu to nije moguce uraditi sa 32bitnom verzijom dll-a, posto nije moguce inject-ovati ovakav dll u 64bitni explorer proces.