WinRar под Vista должен работать начиная с версии 3.5. Попробуй оригинальный дистрибутив. Можно также скачать 3.70 beta 3 (там реализована полная поддержка и существенно повышена скорость работы)
Вообще, полный список совместимости с Windows Vista можно найти
здесь