То же самое с вистой (х86) SP2.
Виртуальной памяти приложению не хватает.
Инструкция
здесь.
Если кратко - под админом открываете командную строку (Выполнить -> cmd) и пишете:
bcdedit /set increaseuserva 2560
Тем самым увеличиваете доступную для приложения память на указанное число.