Hola
No se porque sigo pensando que tu Oracle.exe (a nivel de task manager) esta excediendo los 2Gb. En Windows la sumatoria de SGA, PGA, procesos, etc (estos hacen el oracle.exe) deben ser menor a 2GB.
Te diria algunas cosas para evaluar y descartar
1) Reduce en un 50% el tamaño del sga_target, sga_max_size, pga_aggregate_target para descartar el limite de 2Gb. Es un ambiente de pruebas asi que podrias hacerlo.
2) Podrias habilitar la extension de memoria para procesos a nivel de Windows con:
En el boot.ini, agrega en la linea de tu boot la palabra /3GB
multi(0)disk(0)rdisk(0)partition(1)WINNT="Microsoft Windows 2000 Advanced Server" /3GB
3) Habras definido el parametro LOCK_SGA?
4) Despues de todo esto no descartaria evaluar ya a nivel fisico tus modulos de memoria.
Saludos