Hola
Lo que puedo deducir de tu problema es que se ha asignado mucha memoria SGA a Oracle. Si bien es cierto tienes 4Gb de RAM fisica, sin considerar que de paso estas en ese OS de ventanitas (jejeje), el SGA de Oracle deberia estar entre 1.5G a 1.7Gb como maximo.
Esta es una limitante de arquitecturas 32bits como la que debes tener, no es un problema de Oracle. En pocas palabras nunca podras usar tus 4Gb de RAM o mas, al menos te cambies a una arquitectura 64 bits tanto de Windows como de Oracle.
Para ver si este es tu problema, realiza lo siguiente:
1) En el SQL Plus conectate como SQL> connect sys as sysdba
2) Si la base de datos esta casi iniciada, ejecuta SQL> shutdown immediate
3) Luego SQL> startup nomount
4) Luego SQL> alter system set sga_target=1400M scope=spfile;
5) Tambien recomendaria ajustar el PGA_AGGREGATE_TARGET , con SQL> alter system set PGA_AGGREGATE_TARGET=300M scope=spfile;
5) Luego SQL> shutdown immediate
6) Luego SQL> startup
No se cuentos usuarios vayas a tener pero este tema del limite de reconocimiento de memoria en sistemas 32bits podria reducir la escalabilidad de tu sistema, donde la alternativa mas importante seria migrar a una arquitectura 64bits o tener varios servidores atendiendo en cluster con Oracle RAC.
Espero te ayude.