За***лся я объяснять куда ушло столько памяти!

А вот блять куда:
Кроме SGA, памяти на операционку и других структур, Oracle потенциально может отъесть памяти - _pga_max_size * processes. _pga_max_size считается так:

select ksppinm "Name", ksppstvl/1024/1024 ||'M' "Value", ksppdesc "Desc"
from x$ksppi x, x$ksppcv y
where x.indx = y.indx and ksppinm ='_pga_max_size';