SERVIDOR WEB
1) Sua aplicação roda no Tomcat 5.5, provavelmente deve ser feita em java, verifique se realmente é uma aplicação em java. Pelo fato dela ser de terceiros dificulta mudar o webserver pois pode ser que a mesma seja incompativel com versões anteriores do tomcat como o 5 ou o 4. Talvez vale a pena fazer um teste nestes outros tomcat mas provavelmente não vai funcionar. O tomcat 4 é leve mas incompativel com uma penca de coisa o Tomcat 5 é um meio termo mas faltam recursos.
2) Se a aplicação for mesmo feita em java, tenha em mente que JAVA É LENTO. Sim. Java é (semi) interpretado, precisa alocar uma penca de coisa na memória, gasta memória a bessa. Tem que dar uma penca de volta pra fazer um hello world. Java só se torna melhor (em termos de performance, vamos deixar o resto de lado ok) que linguagens mais leves (como C por ex.) em casos onde tem recursos abundantes, vide por ex, 2 aplicações, 1 escrita em java e outra escrita em C. Em uma maquina de 1Ghz com 256Mb de memória a aplicação em C pode ser umas 10 vezes mais rapida que a aplicação em java. Se colocarmos em uma maquina com 100Gb de memória e 16 processadores de 2Ghz, a aplicação java talvez seja 10 vezes mais rapida que a aplicação C (isso por diversos motivos que não cabe agora entrar em detalhes tbem), portanto não adianta querer fazer milagre com java em maquina lenta.
3) Verifique se a aplicação é compativel com outro aplication/web server, talvez vale a pena testar com outro.
4) Um ultimo caso seria tentar compilar com o GCJ ou rodar com a VM do GCJ (caso a aplicação use java 1.4). Acho dificil funcionar mas com certeza melhora a performance.
Tem um parâmetro no tomcat (parâmetro do java na verdade) chamado Xmx, este parâmetro é a quantidade máxima de memória que o java vai usar, quanto mais melhor. Se tiver 1Gb na máquina, deixe um valor próximo por exemplo -Xmx864. Outra coisa é você deixar a VM com bastante memória e um cpu dedicado (ai ja entra em