Por onde começar a otimizar

A forma que mais gosto para se começar a otimizar uma aplicação (depois de já definidas as metas) é levantar a frequência de acesso da aplicação.

Em aplicações já existentes, em geral as pessoas do time já tem uma boa intuição sobre quais são as páginas mais acessadas, mas nada se compara à filtrar o log de acesso e constatar isso efetivamente.

Depois disso simplesmente comece pela página mais acessada.

E se você não tiver um log de acesso?

Coloque um log de acesso. Com algumas horas de dados você já consegue ter uma boa idéia de como a aplicação é acessada. Daí já tem um lugar por onde começar.

Só é importante lembrar de extrair esses dados de tempos em tempos(uma vez por mês costuma ser o suficiente, mas dependendo da aplicação pode ser que precise fazer com mais frequência), porque o uso de uma aplicação muda com o passar do tempo.