後から最適化するというのは

最初にライブラリに入っている汎用アルゴリズムを使って組んだプログラムに対して、ボトルネックになっているところだけ専用アルゴリズムを開発したりとか、
既存ライブラリの組み合わせだけでプロトタイプを作ったものに対して、製品化する前に、効率や拡張性で問題となっている基盤部分のライブラリを専用に開発するとか、
そういうサイズの変更のことを指しているのではないのかな？いうまでもなく、このサイズの変更は頻繁に発生するわけですが。
小手先の変更で効率が改善するような部分は、プロファイラとるまでもなく始めから効率よさそうな方で書いておくべきだと思う。そういう部分でわざわざ効率の悪い方を選択する理由が思い付かない。