ITキャッシュの重要性について

議論の中で、問題は自発的に生まれたもので、興味深いように見えました。

巨大なサービスは、結果がキャッシュされるクエリを実行します。 キャッシュされていないリクエストの実行は、キャッシュされたリクエストよりも数万倍長くなります。 一度、何かが悪くなり、このキャッシュのヒットの割合は99％から98％に低下しました。

以前は、このサービスは100台のまったく同じサーバーで機能していました。 現在何台のサーバーが必要ですか？

PS：タスクは非常に厳密に定式化されていませんが、これはその解決に大きく干渉するべきではありません:)