スパイク負荷を捌けるスペックまでスケールアップ・アウトするのは多くの場合現実的では無いので、捌ける以上のコネクションが来たらソーリーサーバーに転送するようにして、AP・DBが過負荷でダウンしないように設計するのがセオリーですね。
Mastodon は、オープンなウェブプロトコルを採用した、自由でオープンソースなソーシャルネットワークです。電子メールのような分散型の仕組みを採っています。