Скачать или смотреть NSDI '20 — высокоскоростной балансировщик нагрузки с гарантированной согласованностью для каждого...

Высокоскоростной балансировщик нагрузки с гарантированной согласованностью на уровне каждого соединения

Том Барбетт, Чэнь Тан, Хаорань Яо, Деян Костич, Джеральд Кью. Магуайр-младший, Панайотис Пападимитратос и Марко Кьеза, Королевский технологический институт Королевского технического университета (KTH)

Крупные поставщики услуг используют балансировщики нагрузки для распределения миллионов входящих соединений в секунду между тысячами серверов. Существует два основных, но критически важных требования к балансировщику нагрузки: равномерное распределение нагрузки входящих соединений между серверами и согласованность на уровне каждого соединения (PCC), то есть способность отображать пакеты, относящиеся к одному соединению, на один и тот же сервер даже при изменении количества активных серверов и балансировщиков нагрузки. Однако одновременное выполнение обоих этих требований до сих пор было труднодостижимой целью. Современные балансировщики нагрузки минимизируют нарушения PCC ценой неравномерного распределения нагрузки.

В данной статье представлен Cheetah — балансировщик нагрузки, поддерживающий равномерное распределение нагрузки и PCC, отличающийся масштабируемостью, эффективным использованием памяти, устойчивостью к атакам с засорением и быстрой обработкой пакетов. Архитектура Cheetah LB гарантирует PCC для любого реализуемого механизма балансировки нагрузки с выбором сервера и может быть развернута как без сохранения состояния, так и с сохранением состояния, в зависимости от эксплуатационных потребностей. Мы внедрили Cheetah как на программном, так и на аппаратном коммутаторе на базе Tofino. Наш анализ показывает, что версия Cheetah без сохранения состояния гарантирует PCC, имеет незначительные накладные расходы на обработку пакетов и может поддерживать механизмы балансировки нагрузки, сокращающие время завершения потока в 2–3 раза.

Полную программу NSDI '20 можно найти по адресу https://www.usenix.org/conference/nsd...