Система експериментального оцінювання алгоритмів балансування навантаження для горизонтально масштабованих сервісів
Article Sidebar
This work is licensed under a Creative Commons Attribution-ShareAlike 4.0 International License.
Main Article Content
Abstract
Сучасний етап розвитку мережевих технологій характеризується стрімким зростанням частки розподілених веб-сервісів з одночасним підвищенням вимог до забезпечення якості сервісу (QoS). Одним з способів забезпечення потрібної QoS є використання підходящого алгоритму балансування HTTP-трафіку для систем із горизонтальним масштабуванням. У роботі представлено розроблену нами систему для оцінювання базових політик балансування та визначення найдоцільнішої з них для поставлених умов навантаження. Запропонована система тестування на базі контейнеризації, з використанням HAProxy як окремого модуля для перевірки балансування алгоритмів. Як вхідні параметри система приймає рівень (RPS) та тривалість навантаження. Було проведено серію експериментів та виконано порівняння базових алгоритмів розподілу трафіку. Вихідні значення складаються з обчислених квантілів p50, p75, p95, середньої та максимальної затримки протягом експерименту, та розподілу запитів між репліками. Результати показали, що найкращим для заданих критеріїв виявився Round Robin. Сфери застосування системи відносять до DevOps практик, де часто стоїть задача визначення оптимального алгоритму балансування.
Article Details
References
Michaelis, O., Schmid, S., Mostafaei, H., (2024). L3: latency-aware load balancing in multi-cluster service mesh. У: MIDDLEWARE '24: 25th international middleware conference, Hong Kong Hong Kong [онлайн]. New York, NY, USA: ACM. с. 49–61. Режим доступу: doi:10.1145/3652892.3654793 DOI: https://doi.org/10.1145/3652892.3654793
Saleh Sedghpour, M. R., Klein, C., Tordsson, J., (2022). An empirical study of service mesh traffic management policies for microservices. У: ICPE '22: ACM/SPEC international conference on performance engineering, Beijing China [онлайн]. New York, NY, USA: ACM. Режим доступу: doi: 10.1145/3489525.3511686 DOI: https://doi.org/10.1145/3489525.3511686
Lim, G., Prerepa, A., Godfrey, B., Mittal, R., (2024). Opportunities and challenges in service layer traffic engineering. У: HOTNETS '24: the 23rd ACM workshop on hot topics in networks, Irvine CA USA [онлайн]. New York, NY, USA: ACM. с. 352–359. Режим доступу: doi: 10.1145/3696348.3696871 DOI: https://doi.org/10.1145/3696348.3696871
Ingress controllers [онлайн]. Kubernetes. Режим доступу: https://kubernetes.io/docs/concepts/services-networking/ingress-controllers/
HAProxy version 3.2.10 - starter guide [онлайн]. HAProxy Documentation Converter. Режим доступу: https://docs.haproxy.org/3.2/intro.html
HAProxy version 3.2.10 - configuration manual [онлайн]. HAProxy Documentation Converter. Режим доступу: https://docs.haproxy.org/3.2/configuration.html
Los, D., Sauerwald, T., (2022). Balanced allocations with incomplete information: the power of two queries. Leibniz International Proceedings in Informatics (LIPIcs) [онлайн]. Режим доступу: doi: 10.4230/LIPIcs.ITCS.2022.103 DOI: https://doi.org/10.1145/3519270.3538428
Bhambay, S., Mukhopadhyay, A.,Vasantam, T., (2024). The impact of load comparison errors on the power-of-d load balancing. Performance Evaluation [онлайн]. Режим доступу: doi: 10.1016/j.peva.2024.102408 DOI: https://doi.org/10.2139/ssrn.4626478