요즘 nginx 로 구성됀 로드 밸런서 서버 설정을 수정하고 있습니다. 서버이야기 | Posted on 2022. 2. 4. 21:04
설이 끝난 이후로 왜인지 502가 제가 확인 가능할정도로 좀 많이 뜨는거 같아서..
(설연휴는 저도 여러가지 일이 있어서 확인 못했었고..)
nginx 로 구성됀 로드밸런서 서버를 긴급하게 잠깐동안 증가한 트래픽을 버틸정도로 튜닝중에 있습니다.
(왜냐면 사이트의 로드맵을 보시면 아시겠지만, 이미 오래전부터 로드밸런서를 NGINX 에서 교체할 예정이라.. 이번 기회에 변경하려고 준비중..)
일단 upstreams 오류로 팅기는데..
검색을해보니, 업스트림의 서버가 다 죽으면 뜨는 에러라고 하더군요.
그래서 backup 서버를 추가해봤었습니다.
하지만, 동일하게 죽어도 backup 서버로 라우팅이 안돼는 문제가.. (응???)
결국 그냥 로드밸런서를 담당하는 서버가 문제라고 보고서, 열심히 작업을 몇일간 진행하고 있습니다.
현재 502 에러가 완전히 사라졌다고는 말할 수 없지만, 그래도 502가 뜨는 빈도와 시간은 많이 줄어들고 있습니다.
그리고 502 에러의 빈도가 사라질수록 폭증하는 API 콜수..;;
(뭐야 저거 무서워;;)
그니까 지금까지 API 콜수 절반이 502 에러로 튕기고 있었다는거죠???
(소오오오오름;; 어쩌면 절반 이상일지도;; 아직도 종종 502 에러 로그 나오고 있어서;;)
대충 AWS Lightsail 이 약 50만건이 한계라고 생각을 했었는데, 어떻게 보면 절반은 맞았네요..;;
(현재 서울 서버가 2대인데, 한대당 50만건씩 담당하다가 튜닝하면서 폭증하니;;)
서울 로드밸런서 서버의 경우 빠르면 2월중, 늦으면 3월중에 교체를 할 예정입니다.
일단 새로운 프로그램을 써야해서, 테스트랑 그런게;;
그 이전에 서버 교체 사전 준비도 해야하고..
