간헐적 502 발생에 대한 이슈, 도움 부탁드립니다.+ 추가 질문

Question

최근 간헐적 502 발생 관련한 질문을 드렸었습니다.급한마음에 두서없이 질문한 것 같아 다시 정리해서 질문하려고 합니다.현재 저는 fastapi를 uvicorn으로 올려 배포하고 apache를 리버스 프록시로 사용하고 있습니다.(nginx를 사용하는 것이 정배지만 현상황상 불가피)문제는 간헐적으로 502 오류가 발생하는데요. (1~3 일에 한번)502 오류는 apache 측에서 뱉는 오류입니다. ((70007)The timeout specified has expired)현재 timeout은 60초로 설정되어 있습니다.따라서 정확히 말해서는 fastapi가 응답을 처리하지 않는 것으로 보이는데요.fastapi측 로그를 살펴보면 request는 이루어지지만 그에대한 response는 이루어지지 않는 것으로 확인됩니다.아래는 fastapi system 로그입니다.# 정상일 때 2025-06-08 15:55:47 [INFO] : POST: (endpoint 생략) - request 인입 2025-06-08 15:55:48 [INFO] : POST: (endpoint 생략) - response 완료# 502 발생시 2025-06-10 13:00:50 [INFO] : GET: (endpoint 생략) - request 인입 2025-06-10 13:00:53 [INFO] : GET: (endpoint 생략) - request 인입 2025-06-10 13:00:54 [INFO] : GET: (endpoint 생략) - request 인입 2025-06-10 13:01:26 [INFO] : GET: (endpoint 생략) - request 인입서버가 아예 멈췄다고 하기에는 request는 이루어지고 있습니다.어딘가 block 되어 있는 곳이 있나 api를 살펴보면 딱히 그럴만한 곳이 없습니다.해당 서비스는 현재 내부사용을 위해 극히 기본적인 기능들만 존재합니다. (CRUD 기능, db, s3 bucket 정도만 접근)문제가 발생했을 때는 fastapi를 restart 해주면 다시 해결됩니다. (정상 복원)처음으로 돌아와 fastapi 문제가 아니라 apache 문제인가도 생각해봤습니다.문제될 것으로 예상되는 정황은 fastapi와 통신할 때 netstat 확인시 CLOSE WAIT인 네트워크들이 항상 생성됩니다.그러나 CLOSE WAIT인 네트워크들은 금새 사라집니다.이부분이 문제가 될 수 있을까요?아직 개발직군에서 일한지 얼마 안되서 어디가 문제인지 막막하고 감이 안오는데,도움 주시면 감사하겠습니다.

ansdbduf · Answer

프록시 서버가 fastapi 서버로 요청이 60초 초과해서 발생한 오류 이므로 fastapi 요청이 60초 초과한 사유를 찾으시면 될듯합니다.

캐티 · Answer

위에 처럼 fastapi가 잘못된 것이게쩌.CLOSE_WAIT 은 fastapi가 정지하여서 정상적인 연결 종료 패킷을 주지 않아서 이렇게 되어요. 어떡하나요.싱글스레드에서 루프백 api를 사용하면 무한루프가 걸리빈다. 파이썬 단일 스레드에서 fastapi -> fastapi 이럼 안되고요. 이거는 싱글스레드 php도 같은 거고요. 노드js는 싱글 스레드 이면서도 모든 동작을 비동기로 수행하여서 이런현상이 안나타나지만 동기 함수를 사용한다면 동일한 현상이 나요.php에서 curl에 (HTTP/3.0) 실험적 기능을 사용하는 경우에 프로세스가 터지는 문제가 있었쩌. 일반적으로 메모리릭 현상으로 인하여 메모리 점유 요청 실패에 따른 결과이었어요. 이런 경우에 free 명령어로 가상메모리를 열어보면 앵간하게 터져이쩌.fastapi쪽에서 메모리릭이 있었을 가능성은 90% 전망합니다.

skrevolve · Answer

어플리케이션쪽 보셔야될것같습니다 무조건 거기라고 생각되요

간헐적 502 발생에 대한 이슈, 도움 부탁드립니다.+ 추가 질문

3개의 답변

#apache 목록