스프링의 멀티 스레드와 비동기 처리에 대한 의문이 있습니다.

Question

현재 프로젝트오 웹 어플리케이션을 개발하고 있습니다.개발 중 이미지를 생성하는 메서드가 존재하기 때문에 플라스크 서버(딥러닝 모델)과의 통신으로 이미지를 주고 받고 있습니다.여기서 이런 생각이 들었습니다. &#34;해당 작업의 경우 시간이 오래걸릴 수 있기 때문에 동기로 처리하게 된다면, 사용자가 다른 서비스를 사용할 수 없겠구나. 따라서 비동기로 처리해야겠다.&#34;그래서 해당 서비스 메서드에 &#64;Async 어노테이션을 달아서 비동기적으로 처리할 수 있도록 설정하고, postman으로 api 를 호출했습니다. 호출시 이미지를 생성하는 메서드는 비동기로 처리했으니까 다른 메서드에 요청을 보내도 안끊기고 되겠지 라는 생각으로 이미지 생성 메서드 호출 중에 다른 조회 메서드를 호출했습니다.결과는 둘다 성공했습니다. 근데 의문이 생겼습니다. 만약 &#64;Async 처럼 비동기 처리 안할경우 이미지 생성 메서드 실행중에는 다른 메서드에 대한 요청이 실패할까?그래서 비동기 처리를 해제하고, 이미지 생성 메서드 실행중 다른 메서드에 요청을 보냈습니다.결과는 이것도 두 메서드다 정상적으로 작동했습니다,여기서 저는 의문이 생겼습니다. 분명 비동기 처리를 하는 이유가 다른 로직을 병렬적으로 처리하면서 유저가 다른 요청도 보낼 수 있도록 하는 것이라고 생각했습니다. 하지만 비동기 처리를 하지 않아도 이는 가능했습니다.그래서 제가 생각한것은 스프링 내장 톰캣 서버의 스레드 풀이 존재하니, 동기적으로 처리해도 이미지 생성 메서드에 스레드 하나 부여, 조회 메서드에 스레드 하나 부여를 해서 독립적으로 실행되는 것이라고 생각했습니다. 그러면 이 경우 굳이 비동기 처리를 왜 해주는지 의문이 생겼습니다..이 부분에 대한 명쾌한 해답을 듣고 싶습니다..!!그리고 해당 어플리케이션에서 이미지 생성 메서드를 어떻게 처리하면 좋을지도 알고 싶습니다.

짱구올시다 · Answer

스프링 같은 경우엔 멀티 스레드를 지원하기 때문에 요청 당 스레드가 하나씩 부여된다고 보면 됩니다. 고로 @Async를 하던 안하던 다른 요청들이 여기에 영향을 받는 일은 거의 없을거에요.근데 비동기를 하면 뭐가 좋으냐?라고 하신다면 결국 클라이언트 측 스레드가 블로킹되는 걸 막기 위함이라고 이해하시면 돼요. 결국 api 요청 응답이 지연되면 그만큼 클라이언트 측 스레드는 블로킹되면서 낭비가 되고 있다고 보시면 돼요. 이걸 방지하기 위해서 비동기 처리를 해주는거에요.

엡실론 · Answer

일단 이미지 생성은 다른 서버(플라스크)에서 이루어지고, 웹서버는 이미지 생성동안 단지 기다리는 구조가 맞나요?생각하신대로 여러 유저 요청을 동시에 처리하는 건 비동기가 아닌 그냥 스레드풀로도 충분히 가능합니다. 비동기를 쓰는 이유는 그게 더 효율적이기 때문입니다. 예컨데 스레드 풀에 10개의 스레드가 있다고 해보죠. 10명이 동시에 이미지 생성 요청을 보냈고, 웹서버의 10개 스레드는 10개의 요청을 처리할 수 있습니다. 하지만 이미지가 생성되는 동안은 10개의 스레드가 모두 기다리기만 하고, 11번째 유저가 요청을 보내면 이를 처리 할 수 없습니다. 실제로 웹서버는 아무일도 하고 있지 않은데 말이죠.이를 방지하기 위해서 보통은 스레드풀에 가용자원보다 더 많은 스레드를 생성합니다. cpu 코어가 10개 있다고 치면 실제로는 최대 10개의 작업만 동시에 가능하지만, 위와 같은 경우를 예상해서 20개 혹은 그 이상의 스레드를 미리 생성해 둡니다. 문제는 이 예측이 빗나갈 수도 있다는 점입니다. 생각보다 스레드가 블락되는 일이 많아서 웹서버가 놀지 않으려면 더 필요할 수도 있고, 또는 반대로 스레드가 덜 블락되어서, 스레드간 경쟁이 심해지고 thrashing이 일어날 수 있습니다.이 부분을 비동기가 해결할 수 있습니다. 비동기 구조에서 스레드는 블락되지 않기 때문에 필요한 만큼만 스레드를 생성하고 관리가 용이해집니다. 따라서 비동기를 쓸지 말지는 시스템 규모나 사용하는 언어, 프레임워크에 달려있습니다. 시스템 규모가 작고 사용자가 작으면 그냥 스레드 풀을 사용해도 되고, 시스템 규모가 커질수록 비동기가 중요해집니다. 또한 자바 같은 언어는 비동기 구조를 언어적으로 지원하지 않기 때문에, 비동기로 작성하는 비용이 좀 듭니다. 하지만 코틀린같이 비동기를 직접 지원하는 언어라면 규모가 작아도 처음부터 비동기로 가는 것도 나쁘진 않죠.

스프링의 멀티 스레드와 비동기 처리에 대한 의문이 있습니다.

2개의 답변

Q&A 목록