네티기본 개념 시리즈 (2) - 쓰레드모델

Question

ChannelHandlers(업무로직이 들어있는)는 싱글쓰레드로 실행되는것을 보장 함 non-blocking 자체가 각 개별 connection에서 한개의 쓰레드로 이루어진 디자인 구조이지만 네티에서 쓰레드는 boss 쓰레드, worker쓰레드로 나누어져 있는데 boss쓰레드는 포트를 2개 열었다면 2개 쓰레드만 생기지만, worker 쓰레드는 네티 사용하는 유저가 정의한 핸들러 실행을 위해서 적절한 갯수로 구성된 Worker Thread Pool을 유지 합니다 * 디폴트 갯수 있슴 요점은 네티의 Thread-model은 기본적으로 비동기 API를 제공하고 필요한 synchronization 이슈를 코어파트에서 다 해결해줍니다. 각종&#160; handler를 처리하는 프로세스들은 씽글쓰레드를 보장하는 구조로 Thread-model이 설계되어있어서 &#160; ConcurrentModificationException, stale-data, locking 이런 동시성 제어문제를 걱정하지 않고 코딩이 가능합니다. [전형적인 기존 자바쓰레드 모델] swing,applet 처럼 UI든 서버사이드든 한개의 쓰래드가 잡(work)를 dispatch하면 이게 시스템 리소스를 다 소비하는 구조입니다. 즉 이벤트를 갑자기 많이 발생시키면 단순하게 creating Threads를 매번 생성하고 실행하는 구조에서는 Stack에 해당&#160; thread를 쌓아놓고 pool 구조를 가져가면 화면/서버 프로세스의 버벅거림이 해소 되었고 JDK1.5에서 Excutor 인터페이스를 도입했어도 1. Task를 submit 하고 2. 쓰래드 풀(Excutor implementation)에서 Free thread가 해당 Task 실행 3. 상기 스텝이 완료되면 다시 free thread로 바뀌는 형태 4. 쓰레드를 재사용해서 쓰레드 총 갯수를 최소화 위에 방식으로는 문제가 반정도 밖에 해결이 안되었습니다. 조그만 서버에서는 문제가 안되었지만, 시스템을 운영하다보면 서버자원을 관리 하는 이슈, context switching 등 쓰레드 문제가 발생함&#160; 예를 들어 IO-thread라는 개념이 네티3 버젼에 있는데, inbound에서는 IO-thread pool을 만들어서 worker thread를 여기서 관리하고 outbound에서 이벤트들은 이것을 호출하는 thread과 취급한는 방식을 사용했습니다. 하지만 inbound Thread-model에서 Handler 이벤트 레퍼런스(fired통보된)를 outbound에서도 잡아서 처리해주는것을 반드시 잊지 않고 해주어야 했슴 Handler에서 개발자 실수로 error prone 상황이 발생하는것이 가능했슴 -- race-condition등 발생 (inbound 쓰레드모델에서 밸리데이션 익셉션발생 같은것) -- Mina, Netty 3버젼에서 쓰레드모델 [네티4에서 쓰레드 모델; Event Loop] - Event Loop 개념도입, Loop에 있는 이벤트들을 실행한다. Runnable을 선언한 다음 채널 레퍼런스를 얻고 거기에 넘깁니다 예) Channel ch = … Future future = ch.eventLoop().execute(new Runnable() ... 또는 Futurefuture = ch.eventLoop().submit(…); 이 접근법이 편한게 네트워크 프레임워크 특성상 inbound, outbound 콜이 있는데 상기 두개가 같이 사용하므로&#160; 내가 정의한 handler에서 업무로직 구사시 (Runnbale 또는 Task로) inbound, outbound 콜 (서버 바인드 됩니다) 관련 Events에서 synchronization을 걱정 안해도 됩니다 Event Loop에서 인/이웃바운드 Worker thread(Handler에서 발생시키는)를 다 체크하므로 네트워크 latency 이슈가 나올수도 있는데 큰 문제는 아닙니다. 기본흐름은 (네티 내부구조입니다) 1. 실행할 Task가 있는 EventLoop에서 Task 실행 2. 실행메소드에 task가 넘어오면 실행하는 쓰레드가 EventLoop에 있는 쓰레드와 동일한지 체크 Channel ch = … if (ch.eventLoop().inEventLoop()) 3. 쓰레드가 같다면 바로실행 4. 쓰레드가 그 쓰레드가 아니라면 EventLoop큐에 넣는다. ================================================================== 위에 적은것을 몰라도 netty 프레임워크 이용해서 코딩은 가능하지만 저도 공부 하는 의미에서 알고있는 지식 정리 해보았습니다 문제는 long-time 걸리는 SQL관련 이벤트(유저 정의한 핸들러)들을 네티에서 어떻게 처리되느냐? 이런문제가 있습니다. 위 설명대로 해당 in/out bound의 Pipline과 이 안에 handler , 이 핸들러의 Task (runnable) 쓰레드가 큐에 쌓이는 문제가 있는데 이건 네티쪽 스택오버플로우 같은 영문게시판 Q/A 참조해서 네티 BootStrap 초기값 설정등을 참고해서 운영상황에 맞추어 해결하는 수밖에 없습니다 [요점] 7001, 7443 이런식으로 서버포트 두개 열고(bind) 네티 띄우면 두개의 Boss 쓰레드풀 생성 그외에는 네티디폴트값(프로세스갯수*2)로 해서 Worker 쓰레드풀 생성해서 (socket connection) ... Selector, Channel 등 (non-blocking API로 작동) 그리고 제가 위해서 설명한 대로 in/out bound로 child-like Worker 쓰레드가 EventLoop 그룹 쓰레드 모델에서 작동됨 (내부적으로 생성되는 유저 defined Calling Threads)

ssamkj · Answer

책 갈피 해 놨습니다. ^^ 정리해주셔서 대단히 감사합니다.

starcx2 · Answer

업데이트가 빠르시군요.^^ 잘 읽었습니다.

spam · Answer

알겠습니다 다음에는 echo 서버로 헬로우 월드 찍는법요 컴파일은 maven 으로 네티로 첫애플리케이션 작동하는법 올릴께요 ㅋ 담에 만나면 양꼬치 사주세요

j a e g e r · Answer

+1

utsal · Answer

다음번이 기대됩니다

네티기본 개념 시리즈 (2) - 쓰레드모델

5개의 답변

Q&A 목록