blog/node-js-event-loop/

[utterances-bot]

Node.js 이벤트 루프(Event Loop) 샅샅이 분석하기

글에 들어가기에 앞서 Node.js의 이벤트 루프의 경우 공식 문서에 설명이 부족하고 이에 따라 여러 사람들이 각자 나름대로 분석한 글이 많아 무엇이 이벤트 루프의 정확한 동작인지 알기 힘듭니다. 혼자 이벤트 루프를 공부해보면서 여러 글들, 공식 문서, 그리고 Node

https://www.korecmblog.com/node-js-event-loop/

[ChanYangYu]

와우... 정말 궁금했던 내용이고 공식문서를 봐도 잘 이해가 안되었던 부분인데 너무 잘 설명해주셔서 감사합니다!!
글을 읽다가 추가로 궁금한점이 생겨서 몇가지 질문을 드리고 싶습니다!

1. 이벤트 루프는 libuv에 포함되어 있는건가요?
2. 이벤트 루프의 각 Phase에서는 비동기 처리 로직을 libuv에 위임하고 libuv에서 요청을 처리한 이후 콜백을 해당 Phase 큐에 담아주는걸까요?
3. Nodejs 이벤트루프 방식과 브라우저의 이벤트루프 방식은 차이가 있을까요?

[korECM]

@ChanYangYu

1. libuv의 공식 홈페이지 설명을 보면 아래와 같이 소개되어 있습니다.

libuv is cross-platform support library which was originally written for Node.js. It’s designed around the event-driven asynchronous I/O model.

즉, libuv는 비동기 입출력, 이벤트 관련 기능을 지원하기 위해 OS 커널을 추상화한 라이브러리라고 생각할 수 있습니다.
그래서 이벤트 루프는 특정 라이브러리라기보다는 비동기 처리를 하는 방법 중 하나이고 libuv가 이를 구현했다고 생각하면 편합니다.

출처

위 사진을 보면 알 수 있듯이 Node.js는 비동기 처리를 libuv에게 위임하는데 libuv는 내부적으로 여러 Phase를 나누어서 비동기 처리를 하고 이 방법이 이벤트 루프라고 생각하면 될 것 같습니다.

그래서 이벤트 루프는 종종 이벤트 드리븐을 구현하는 방법으로 많이 이야기 되고

Spring WebFlux 또한 요청을 처리하기 위해 이벤트 루프를 사용하는 것을 알 수 있습니다.

2. 이 부분에 대해서는 다른 글이나 공식 문서에서도 자세한 내용이 없어서 확실하지는 않지만 제가 이해한 바는 아래와 같습니다.
   Node.js는 V8 엔진을 기반으로 돌아가기가 때문에 js 코드의 실행 또한 V8 엔진이 맡게 됩니다. 따라서 이벤트 루프가 생성되고 전체 코드 실행이 완료되면 기다리고 있는 비동기 로직들이 이벤트 루프의 각 페이즈의 큐에 담기게 됩니다.

예를 들어서 main.js에서 구글에 HTTP 요청을 하나 보냈다면 Poll Phase에 HTTP 응답을 기다리는 무언가가 큐에 담기게 됩니다. 구글로부터 HTTP 응답이 오면 libuv는 FD(File Descriptor)를 통해서 응답이 왔다는 사실을 알게되고 이 FD와 매칭되는 콜백을 Poll Phase의 큐에서 찾아서 실행하게 됩니다.

이때 콜백은 결국 js 코드가 되므로 libuv가 이 콜백을 V8 엔진을 사용해서 실행한다고 생각하면 됩니다. 실제로 libuv는 이벤트 루프 안에 v8::Isolate, v8::Context 등을 가지고 있는데 이것을 사용해서 콜백 코드를 실행한다고 생각하면 됩니다.

만약 HTTP 응답 콜백에서 네이버에 HTTP 요청을 보내는 코드가 있다면 아래와 같은 순서로 진행된다고 생각하면 됩니다.

1. main.js에서 구글에 HTTP 요청 보냅니다.
2. 네트워크 요청을 보냄에 따라서 FD가 할당되고 libuv는 Poll Phase에서 이 FD를 기다리는 콜백을 큐에 넣습니다.
3. 구글로부터 HTTP 응답이 오면 libuv는 FD를 통해 응답이 온 것을 감지하고 이 FD에 대응되는 콜백을 Poll Phase의 큐에서 찾아서 V8 엔진으로 이 콜백을 실행합니다.
4. 이 콜백을 실행하면 네이버에 다시 HTTP 요청을 보내고 FD가 할당되고 이 FD를 기다리는 콜백이 다시 Poll Phase의 큐에 들어갑니다.
5. 네이버 HTTP 응답이 오면 다시 libuv는 Poll Phase의 큐에서 콜백을 V8 엔진으로 실행합니다.
6. 이러한 과정이 이벤트 루프에 남아있는 콜백이 없을 때까지 반복됩니다.

.

3. 핵심 동작은 비슷할 수 있지만 구현이 달라 세부적인 동작이 다를 수도 있습니다.
   실제로 Chrome은 libevent를 사용하고 Node.js는 libuv를 사용합니다.

찾아보니까 아래와 같은 Node.js와 브라우저 비교 글도 있네요.

저도 자세한 내용은 몰라서 아래 내용들을 참고해보면 좋을 것 같습니다.
https://www.youtube.com/watch?v=u1kqx6AenYw
https://stackoverflow.com/questions/25750884/are-there-significant-differences-between-the-chrome-browser-event-loop-versus-t
https://yoeubi28.medium.com/browser-vs-node-event-loop-차이-9c87f858051d
https://blog.insiderattack.net/javascript-event-loop-vs-node-js-event-loop-aea2b1b85f5c
https://www.reddit.com/r/javascript/comments/downgn/askjs_event_loop_browser_vs_node/

[ChanYangYu]

정말 꼼꼼한 답변 감사드립니다!
이해가 잘 안되었던 부분이었는데 이제야 이해가 되네요 ㅎㅎ
좋은 글 보고 자극 얻어갑니다!

[epitone]

정말 좋은 글 감사드립니다. 이벤트 루프에 대해 이해가 전혀 되지 않았는데, 글을 읽고 크게 도움을 얻을 수 있었습니다. 계속 반복해서 글을 보면서, 공부하고 있는데 혹시 이 글을 보고 공부한 내용을 블로그에 출처를 남기고 작성해도 괜찮을까요?

[korECM]

@epitoneproject 넵 괜찮습니다!

[seungtaek95]

정성이 느껴지는 게시글입니다. 재밌게 정독할 수 있었습니다!

[dontbesatisfied]

해당 레포에서
make -j n 의 n이 의미하는것이 무엇인가요?

[korECM]

@dontbesatisfied
make의 j 옵션은 빌드를 할 때 병렬적으로 할당하는 작업의 개수를 말합니다. 컴퓨터 코어 수에 맞게 적당한 값을 적어주시면 됩니당

       -j [jobs], --jobs[=jobs]
            Specifies the number of jobs (commands) to run simultaneously.  If
            there is more than one -j option, the last one is effective.  If the
            -j option is given without an argument, make will not limit the
            number of jobs that can run simultaneously.

[Sun26-Avrin]

작성자님의 정성으로 제 시간을 세이브했네요 ㅠㅠ... 너무 감사합니다...!!!!

[gaonK]

정성 가득한 글 너무 잘 읽었습니다. 많은 도움이 되었습니다 :)

[junguksim]

최고의 글입니다.

[tastestar91]

정말 자세한글 감사합니다!

[jabel123]

엄청난 글이군요

[MySprtlty]

다 읽는데 두시간이 걸렸습니다.
좋은 글 정말 감사합니다 :)

[tre2man]

정보 정리가 잘되어있네요. 감사합니다.

[amkorousagi]

감사합니다.

[luckyhyom]

집요함에 감탄하고 갑니다 ㅎㅎ

[kscory]

지금까지 본 글 중에 최고에요. 감사합니다.

[memoer]

유용한 정보 감사합니다. 혹시 해당 글에서 적혀진 node 스레드 개수 확인하는 사진은 어떤 명령어를 치면 나오는 결과물인가요..?

[korECM]

답변이 늦어서 죄송합니다.
htop 이란 명령어를 사용했습니다.

https://jinchoi.oopy.io/log/backend/6

[Jonghakseo]

너무 재미있게 잘 읽었습니다!

[jhpung]

많은 수고가 묻어나오는 글이네요. 이벤트 루프 리마인드에 많은 도움이 됐습니다. 개인적으로 이벤트 루프에 대하 포스팅을 할까 했는데 이 글보다 더 잘 쓸런지 모르겠어서 보류해야겠네요 😅

[goldentrash]

정말 놀라운 글입니다. 이 글을 발견한게 올해 최고의 행운이 될지도 모르겠네요. 추가로 궁금한 점이 있어서 질문드립니다.

poll phase에서 처리되는 callback은 libuv의 워커 쓰레드가 완료한 job의 callback으로 이해했습니다. node event loop 자체는 non-preemtive로 동작하는것으로 아는데 백그라운드(?)에서 io나 계산집중적인 job을 처리하는 워커 쓰레드도 non-preemtive하게 동작할까요?

[korECM]

libuv 공식 문서에서 관련 내용을 발견하지는 못했으나 아레와 같은 글들을 살펴보면 비선점으로 동작한다고 추정할 수 있을 것 같습니다.
물론 공식 문서나 실제 코드를 까본 것이 아니기 때문에 확실하진 않습니다.

libuv의 경우 커널이 비동기 API를 지원하는 경우 이를 사용하지만 그렇지 않은 경우 스레드 풀을 사용해서 실행합니다.
제가 찾아본 결과 한 스레드가 맡은 작업이 끝나야만 다음 작업을 실행하는 구조인 것 같습니다. 따라서 비선점식으로 동작하게 됩니다.
다만 UV_THREADPOOL_SIZE이 cpu 코어 수보다 많은 경우 OS에 의해 스케줄링되기 때문에 선점식으로 동작하게 된다고 볼 수도 있을 것 같습니다.

하지만 이것은 계산 집약적인 태스크를 이벤트루프 성능을 올리기 위해서 libuv의 스레드 풀에서 대신 실행할 때의 이야기이고 일부 커널 기능도 비동기 지원을 위해 스레드 풀에서 실행하는 경우는 정확한 동작까진 모르겠습니다. 예를 들어 파일 시스템 요청이나 DNS 요청의 경우에도 스레드 풀을 사용해서 처리합니다.

다만 Node.js 공식문서에서 다음과 같은 내용이 있는 것으로 보아 비선점 방식으로 동작하는 것이 맞는 것 같습니다. 파일 시스템 콜 partioning 문제도 언급하는 것으로 보아 모든 스레드 풀의 스레드는 비선점 방식으로 동작하는 것으로 보입니다.

As discussed above, each Worker completes its current Task before proceeding to the next one on the Worker Pool queue.

Worker executes tasks corresponding to C++ code that completes an asynchronous request, including blocking I/O and CPU-intensive work. Both types of threads work on no more than one activity at a time. If any callback or task takes a long time, the thread running it becomes blocked

혹여나 틀린 부분을 발견하게 되시면 언제든지 편하게 말해주세요! 아래는 제가 참고한 링크들입니다.

https://nodejs.org/en/docs/guides/dont-block-the-event-loop

https://blog.devgenius.io/nodejs-and-libuvs-thread-pool-69b2cc225738

[goldentrash]

답변 감사합니다! 제가 내린 결론이랑 동일한 것 같네요. 다시 한번 좋은 글, 친절한 답변 감사합니다. 큰 도움이 되었습니다.

[haeseong123]

많은 도움 되었습니다. 감사합니다!

[sanghogu]

감사합니다. 궁금한 내용이었어요. 다 이해하지는 못했지만 따로 작업하다 이 글 내용이 생각나면서 스스로 정리될것같아요.

[bh981013]

사소한 correcting입니다.

한 페이즈에서 다음 페이즈로 넘어가는 것을 틱(Tick)이라고 부른다
라고 하셨는데, 공식문서에서는
Every time the event loop takes a full trip, we call it a tick
링크: https://arc.net/l/quote/vgyukdhr
리고 되어있습니다. 즉 모든 페이스를 한번 돌때를 tick이라고 정의하는것 같은데, 제가 잘 못 이해했나요?

[bh981013]

위 내용 잘못 작성되었습니다.

[novice0840]

안녕하세요, 글 잘 읽었습니다. 혹시 마지막 부분에 setTimeout을 0으로 설정했을 때 1로 바뀌는 게 특별한 이유가 있어서 일까요?

[korECM]

Node js 공식 문서를 살펴보면 다음과 같은 내용이 있습니다.

When delay is larger than 2147483647 or less than 1, the delay will be set to 1. Non-integer delays are truncated to an integer.

환경에 따라 달라질 수 있지만 timeout이 0이 되는 건 현실적으로 불가능하니까 1로 바꿔버린다고 생각해도 좋을 것 같습니다. 브라우저에 따라 다를 수 있지만, 통상적으로 timeout 값이 1보다 작은 경우, 이를 최소값인 1로 바꿔버린다고 이해해도 좋을 것 같아요.

[gyunseo]

Chromium DOMTimer cpp file
93번 line을 보면요.

double intervalMilliseconds = std::max(oneMillisecond, interval * oneMillisecond);

로 돼 있습니다. interval을 0으로 줘도 최소값은 항상 1ms로 되게 됩니다.

[sanghogu]

오 첨 알았네요 감사함다

[JuneParkCode]

내부 구조를 뜯어보기에 엄두가 안났는데, 너무 좋은 글 덕분에 잘 이해하고 갑니다. 감사합니다 :)

[highway92]

정리 잘해주셔서 감사합니다 :)

[JaeHye0k]

엄청 디테일한 설명이네요 감사합니다! 참고자료의 수만 보아도 집요함이 대단하시네요 .. 👍

[iamkanguk97]

두고두고 계속 봐야할 것 같아요! 너무 좋은 글이어서 감탄했습니다.
좋은 글 이렇게 포스팅 해주셔서 감사합니다 :)