Concurrency Go
Learn about Multithreading, Concurrency & Parallel programming with practical and fun examples in Google’s Go Lang.
1. Introduction
Concurrency의 세계에서는 thread 수를 아무리 높이더라도, 일정 수준이 지나면 병목현상이 생긴다.
Amdal’s law
Focus on latency (speed up)
암달의 법칙은 컴퓨터 시스템의 일부를 개선할 때 전체적으로 얼마만큼의 최대 성능 향상이 있는지 계산하는 데 사용된다.
1 / ((1-p) + (p/s))
- 작업의 portion이 낮은 작업을 아무리 개선시키더라도, 시스템 전체에 미치는 영향은 미미하다. 즉 전체 작업의 효율을 최대한 증가시키고 싶다면 그 중에 가장 비중이 큰 작업부터 초점을 맞추는 것이 좋다.
- (도표와 같이) 아무리 병렬작업이 늘어나더라도, 병렬화가 불가능한 작업들에 의해 병목현상이 발생하여
speedup의 한계가 정해지게 된다.
|
|
intro에서의 한계는 Gustafson's law로도 설명이 가능하다.
- 추가로 intro에서의 한계는 문제의 사이즈를 늘리는 방법으로 해결할 수 있다. (E.g FPS 게임에서 60fps 까지만 프레임을 지원할 수 있지만, 나머지 사운드에 대한 연산이나 타 유저와 통신하는 채팅에 대한 연산을 활성화 시킬 수 있다.)
Gustafson’s law
Focus on Throughput
S(P)=P−a(P−1)
- P: 프로세서의 갯수
- a: 병렬화되지 않는 부분의 비율
- S(P): 이론상 성능 향상 비율
성능 향상은 같은 시간 동안 처리하는 데이터량의 비율을 의미한다.
2. Creating and using thread
process vs thread vs green thread
먼저 process는 memory space를 isolate하게 관리하며, fork()를 통해서 복사된다.
thread는 memory space를 공유하기 때문에 isolate하지 않으며, thread간 context switch에 따른 overhead가 발생한다.
아래는 single processor에서 multi thread를 표현한 그림이다.
context switch의 오버헤드는 스레드 수가 많지 않다면 큰 비중을 차지 하지 않지만, 스레드 수가 커짐에 따라 문제가 발생한다.
이에 대한 대안으로 green thread가 사용되는데, green thread는 쉽게 말해 user level thread로 kernel level thread(흔히 우리가 말하는 thread)과 1:n관계를 가진다.
하나의 kernel thread안에서 여러 green thread가 존재하기 때문에, 연산중이 kernel thread안에 존재하는 특정 green thread에서 IO 연산이 필요하여 Interrupt가 발생할 경우, io 연산이 불필요한 green thread들 까지 불필요하게 cpu연산을 하지 못하게 된다.
kernel thread의 green thread중 일부에서 io interrupt이 발생하면 나머지 kernel thread에 존재하는 다른 green thread들도 cpu연산이 block되어서 java나 python계열에서 g-thread를 사용하려면 asnyc로 io를 처리해야 한다.
“When a green thread executes a blocking system call, not only is that thread blocked, but all of the threads within the process are blocked. To avoid that problem, green threads must use asynchronous I/O operations, although the increased complexity on the user side can be reduced if the virtual machine implementing the green threads spawns specific I/O processes (hidden to the user) for each I/O operation.” Wikipedia
이를 해결하기 위해 golang에서는 hybrid 방식의 green thread를 사용한다.
즉 io가 필요한 green trhead가 발생할 경우, 동일한 방식으로 io interrupt를 시키면서
새로운 kernel level thread를 만들어주어, io연산이 불필요한 green thread들을 새로운 스레드로 넣어주어 효과적으로 동작하도록 한다.
Boids algorithm
Boids is an ai program, developed by Craig Reynolds in 1986, which simulates the flocking behavior of birds.
The rules applied in the simplest Boids world are as follows
- separation: 무리가 붐비지 않도록 반대 방향으로 이동(steer to avoid crowding local flockmates)
- alignment: 무리의 평균 방향으로 이동 (steer towards the average heading of local flockmates)
- cohesion: 무리의 평균 위치를 향해 이동 (steer to move towards the average position, which is center of mass of local flockmates)
From Gorang docs
https://go.dev/tour/concurrency/1 https://gobyexample.com/goroutines
Goroutines run in the same address space, so access to shared memory must be synchronized.
By default, sends and receives block until the other side is ready. This allows goroutines to synchronize without explicit locks or condition variables.
A sender can close a channel to indicate that no more values will be sent. Receivers can test whether a channel has been closed by assigning a second parameter to the receive expression
Channels aren’t like files; you don’t usually need to close them. Closing is only necessary when the receiver must be told there are no more values coming, such as to terminate a range loop.
A select blocks until one of its cases can run, then it executes that case. It chooses one at random if multiple are ready.