GC 알아보기

https://www.youtube.com/watch?v=FMUpVA0Vvjw&list=LL&index=73&t=12s

우아한 테크코스 조엘님의 영상을 보고 정리한 내용이다.

가비지 컬렉션(Garbage Collection, GC)

GC는 메모리 관리 기법 중 하나이다. JVM의 힙 영역에서 동적으로 할당했던 메모리 중 더 이상 사용되지 않는 객체들을 주기적으로 모아 제거하는 프로세스이다.

동적으로 할당했던 메모리 영역은 런타임에 사용되는 Heap 영역 메모리를 의미한다.

GC가 힙 영역의 객체들 중에서 더 이상 참조되지 않는 객체들을 찾아내어 메모리에서 해제함으로써, 메모리 누수를 방지하고 애플리케이션의 안정성을 높인다.

C, C++에서는 메모리를 개발자가 직접 해제하는데, 이렇게 수동으로 관리하는 것은 번거롭다.

할당받은 메모리를 해제하지 않아 “Memory Leak”이 발생하기도 한다.

Java와 JS 같은 언어에서는 GC가 알아서 해준다.

장점 :

• 개발자의 실수로 인한 메모리 누수를 막을 수 있다.

• 해제된 메모리를 또 해제하는 이중 해제를 막을 수 있다.

단점 :

• 어떤 메모리 영역이 해제의 대상이 될지 검사하고 해제하는 일은 오버헤드이다.

  • GC 작업은 순수 오버헤드

• GC의 메모리 해제가 언제 발생하는지 개발자가 파악하기 어렵다.

GC 알고리즘

GC는 어떻게 해제할 동적 메모리를 알아서 판단할 수 있을까? 🤔

Root space

root space는 스택 변수, 전역 변수 등, Heap 영역을 참조하는 변수를 담은 변수이다.

1. Reference Counting

Reference Counting은 Heap 영역에 선언된 객체들이 각각 reference count라는 별도의 숫자를 가지고 있다.

• reference count는 몇 가지 방법으로 해당 객체에 접근할 수 있는지를 의미한다.

• 즉, count가 0이 된다면 GC의 대상이 된다는 것이다.

Reference Counting은 순환 참조라는 문제점이 있다.

Root Space에서 Heap space의 접근을 모두 끊어버리면, 노란색 고리 안의 객체들은 서로가 서로를 참조하고 있기 때문에 Reference Count가 1로 유지 될 것이다.

따라서 사용하지 않는 메모리 영역이 해제되지 못하고 Memory Leak이 발생한다.

2. Mark And Sweep

Mark and sweep은 Reference Counting의 순환 참조 문제를 해결할 수 있다.

root에서 부터 해당 객체에 접근이 가능한지를 해제의 기준으로 삼는다.

root부터 그래프 순회를 통해서 연결된 객체들을 찾아내고 (Mark)

연결이 끊어진 객체들은 GC의 대상이다. (Sweep)

root로부터 연결된 객체는 Reachable, 연결되지 않았다면 UnReachable 이라고 부른다.

• sweep 이후 분산된 메모리가 정리되는데, 이를 메모리 파편화를 막는 Compaction 이라고 한다.

• Mark and sweep에서 Compaction은 필수 과정은 아니다.

Mark and sweep을 사용하면 순환 참조되는 객체들도 모두 지울 수 있다.

Java와 JS가 이 방법을 사용한다.

단점 :

• reference count와 달리 의도적으로 GC를 실행시켜야 한다.

  • 어느 시점에 실행중인 애플리케이션이 GC에게 컴퓨터 리소스를 제공해야 한다.

• 애플리케이션과 GC 실행이 병행된다.

  • 애플리케이션의 사용성을 유지하면서 효율적으로 GC를 실행하는 것이 어려운 최적화 작업이다.

JVM의 구조 (Java 8 기준)

JVM은 크게 3가지 영역으로 구성된다.

1. Class Loader

   • 바이트 코드를 읽고, 클래스 정보를 메모리의 Heap/Method 영역에 저장하는 클래스 로더

2. JVM Memory

   • 실행 중인 프로그램의 정보가 올라가 있는 메모리

3. Execution Engine

   • byte code를 native code로 변환하고 GC를 실행하는 실행 엔진

JVM Memory는 OS로부터 메모리를 할당 받은 후, 메모리를 용도에 따라 여러 영역으로 나누어서 관리한다.

총 5가지 영역으로 나뉘고 크게 2가지로 분류할 수 있다.

• 모든 스레드가 공유하는 영역 : Method, Heap Area

• 각 스레드마다 고유하게 생성 하는 영역

  • Stack : 스레드 종료 시 소멸

  • PC Register, Native Method Stack

1. Method Area

• 메타 데이터처럼 가지고 있으며, 메서드의 코드를 저장한다.

1. Heap

• 애플리케이션 실행 중 생성되는 객체 인스턴스를 저장한다.

• GC에 의해 관리되는 영역

1. Stack

• 메서드 호출을 스택 프레임이라는 블록으로 쌓으며 로컬 변수, 중간 연산 결과가 저장되는 영역

1. PC Register

• 쓰레드가 현재 실행할 스택 프레임의 주소를 저장한다.

1. Native Method Stack

• C/C++ 등의 Low level 코드를 실행하는 Stack 이다.

Root Space

JVM의 GC는 기본으로 Mark and sweep 방식으로 동작하는데, root에서 부터 해당 객체에 접근이 가능한지가 해제의 기준이다.

• JVM의 root space는 JVM 메모리의 Stack의 로컬 변수, Method 영역에 저장된 static 변수, Native Method Stack의 C/C++로 작성된 JNI 참조이다.

Mark and sweep의 특징 중 의도적으로 GC를 실행시켜야 하는 특징이 있다. 따라서 GC의 실행 타이밍을 알기 위해서는 Heap 영역을 더 알아야 한다.

JVM - Heap

JVM의 힙 영역은 크게 Young Generation 과 Old Generation 으로 나뉜다.

• Young 에서 발생하는 GC = minor gc

  • minor gc는 Eden / survival 0 / survival 1 영역으로 나뉜다.

• Old 에서 발생하는 Gc = major gc

Eden : 새롭게 생성된 객체들이 할당되는 영역

Survival : minor gc에서 살아남은 객체들이 존재하는 영역

• Survival 0 또는 1 중 하나는 반드시 비어 있어야 한다는 특징이 있다.

Youn Generation & Old Generation 발생 과정

1. 블록들은 새로운 객체이고, 이것이 계속 생성되면 Eden 영역이 가득 찰 것이다.

   • 이 때, minor GC가 일어난다. → Mark & Sweep이 진행된다.

2. Root로부터 Reachable이라고 판단된 객체들은 Survival 0 영역으로 옮겨지고, 옮겨진 객체의 숫자가 0 → 1로 증가한다. 해당 숫자는 age-bit를 의미한다.

   • age-bit : Minor GC에서 살아남을 때마다 1씩 증가한다.

1. 시간이 흘러서 Eden 영역이 또 가득차고, Minor GC가 발생한다.

• Rechable로 판단된 객체들은 Survival 0 → 1로 이동한다.

1. 위 과정이 계속 반복되고, Suvival 0 영역으로 넘어온 객체 중 하나의 age-bit가 3이 되면,

• JVM GC에서는 일정 수준의 age-bit를 넘어가면 오래도록 참조 될 객체라고 판단하여 해당 객체를 Old Generation에 넘겨준다. 이 과정을 🔥 Promotion 🔥 이라고 한다.

1. 시간이 지나면 Old Generation도 가득 채워질텐데, 이때 Major GC가 발생하면서 필요없는 메모리를 비워준다. Major GC는 Minor GC보다 오래 걸린다.

일반적으로 Old Generation은 Young Generation보다 메모리 용량을 크게 잡는다.

디폴트 값이 Young Gen:Old Gen이 1:3이다. 따라서 Old Generation에 객체의 갯수가 많기 때문에 GC 시간이 길다. GC의 시간이 길다는 것은 STW가 오래 걸린다는 소리이다. 또한, Old Generation은 별도의 Survivor Space가 존재하지 않기 때문에 메모리 단편화도 신경써야 한다.

🤔 그럼 왜 young과 old로 나눠놨을까?

GC 설계자들이 애플리케이션을 분석해보니 대부분의 객체 수명이 짧다는 것을 깨달았다.

따라서 최대한 Young Genration 안에서 처리하는 것이다.

• Minor GC가 Major GC보다 GC 시간이 빠르다.

GC 간단 요약(Minor, Major, Full)

Minor GC

• Young Generation의 Eden 영역이 가득 차면 Minor GC가 발생하고, 살아있는 객체들은 Survivor 영역으로 복사한다. 이 과정에서 사용되지 않는 객체는 제거된다.

• Minor GC는 비교적 빠르게 수행되지만, 애플리케이션의 모든 스레드를 멈추게 하는 STW 이벤트가 발생한다. (이 중단 시간도 일반적으로 짧다.)

Major GC

• Old Generation은 Young에서 살아남은 객체들이 이동하는 영역이다. (상대적으로 수명이 긴 객체들)

• Old Generation이 꽉 차면 Major GC가 발생하고 STW 이벤트를 유발한다.

• Tenured 공간을 청소한다.

  • Tenured는 JVM의 힙 메모리 구조에서 Old Generation을 의미한다.

Full GC

• Young, Tenured(전체 힙) 공간의 사용하지 않는 객체들을 모두 정리한다.

• 스레드 중단 시간이 매우 길 수 있으며, 성능에 큰 영향을 줄 수 있다.

JVM GC 방식

Serial GC

하나의 쓰레드로 GC 실행한다. 하나의 스레드만 사용하다보니 Stop The World 시간이 길다.

• 싱글 스레드 환경이나 Heap이 매우작을 때 사용

Parallel GC

여러 개의 스레드로 GC를 실행한다. 멀티코어 환경에서 사용하며 Java 8의 기본 GC 방식이다.

CMS GC (Concurrent Mark Sweep)

STW 최소화를 위해 고안된 방식이다. GC 작업을 애플리케이션과 동시에 실행한다.

• 대부분 GC 작업을 애플리케이션 스레드와 동시에 수행하여 STW를 최소화 시킴

• 메모리와 CPU를 많이 사용하고, Mark Sweep 과정 이후 메모리 파편화를 해결하는 Compaction이 기본적으로 제공되지 않는다.

• G1 GC에 대체되었음

G1 GC (Garbage First)

G1 GC는 Heap 영역을 위 방식들과 조금 다르게 사용한다.

Heap을 일정 크기의 Region으로 잘게 나누어 어떤 영역은 Young Generation, 어떤 영역은 Old Generation으로 활용한다. 런타임에 G1 GC가 영역별 Region 개수를 튜닝한다.

• Java 9 이상 부터는 G1 GC를 기본 GC 실행방식으로 한다.

GC 튜닝 목표

1. Old Generation으로 넘어가는 객체를 최소화

2. Major GC 시간을 짧게 유지

Major GC를 적게 발생하거나 빠른 시간내에 끝내는 것이 목표이다.

한정된 Heap 영역에 YG, OG를 각각 얼마만큼 할당하는 것이 적당한지를 판단해야 한다.