ThreadPoolExecutor, TaskExecutor

ThreadPoolExecutor (java)

Java에서는 Executors라는 유틸리티 클래스(팩토리)를 통해 ThreadPoolExecutor를 다양한 사전 설정으로 생성할 수 있다. 이는 편리하지만, 운영 환경에서는 잠재적인 위험을 내포하고 있어 각 특징을 명확히 이해하고 사용하는 것이 중요하다고 판단된다.

1. Executors.newFixedThreadPool

인자(nThreads)로 주어진 개수만큼 스레드를 가지는 고정 스레드 풀을 생성한다. 시스템의 리소스를 예측하고 제어하는 데 사용됨.

// Executors.newFixedThreadPool(nThreads)의 실제 내부 코드
public static ExecutorService newFixedThreadPool(int nThreads) {
    return new ThreadPoolExecutor(nThreads, nThreads, // core와 max가 동일
                                  0L, TimeUnit.MILLISECONDS, // keepAliveTime은 0
                                  new LinkedBlockingQueue<Runnable>()); // 대기 큐
}

특징:

• nTreads개의 스레드만 생성해서 사용

• 모든 스레드가 작접을 수행 중일 때, 추가로 들어온 작업은 대기 큐에서 무한정 대기

• 스레드가 작업을 마쳐도 풀에서 제거되지 않고 계속 재사용

위험성:

• LinkedBlockingQueue의 크기를 지정하지 않았기 때문에 큐의 최대 크기는 Integer.MAX_VALUE가 된다.

• 처리 속도보다 큐잉 속도가 빠르면 대기 큐가 무한대로 커져서 OOM 발생 가능성이 있음

2. Executors.newCachedFixedThreadPool

필요에 따라 스레드를 유동적으로 생성하고, 사용하지 않는 스레드는 자동으로 제거하는 동적 캐시 스레드 풀을 생성한다.

public static ExecutorService newCachedThreadPool() {
    return new ThreadPoolExecutor(0, Integer.MAX_VALUE,    // 1. core는 0, max는 무한대
                                  60L, TimeUnit.SECONDS,   // 2. 스레드가 60초 동안 놀면 제거됨
                                  new SynchronousQueue<Runnable>()); // 3. 대기 큐가 없음
}

특징:

• SynchronousQueue는 작업을 저장하지 않고 바로 유휴 스레드에 전달하는 역할을 함.

• 만약 유휴 스레드가 없으면 새로운 스레드를 생성

• 스레드 개수 상한선이 없어서, 요청이 많아지면 그 만큼 스레드가 늘어남.

• 실행 시간이 짧은 수많은 작업을 대기 없이 빠르게 처리하는 데 적합하게 사용됨

위험성:

• 요청이 폭주하거나 개별 작업의 처리 시간이 길어지면, 증가하는 스레드 수 때문에 OOM 발생 가능성이 있음

3. Executors.newSingleThreadExecutor

단, 하나의 스레드만으로 작업을 처리하여, 작업의 순차적 실행을 보장하는 스레드 풀이다.

public static ExecutorService newSingleThreadExecutor() {
    return new FinalizableDelegatedExecutorService
        (new ThreadPoolExecutor(1, 1, // core와 max가 1
                                0L, TimeUnit.MILLISECONDS,
                                new LinkedBlockingQueue<Runnable>()));
}

특징:

• 오직 하나의 스레드만 사용하기 때문에 작업들이 FIFO 순서대로 실행됨을 보장한다.

• 여러 곳에서 발생한 이벤트를 순서대로 처리할 때 유용함. (ex: 순차적 로그, 상태 데이트 등)

위험성:

• FixedPool과 마찬가지로, 대기 큐가 무한대로 커져 OOM 발생 가능성이 있음

ThreadPoolTaskExecutor (Spring)

Executors 팩토리의 편리함과 ThreadPoolExecutor 직접 생성의 제어력을 모두 갖추고, Spring 생태계에 필요한 추가 기능까지 더한 Spring 환경의 표준 스레드 풀 구현체이다.

@Configuration
@EnableAsync
public class AsyncConfig {

    @Bean(name = "myCustomExecutor")
    public Executor myCustomExecutor() {
        ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor();
        executor.setCorePoolSize(10);   // 1. 기본 스레드 수
        executor.setMaxPoolSize(50);    // 2. 최대 스레드 수
        executor.setQueueCapacity(100); // 3. 대기 큐 크기 (큐 크기를 직접 제어)
        executor.setThreadNamePrefix("MyExecutor-"); // 스레드 이름 지정
        executor.setRejectedExecutionHandler(new ThreadPoolExecutor.CallerRunsPolicy()); // 거부 정책 설정
        executor.initialize();
        return executor;
    }
}

특징:

리소스 안정성

• 대기 큐의 최대 크기를 명시적으로 제한하여, 무한 큐 문제를 해결할 수 있다.

• 최대 스레드 수를 명시적으로 제한할 수 있어서 동적으로 증가하는 스레드 개수를 제어할 수 있다.

• ThreadPool과 Queue가 가득 찼을 때 거부 정책을 정의할 수 있다.

자동 생명주기 관리

• Spring 컨테이너가 종료될 때, 등록된 Bean의 shutdown() 메소드를 자동으로 호출한다.

• 스프링 빈으로 관리되기 때문에 다른 서비스에 쉽게 의존성 주입(DI)이 가능하다.

• @Async("name")와 같이, 여러 스레드 풀을 용도별로 정의하고 이름을 지정하여 사용할 수 있어서, 작업 성격에 따라 리로스를 격리하고 관리하기 용이하다.