OS

운영체제 OS

운영체제를 쉽게 얘기하면, 컴퓨터(서버)의 물리적인 자원을 관리하며 필요한 곳에 자원을 할당하여 애플리케이션을 실행할 수 있도록 도와주는 역할을 한다.

• 프로세스라는 단위로 애플리케이션을 실행시킴

• 서버는 CPU, 메모리, disk와 같은 물리적인 자원들을 가지고 있다.

자원은 무한하지 않기 때문에 다른 자원이 넉넉하고 특정 자원이 많이 사용되고 있다면, 해당 자원이 필요한 추가적인 요청이 왔을 때 지연될 수 있다. 사용률이 높은 자원은 병목이 되는 부분이다. 따라서 특정 자원의 사용률이 높다면 모니터링을 통해서 이를 낮추는 방법을 고안해봐야 한다.

서버에 애플리케이션을 배포해서 실행시키면 운영체제는 애플리케이션을 프로세스라는 존재로 생성해서 관리하게 된다.

• 프로세스는 서버가 가지고있는 CPU, 메모리, disk를 필요하다면 할당받아서 작업을 처리한다.

  • 예를들어 API 요청을 받아서 처리하는 과정에서 이런 자원들이 사용되는 것

  • 작업마다 사용하는 자원들이 다르다.

프로그램 : 디스크에 저장되어 있는 실행될 수 있는 파일 (exe, jar, dll, .. etc) 프로세스 : 현재 실행중인 프로그램 (프로그램이 메모리 위로 올라와서 실행됨)

• 메모리와 코드로 이루어짐

CPU : 프로세스에 정의된 코드를 실행시킴 (프로세스가 가지는 코드에 따라서 실행을 시킴)

프로세스가 실행되기 위해서는 위 3가지 요소가 상호작용을 하면서 애플리케이션을 실행시킨다.

1. 프로그램을 실행시키면 메모리(RAM)위로 올라와서 실행되기 시작한다.

2. 이 프로그램이 실행되면 프로세스가 된다. (프로세스는 메모리와 코드로 이루어져 있다.)

3. CPU는 프로세스가 가진 코드를 실행시킨다. (메모리의 내용을 read/write)

메모리와 디스크가 상호작용 하는 경우는 가상 메모리를 사용할 때이다. 하나의 PC에 프로세스 수가 많아지면 물리적인 RAM 위에 모든 프로세스를 올릴 수 없다. OS는 이런 문제를 막기 위해 물리적인 메모리를 Disk에 일부 저장했다가, 다시 불러오는 작업을 수행하는데 이를 “페이징” 이라고 한다.

물리적 자원(CPU, RAM, DISK)이 사용되는 경우

CPU : 사칙 연산이나 수학적인 연산이 필요한 메소드를 호출하는 계산작업에 많이 사용

• 이미지, 영상 인코딩, 암호화, 해시와 같은 계산 작업

RAM : 메모리만 많이 쓰는 경우는 인스턴스를 대량으로 생성하는 경우이다.

• CPU와 메모리가 상호작용 하기 때문에 같이 많이 사용되는 경우가 많다.

• 자바의 경우 인스턴스를 불필요하게 생성하면 GC가 빈번하게 일어남 (만들고 사용하지 않는 객체)

• 인스턴스를 정리하는 과정에서 CPU가 개입하여 사용하는 인스턴스인지 아닌지를 판단 (이때 램, CPU 사용률 증가)

• 캐싱, 컬렉션 객체

• 캐싱 : 비용이 큰 작업을 메모리에 미리 저장하고 가져다가 사용 (메모리 사용률 증가)

DISK : 파일 I/O 작업 및 로그 대량 발생에서 많이 사용

• DB에서 Read/Write 작업

지연시간, 처리량 관계

1. 처리량 증가

클라이언트의 요청이 늘어난다.

1. 서버 자원 사용량 증가

처리량이 많아지면 특정 자원의 사용률이 높아지면서 서버는 요청을 처리하는데 자원이 부족하여 지연시간이 점점 늘어난다. 프로세스와 스레드가 서버 자원을 사용하기 위해 대기하는 시간이 길어지면 이 상황을 “경쟁상황” 이라고 한다.

1. 지연 시간이 길어짐

여러 프로세스와 스레드가 자원을 사용하기 위해서 대기 시간이 길어진다. 요청 하나하나를 처리하는데 지연 시간이 길어진다.

이렇게 되면 긴 지연 시간으로 인해 처리되지 못한 요청들이 쌓이게 되고 타임아웃과 같은 이유로 서버에서 처리하지 못할 수 있다. 따라서 클라이언트에서는 요청에 실패한다.

심각한 경쟁상황을 해소하기 위해 방법을 고안해야 한다.