링크 방식에 따른 디스어셈블리 코드 특징

실행 파일을 디스어셈블러를 통해 분석할 때 링크 방식에 따라 코드에 무슨 차이가 있는지 알아보겠습니다.

 

링크(Link)

• 여러 객체 파일(object file)을 하나의 실행 파일로 결합하는 작업
• 이 과정에서 실행될 주소 위치, 연결할 라이브러리를 결정한다.

 

링크 방식

1. 정적 링크(Static Link)

• 컴파일할 때 필요한 모든 라이브러리를 실행 파일에 포함시키는 방법
• 실행 파일만 배포하면 시스템에 라이브러리 파일이 없어도 동작한다.
• 모든 코드가 하나의 실행 파일에 포함되므로 실행 시 로딩 시간이 적고 성능상 효율적이지만, 파일 크기가 커진다.
• 라이브러리를 업데이트하려면 전체 프로그램을 다시 빌드해야 한다.

 

2. 동적 링크(Dynamic Link)

• 컴파일할 때 객체 파일로 컴파일되고 필요한 라이브러리 코드의 심볼(symbol)만 참조하는 방법
• 실행 시 동적 라이브러리 파일(ex. DLL)을 찾아서 프로그램에 동적으로 로드하고 링크한다.
• 실행 파일은 라이브러리 코드의 위치를 모르지만 실행 중에 해당 코드가 메모리가 로드된다.
• 라이브러리 코드가 실행 파일에 포함되지 않기 때문에 실행 파일의 크기가 작아진다.
• 여러 프로그램이 동일한 라이브러리를 사용할 때 공유 메모리에 로드되기 때문에 메모리 사용을 줄여 효율적이다.
• 라이브러리 파일만 업데이트하면 프로그램을 다시 빌드하지 않아도 된다.
• 실행 파일 외에도 필요한 라이브러리 파일을 함께 배포해야하여 배포가 복잡하다.
• 실행 중에 라이브러리 파일을 찾을 수 없거나 버전이 맞지 않으면 오류가 발생할 수 있다.

 

링크 방식에 따라 디스어셈블리 코드도 조금씩 다릅니다.

크게 라이브러리 코드의 포함 여부와 메모리 동작 방식 2가지 차이가 있습니다.

 

링크 방식에 따른 차이

1. 라이브러리 코드 포함 여부

• 정적 링크 방식으로 컴파일된 프로그램은 라이브러리 코드가 실행 파일에 포함된다.
  • 예를 들어 OpenSSL을 정적 링크하면, libssl.lib, libcrypto.lib에 있는 모든 함수들이 실행 파일 내에 포함된다.
• 디스어셈블러에서 이 함수들을 직접 확인할 수 있다.
• 라이브러리 DLL을 로드할 필요가 없다.
• 디스어셈블된 코드에 라이브러리 함수가 이름이 표시되고 직접 호출되는 방식으로 나타난다.
  ex) 정적 링크된 OpenSSL 함수 예시: AES_encrypt
  call AES_encrypt

 

2. 메모리 동작 방식

• 동적 링크 방식으로 컴파일된 프로그램은 라이브러리 코드가 실행 중에 동적으로 로드된다.
• 실행 파일에는 함수들의 심볼 정보만 포함되고 실제 구현은 DLL에 존재한다.
• 라이브러리 코드가 포함되지 않았기 때문에 실행 중에 동적 라이브러리에서 로드한다.
  • 예를 들어 OpenSSL을 동적 링클하면, 실행 중에 라이브러리 코드를 libssl.dll, libcrypto.dll에서 로드한다.
• 해당 함수의 주소를 가져오는 코드만 존재한다.
  ex) 동적 링크된 OpenSSL 함수 예시: AES_encrypt
  mov eax, [Address_of_AES_encrypt]
  call eax

 

 

 

Visual Studio를 통해 컴파일할 때 기본 설정은 동적 링크 방식입니다.

동적으로 링크된 프로그램을 실행하려면 관련 DLL 파일이 필요합니다.

OpenSSL 라이브러리 관련 API를 사용한 프로그램을 실행하려면, 그와 관련된 libcrypto-3-x64.dll이 있어야합니다.

DLL 부재로 실행 불가 (동적 링크된 프로그램)

 

 

컴파일 이야기가 나온 김에 컴파일/링크/빌드에 대한 개념도 조금 정리해보자면!

 

컴파일(Complie)

• 소스코드 파일을 객체 파일(object file)로 만드는 과정
• 고급언어(C/C++ 등)에서 저급언어(기계어, 어셈블리어)로 번역하는 과정이다.
  • 고급언어를 어셈블리로 변환하고, 이를 기계어로 변환하여 객체 파일을 생성한다.

링크(Link)

• 여러 객체 파일을 결합하여 하나의 실행 파일로 만드는 과정
• 이때 함수와 변수를 연결하고 라이브러리를 포함시킨다.

빌드(Build)

• 프로그램을 컴파일 및 링크하여 최종적으로 실행 가능한 프로그램을 만드는 전체 과정을 의미
• 컴파일과 링크 단계를 모두 포함하는 작업을 빌드라고 한다.