Ruby 디버거의 핵심에는 두 가지 근본적인 기술, 즉 TracePoint와 Instruction Sequence가 있습니다. 이들은 어떤 디버거를 사용하든 Ruby 자체에 내장된 필수 기능에 의존합니다.
TracePoint: 코드 실행에 대한 후킹
TracePoint는 Ruby 2.0에서 도입된 강력한 계측 기술로, 메서드 호출, 라인 실행, 예외 발생과 같은 특정 런타임 이벤트를 가로채고 이러한 이벤트가 발생할 때 사용자 정의 코드를 실행할 수 있게 합니다. 이는 디버거가 브레이크포인트에서 코드를 일시 중지시키는 주요 메커니즘으로 활용됩니다. 글에서는 TracePoint.new(:call)을 사용하여 간단한 메서드 호출 시점을 포착하고 사용자 입력을 받아 현재 컨텍스트를 검사하며 상태를 변경할 수 있는 최소한의 디버거를 구현하는 예시를 통해 TracePoint의 강력함을 보여줍니다. 이는 디버거의 핵심 기능인 프로그램 컨텍스트 탐색 및 상태 수정의 기초를 제공합니다.
Instruction Sequence: Ruby의 바이트코드
Instruction Sequence (iseq)는 Ruby 가상 머신(VM)이 실행하는 컴파일된 바이트코드를 나타냅니다. 이는 Ruby 코드의 저수준 표현으로, 디버거는 iseq를 직접 조작하여 프로그램 실행 방식을 변경할 수 있습니다. 예를 들어, 특정 명령어에 추적 이벤트를 활성화하여 Ruby VM이 해당 지점에서 일시 중지되도록 할 수 있으며, 이는 특정 언어 구성에서의 브레이크포인트나 호출 체인 스텝핑에 활용됩니다. RubyVM::InstructionSequence.of를 사용하여 메서드의 iseq를 추출하고 disasm을 통해 사람이 읽을 수 있는 형태로 출력하는 예시를 통해 iseq의 구조와 작동 방식을 설명합니다. iseq 출력의 대괄호 표기법에 나타나는 ‘Li’(라인 이벤트), ‘Ca’(메서드 호출), ‘Re’(반환)와 같은 마커는 Ruby VM이 런타임 이벤트를 발생시키는 시점을 나타내며, TracePoint는 이러한 마커를 통해 실행 중인 프로그램에 연결됩니다. 이 두 기술의 긴밀한 연결이 디버거가 실행을 일시 중지하고 상태를 검사할 수 있도록 합니다.
심층 탐구: Ruby의 C-level 디버깅 API
TracePoint와 Instruction Sequence만으로도 작동하는 Ruby 디버거를 구축할 수 있지만, RubyMine과 같은 고급 디버거에서 제공하는 스마트 스텝핑이나 호출 스택 탐색과 같은 기능을 구현하려면 Ruby 자체에서 제공하는 저수준 디버깅 API에 접근해야 합니다. CRuby는 vm_core.h, debug.h 등의 C 헤더에 정의된 여러 내부 메서드를 노출합니다. 이러한 내부 인터페이스는 공개 API로는 불가능한 강력한 기능을 제공하지만, CRuby에 종속적이며 Ruby 버전 간의 불안정성으로 인해 지속적인 유지보수가 필요하다는 단점이 있습니다.
글에서는 다음 세 가지 C-level API를 예시로 들어 설명합니다:
* rb_tracepoint_new(...): Ruby 코드에서 TracePoint를 생성하는 것과 유사하지만, 저수준 디버거를 위한 더 큰 유연성을 제공하며 RubyMine 디버거의 스마트 스텝핑 구현에 활용됩니다.
* rb_debug_inspector_open(...): VM 상태를 변경하지 않고 호출 스택을 검사할 수 있게 합니다. RubyMine 디버거에서 프레임 목록을 검색하고 호출 스택에서 프레임 간 전환 기능을 구현하는 데 사용됩니다.
* rb_iseqw_to_iseq(...) 및 rb_iseq_original_iseq(...): iseq 객체를 Ruby 값과 C 값 사이에서 변환하여 Ruby 디버거가 저수준 제어가 필요할 때 Ruby와 C 확장 코드 사이를 전환할 수 있게 합니다. 이들은 RubyMine 디버거의 스마트 스텝핑 구현에서 어떤 코드로 스텝인해야 할지 결정하는 데 활발히 사용됩니다.
이러한 저수준 API는 고급 디버깅 기능 구축에 필수적이지만, 플랫폼 종속성 및 높은 유지보수 부담이라는 비용을 수반합니다.