
windows内核调试是一套复杂的体系,我在这里简单的说一下。
一.调试系统初始化
系统内核在开机时会初始化内核调试系统。包括设置中断描述符,初始化通信端口、调试进程与调试线程。这一阶段主要是设置一些调试信息,比如处理器数量,系统版本号,系统内核基址等。系统将这些调试需要用到的信息保存在几个结构体当中,以便在调试器连接上内核的时候提交给调试器。
二.中断
通过中断,系统实现了多任务处理,关于中断我不详讲,请各位自行寻找参考资料。在系统初始化阶段,系统会注册好中断处理程序,其中大部分均用于处理由内核/用户引发的异常,比如除0错误,硬件断点,软件断点,均由中断负责处理。当内核/用户出现异常(或断点)触发中断后,就会进入相应的中断处理程序(注意:这里只讨论处理异常与断点事件的中断程序)。
中断处理程序大致流程都一样,就是保存寄存器等环境信息到内核栈上,然后将异常扔给异常分发程序,最后恢复寄存器环境。
三.异常分发
详见WRK源码KiDispatchException函数。不出意外的话,中断的异常与断点事件都会进入这个函数。
可以看到,首先他会判断是否是内核模式异常,如果是,则进入相应处理,如果是用户模式异常,则走其他路线(这里不讨论用户模式异常)。每个异常都有两次处理机会,因此函数会判断是不是第一次处理,如果是第一次处理,则调用KiDebugRoutine。这是一个函数指针,当内核由调试器时,他指向KdpTrap函数,否则指向KdpStub,主要功能是寻找调试器进行分发异常,若调试器处理了异常,则会返回真,然后异常分发程序就直接退出。若没有处理异常,则会调用RtlDispatchException,主要用于寻找异常处理程序,
比如内核中的__try __except结构,就是在这个阶段分发出去的,交给__except结构处理完成后,异常分发程序同样也会退出。若没有找到或异常处理程序处理失败,则会进行第二次调试器分发,若第二次仍然没有找到调试器或调试器没有处理,那么直接调用KeBugCheckEx使系统蓝屏。
四.调试器与内核的通信
在有调试器的情况下,所有异常经过首先会交付给调试器处理,那么内核如何与调试器交换信息?主要用到的是串行端口通信,通过汇编IN OUT指令向端口发送信息。当系统检测到有内核调试器存在时,会首先进入内核调试引擎,内核调试引擎会暂停除自身任务外的其他所有任务,此时系统便处于一个卡死状态,只有调试引擎在工作,而调试引擎主要工作则是将异常信息封装成指定协议,并通过端口发送异常到调试器。同时,调试引擎也接收从调试器传来的指令并执行相应操作。比如查看内存,下断点等,都是由调试器发送指令到内核调试引擎,由调试引擎进行执行的。
当调试器处理完异常之后,调试引擎会受到通知,并将线程环境恢复,然后启动被暂停的任务,最后退出调试引擎。
如此一来,整个异常的完整处理流程就帖出来了,希望对你有所帮助。另外,欢迎各位看官加入内核安全交流群:607583460
