WinDbg的使用與高級(jí)調(diào)試技巧

1、VC+ 實(shí)戰(zhàn)調(diào)試技巧前言：上節(jié)內(nèi)容回顧與本節(jié)內(nèi)容介紹主講人：陽(yáng)毅超 UIPower CTO上節(jié)內(nèi)容回顧調(diào)試工程配置VisualStudio下基本調(diào)試方法利用pdb和dmp文件定位問(wèn)題實(shí)際應(yīng)用場(chǎng)景分析，VS調(diào)試技巧的綜合演練本節(jié)內(nèi)容介紹WinDbg的基本使用方法利用WinDbg生成dump與分析dump文件利用WinDbg進(jìn)行遠(yuǎn)程調(diào)試WinDbg的高級(jí)調(diào)試技巧VC+ 實(shí)戰(zhàn)調(diào)試技巧第二講：WinDbg的使用與高級(jí)調(diào)試技巧主講人：陽(yáng)毅超 UIPower CTO第一節(jié)：WinDbg的基本使用方法什么是WinDbg WinDbg是windows平臺(tái)下對(duì)內(nèi)核，應(yīng)用程序，服務(wù)程序進(jìn)行調(diào)試的工具。相對(duì)VS而言

2、更加小巧，功能卻比VS豐富，支持內(nèi)核模式和用戶(hù)模式的調(diào)試。WinDbg的下載WinDbg包含在Windows調(diào)試開(kāi)發(fā)包當(dāng)中http:/ Studio with integrated Windows debuggers Microsoft Windows Debugger (WinDbg) Microsoft Kernel Debugger (KD) NTKD Microsoft Console Debugger (CDB) Microsoft NT Symbolic Debugger (NTSD) 第一節(jié)：WinDbg的基本使用方法Windows下的6種調(diào)試器的區(qū)別第一節(jié)：WinDbg的基本使

3、用方法WinDbg的調(diào)試模式內(nèi)核模式（Kernel-Mode）與用戶(hù)模式（User-Mode）內(nèi)核模式(Kernel-Mode)為了不讓程序任意存取資源，大部分的CPU架構(gòu)都支持Kernel mode與User mode兩種執(zhí)行模式。當(dāng)CPU運(yùn)行于Kernel mode時(shí)，任務(wù)可以執(zhí)行特權(quán)級(jí)指令，對(duì)任何I/O設(shè)備有全部的訪問(wèn)權(quán)，還能夠訪問(wèn)任何虛擬地址和控制虛擬內(nèi)存硬件；這種模式對(duì)應(yīng)x86的ring0層，操作系統(tǒng)的核心部分，包括設(shè)備驅(qū)動(dòng)程序都運(yùn)行在該模式。用戶(hù)模式(User-Mode)當(dāng)CPU運(yùn)行于User Mode時(shí)，硬件防止特權(quán)指令的執(zhí)行，并對(duì)內(nèi)存和I/O空間的訪問(wèn)操作進(jìn)行檢查，如果運(yùn)行的代

4、碼不能通過(guò)操作系統(tǒng)的某種門(mén)機(jī)制，就不能進(jìn)入內(nèi)核模式；這種模式對(duì)應(yīng)于x86的ring3層，操作系統(tǒng)的用戶(hù)接口部分以及所有的用戶(hù)應(yīng)用程序都運(yùn)行在該級(jí)別。注：本次WinDbg使用講解僅涉及用戶(hù)模式的應(yīng)用程序調(diào)試第一節(jié)：WinDbg的基本使用方法PDB文件鏈接器自動(dòng)生成文件由兩個(gè)部分構(gòu)成，私有符號(hào)數(shù)據(jù)（private symbol data）和公共符號(hào)表（public symbol table）私有符號(hào)數(shù)據(jù)（Private Symbol Data）函數(shù)全局變量局部變量用戶(hù)定義的結(jié)構(gòu)體，類(lèi)，數(shù)據(jù)類(lèi)型源文件的名稱(chēng)和源文件中每個(gè)二進(jìn)制指令的行號(hào)公共符號(hào)表(Public Symbol Table)靜態(tài)函數(shù)全局

5、變量(extern)第一節(jié)：WinDbg的基本使用方法建立一個(gè)簡(jiǎn)單的Windows應(yīng)用程序完成編譯，自動(dòng)完成對(duì)pdb和exe文件的生成啟動(dòng)WinDbg第一節(jié)：WinDbg的基本使用方法設(shè)置程序的符號(hào)文件目錄快捷鍵，Ctrl+S設(shè)置程序的源代碼目錄快捷鍵，Ctrl+P設(shè)置程序的二進(jìn)制文件目錄快捷鍵，Ctrl+I第一節(jié)：WinDbg的基本使用方法選擇可執(zhí)行啟動(dòng)文件通過(guò)菜單選擇我們生成好的exe文件第一節(jié)：WinDbg的基本使用方法命令瀏覽窗口打開(kāi)exe程序后自動(dòng)打開(kāi)命令瀏覽窗口,瀏覽加載模塊，符號(hào)文件，寄存器等等數(shù)據(jù)第一節(jié)：WinDbg的基本使用方法啟動(dòng)調(diào)試，打開(kāi)源代碼文件按下F5鍵或者點(diǎn)擊啟動(dòng)調(diào)

6、試按鈕，進(jìn)入調(diào)試狀態(tài)利用菜單打開(kāi)對(duì)應(yīng)的源代碼，自動(dòng)打開(kāi)源代碼窗口第一節(jié)：WinDbg的基本使用方法設(shè)置斷點(diǎn)通過(guò)F9鍵我們可以在源代碼窗口中設(shè)置位置斷點(diǎn)，設(shè)置好的斷點(diǎn)紅色進(jìn)行了標(biāo)示通過(guò)F5鍵我們繼續(xù)運(yùn)行，程序會(huì)自動(dòng)中斷到斷點(diǎn)所在代碼行在瀏覽器窗口中我們可以看到當(dāng)前執(zhí)行代碼的寄存器數(shù)據(jù)第一節(jié)：WinDbg的基本使用方法單步運(yùn)行通過(guò)F10進(jìn)行逐過(guò)程運(yùn)行通過(guò)F11進(jìn)行逐語(yǔ)句運(yùn)行通過(guò)Shift+F11跳出當(dāng)前運(yùn)行的函數(shù)通過(guò)Shift+F5終止調(diào)試常用的命令行g(shù) 運(yùn)行！gle 當(dāng)前錯(cuò)誤代碼第一節(jié)：WinDbg的基本使用方法常用的命令行dt 顯示當(dāng)前結(jié)構(gòu)體成員k 顯示當(dāng)前堆棧lm 列出當(dāng)前加載模塊lsa 根

7、據(jù)地址列出代碼第二節(jié)：生成dump與分析dumpDump文件的種類(lèi)用戶(hù)模式dump文件核心模式dump文件用戶(hù)模式dump文件的種類(lèi)完整用戶(hù)模式dump（Full User-Mode Dumps）Mini dump（Minidumps）兩種文件的區(qū)別僅僅是大小而已，minidump具有更多壓縮以便于傳輸?shù)诙?jié)：生成dump與分析dump創(chuàng)建用戶(hù)模式dump文件有五種工具可以用來(lái)創(chuàng)建dump文件，CDB、WinDbg、Dr.Watson、UserDump、ADPlus。五種工具的區(qū)別第二節(jié)：生成dump與分析dump默認(rèn)調(diào)試器的設(shè)置注冊(cè)表的位置HKEY_LOCAL_MACHINE/SOFTWAR

8、E/Microsoft/Windows NT/CurrentVersion/AeDebug/DebuggerWinDBG： WinDbg的安裝目錄windbg.exe -p %ld -e %ld g Visual Studio: C:WINDOWSsystem32vsjitdebugger.exe -p %ld -e %ld第二節(jié)：生成dump與分析dump生成dump文件WinDbg生成dump文件命令行.dump Options Filename默認(rèn)生成精簡(jiǎn)內(nèi)容的MiniDumps僅包含，模塊、線程、堆棧信息完整minidump文件，包含完整內(nèi)存信息，句柄數(shù)據(jù)，未加載模塊信息，基本內(nèi)存信息

9、，線程時(shí)間信息 .dump ma FileName 第二節(jié)：生成dump與分析dump利用分析工具進(jìn)行分析通過(guò)!anyalyze v 命令來(lái)得到詳細(xì)的dump分析數(shù)據(jù)，包括：代碼斷點(diǎn)位置異常的類(lèi)型與錯(cuò)誤代碼函數(shù)堆棧調(diào)用第三節(jié)：利用WinDbg進(jìn)行遠(yuǎn)程調(diào)試遠(yuǎn)程調(diào)試遠(yuǎn)程調(diào)試由兩臺(tái)計(jì)算機(jī)構(gòu)成，客戶(hù)端(Client)和服務(wù)器端(Server)客戶(hù)端安裝有需要調(diào)試的應(yīng)用程序和WinDbg服務(wù)器端安裝有WinDbg用于建立調(diào)試會(huì)話，遠(yuǎn)程控制客戶(hù)端的WinDbg兩臺(tái)計(jì)算機(jī)不需要同樣的windows系統(tǒng)版本，但需要同樣版本的WinDbg遠(yuǎn)程調(diào)試的步驟在服務(wù)器端啟動(dòng)調(diào)試服務(wù)器客戶(hù)端調(diào)試工具配置客戶(hù)端建立調(diào)試會(huì)話

10、第三節(jié)：利用WinDbg進(jìn)行遠(yuǎn)程調(diào)試在服務(wù)器端啟動(dòng)調(diào)試服務(wù)器啟動(dòng)WinDbg，選擇運(yùn)行需要調(diào)試的應(yīng)用程序利用tcp協(xié)議建立調(diào)試服務(wù)器.server tcp:port=Socket客戶(hù)端調(diào)試器工具配置設(shè)置符號(hào)目錄設(shè)置代碼目錄第三節(jié)：利用WinDbg進(jìn)行遠(yuǎn)程調(diào)試客戶(hù)端建立調(diào)試會(huì)話選擇菜單，連接遠(yuǎn)程會(huì)話（Connect to Remote Session）tcp:server=Server,port=Socket建立成功后即可打開(kāi)對(duì)應(yīng)代碼文件設(shè)置斷點(diǎn)進(jìn)行調(diào)試第四節(jié)：WinDbg高級(jí)調(diào)試技巧追蹤應(yīng)用程序中的句柄利用htrace工具獲取應(yīng)用程序中句柄的差異!htrace enable 啟動(dòng)句柄追蹤!htace diff 得到應(yīng)用程序句柄分配差異，檢查是否存在句柄的泄露!htrace 句柄地址 可以得到分配此句柄的代碼堆棧通過(guò)lsa命令可以得到對(duì)應(yīng)分配的代碼位置第四節(jié)：WinDbg高級(jí)調(diào)試技巧追蹤應(yīng)用程序中的潛在堆異常安裝Application VerifierApplication Verifier運(yùn)行時(shí)非托管代碼檢查工具用于定位難于發(fā)現(xiàn)潛在的程序錯(cuò)誤打開(kāi)Heaps打開(kāi)WinDbg，選擇調(diào)試的應(yīng)用程序啟動(dòng)調(diào)試，當(dāng)遇到堆錯(cuò)誤讀取或破壞的情況會(huì)