關于用strace工具定位vrrpd進程有時會掛死的bug
只做工作總結備忘之用。
正在燒鏡像，稍總結一下進來改bug遇到的問題。
一個項目里要用到L3 switch的nat，vrrp功能，但實地測試中偶然出現write file掛死的情況，但不是必現。交付在即，于是加調試信息，反復跑配置的腳本，定位bug。
一，期初懷疑是vtysh與vrrpd進程通信出現阻塞（現象即是系統掛死）。
(1)因為在跑配置腳本時，出現了enable命令也掛死的情況，所以這么懷疑；
(2)在vrrpd與vtysh命令傳輸的關鍵點加打印信息（注意vrrpd不要-d daemon化，用& 來后臺），跟蹤結果是vtysh 確實把‘enable’命令發了出去，只是vrrpd進程不接收。命令通信框架公用的，基本可以確定沒有問題，由 此，把bug收斂到vrrpd進程的問題；
(3)在vtysh進程中ctrl+c信號處理中加進入Linux shell的代碼，當vrrpd導致系統掛死（現象是阻塞）時，可以進 入shell來top，top發現，vrrpd進程cpu利用率很高，而且sys：92.0%，所以確定了是vrrpd進程使用了某個系 統調用，而該系統調用接口阻塞，導致了vrrpd阻塞，進而導致了vrrpd進程不接收vtysh進程發多來的命令。
(4)接下來要確定哪個系統調用導致vrrpd阻塞，于是使用了strace來把vrrpd進程拉起來。
關于strace的用法，網上一大堆，鏈接：點擊打開鏈接，并附件一到文章尾部，以防原文刪除。
用的： strace -aef -p /usr/sbin/vrrpd -o /tmp/vrrpdstrace.log
當復現vrrpd進程阻塞時，查看vrrpdstrace.log文件，分析里邊的各個系統調用，確定進程阻塞在了ioctl系 統調用上，根據ioctl的參數，跟蹤到內核，最終定位到博通刪除mac表項的sdk接口。（該接口前后加打印）
鑒于繼續跟蹤太難，bug暫告一段落........
二、跟蹤博通sdk接口刪除mac表項
(1)過程是曲折和痛苦的，不知道的地方隨便加一個打印，然后就刷屏了，但已經明確了肯定是內核處理函數中 有一個沒有釋放鎖而導致的阻塞，接下來就是跟進鎖的過程，由于該接口底層用的鎖（不清楚什么鎖）也不 像用戶態的信號量一樣有個semid的關鍵字，。但終于還是找到了一個區分mem的宏來作為關鍵字，叫L2Xm，
刷屏總算少一點了。然后就查找內核中使用L2Xm的鎖，最后反復跑腳本，確定了可能是_soc_l2x_thread線程 中也使用了該鎖。
(2)最后，確定了是_soc_l2x_thread中 LOCK(L2Xm)與UNLOCK(L2Xm)之間的其他鎖的阻塞，進而導致了該鎖沒有
沒有執行不到；進而發現了沒有釋放鎖的地方，問題基本完結。
三、內核kmalloc的內存類型，可能導致內核panic。
(1)在內核接收報文bnet_rx_deferred中報文處理中申請了內存kmalloc，但類型是GFP_KERNEL,，巧合的是，正 好該處理報文中出現了內存泄露，導致時間一長（或者故意打該報文），就會內存不足，一內存不足就會導 致kmalloc出現申請不成功的現象，即不會立即申請的到內存，，內核會在其正在申請的時候把其切換出 去，因為GFP_kernel類型是可睡眠的，非原子的。所以，問題來了，把接收報文中斷處理的kmalloc切換了出 去，而接收報文中斷處理是不能再切換回來的。即，中斷接收報文處理被內核認為應該是原子的，當其中出 現了不是原子的kmalloc（GFP_KERNEL，）時就會panic。
(2)由此，同時發現了內存泄露和GFP_KERNEL兩個問題。
(3)關于kmalloc的類型問題，網上也一大堆，鏈接：點擊打開鏈接，并附錄二在文章末尾。
完畢。
附件一：strace的用法。
strace命令詳解
strace 命令是一種強大的工具，它能夠顯示所有由用戶空間程序發出的系統調用。
strace 顯示這些調用的參數并返回符號形式的值。strace 從內核接收信息，而且不需要以任何特殊的方式來構建內核。
下面記錄幾個常用 option .
1 -f -F選項告訴strace同時跟蹤fork和vfork出來的進程
2 -o xxx.txt 輸出到某個文件。
3 -e execve 只記錄 execve 這類系統調用
---------------------------------------------------
進程無法啟動，軟件運行速度突然變慢，程序的"SegmentFault"等等都是讓每個Unix系統用戶頭痛的問題，
本文通過三個實際案例演示如何使用truss、strace和ltrace這三個常用的調試工具來快速診斷軟件的"疑難雜癥"。
truss和strace用來跟蹤一個進程的系統調用或信號產生的情況，而 ltrace用來跟蹤進程調用庫函數的情況。truss是早期為System V R4開發的調試程序，包括Aix、FreeBSD在內的大部分Unix系統都自帶了這個工具；
而strace最初是為SunOS系統編寫的，ltrace最早出現在GNU/DebianLinux中。
這兩個工具現在也已被移植到了大部分Unix系統中，大多數Linux發行版都自帶了strace和ltrace，而FreeBSD也可通過Ports安裝它們。
你不僅可以從命令行調試一個新開始的程序，也可以把truss、strace或ltrace綁定到一個已有的PID上來調試一個正在運行的程序。三個調試工具的基本使用方法大體相同，下面僅介紹三者共有，而且是最常用的三個命令行參數：
-f ：除了跟蹤當前進程外，還跟蹤其子進程。
-o file ：將輸出信息寫到文件file中，而不是顯示到標準錯誤輸出（stderr）。
-p pid ：綁定到一個由pid對應的正在運行的進程。此參數常用來調試后臺進程。
使用上述三個參數基本上就可以完成大多數調試任務了，下面舉幾個命令行例子：
truss -o ls.truss ls -al： 跟蹤ls -al的運行，將輸出信息寫到文件/tmp/ls.truss中。
strace -f -o vim.strace vim： 跟蹤vim及其子進程的運行，將輸出信息寫到文件vim.strace。
ltrace -p 234： 跟蹤一個pid為234的已經在運行的進程。
三個調試工具的輸出結果格式也很相似，以strace為例：
brk(0) = 0x8062aa8
brk(0x8063000) = 0x8063000
mmap2(NULL, 4096, PROT_READ, MAP_PRIVATE, 3, 0x92f) = 0x40016000
每一行都是一條系統調用，等號左邊是系統調用的函數名及其參數，右邊是該調用的返回值。 truss、strace和ltrace的工作原理大同小異，都是使用ptrace系統調用跟蹤調試運行中的進程，詳細原理不在本文討論范圍內，有興趣可以參考它們的源代碼。
舉兩個實例演示如何利用這三個調試工具診斷軟件的"疑難雜癥"：
案例一：運行clint出現Segment Fault錯誤
操作系統：FreeBSD-5.2.1-release
clint是一個C++靜態源代碼分析工具，通過Ports安裝好之后，運行：
# clint foo.cpp
Segmentation fault (core dumped)
在Unix系統中遇見"Segmentation Fault"就像在MS Windows中彈出"非法操作"對話框一樣令人討厭。OK，我們用truss給clint"把把脈"：
# truss -f -o clint.truss clint
Segmentation fault (core dumped)
# tail clint.truss
739: read(0x6,0x806f000,0x1000) = 4096 (0x1000)
739: fstat(6,0xbfbfe4d0) = 0 (0x0)
739: fcntl(0x6,0x3,0x0) = 4 (0x4)
739: fcntl(0x6,0x4,0x0) = 0 (0x0)
739: close(6) = 0 (0x0)
739: stat("/root/.clint/plugins",0xbfbfe680) ERR#2 'No such file or directory'
SIGNAL 11
SIGNAL 11
Process stopped because of: 16
process exit, rval = 139
我們用truss跟蹤clint的系統調用執行情況，并把結果輸出到文件clint.truss，然后用tail查看最后幾行。
注意看clint執行的最后一條系統調用（倒數第五行）：stat("/root/.clint/plugins",0xbfbfe680) ERR#2 'No such file or directory'，問題就出在這里：clint找不到目錄"/root/.clint/plugins"，從而引發了段錯誤。怎樣解決？很簡單： mkdir -p /root/.clint/plugins，不過這次運行clint還是會"Segmentation Fault"9。繼續用truss跟蹤，發現clint還需要這個目錄"/root/.clint/plugins/Python"，建好這個目錄后 clint終于能夠正常運行了。
案例二：vim啟動速度明顯變慢
操作系統：FreeBSD-5.2.1-release
vim版本為6.2.154，從命令行運行vim后，要等待近半分鐘才能進入編輯界面，而且沒有任何錯誤輸出。仔細檢查了.vimrc和所有的vim腳本都沒有錯誤配置，在網上也找不到類似問題的解決辦法，難不成要hacking source code？沒有必要，用truss就能找到問題所在：
# truss -f -D -o vim.truss vim
這里-D參數的作用是：在每行輸出前加上相對時間戳，即每執行一條系統調用所耗費的時間。我們只要關注哪些系統調用耗費的時間比較長就可以了，用less仔細查看輸出文件vim.truss，很快就找到了疑點：
735: 0.000021511 socket(0x2,0x1,0x0) = 4 (0x4)
735: 0.000014248 setsockopt(0x4,0x6,0x1,0xbfbfe3c8,0x4) = 0 (0x0)
735: 0.000013688 setsockopt(0x4,0xffff,0x8,0xbfbfe2ec,0x4) = 0 (0x0)
735: 0.000203657 connect(0x4,{ AF_INET 10.57.18.27:6000 },16) ERR#61 'Connection refused'
735: 0.000017042 close(4) = 0 (0x0)
735: 1.009366553 nanosleep(0xbfbfe468,0xbfbfe460) = 0 (0x0)
735: 0.000019556 socket(0x2,0x1,0x0) = 4 (0x4)
735: 0.000013409 setsockopt(0x4,0x6,0x1,0xbfbfe3c8,0x4) = 0 (0x0)
735: 0.000013130 setsockopt(0x4,0xffff,0x8,0xbfbfe2ec,0x4) = 0 (0x0)
735: 0.000272102 connect(0x4,{ AF_INET 10.57.18.27:6000 },16) ERR#61 'Connection refused'
735: 0.000015924 close(4) = 0 (0x0)
735: 1.009338338 nanosleep(0xbfbfe468,0xbfbfe460) = 0 (0x0)
vim試圖連接10.57.18.27這臺主機的6000端口（第四行的connect（）），連接失敗后，睡眠一秒鐘繼續重試（第6行的 nanosleep（））。以上片斷循環出現了十幾次，每次都要耗費一秒多鐘的時間，這就是vim明顯變慢的原因。可是，你肯定會納悶："vim怎么會無緣無故連接其它計算機的6000端口呢？"。問得好，那么請你回想一下6000是什么服務的端口？沒錯，就是X Server。看來vim是要把輸出定向到一個遠程X Server，那么Shell中肯定定義了DISPLAY變量，查看.cshrc，果然有這么一行：setenv DISPLAY ${REMOTEHOST}:0，把它注釋掉，再重新登錄，問題就解決了。
案例三：用調試工具掌握軟件的工作原理
操作系統：Red Hat Linux 9.0
用調試工具實時跟蹤軟件的運行情況不僅是診斷軟件"疑難雜癥"的有效的手段，也可幫助我們理清軟件的"脈絡"，即快速掌握軟件的運行流程和工作原理，不失為一種學習源代碼的輔助方法。下面這個案例展現了如何使用strace通過跟蹤別的軟件來"觸發靈感"，從而解決軟件開發中的難題的。
大家都知道，在進程內打開一個文件，都有唯一一個文件描述符（fd：file descriptor）與這個文件對應。而本人在開發一個軟件過程中遇到這樣一個問題：
已知一個fd，如何獲取這個fd所對應文件的完整路徑？不管是Linux、FreeBSD或是其它Unix系統都沒有提供這樣的API，怎么辦呢？我們換個角度思考：Unix下有沒有什么軟件可以獲取進程打開了哪些文件？如果你經驗足夠豐富，很容易想到lsof，使用它既可以知道進程打開了哪些文件，也可以了解一個文件被哪個進程打開。好，我們用一個小程序來試驗一下lsof，看它是如何獲取進程打開了哪些文件。lsof： 顯示進程打開的文件。
/* testlsof.c */
#include #include #include #include #include
int main(void)
{
open("/tmp/foo", O_CREAT|O_RDONLY); /* 打開文件/tmp/foo */
sleep(1200); /* 睡眠1200秒，以便進行后續操作 */
return 0;
}
將testlsof放入后臺運行，其pid為3125。命令lsof -p 3125查看進程3125打開了哪些文件，我們用strace跟蹤lsof的運行，輸出結果保存在lsof.strace中：
# gcc testlsof.c -o testlsof
# ./testlsof &
[1] 3125
# strace -o lsof.strace lsof -p 3125
我們以"/tmp/foo"為關鍵字搜索輸出文件lsof.strace，結果只有一條：
# grep '/tmp/foo' lsof.strace
readlink("/proc/3125/fd/3", "/tmp/foo", 4096) = 8
原來lsof巧妙的利用了/proc/nnnn/fd/目錄（nnnn為pid）：Linux內核會為每一個進程在/proc/建立一個以其pid為名的目錄用來保存進程的相關信息，而其子目錄fd保存的是該進程打開的所有文件的fd。目標離我們很近了。好，我們到/proc/3125/fd/看個究竟：
# cd /proc/3125/fd/
# ls -l
total 0
lrwx------ 1 root root 64 Nov 5 09:50 0 -> /dev/pts/0
lrwx------ 1 root root 64 Nov 5 09:50 1 -> /dev/pts/0
lrwx------ 1 root root 64 Nov 5 09:50 2 -> /dev/pts/0
lr-x------ 1 root root 64 Nov 5 09:50 3 -> /tmp/foo
# readlink /proc/3125/fd/3
/tmp/foo
答案已經很明顯了：/proc/nnnn/fd/目錄下的每一個fd文件都是符號鏈接，而此鏈接就指向被該進程打開的一個文件。我們只要用readlink()系統調用就可以獲取某個fd對應的文件了，代碼如下：
#include #include #include #include #include #include
int get_pathname_from_fd(int fd, char pathname[], int n)
{
char buf[1024];
pid_t pid;
bzero(buf, 1024);
pid = getpid();
snprintf(buf, 1024, "/proc/%i/fd/%i", pid, fd);
return readlink(buf, pathname, n);
}
int main(void)
{
int fd;
char pathname[4096];
bzero(pathname, 4096);
fd = open("/tmp/foo", O_CREAT|O_RDONLY);
get_pathname_from_fd(fd, pathname, 4096);
printf("fd=%d; pathname=%sn", fd, pathname);
return 0;
}
出于安全方面的考慮，在FreeBSD 5 之后系統默認已經不再自動裝載proc文件系統，因此，要想使用truss或strace跟蹤程序，你必須手工裝載proc文件系統：mount -t procfs proc /proc；或者在/etc/fstab中加上一行：
proc /proc procfs rw 0 0
附錄二：kmalloc的類型用法
malloc內存分配和malloc相似，除非被阻塞否則他執行的速度非常快，而且不對獲得空間清零。
Flags參數
#include<linux/slab.h>
Void *kmalloc(size_t size, int flags);
第一個參數是要分配的塊的大小，第二個參數是分配標志（flags），他提供了多種kmalloc的行為。
最常用的GFP_KERNEL,他表示內存分配（最終總是調用get_free_pages來實現實際的分配，這就是，這就是GFP前綴的由來）是代表運行在內核空間的進程執行的。使用GFP_KERNEL容許kmalloc在分配空閑內存時候如果內存不足容許把當前進程睡眠以等待。因此這時分配函數必須是可重入的。如果在進程上下文之外如：中斷處理程序、tasklet以及內核定時器中這種情況下current進程不該睡眠，驅動程序該使用GFP_ATOMIC.
GFP_ATOMIC
用來從中斷處理和進程上下文之外的其他代碼中分配內存. 從不睡眠.
GFP_KERNEL
內核內存的正常分配. 可能睡眠.
GFP_USER
用來為用戶空間頁來分配內存; 它可能睡眠.
GFP_HIGHUSER
如同 GFP_USER, 但是從高端內存分配, 如果有. 高端內存在下一個子節描述.
GFP_NOIO
GFP_NOFS
這個標志功能如同 GFP_KERNEL, 但是它們增加限制到內核能做的來滿足請求. 一個 GFP_NOFS 分配不允許進行任何文件系統調用, 而 GFP_NOIO 根本不允許任何 I/O 初始化. 它們主要地用在文件系統和虛擬內存代碼, 那里允許一個分配睡眠, 但是遞歸的文件系統調用會是一個壞注意.
上面列出的這些分配標志可以是下列標志的相或來作為參數, 這些標志改變這些分配如何進行:
__GFP_DMA
這個標志要求分配在能夠 DMA 的內存區. 確切的含義是平臺依賴的并且在下面章節來解釋.
__GFP_HIGHMEM
這個標志指示分配的內存可以位于高端內存.
__GFP_COLD
正常地, 內存分配器盡力返回"緩沖熱"的頁 -- 可能在處理器緩沖中找到的頁. 相反, 這個標志請求一個"冷"頁, 它在一段時間沒被使用. 它對分配頁作 DMA 讀是有用的, 此時在處理器緩沖中出現是無用的. 一個完整的對如何分配 DMA 緩存的討論看"直接內存存取"一節在第 1 章.
__GFP_NOWARN
這個很少用到的標志阻止內核來發出警告(使用 printk ), 當一個分配無法滿足.
__GFP_HIGH
這個標志標識了一個高優先級請求, 它被允許來消耗甚至被內核保留給緊急狀況的最后的內存頁.
__GFP_REPEAT
__GFP_NOFAIL
__GFP_NORETRY
這些標志修改分配器如何動作, 當它有困難滿足一個分配. __GFP_REPEAT 意思是" 更盡力些嘗試" 通過重復嘗試 -- 但是分配可能仍然失敗. __GFP_NOFAIL 標志告訴分配器不要失敗; 它盡最大努力來滿足要求. 使用 __GFP_NOFAIL 是強烈不推薦的; 可能從不會有有效的理由在一個設備驅動中使用它. 最后, __GFP_NORETRY 告知分配器立即放棄如果得不到請求的內存.
2.內存區段
__GFP_DMA和__GFP_HIGHMEM的使用與平臺相關，Linux把內存分成3個區段：可用于DMA的內存、常規內存、以及高端內存。X86平臺上ISA設備DMA區段是內存的前16MB，而PCI設備無此限制。
內存區后面的機制在 mm/page_alloc.c 中實現, 而內存區的初始化在平臺特定的文件中, 常常在 arch 目錄樹的 mm/init.c。
Linux 處理內存分配通過創建一套固定大小的內存對象池. 分配請求被這樣來處理, 進入一個持有足夠大的對象的池子并且將整個內存塊遞交給請求者. 驅動開發者應當記住的一件事情是, 內核只能分配某些預定義的, 固定大小的字節數組.
如果你請求一個任意數量內存, 你可能得到稍微多于你請求的, 至多是 2 倍數量. 同樣, 程序員應當記住 kmalloc 能夠處理的最小分配是 32 或者 64 字節, 依賴系統的體系所使用的頁大小. kmalloc 能夠分配的內存塊的大小有一個上限. 這個限制隨著體系和內核配置選項而變化. 如果你的代碼是要完全可移植, 它不能指望可以分配任何大于 128 KB. 如果你需要多于幾個 KB, 但是, 有個比 kmalloc 更好的方法來獲得內存
在設備驅動程序或者內核模塊中動態開辟內存，不是用malloc，而是kmalloc ,vmalloc，或者用get_free_pages直接申請頁。釋放內存用的是kfree,vfree，或free_pages. kmalloc函數返回的是虛擬地址(線性地址). kmalloc特殊之處在于它分配的內存是物理上連續的,這對于要進行DMA的設備十分重要. 而用vmalloc分配的內存只是線性地址連續,物理地址不一定連續,不能直接用于DMA.
注意kmalloc最大只能開辟128k-16，16個字節是被頁描述符結構占用了。kmalloc用法參見khg.
內存映射的I/O口，寄存器或者是硬件設備的RAM(如顯存)一般占用F0000000以上的地址空間。在驅動程序中不能直接訪問，要通過kernel函數vremap獲得重新映射以后的地址。
另外，很多硬件需要一塊比較大的連續內存用作DMA傳送。這塊內存需要一直駐留在內存，不能被交換到文件中去。但是kmalloc最多只能開辟大小為32XPAGE_SIZE的內存,一般的PAGE_SIZE=4kB,也就是128kB的大小的內存。
RFID管理系統集成商 RFID中間件 條碼系統中間層 物聯網軟件集成