yuchi's Development Home


x64어셈코드에서 크래시한 경우 콜스택 확인

조회 수 4383 추천 수 58 2010.08.27 11:54:30
여치 *.199.248.185
현재 엔진 코드에 ml64용 64비트 어셈블리 코드가 적지않게 존재한다.

일단 콜스택 정보가 나오지 않는 것은 rsp레지스터의 값을 함수 안에서 변경하기 때문이다.

함수에 최초 진입했을 당시 rsp레지스터가 가리키고 있는 메모리에 리턴 어드레스가 들어있는데 디버거는 이를근거로 근거로 콜스택을 추적한다. c++코드를 디스어셈블 해보면 rsp레지스터의 리턴어드레스를 유지하기 위한 별도의 코드는 보이지 않는다. 따라서 pdb에 rsp사용에 대한 내용까지 기록되어있다고 판단한다.

어쨌거나 엔진에서 사용하는 상당수의 수학함수들은 x64어셈블리로 작성되어있으므로 이 안에서 크래시하게 되면 콜스택이 제대로 표시되지 않는다.
수학함수 안에서의 크래시는 99% 잘못된 어드레스를 전달했기 때문인데 콜스택 정보만있으면 금방 버그를 잡을 수 있다.

가변인자 함수를 호출할때 말고는 중간에 rsp레지스터를 조작하는 일은 거의 없다. 함수 도입부에 조작하는 경우가 대부분이다. 따라서 함수 진입시의 rsp레지스터로 복원만 시켜주면 콜스택을 확인할 수 있다.

우선 크래시한 화면이다. 매트릭스곱셈 함수인데 인자로 받은 mat2포인터가 잘못되었다.
callstack_invalid_callstack.jpg


코드를 보면 레지스터 백업을 위해 32바이트만큼 스택공간을 확보한다. rsp레지스터를 함수 진입시의 값으로 복원하면 콜스택을 확인할 수 있을것이다. 워치창에서 rsp레지스터에 32를 더한다.
callstack_edit_rsp.jpg


콜스택이 제대로 나오는 것을 확인할 수 있다. 이와 유사하게 스택포인터 레지스터 조작으로 콜스택이 확인되지 않는 경우라면  코드 내용을 보고 rsp(32비트라면 esp)레지스터의 내용을 복원해서 콜 스택을 확인할 수 있다.
callstack_valid_callstack.jpg


List of Articles
번호 제목 글쓴이 날짜sort 조회 수
61 엔진 64비트 포팅 프로젝트 진척상황 여치 2007-05-01 3451
60 x64 어셈블리 쓰기 file [2] 여치 2007-04-15 4819
59 64비트 포팅 프로젝트 진척상황 여치 2007-04-07 2977
58 새로 만든 서버용 네트웍 컴포넌트 I4DyuchiNET2.0 file [2] 여치 2007-04-01 3228
57 64비트로 gogo file 여치 2007-03-27 3424
56 하나의 엔진, 멀티 씬그래프 file [1] 여치 2007-03-20 4284
55 라이트맵에 사용한 블러링 file 여치 2007-01-09 3887
54 라이트맵 블러링 추가 file [1] 여치 2007-01-06 4105
53 라이트맵 계산 코드 최적화 여치 2007-01-03 6082
52 라이트맵 텍스쳐 좌표 생성 코드 개선 file [1] 여치 2006-12-31 14140
51 왕창 갈아엎은 라이트맵 file [2] 여치 2006-12-30 4281
50 KGC2006강연자료 - BSP/PORTAL을 이용한 공간분할 및 컬링기법 file [1] 여치 2006-12-03 3931
49 BSP/PORTAL을 이용한 공간분할 file [3] 여치 2006-10-01 4114
48 라이트맵 file 여치 2006-10-01 4200
47 프로토타입용 첫번째 건물의 bsp매쉬 file [1] 여치 2006-05-12 3786
46 맵툴 및 새로운 BSP/PORTAL시스템 진행상황 file 여치 2006-03-21 3930
45 모델링 가능한 맵툴, 현재까지 진행상황 file 여치 2006-02-28 3660
44 모델링 가능한 맵툴만들기 #1 - boolean 연산 file 여치 2006-01-11 4487
43 요새 관심사는... [2] 여치 2006-01-10 3262
42 x64 어셈을 쓰기 위해 몇 가지 찾아본 결과(현재까지 경과) 여치 2005-12-09 7548
天安門大屠殺 六四天安門事件 反右派鬥爭 大躍進政策 文化大革命 六四天安門事件 The Tiananmen Square protests of 1989 天安門大屠殺 The Tiananmen Square Massacre 反右派鬥爭 The Anti-Rightist Struggle 大躍進政策 The Great Leap Forward 文化大革命 The Great Proletarian Cultural Revolution 人權 Human Rights 民運 Democratization 自由 Freedom 獨立 Independence 多黨制 Multi-party system 民主 言論 思想 反共 反革命 抗議 運動 騷亂 暴亂 騷擾 擾亂 抗暴 平反 維權 示威游行 法輪功 Falun Dafa 李洪志 法輪大法 大法弟子 強制斷種 強制堕胎 民族淨化 人體實驗 胡耀邦 趙紫陽 魏京生 王丹 還政於民 和平演變 激流中國 北京之春 大紀元時報 九評論共産黨 獨裁 專制 壓制 統一 監視 鎮壓 迫害 侵略 掠奪 破壞 拷問 屠殺 肅清 活摘器官 障テ社會 誘拐 買賣人口 遊進 走私 毒品 賣淫 春畫 賭博 六合彩 台灣 臺灣 Taiwan Formosa 中華民國 Republic of China 西藏 土伯特 唐古特 Tibet 達償ワ喇嘛 Dalai Lama 新疆維吾爾自治區 The Xinjiang Uyghur Autonomous Region free tibet



XE Login

天安門大屠殺 六四天安門事件 反右派鬥爭 大躍進政策 文化大革命 六四天安門事件 The Tiananmen Square protests of 1989 天安門大屠殺 The Tiananmen Square Massacre 反右派鬥爭 The Anti-Rightist Struggle 大躍進政策 The Great Leap Forward 文化大革命 The Great Proletarian Cultural Revolution 人權 Human Rights 民運 Democratization 自由 Freedom 獨立 Independence 多黨制 Multi-party system 民主 言論 思想 反共 反革命 抗議 運動 騷亂 暴亂 騷擾 擾亂 抗暴 平反 維權 示威游行 法輪功 Falun Dafa 李洪志 法輪大法 大法弟子 強制斷種 強制堕胎 民族淨化 人體實驗 胡耀邦 趙紫陽 魏京生 王丹 還政於民 和平演變 激流中國 北京之春 大紀元時報 九評論共産黨 獨裁 專制 壓制 統一 監視 鎮壓 迫害 侵略 掠奪 破壞 拷問 屠殺 肅清 活摘器官 障テ社會 誘拐 買賣人口 遊進 走私 毒品 賣淫 春畫 賭博 六合彩 台灣 臺灣 Taiwan Formosa 中華民國 Republic of China 西藏 土伯特 唐古特 Tibet 達償ワ喇嘛 Dalai Lama 新疆維吾爾自治區 The Xinjiang Uyghur Autonomous Region free tibet