yuchi's Development Home


x64어셈코드에서 크래시한 경우 콜스택 확인

조회 수 4383 추천 수 58 2010.08.27 11:54:30
여치 *.199.248.185
현재 엔진 코드에 ml64용 64비트 어셈블리 코드가 적지않게 존재한다.

일단 콜스택 정보가 나오지 않는 것은 rsp레지스터의 값을 함수 안에서 변경하기 때문이다.

함수에 최초 진입했을 당시 rsp레지스터가 가리키고 있는 메모리에 리턴 어드레스가 들어있는데 디버거는 이를근거로 근거로 콜스택을 추적한다. c++코드를 디스어셈블 해보면 rsp레지스터의 리턴어드레스를 유지하기 위한 별도의 코드는 보이지 않는다. 따라서 pdb에 rsp사용에 대한 내용까지 기록되어있다고 판단한다.

어쨌거나 엔진에서 사용하는 상당수의 수학함수들은 x64어셈블리로 작성되어있으므로 이 안에서 크래시하게 되면 콜스택이 제대로 표시되지 않는다.
수학함수 안에서의 크래시는 99% 잘못된 어드레스를 전달했기 때문인데 콜스택 정보만있으면 금방 버그를 잡을 수 있다.

가변인자 함수를 호출할때 말고는 중간에 rsp레지스터를 조작하는 일은 거의 없다. 함수 도입부에 조작하는 경우가 대부분이다. 따라서 함수 진입시의 rsp레지스터로 복원만 시켜주면 콜스택을 확인할 수 있다.

우선 크래시한 화면이다. 매트릭스곱셈 함수인데 인자로 받은 mat2포인터가 잘못되었다.
callstack_invalid_callstack.jpg


코드를 보면 레지스터 백업을 위해 32바이트만큼 스택공간을 확보한다. rsp레지스터를 함수 진입시의 값으로 복원하면 콜스택을 확인할 수 있을것이다. 워치창에서 rsp레지스터에 32를 더한다.
callstack_edit_rsp.jpg


콜스택이 제대로 나오는 것을 확인할 수 있다. 이와 유사하게 스택포인터 레지스터 조작으로 콜스택이 확인되지 않는 경우라면  코드 내용을 보고 rsp(32비트라면 esp)레지스터의 내용을 복원해서 콜 스택을 확인할 수 있다.
callstack_valid_callstack.jpg


List of Articles
번호 제목 글쓴이 날짜 조회 수sort
61 프로그래밍의 도를 향해#2 여치 2002-04-22 4387
60 dx11 포팅 프로젝트 - uv애니, 빌보드 오브젝트, 알파처리 file 여치 2011-02-08 4387
59 후닥닥 만든 카툰렌더러 file [3] 여치 2005-06-01 4407
58 맵툴에 새로 추가한 기능 file [1] 여치 2003-11-04 4411
57 SS3D엔진 렌더러에 추가한 외부 이펙트 쉐이더 file [1] 여치 2003-11-06 4443
56 The database principal owns a schema in the database, and cannot be dropped 여치 2013-05-23 4464
55 Parallel NSight를 이용한 CUDA코드 디버깅 file 여치 2010-09-26 4469
54 모델링 가능한 맵툴만들기 #1 - boolean 연산 file 여치 2006-01-11 4483
53 dx11 - 폰트와 스프라이트 처리 file 여치 2011-02-13 4503
52 진행중인 프로젝트 Visual Studio 2010 -> Visual Studio 2013으로 이전 [2] 여치 2014-04-10 4515
51 통합 툴 MT컨트롤 file 여치 2008-06-25 4546
50 SS3D엔진, 자체평가 [6] 여치 2003-08-26 4682
49 4DyuchiGX #2 화면에 뭐가 보여야 뭘 하지... [5] 여치 2002-07-06 4695
48 x64 어셈블리 쓰기 file [2] 여치 2007-04-15 4705
47 4DyuchiGX #9 맥스 플러그인 4.0에서 5.0으로... [5] 여치 2002-12-06 4707
46 매터리얼에 리플렉트맵 추가.. file [4] 여치 2003-11-15 4740
45 SS3D엔진,최근의 스샷 file [2] 여치 2004-02-05 4759
44 몬스터가 나를 때린다. 여치 2008-03-08 4772
43 오클루젼 컬링 관련 여치 2008-02-09 4831
42 crt힙 메시지 출력에서 xxx.cpp대신 #File error#가 뜰때 여치 2012-05-29 4911
天安門大屠殺 六四天安門事件 反右派鬥爭 大躍進政策 文化大革命 六四天安門事件 The Tiananmen Square protests of 1989 天安門大屠殺 The Tiananmen Square Massacre 反右派鬥爭 The Anti-Rightist Struggle 大躍進政策 The Great Leap Forward 文化大革命 The Great Proletarian Cultural Revolution 人權 Human Rights 民運 Democratization 自由 Freedom 獨立 Independence 多黨制 Multi-party system 民主 言論 思想 反共 反革命 抗議 運動 騷亂 暴亂 騷擾 擾亂 抗暴 平反 維權 示威游行 法輪功 Falun Dafa 李洪志 法輪大法 大法弟子 強制斷種 強制堕胎 民族淨化 人體實驗 胡耀邦 趙紫陽 魏京生 王丹 還政於民 和平演變 激流中國 北京之春 大紀元時報 九評論共産黨 獨裁 專制 壓制 統一 監視 鎮壓 迫害 侵略 掠奪 破壞 拷問 屠殺 肅清 活摘器官 障テ社會 誘拐 買賣人口 遊進 走私 毒品 賣淫 春畫 賭博 六合彩 台灣 臺灣 Taiwan Formosa 中華民國 Republic of China 西藏 土伯特 唐古特 Tibet 達償ワ喇嘛 Dalai Lama 新疆維吾爾自治區 The Xinjiang Uyghur Autonomous Region free tibet



XE Login

天安門大屠殺 六四天安門事件 反右派鬥爭 大躍進政策 文化大革命 六四天安門事件 The Tiananmen Square protests of 1989 天安門大屠殺 The Tiananmen Square Massacre 反右派鬥爭 The Anti-Rightist Struggle 大躍進政策 The Great Leap Forward 文化大革命 The Great Proletarian Cultural Revolution 人權 Human Rights 民運 Democratization 自由 Freedom 獨立 Independence 多黨制 Multi-party system 民主 言論 思想 反共 反革命 抗議 運動 騷亂 暴亂 騷擾 擾亂 抗暴 平反 維權 示威游行 法輪功 Falun Dafa 李洪志 法輪大法 大法弟子 強制斷種 強制堕胎 民族淨化 人體實驗 胡耀邦 趙紫陽 魏京生 王丹 還政於民 和平演變 激流中國 北京之春 大紀元時報 九評論共産黨 獨裁 專制 壓制 統一 監視 鎮壓 迫害 侵略 掠奪 破壞 拷問 屠殺 肅清 活摘器官 障テ社會 誘拐 買賣人口 遊進 走私 毒品 賣淫 春畫 賭博 六合彩 台灣 臺灣 Taiwan Formosa 中華民國 Republic of China 西藏 土伯特 唐古特 Tibet 達償ワ喇嘛 Dalai Lama 新疆維吾爾自治區 The Xinjiang Uyghur Autonomous Region free tibet