yuchi's Development Home


x64어셈코드에서 크래시한 경우 콜스택 확인

조회 수 4383 추천 수 58 2010.08.27 11:54:30
여치 *.199.248.185
현재 엔진 코드에 ml64용 64비트 어셈블리 코드가 적지않게 존재한다.

일단 콜스택 정보가 나오지 않는 것은 rsp레지스터의 값을 함수 안에서 변경하기 때문이다.

함수에 최초 진입했을 당시 rsp레지스터가 가리키고 있는 메모리에 리턴 어드레스가 들어있는데 디버거는 이를근거로 근거로 콜스택을 추적한다. c++코드를 디스어셈블 해보면 rsp레지스터의 리턴어드레스를 유지하기 위한 별도의 코드는 보이지 않는다. 따라서 pdb에 rsp사용에 대한 내용까지 기록되어있다고 판단한다.

어쨌거나 엔진에서 사용하는 상당수의 수학함수들은 x64어셈블리로 작성되어있으므로 이 안에서 크래시하게 되면 콜스택이 제대로 표시되지 않는다.
수학함수 안에서의 크래시는 99% 잘못된 어드레스를 전달했기 때문인데 콜스택 정보만있으면 금방 버그를 잡을 수 있다.

가변인자 함수를 호출할때 말고는 중간에 rsp레지스터를 조작하는 일은 거의 없다. 함수 도입부에 조작하는 경우가 대부분이다. 따라서 함수 진입시의 rsp레지스터로 복원만 시켜주면 콜스택을 확인할 수 있다.

우선 크래시한 화면이다. 매트릭스곱셈 함수인데 인자로 받은 mat2포인터가 잘못되었다.
callstack_invalid_callstack.jpg


코드를 보면 레지스터 백업을 위해 32바이트만큼 스택공간을 확보한다. rsp레지스터를 함수 진입시의 값으로 복원하면 콜스택을 확인할 수 있을것이다. 워치창에서 rsp레지스터에 32를 더한다.
callstack_edit_rsp.jpg


콜스택이 제대로 나오는 것을 확인할 수 있다. 이와 유사하게 스택포인터 레지스터 조작으로 콜스택이 확인되지 않는 경우라면  코드 내용을 보고 rsp(32비트라면 esp)레지스터의 내용을 복원해서 콜 스택을 확인할 수 있다.
callstack_valid_callstack.jpg


List of Articles
번호 제목 글쓴이 날짜 조회 수
121 dx11 첫 걸음 file 여치 2011-01-19 3629
120 해킨토시 설치 성공 file [2] 여치 2010-12-09 3059
119 DoF 결론 file [2] 여치 2010-12-07 3036
118 Depth of Field 구현중 file 여치 2010-11-24 3364
117 프로젝트 엡실론 3차 알파 테스트 프리뷰 영상 여치 2010-10-13 2971
116 Parallel NSight를 이용한 CUDA코드 디버깅 file 여치 2010-09-26 4471
115 nVidia Parallel NSight 소개 file 여치 2010-09-24 2948
114 별거 아니지만...노말방향 스케일 아웃라인의 활용 file 여치 2010-09-05 4164
» x64어셈코드에서 크래시한 경우 콜스택 확인 file 여치 2010-08-27 4383
112 6core Xeon*2 + GTS250 CDUA 라이트맵 렌더링 file 여치 2010-06-15 3287
111 CUDA로 구현한 라이트맵 테스트 및 결론 file [3] 여치 2010-06-11 3823
110 CUDA로 계산하는 라이트맵 여치 2010-06-07 3016
109 Project ε(프로젝트 엡실론) 2차 알파 동영상 여치 2010-06-03 2973
108 Project ε(프로젝트 엡실론) 2차 알파 후기 file [2] 여치 2010-06-03 3580
107 이미지 프로세싱 속도 비교 - CUDA vs CPU(single thread) file [2] 여치 2010-04-22 3814
106 cuda 필터 만들기. 3*3커널을 이용한 필터링 file 여치 2010-04-21 5028
105 새로 구입한 책 Programmin Massively Parallel Processors file [2] 여치 2010-04-19 3023
104 cuda로 필터 만들기 첫번째 B/W필터 file 여치 2010-04-15 3514
103 CUDA 첫 프로그램. 시작은 미약하지만.. file [2] 여치 2010-04-12 3385
102 프레임 자랑질. file [2] 여치 2010-04-03 3391
天安門大屠殺 六四天安門事件 反右派鬥爭 大躍進政策 文化大革命 六四天安門事件 The Tiananmen Square protests of 1989 天安門大屠殺 The Tiananmen Square Massacre 反右派鬥爭 The Anti-Rightist Struggle 大躍進政策 The Great Leap Forward 文化大革命 The Great Proletarian Cultural Revolution 人權 Human Rights 民運 Democratization 自由 Freedom 獨立 Independence 多黨制 Multi-party system 民主 言論 思想 反共 反革命 抗議 運動 騷亂 暴亂 騷擾 擾亂 抗暴 平反 維權 示威游行 法輪功 Falun Dafa 李洪志 法輪大法 大法弟子 強制斷種 強制堕胎 民族淨化 人體實驗 胡耀邦 趙紫陽 魏京生 王丹 還政於民 和平演變 激流中國 北京之春 大紀元時報 九評論共産黨 獨裁 專制 壓制 統一 監視 鎮壓 迫害 侵略 掠奪 破壞 拷問 屠殺 肅清 活摘器官 障テ社會 誘拐 買賣人口 遊進 走私 毒品 賣淫 春畫 賭博 六合彩 台灣 臺灣 Taiwan Formosa 中華民國 Republic of China 西藏 土伯特 唐古特 Tibet 達償ワ喇嘛 Dalai Lama 新疆維吾爾自治區 The Xinjiang Uyghur Autonomous Region free tibet



XE Login

天安門大屠殺 六四天安門事件 反右派鬥爭 大躍進政策 文化大革命 六四天安門事件 The Tiananmen Square protests of 1989 天安門大屠殺 The Tiananmen Square Massacre 反右派鬥爭 The Anti-Rightist Struggle 大躍進政策 The Great Leap Forward 文化大革命 The Great Proletarian Cultural Revolution 人權 Human Rights 民運 Democratization 自由 Freedom 獨立 Independence 多黨制 Multi-party system 民主 言論 思想 反共 反革命 抗議 運動 騷亂 暴亂 騷擾 擾亂 抗暴 平反 維權 示威游行 法輪功 Falun Dafa 李洪志 法輪大法 大法弟子 強制斷種 強制堕胎 民族淨化 人體實驗 胡耀邦 趙紫陽 魏京生 王丹 還政於民 和平演變 激流中國 北京之春 大紀元時報 九評論共産黨 獨裁 專制 壓制 統一 監視 鎮壓 迫害 侵略 掠奪 破壞 拷問 屠殺 肅清 活摘器官 障テ社會 誘拐 買賣人口 遊進 走私 毒品 賣淫 春畫 賭博 六合彩 台灣 臺灣 Taiwan Formosa 中華民國 Republic of China 西藏 土伯特 唐古特 Tibet 達償ワ喇嘛 Dalai Lama 新疆維吾爾自治區 The Xinjiang Uyghur Autonomous Region free tibet