yuchi's Development Home


64비트 어셈에서 스택 사용시 주의사항

조회 수 3602 추천 수 168 2007.08.23 23:53:01
엔진과 기타 몇몇 컴포넌트에서 DPC(함수호출에 대한 내용을 일단 저장해두고 나중에 함수 호출)가 필요했기 때문에 꽤 오래전에 DPC 코드를 작성해서  공용 라이브러리 DLL에 넣어놨었다.

DPC(Deffrred Procedure Call)를 구현하기 위해서는 가변인자처리를 해야했고, 따라서 어셈블리코드를 반드시 써야만했다.

x64랑 x86이랑 calling convention이 달랐으므로 파라미터를 넘기는 부분에서 꽤 애먹었었다.

여튼 코드를 작성해서 지금까지 잘 사용하고 있었다(그렇다고 믿었다.)

몇일전에 그 DPC를 통해서 호출한 함수에서 OutputDebugString()함수가 오작동하는 것을 알게 됐다. 정확히는 First-Chance Exception, 대충 win32 함수 안에서 뭔가 문제가 생긴건 알겠는데...

이것만 가지곤 알수가 없잖아.

테스트 결과 OutputDebugString()뿐만 아니라 , 몇 개의 win32 api가 오작동하는 것을 발견했다. 그러니까 DPC를 통해서 호출될때에 한해서다.

눈을 부릅뜨고 더 테스트를 해보고 파라미터를 4개 이하로 넘길때는 win32함수들도 정상 작동하는 것을 알게 됐다.

파라미터가 4개 이하인 경우에는 rcx,rdx,r8,r9레지스터를 통해서 파라미터를 전달한다. 즉 리턴 어드레스를 적어넣는것 말고는 스택을 사용하지 않는다.

그렇다면?

문득 떠오르는게 있어서 문서를 열나게 뒤졌다.

msdn의 x64컨버젼 부분에서 스택은 16바이트 얼라인으로 간주한다는 내용 발견. 이런 쯧.

dpc를 통해서 함수를 호출할때 5개째의 파라미터 부터는 스택을 통해서 전달한다. 이때 파라미터 개수*8로 계산해서 스택 포인터를 뺐는데, 이렇게 되니 16바이트 얼라인 규칙이 무너진것이다.

일부 win32 api를 추적해보니 xmm레지스터도 사용하는 것을 확인했다.

xmm레지스터까지 사용한다면 속도를 위해서 16바이트 얼라인을 사용하는 것이 말이 된다.

16바이트 얼라인 되지 않은 메모리를 movaps등의 명령어로 억세스 하면 크래쉬 해버리니까.

여튼, 파라미터를 전달할때 스택 포인터를 16바이트 얼라인 시키는 코드를 추가했다.

과연...

잘 돌아간다.

코드 짜는데는 5분도 안걸렸는데 원인을 발견하는데까지는 반나절이 걸렸다.

반나절 고민 끝에 버그를 해결했으므로 깨달음을 얻었다. 렙업!

아아 프로그래밍의 세계는 역시 심오해.
List of Articles
번호 제목 글쓴이 날짜sort 조회 수
141 그림자 개선중#3 - Cascade Shadow Maps file [2] 여치 2011-08-20 4412
140 그림자 개선중#2 file 여치 2011-08-09 4082
139 그림자 개선중 file 여치 2011-08-09 3892
138 TFS 사용시 로컬패스 맵핑이 안될 때 처리방법 여치 2011-07-11 64761
137 TFS2010 백업으로부터 복원 [2] 여치 2011-07-10 10469
136 DX11엔진 프로젝트 - DoF, Glow, Dynamic 라이트 등 완료 file 여치 2011-06-27 3802
135 dx11프로젝트 - 아웃라인 쉐이더 및 테셀레이션 여치 2011-06-06 104873
134 첫 아이폰 어플을 앱스토어에 등록했습니다. file [1] 여치 2011-05-05 3706
133 아이폰 프로그래밍 첫 연습작 file [2] 여치 2011-04-01 3610
132 dx11프로젝트 - 테셀레이션(Curved PN Triangles) file 여치 2011-03-15 6952
131 dx11프로젝트 - 테셀레이션 file 여치 2011-03-14 4045
130 dx11엔진 프로젝트 - 렌더타겟으로 그림자처리 & 툰쉐이딩(외곽선제외) file [2] 여치 2011-03-09 4108
129 dx11 - 폰트와 스프라이트 처리 file 여치 2011-02-13 4680
128 dx11 포팅 프로젝트 - uv애니, 빌보드 오브젝트, 알파처리 file 여치 2011-02-08 4722
127 dx11 필드처리-(타일텍스쳐*알파맵*라이트맵) file 여치 2011-02-05 4427
126 dx11 필드처리(와이어프레임모드) file 여치 2011-02-05 3886
125 dx11 라이트맵 처리 file 여치 2011-01-28 3456
124 회사 관두고 나서 알게 된 버그 하나 여치 2011-01-27 2837
123 dx11 텍스쳐링 file 여치 2011-01-26 2823
122 dx11 스키닝 file 여치 2011-01-20 3498
天安門大屠殺 六四天安門事件 反右派鬥爭 大躍進政策 文化大革命 六四天安門事件 The Tiananmen Square protests of 1989 天安門大屠殺 The Tiananmen Square Massacre 反右派鬥爭 The Anti-Rightist Struggle 大躍進政策 The Great Leap Forward 文化大革命 The Great Proletarian Cultural Revolution 人權 Human Rights 民運 Democratization 自由 Freedom 獨立 Independence 多黨制 Multi-party system 民主 言論 思想 反共 反革命 抗議 運動 騷亂 暴亂 騷擾 擾亂 抗暴 平反 維權 示威游行 法輪功 Falun Dafa 李洪志 法輪大法 大法弟子 強制斷種 強制堕胎 民族淨化 人體實驗 胡耀邦 趙紫陽 魏京生 王丹 還政於民 和平演變 激流中國 北京之春 大紀元時報 九評論共産黨 獨裁 專制 壓制 統一 監視 鎮壓 迫害 侵略 掠奪 破壞 拷問 屠殺 肅清 活摘器官 障テ社會 誘拐 買賣人口 遊進 走私 毒品 賣淫 春畫 賭博 六合彩 台灣 臺灣 Taiwan Formosa 中華民國 Republic of China 西藏 土伯特 唐古特 Tibet 達償ワ喇嘛 Dalai Lama 新疆維吾爾自治區 The Xinjiang Uyghur Autonomous Region free tibet



XE Login

天安門大屠殺 六四天安門事件 反右派鬥爭 大躍進政策 文化大革命 六四天安門事件 The Tiananmen Square protests of 1989 天安門大屠殺 The Tiananmen Square Massacre 反右派鬥爭 The Anti-Rightist Struggle 大躍進政策 The Great Leap Forward 文化大革命 The Great Proletarian Cultural Revolution 人權 Human Rights 民運 Democratization 自由 Freedom 獨立 Independence 多黨制 Multi-party system 民主 言論 思想 反共 反革命 抗議 運動 騷亂 暴亂 騷擾 擾亂 抗暴 平反 維權 示威游行 法輪功 Falun Dafa 李洪志 法輪大法 大法弟子 強制斷種 強制堕胎 民族淨化 人體實驗 胡耀邦 趙紫陽 魏京生 王丹 還政於民 和平演變 激流中國 北京之春 大紀元時報 九評論共産黨 獨裁 專制 壓制 統一 監視 鎮壓 迫害 侵略 掠奪 破壞 拷問 屠殺 肅清 活摘器官 障テ社會 誘拐 買賣人口 遊進 走私 毒品 賣淫 春畫 賭博 六合彩 台灣 臺灣 Taiwan Formosa 中華民國 Republic of China 西藏 土伯特 唐古特 Tibet 達償ワ喇嘛 Dalai Lama 新疆維吾爾自治區 The Xinjiang Uyghur Autonomous Region free tibet