RenderDoc経由で起動した時のみ正しく描画される

Last updated at 2024-08-22Posted at 2023-12-16

この記事はグラフィックス全般 Advent Calendar 2023の17日目の記事です。

はじめに

この記事は、

「実行してみたら真っ黒になっちゃった。
RenderDocでシェーダーに渡った値とか見てみよ
。。。
RenderDoc経由で起動したら描画されたんだけど」

という方向けの記事です。
お急ぎの方は下まで飛ばしてください。

注意

バージョンによって動作が異なる可能性があります。
筆者のRenderDocはVersion v1.27です
「描画されない」の原因はものすごく多いので、調査項目の一つとして考えてください。
RenderDocを使用して困っている方向けの記事です。RenderDocの説明はしません。
当時の状況を再現したスクショを貼っています。

何をしようとしていたのか

Vulkanを使用して、マルチサンプリングを実装しようとして、
既に描画に成功している状態からの修正でした。

描画されてほしかったもの

問題が発生していた時の画面

RenderDoc経由で起動したもの

RenderDoc経由だと描画された。。。
こんな現象が発生していました(当時のツイート)

仮説

タイミング系 (起動が少し遅れることで成功するみたいな。。。？)
実行環境に依存する部分
メモリの確保、ステージングバッファ (vkCreateBuffer, vkAllocateMemory, memcpy...)
なども考えていましたが、カメラの位置が違うのが引っ掛かっていました

何が起こっていたのか

カメラの位置が違うのはviewportの問題でした。

マルチサンプリング導入前では
VkViewport構造体、VkRect2D構造体を用意して
VkPipelineViewportStateCreateInfo構造体のpViewports, pScissorsに入れていました。

renderer_base.cpp

	VkViewport viewport;
	{
		viewport.x = 0.0f;
		viewport.y = float(_swapchainExtent.height);
		viewport.width = float(_swapchainExtent.width);
		viewport.height = -1.0f * float(_swapchainExtent.height);
		viewport.minDepth = 0.0f;
		viewport.maxDepth = 1.0f;
	}
	VkRect2D scissor = {
		{ 0, 0 },
		_swapchainExtent
	};

	VkPipelineViewportStateCreateInfo viewportCI{};
	viewportCI.sType = VK_STRUCTURE_TYPE_PIPELINE_VIEWPORT_STATE_CREATE_INFO;
	viewportCI.viewportCount = 1;
	viewportCI.pViewports = &viewport;
	viewportCI.scissorCount = 1;
	viewportCI.pScissors = &scissor;

マルチサンプリング導入後は
vkCmdBeginRenderPassの後に
vkCmdSetViewport, vkCmdSetScissorを呼ぶ必要がありました

renderer_base.cpp

	VkViewport viewport{};
	viewport.x = 0.0f;
	viewport.y = (float)_swapchainExtent.height;
	viewport.width = (float)_swapchainExtent.width;
	viewport.height = -1.0f * (float)_swapchainExtent.height;
	viewport.minDepth = 0.0f;
	viewport.maxDepth = 1.0f;
	vkCmdSetViewport(_commandBuffer, 0, 1, &viewport);
 
 	VkRect2D scissor{};
	scissor.offset = { 0, 0 };
	scissor.extent = _swapchainExtent;
	vkCmdSetScissor(_commandBuffer, 0, 1, &scissor);