DirectX でのレンダリングRendering in DirectX

Windows Mixed Reality は DirectX 上に構築されており、ユーザーに対して豊富な3D グラフィカルエクスペリエンスを生み出します。Windows Mixed Reality is built on DirectX to produce rich, 3D graphical experiences for users. レンダリングの抽象化は DirectX のすぐ上にあり、システムによって予測される holographic シーンの1つ以上のオブザーバーの位置と向きに関するアプリの理由を示します。The rendering abstraction sits just above DirectX and lets an app reason about the position and orientation of one or more observers of a holographic scene, as predicted by the system. 開発者は、各カメラを基準としてそのホログラムを見つけることができます。これにより、アプリは、ユーザーが移動するときに、さまざまな空間座標系でこれらのホログラムをレンダリングします。The developer can then locate their holograms relative to each camera, letting the app render these holograms in various spatial coordinate systems as the user moves around.

現在のフレームの更新Update for the current frame

ホログラムのアプリケーションの状態を更新するには、次のようにします。To update the application state for holograms, once per frame the app will:

  • 表示管理システムからHolographicFrameを取得します。Get a HolographicFrame from the display management system.
  • レンダリングが完了したら、カメラビューが配置されるの現在の予測でシーンを更新します。Update the scene with the current prediction of where the camera view will be when render is completed. Holographic シーンでは、複数のカメラを使用できます。Note, there can be more than one camera for the holographic scene.

Holographic カメラビューにレンダリングするには、アプリがフレームごとに1回、次のようになります。To render to holographic camera views, once per frame the app will:

  • カメラごとに、システムのカメラビューと投影行列を使用して、現在のフレームのシーンをレンダリングします。For each camera, render the scene for the current frame, using the camera view and projection matrices from the system.

新しい holographic フレームを作成し、予測を取得するCreate a new holographic frame and get its prediction

HolographicFrameには、現在のフレームを更新して表示するためにアプリが必要とする情報が含まれています。The HolographicFrame has information that the app needs in order to update and render the current frame. アプリは、 Createnextframeメソッドを呼び出すことによって、各新しいフレームを開始します。The app begins each new frame by calling the CreateNextFrame method. このメソッドが呼び出されると、予測は、使用可能な最新のセンサーデータを使用して作成され、 currentpredictionオブジェクトにカプセル化されます。When this method is called, predictions are made using the latest sensor data available, and encapsulated in CurrentPrediction object.

レンダリングされた各フレームは、瞬時に有効であるため、新しいフレームオブジェクトを使用する必要があります。A new frame object must be used for each rendered frame as it is only valid for an instant in time. Currentpredictionプロパティには、カメラの位置などの情報が含まれています。The CurrentPrediction property contains information such as the camera position. この情報は、フレームがユーザーに表示されることが予想される正確な時点に対して推定されます。The information is extrapolated to the exact moment in time when the frame is expected to be visible to the user.

次のコードは、 Appmain:: Updateから抜粋ですされています。The following code is excerpted from AppMain::Update:

// The HolographicFrame has information that the app needs in order
// to update and render the current frame. The app begins each new
// frame by calling CreateNextFrame.
HolographicFrame holographicFrame = m_holographicSpace.CreateNextFrame();

// Get a prediction of where holographic cameras will be when this frame
// is presented.
HolographicFramePrediction prediction = holographicFrame.CurrentPrediction();

カメラの更新の処理Process camera updates

バックバッファーはフレーム間で変更される可能性があります。Back buffers can change from frame to frame. アプリでは、各カメラのバックバッファーを検証し、必要に応じてリソースビューと深度バッファーを解放して再作成する必要があります。Your app needs to validate the back buffer for each camera, and release and recreate resource views and depth buffers as needed. 予測に含まれる一連の設定が、現在のフレームで使用されているカメラの権限の一覧になっていることに注意してください。Notice that the set of poses in the prediction is the authoritative list of cameras being used in the current frame. 通常、この一覧を使用して、カメラのセットを反復処理します。Usually, you use this list to iterate on the set of cameras.

Appmain:: Updateから:From AppMain::Update:

m_deviceResources->EnsureCameraResources(holographicFrame, prediction);

DeviceResources:: EnsureCameraResourcesから:From DeviceResources::EnsureCameraResources:

for (HolographicCameraPose const& cameraPose : prediction.CameraPoses())
{
    HolographicCameraRenderingParameters renderingParameters = frame.GetRenderingParameters(cameraPose);
    CameraResources* pCameraResources = cameraResourceMap[cameraPose.HolographicCamera().Id()].get();
    pCameraResources->CreateResourcesForBackBuffer(this, renderingParameters);
}

描画の基準として使用する座標系を取得します。Get the coordinate system to use as a basis for rendering

Windows Mixed Reality を使用すると、アプリは、物理的な世界での場所を追跡する、アタッチされた参照フレームや静止参照フレームなど、必要に応じてさまざまな座標系を作成できます。Windows Mixed Reality lets your app create various coordinate systems as needed, such as the attached reference frame and the stationary reference frame, that track locations in the physical world. これにより、アプリはこれらの座標系を使用して、各フレームのホログラムのレンダリングを行うことができます。Your app can then use these coordinate systems to reason about where to render holograms each frame. API から座標を要求するときは、その座標を表現するSpatialCoordinateSystemを常に渡す必要があります。When requesting coordinates from an API, you will always pass in the SpatialCoordinateSystem within which you want those coordinates to be expressed.

Appmain:: Updateから:From AppMain::Update:

pose = SpatialPointerPose::TryGetAtTimestamp(
    m_stationaryReferenceFrame.CoordinateSystem(), prediction.Timestamp());

これらの座標系を使用して、シーンにコンテンツをレンダリングするときに、ステレオビュー行列を生成できます。These coordinate systems can then be used to generate stereo view matrices when rendering the content in your scene.

CameraResources:: UpdateViewProjectionBufferから:From CameraResources::UpdateViewProjectionBuffer:

// Get a container object with the view and projection matrices for the given
// pose in the given coordinate system.
auto viewTransformContainer = cameraPose.TryGetViewTransform(coordinateSystem);

プロセスの宝石とジェスチャの入力Process gaze and gesture input

手書き入力とハンド入力は時間ベースではないため、 steptimer関数で更新する必要はありません。Gaze and hand input are not time-based and thus do not have to update in the StepTimer function. ただし、この入力は、アプリが各フレームを確認する必要があります。However this input is something that the app needs to look at each frame.

プロセス時間ベースの更新Process time-based updates

リアルタイムレンダリングアプリでは、時間ベースの更新を処理するために何らかの方法が必要になります。これを Windows Holographic アプリテンプレートで実行する方法は、 Steptimer実装を通じて提供されます。Any real-time rendering app will need some way to process time-based updates; we provide a way to do this in the Windows Holographic app template via a StepTimer implementation. これは、DirectX 11 UWP アプリケーションテンプレートに用意されている StepTimer に似ています。そのため、既にそのテンプレートを見ている場合は、慣れ親しんでいる必要があります。This is similar to the StepTimer provided in the DirectX 11 UWP app template, so if you already have looked at that template you should be on familiar ground. このサンプルヘルパークラスは、一定の時間ステップの更新と、変動する時間ステップの更新を提供でき、既定のモードは変動する時間のステップです。This StepTimer sample helper class is able to provide fixed time-step updates, as well as variable time-step updates, and the default mode is variable time steps.

Holographic のレンダリングの場合、タイマー関数にあまり多くを設定しないことを選択しました。In the case of holographic rendering, we've specifically chosen not to put too much into the timer function. これは、固定された時間のステップとして構成できるためです。この場合、フレームごとに複数回呼び出される場合もあれば、フレームごとに1つの holographic データ更新が発生する場合もあります。This is because you can configure it to be a fixed time step, in which case it might get called more than once per frame – or not at all, for some frames – and our holographic data updates should happen once per frame.

Appmain:: Updateから:From AppMain::Update:

m_timer.Tick([this]()
{
    m_spinningCubeRenderer->Update(m_timer);
});

座標系でのホログラムの位置と回転Position and rotate holograms in your coordinate system

1つの座標系で動作している場合、テンプレートはSpatialStationaryReferenceFrameを使用しているため、このプロセスは3d グラフィックスで使用しているものとは異なります。If you are operating in a single coordinate system, as the template does with the SpatialStationaryReferenceFrame, this process isn't different from what you're otherwise used to in 3D graphics. ここでは、キューブを回転させ、固定座標系の位置を基準としてモデルマトリックスを設定します。Here, we rotate the cube and set the model matrix relative to the position in the stationary coordinate system.

SpinningCubeRenderer:: Updateから:From SpinningCubeRenderer::Update:

// Rotate the cube.
// Convert degrees to radians, then convert seconds to rotation angle.
const float    radiansPerSecond = XMConvertToRadians(m_degreesPerSecond);
const double   totalRotation = timer.GetTotalSeconds() * radiansPerSecond;
const float    radians = static_cast<float>(fmod(totalRotation, XM_2PI));
const XMMATRIX modelRotation = XMMatrixRotationY(-radians);

// Position the cube.
const XMMATRIX modelTranslation = XMMatrixTranslationFromVector(XMLoadFloat3(&m_position));

// Multiply to get the transform matrix.
// Note that this transform does not enforce a particular coordinate system. The calling
// class is responsible for rendering this content in a consistent manner.
const XMMATRIX modelTransform = XMMatrixMultiply(modelRotation, modelTranslation);

// The view and projection matrices are provided by the system; they are associated
// with holographic cameras, and updated on a per-camera basis.
// Here, we provide the model transform for the sample hologram. The model transform
// matrix is transposed to prepare it for the shader.
XMStoreFloat4x4(&m_modelConstantBufferData.model, XMMatrixTranspose(modelTransform));

高度なシナリオに関する注意: 回転するキューブは、1つの参照フレーム内にホログラムを配置するための非常に単純な例です。Note about advanced scenarios: The spinning cube is a very simple example of how to position a hologram within a single reference frame. 同時に、レンダリングされた同じフレームで複数の SpatialCoordinateSystems を使用することもできます。It's also possible to use multiple SpatialCoordinateSystems in the same rendered frame, at the same time.

定数バッファーデータの更新Update constant buffer data

コンテンツのモデル変換は、通常どおりに更新されます。Model transforms for content are updated as usual. ここまでで、レンダリングする座標系の有効な変換を計算しました。By now, you will have computed valid transforms for the coordinate system you'll be rendering in.

SpinningCubeRenderer:: Updateから:From SpinningCubeRenderer::Update:

// Update the model transform buffer for the hologram.
context->UpdateSubresource(
    m_modelConstantBuffer.Get(),
    0,
    nullptr,
    &m_modelConstantBufferData,
    0,
    0
);

ビューとプロジェクションの変換についてWhat about view and projection transforms? 最良の結果を得るために、描画呼び出しの準備が整うまで待機してから、これらを取得します。For best results, we want to wait until we're almost ready for our draw calls before we get these.

現在のフレームをレンダリングしますRender the current frame

Windows Mixed Reality でのレンダリングは、2D mono ディスプレイでのレンダリングとは大きく異なりますが、注意する必要があるいくつかの違いがあります。Rendering on Windows Mixed Reality is not much different from rendering on a 2D mono display, but there are some differences you need to be aware of:

  • Holographic フレーム予測は重要です。Holographic frame predictions are important. 予測に近いほど、フレームが表示されるときに、ホログラムが見やすくなります。The closer the prediction is to when your frame is presented, the better your holograms will look.
  • Windows Mixed Reality は、カメラビューを制御します。Windows Mixed Reality controls the camera views. Holographic フレームによって後で表示されるため、それぞれにレンダリングする必要があります。You need to render to each one because the holographic frame will be presenting them for you later.
  • レンダーターゲット配列に描画するインスタンスを使用して、ステレオレンダリングを実行することをお勧めします。Stereo rendering is recommended to be accomplished using instanced drawing to a render target array. Holographic アプリテンプレートでは、レンダーターゲット配列に描画するための推奨される方法を使用しています。レンダーターゲット配列は、レンダーターゲットビューをTexture2DArrayに使用します。The holographic app template uses the recommended approach of instanced drawing to a render target array, which uses a render target view onto a Texture2DArray.
  • ステレオのインスタンス化を使用せずにレンダリングする場合は、システムからアプリに提供されるTexture2DArray内の2つのスライスのいずれか1つを参照する2つの非配列 RenderTargetViews を作成する必要があります。If you want to render without using stereo instancing, you will need to create two non-array RenderTargetViews (one for each eye) that each reference one of the two slices in the Texture2DArray provided to the app from the system. これは、通常、インスタンス化を使用するよりも大幅に低速であるため、推奨されません。This is not recommended, as it is typically significantly slower than using instancing.

更新された HolographicFrame 予測を取得するGet an updated HolographicFrame prediction

フレーム予測を更新すると、イメージの安定化の効果が向上し、予測とフレームがユーザーに表示されるまでの時間が短いため、ホログラムをより正確に配置できるようになります。Updating the frame prediction enhances the effectiveness of image stabilization and allows for more accurate positioning of holograms due to the shorter time between the prediction and when the frame is visible to the user. レンダリングの直前にフレーム予測を更新するのが理想的です。Ideally update your frame prediction just before rendering.

holographicFrame.UpdateCurrentPrediction();
HolographicFramePrediction prediction = holographicFrame.CurrentPrediction();

各カメラにレンダリングするRender to each camera

一連のカメラでループし、予測を行い、このセット内の各カメラにレンダリングします。Loop on the set of camera poses in the prediction, and render to each camera in this set.

レンダリングパスを設定するSet up your rendering pass

Windows Mixed Reality は、ステレオスコピックレンダリングを使用して奥行の錯覚を強化し、stereoscopically をレンダリングします。そのため、左と右の両方の表示がアクティブです。Windows Mixed Reality uses stereoscopic rendering to enhance the illusion of depth and to render stereoscopically, so both the left and the right display are active. ステレオスコピックレンダリングでは、2つのディスプレイの間にオフセットがあります。これは、脳が実際の深さとして調整できます。With stereoscopic rendering there is an offset between the two displays, which the brain can reconcile as actual depth. このセクションでは、Windows Holographic アプリテンプレートのコードを使用して、インスタンス化を使用したステレオスコピックレンダリングについて説明します。This section covers stereoscopic rendering using instancing, using code from the Windows Holographic app template.

各カメラは、独自のレンダーターゲット (バックバッファー) と、ビューおよび投影マトリックスを holographic 空間に持ちます。Each camera has its own render target (back buffer), and view and projection matrices, into the holographic space. アプリでは、カメラごとに、深度バッファーなどの他のカメラベースのリソースを作成する必要があります。Your app will need to create any other camera-based resources - such as the depth buffer - on a per-camera basis. Windows Holographic アプリテンプレートでは、これらのリソースを DX:: CameraResources にまとめてバンドルするヘルパークラスを提供しています。In the Windows Holographic app template, we provide a helper class to bundle these resources together in DX::CameraResources. まず、レンダーターゲットビューを設定します。Start by setting up the render target views:

Appmain:: Renderから:From AppMain::Render:

// This represents the device-based resources for a HolographicCamera.
DX::CameraResources* pCameraResources = cameraResourceMap[cameraPose.HolographicCamera().Id()].get();

// Get the device context.
const auto context = m_deviceResources->GetD3DDeviceContext();
const auto depthStencilView = pCameraResources->GetDepthStencilView();

// Set render targets to the current holographic camera.
ID3D11RenderTargetView *const targets[1] =
    { pCameraResources->GetBackBufferRenderTargetView() };
context->OMSetRenderTargets(1, targets, depthStencilView);

// Clear the back buffer and depth stencil view.
if (m_canGetHolographicDisplayForCamera &&
    cameraPose.HolographicCamera().Display().IsOpaque())
{
    context->ClearRenderTargetView(targets[0], DirectX::Colors::CornflowerBlue);
}
else
{
    context->ClearRenderTargetView(targets[0], DirectX::Colors::Transparent);
}
context->ClearDepthStencilView(
    depthStencilView, D3D11_CLEAR_DEPTH | D3D11_CLEAR_STENCIL, 1.0f, 0);

予測を使用して、カメラのビューおよび投影行列を取得します。Use the prediction to get the view and projection matrices for the camera

各 holographic カメラのビューおよび投影マトリックスは、すべてのフレームで変更されます。The view and projection matrices for each holographic camera will change with every frame. 各 holographic カメラの定数バッファーのデータを更新します。Refresh the data in the constant buffer for each holographic camera. この操作は、予測を更新した後、そのカメラの描画呼び出しを行う前に行います。Do this after you updated the prediction, and before you make any draw calls for that camera.

Appmain:: Renderから:From AppMain::Render:

// The view and projection matrices for each holographic camera will change
// every frame. This function refreshes the data in the constant buffer for
// the holographic camera indicated by cameraPose.
if (m_stationaryReferenceFrame)
{
    pCameraResources->UpdateViewProjectionBuffer(
        m_deviceResources, cameraPose, m_stationaryReferenceFrame.CoordinateSystem());
}

// Attach the view/projection constant buffer for this camera to the graphics pipeline.
bool cameraActive = pCameraResources->AttachViewProjectionBuffer(m_deviceResources);

ここでは、カメラによってどのように行列が取得されるかを説明します。Here, we show how the matrices are acquired from the camera pose. このプロセスでは、カメラの現在のビューポートも取得します。During this process we also obtain the current viewport for the camera. 座標系をどのように提供しているかに注意してください。これは、宝石を理解するために使用したものと同じ座標系であり、回転しているキューブの配置に使用したものと同じです。Note how we provide a coordinate system: this is the same coordinate system we used to understand gaze, and it's the same one we used to position the spinning cube.

CameraResources:: UpdateViewProjectionBufferから:From CameraResources::UpdateViewProjectionBuffer:

// The system changes the viewport on a per-frame basis for system optimizations.
auto viewport = cameraPose.Viewport();
m_d3dViewport = CD3D11_VIEWPORT(
    viewport.X,
    viewport.Y,
    viewport.Width,
    viewport.Height
);

// The projection transform for each frame is provided by the HolographicCameraPose.
HolographicStereoTransform cameraProjectionTransform = cameraPose.ProjectionTransform();

// Get a container object with the view and projection matrices for the given
// pose in the given coordinate system.
auto viewTransformContainer = cameraPose.TryGetViewTransform(coordinateSystem);

// If TryGetViewTransform returns a null pointer, that means the pose and coordinate
// system cannot be understood relative to one another; content cannot be rendered
// in this coordinate system for the duration of the current frame.
// This usually means that positional tracking is not active for the current frame, in
// which case it is possible to use a SpatialLocatorAttachedFrameOfReference to render
// content that is not world-locked instead.
DX::ViewProjectionConstantBuffer viewProjectionConstantBufferData;
bool viewTransformAcquired = viewTransformContainer != nullptr;
if (viewTransformAcquired)
{
    // Otherwise, the set of view transforms can be retrieved.
    HolographicStereoTransform viewCoordinateSystemTransform = viewTransformContainer.Value();

    // Update the view matrices. Holographic cameras (such as Microsoft HoloLens) are
    // constantly moving relative to the world. The view matrices need to be updated
    // every frame.
    XMStoreFloat4x4(
        &viewProjectionConstantBufferData.viewProjection[0],
        XMMatrixTranspose(XMLoadFloat4x4(&viewCoordinateSystemTransform.Left) *
            XMLoadFloat4x4(&cameraProjectionTransform.Left))
    );
    XMStoreFloat4x4(
        &viewProjectionConstantBufferData.viewProjection[1],
        XMMatrixTranspose(XMLoadFloat4x4(&viewCoordinateSystemTransform.Right) *
            XMLoadFloat4x4(&cameraProjectionTransform.Right))
    );
}

ビューポートは、各フレームに設定する必要があります。The viewport should be set each frame. 通常、頂点シェーダー (少なくとも) は、ビュー/プロジェクションデータへのアクセスを必要とします。Your vertex shader (at least) will generally need access to the view/projection data.

CameraResources:: AttachViewProjectionBufferから:From CameraResources::AttachViewProjectionBuffer:

// Set the viewport for this camera.
context->RSSetViewports(1, &m_d3dViewport);

// Send the constant buffer to the vertex shader.
context->VSSetConstantBuffers(
    1,
    1,
    m_viewProjectionConstantBuffer.GetAddressOf()
);

カメラのバックバッファーにレンダリングし、深度バッファーをコミットします。Render to the camera back buffer and commit the depth buffer:

ビュー/プロジェクションデータを使用する前にTrygetviewtransformが成功したことを確認することをお勧めします。これは、座標系が見つからない場合 (追跡が中断された場合など)、そのフレームに対してアプリをレンダリングできないためです。It's a good idea to check that TryGetViewTransform succeeded before trying to use the view/projection data, because if the coordinate system is not locatable (e.g., tracking was interrupted) your app cannot render with it for that frame. CameraResourcesクラスが正常に更新されたことを示している場合、このテンプレートは回転しているキューブに対してのみRenderを呼び出します。The template only calls Render on the spinning cube if the CameraResources class indicates a successful update.

開発者やユーザーがこのような場所に配置したホログラムを維持するために、Windows Mixed Reality にはイメージを安定化する機能が含まれています。To keep holograms where a developer or a user puts them in the world, Windows Mixed Reality includes features for image stabilization. イメージの安定化は、ユーザーに最適な holographic エクスペリエンスを確保するために、レンダリングパイプラインに固有の待機時間を非表示にするのに役立ちます。さらに、イメージの安定化をさらに強化するためにフォーカスポイントを指定することも、最適化されたイメージ安定化をリアルタイムで計算するために深度バッファーを指定することもできます。Image stabilization helps hide the latency inherent in a rendering pipeline to ensure the best holographic experiences for users; a focus point may be specified to enhance image stabilization even further, or a depth buffer may be provided to compute optimized image stabilization in real time.

最良の結果を得るために、アプリはCommitDirect3D11DepthBuffer API を使用して深度バッファーを提供する必要があります。For best results, your app should provide a depth buffer using the CommitDirect3D11DepthBuffer API. Windows Mixed Reality は、深度バッファーからのジオメトリ情報を使用して、イメージの安定化をリアルタイムで最適化できます。Windows Mixed Reality can then use geometry information from the depth buffer to optimize image stabilization in real time. Windows Holographic アプリテンプレートでは、アプリの深度バッファーが既定でコミットされるため、ホログラムの安定性が最適化されます。The Windows Holographic app template commits the app's depth buffer by default, helping optimize hologram stability.

Appmain:: Renderから:From AppMain::Render:

// Only render world-locked content when positional tracking is active.
if (cameraActive)
{
    // Draw the sample hologram.
    m_spinningCubeRenderer->Render();
    if (m_canCommitDirect3D11DepthBuffer)
    {
        // On versions of the platform that support the CommitDirect3D11DepthBuffer API, we can 
        // provide the depth buffer to the system, and it will use depth information to stabilize 
        // the image at a per-pixel level.
        HolographicCameraRenderingParameters renderingParameters =
            holographicFrame.GetRenderingParameters(cameraPose);
        
        IDirect3DSurface interopSurface =
            DX::CreateDepthTextureInteropObject(pCameraResources->GetDepthStencilTexture2D());

        // Calling CommitDirect3D11DepthBuffer causes the system to queue Direct3D commands to 
        // read the depth buffer. It will then use that information to stabilize the image as
        // the HolographicFrame is presented.
        renderingParameters.CommitDirect3D11DepthBuffer(interopSurface);
    }
}

注意

Windows は GPU で深度テクスチャを処理するため、深度バッファーをシェーダーリソースとして使用できるようにする必要があります。Windows will process your depth texture on the GPU, so it must be possible to use your depth buffer as a shader resource. 作成する ID3D11Texture2D は、型が指定されていない形式である必要があり、シェーダーリソースビューとしてバインドされている必要があります。The ID3D11Texture2D that you create should be in a typeless format and it should be bound as a shader resource view. イメージの安定化のためにコミットできる深度テクスチャを作成する方法の例を次に示します。Here is an example of how to create a depth texture that can be committed for image stabilization.

CommitDirect3D11DepthBuffer の深度バッファーリソースの作成コード:Code for Depth buffer resource creation for CommitDirect3D11DepthBuffer:

// Create a depth stencil view for use with 3D rendering if needed.
CD3D11_TEXTURE2D_DESC depthStencilDesc(
    DXGI_FORMAT_R16_TYPELESS,
    static_cast<UINT>(m_d3dRenderTargetSize.Width),
    static_cast<UINT>(m_d3dRenderTargetSize.Height),
    m_isStereo ? 2 : 1, // Create two textures when rendering in stereo.
    1, // Use a single mipmap level.
    D3D11_BIND_DEPTH_STENCIL | D3D11_BIND_SHADER_RESOURCE
);

winrt::check_hresult(
    device->CreateTexture2D(
        &depthStencilDesc,
        nullptr,
        &m_d3dDepthStencil
    ));

CD3D11_DEPTH_STENCIL_VIEW_DESC depthStencilViewDesc(
    m_isStereo ? D3D11_DSV_DIMENSION_TEXTURE2DARRAY : D3D11_DSV_DIMENSION_TEXTURE2D,
    DXGI_FORMAT_D16_UNORM
);
winrt::check_hresult(
    device->CreateDepthStencilView(
        m_d3dDepthStencil.Get(),
        &depthStencilViewDesc,
        &m_d3dDepthStencilView
    ));

Holographic コンテンツの描画Draw holographic content

Windows Holographic アプリテンプレートは、インスタンス化されたジオメトリをサイズ2の Texture2DArray に描画するための推奨される方法を使用して、ステレオでコンテンツをレンダリングします。The Windows Holographic app template renders content in stereo by using the recommended technique of drawing instanced geometry to a Texture2DArray of size 2. ここでは、こののインスタンス化の部分と、それが Windows Mixed Reality でどのように動作するかを見てみましょう。Let's look at the instancing part of this, and how it works on Windows Mixed Reality.

SpinningCubeRenderer:: Renderから:From SpinningCubeRenderer::Render:

// Draw the objects.
context->DrawIndexedInstanced(
    m_indexCount,   // Index count per instance.
    2,              // Instance count.
    0,              // Start index location.
    0,              // Base vertex location.
    0               // Start instance location.
);

各インスタンスは、定数バッファーから異なるビュー/プロジェクション行列にアクセスします。Each instance accesses a different view/projection matrix from the constant buffer. 次に示すのは、2つの行列の配列である定数バッファー構造です。Here's the constant buffer structure, which is just an array of 2 matrices.

VPRTVertexShaderに含まれるVertexShaderSharedから:From VertexShaderShared.hlsl, included by VPRTVertexShader.hlsl:

// A constant buffer that stores each set of view and projection matrices in column-major format.
cbuffer ViewProjectionConstantBuffer : register(b1)
{
    float4x4 viewProjection[2];
};

レンダーターゲットの配列インデックスは、ピクセルごとに設定する必要があります。The render target array index must be set for each pixel. 次のスニペットでは、viewId がSV_RenderTargetArrayIndexセマンティックにマップされています。In the following snippet, output.viewId is mapped to the SV_RenderTargetArrayIndex semantic. これには、オプションの Direct3D 11.3 機能のサポートが必要であることに注意してください。これにより、任意のシェーダーステージからレンダーターゲットの配列インデックスセマンティックを設定できます。Note that this requires support for an optional Direct3D 11.3 feature, which allows the render target array index semantic to be set from any shader stage.

VPRTVertexShaderから:From VPRTVertexShader.hlsl:

// Per-vertex data passed to the geometry shader.
struct VertexShaderOutput
{
    min16float4 pos     : SV_POSITION;
    min16float3 color   : COLOR0;

    // The render target array index is set here in the vertex shader.
    uint        viewId  : SV_RenderTargetArrayIndex;
};

VPRTVertexShaderに含まれるVertexShaderSharedから:From VertexShaderShared.hlsl, included by VPRTVertexShader.hlsl:

// Per-vertex data used as input to the vertex shader.
struct VertexShaderInput
{
    min16float3 pos     : POSITION;
    min16float3 color   : COLOR0;
    uint        instId  : SV_InstanceID;
};

// Simple shader to do vertex processing on the GPU.
VertexShaderOutput main(VertexShaderInput input)
{
    VertexShaderOutput output;
    float4 pos = float4(input.pos, 1.0f);

    // Note which view this vertex has been sent to. Used for matrix lookup.
    // Taking the modulo of the instance ID allows geometry instancing to be used
    // along with stereo instanced drawing; in that case, two copies of each 
    // instance would be drawn, one for left and one for right.
    int idx = input.instId % 2;

    // Transform the vertex position into world space.
    pos = mul(pos, model);

    // Correct for perspective and project the vertex position onto the screen.
    pos = mul(pos, viewProjection[idx]);
    output.pos = (min16float4)pos;

    // Pass the color through without modification.
    output.color = input.color;

    // Set the render target array index.
    output.viewId = idx;

    return output;
}

既にインスタンス化された描画手法をステレオレンダーターゲット配列に描画する方法を使用する場合は、通常持っているインスタンスの数を2倍にするだけで済みます。If you want to use your existing instanced drawing techniques with this method of drawing to a stereo render target array, all you have to do is draw twice the number of instances you normally have. シェーダーでは、入力した instIdを2で除算して元のインスタンス ID を取得します。これは、オブジェクトごとのデータのバッファーにインデックスを付けることができます。int actualIdx = input.instId / 2;In the shader, divide input.instId by 2 to get the original instance ID, which can be indexed into (for example) a buffer of per-object data: int actualIdx = input.instId / 2;

HoloLens でのステレオコンテンツのレンダリングに関する重要な注意事項Important note about rendering stereo content on HoloLens

Windows Mixed Reality では、任意のシェーダーステージからレンダーターゲット配列インデックスを設定する機能がサポートされています。通常、これは、Direct3D 11 のセマンティックが定義されているため、ジオメトリシェーダーステージでのみ実行できるタスクです。Windows Mixed Reality supports the ability to set the render target array index from any shader stage; normally, this is a task that could only be done in the geometry shader stage due to the way the semantic is defined for Direct3D 11. ここでは、頂点とピクセルシェーダーの両方のステージを設定してレンダリングパイプラインを設定する方法の完全な例を示します。Here, we show a complete example of how to set up a rendering pipeline with just the vertex and pixel shader stages set. シェーダーコードは前述のとおりです。The shader code is as described above.

SpinningCubeRenderer:: Renderから:From SpinningCubeRenderer::Render:

const auto context = m_deviceResources->GetD3DDeviceContext();

// Each vertex is one instance of the VertexPositionColor struct.
const UINT stride = sizeof(VertexPositionColor);
const UINT offset = 0;
context->IASetVertexBuffers(
    0,
    1,
    m_vertexBuffer.GetAddressOf(),
    &stride,
    &offset
);
context->IASetIndexBuffer(
    m_indexBuffer.Get(),
    DXGI_FORMAT_R16_UINT, // Each index is one 16-bit unsigned integer (short).
    0
);
context->IASetPrimitiveTopology(D3D11_PRIMITIVE_TOPOLOGY_TRIANGLELIST);
context->IASetInputLayout(m_inputLayout.Get());

// Attach the vertex shader.
context->VSSetShader(
    m_vertexShader.Get(),
    nullptr,
    0
);
// Apply the model constant buffer to the vertex shader.
context->VSSetConstantBuffers(
    0,
    1,
    m_modelConstantBuffer.GetAddressOf()
);

// Attach the pixel shader.
context->PSSetShader(
    m_pixelShader.Get(),
    nullptr,
    0
);

// Draw the objects.
context->DrawIndexedInstanced(
    m_indexCount,   // Index count per instance.
    2,              // Instance count.
    0,              // Start index location.
    0,              // Base vertex location.
    0               // Start instance location.
);

非 HoloLens デバイスでのレンダリングに関する重要な注意事項Important note about rendering on non-HoloLens devices

頂点シェーダーにレンダーターゲット配列インデックスを設定するには、グラフィックスドライバーがオプションの Direct3D 11.3 機能 (HoloLens がサポート) をサポートしている必要があります。Setting the render target array index in the vertex shader requires that the graphics driver supports an optional Direct3D 11.3 feature, which HoloLens does support. アプリでは、レンダリングのためにその手法だけを安全に実装でき、すべての要件が Microsoft HoloLens で実行されるようになります。Your app may be able to safely implement just that technique for rendering, and all requirements will be met for running on the Microsoft HoloLens.

HoloLens エミュレーターも使用する場合があります。これは、holographic アプリ用の強力な開発ツールであり、windows 10 Pc に接続されている Windows Mixed Reality イマーシブヘッドセットデバイスをサポートします。It may be the case that you want to use the HoloLens emulator as well, which can be a powerful development tool for your holographic app - and support Windows Mixed Reality immersive headset devices that are attached to Windows 10 PCs. 非 HoloLens レンダリングパスのサポート。したがって、すべての Windows Mixed Reality で、Windows Holographic アプリケーションテンプレートにも組み込まれています。Support for the non-HoloLens rendering path - and therefore, for all of Windows Mixed Reality - is also built into the Windows Holographic app template. テンプレートコードには、開発用 PC の GPU で holographic アプリを実行できるようにするコードがあります。In the template code, you will find code to enable your holographic app to run on the GPU in your development PC. DeviceResourcesクラスで、このオプションの機能のサポートを確認する方法を次に示します。Here is how the DeviceResources class checks for this optional feature support.

DeviceResources:: CreateDeviceResourcesから:From DeviceResources::CreateDeviceResources:

// Check for device support for the optional feature that allows setting the render target array index from the vertex shader stage.
D3D11_FEATURE_DATA_D3D11_OPTIONS3 options;
m_d3dDevice->CheckFeatureSupport(D3D11_FEATURE_D3D11_OPTIONS3, &options, sizeof(options));
if (options.VPAndRTArrayIndexFromAnyShaderFeedingRasterizer)
{
    m_supportsVprt = true;
}

このオプションの機能を使用せずにレンダリングをサポートするには、アプリで geometry シェーダーを使用してレンダーターゲットの配列インデックスを設定する必要があります。To support rendering without this optional feature, your app must use a geometry shader to set the render target array index. このスニペットは、 VSSetConstantBuffers、前のセクションで説明したコード例のpssetshaderに追加されます。これは、HoloLens でのステレオのレンダリング方法を説明するものです。This snippet would be added after VSSetConstantBuffers, and before PSSetShader in the code example shown in the previous section that explains how to render stereo on HoloLens.

SpinningCubeRenderer:: Renderから:From SpinningCubeRenderer::Render:

if (!m_usingVprtShaders)
{
    // On devices that do not support the D3D11_FEATURE_D3D11_OPTIONS3::
    // VPAndRTArrayIndexFromAnyShaderFeedingRasterizer optional feature,
    // a pass-through geometry shader is used to set the render target 
    // array index.
    context->GSSetShader(
        m_geometryShader.Get(),
        nullptr,
        0
    );
}

HLSL メモ:この場合は、TEXCOORD0 など、常に許可されているシェーダーセマンティクスを使用して、レンダーターゲットの配列インデックスを geometry シェーダーに渡す、若干変更された頂点シェーダーも読み込む必要があります。HLSL NOTE: In this case, you must also load a slightly modified vertex shader that passes the render target array index to the geometry shader using an always-allowed shader semantic, such as TEXCOORD0. ジオメトリシェーダーは、作業を行う必要はありません。テンプレートジオメトリシェーダーは、SV_RenderTargetArrayIndex セマンティックを設定するために使用されるレンダーターゲット配列インデックスを除き、すべてのデータを通過します。The geometry shader does not have to do any work; the template geometry shader passes through all data, with the exception of the render target array index, which is used to set the SV_RenderTargetArrayIndex semantic.

GeometryShaderのアプリテンプレートコード:App template code for GeometryShader.hlsl:

// Per-vertex data from the vertex shader.
struct GeometryShaderInput
{
    min16float4 pos     : SV_POSITION;
    min16float3 color   : COLOR0;
    uint        instId  : TEXCOORD0;
};

// Per-vertex data passed to the rasterizer.
struct GeometryShaderOutput
{
    min16float4 pos     : SV_POSITION;
    min16float3 color   : COLOR0;
    uint        rtvId   : SV_RenderTargetArrayIndex;
};

// This geometry shader is a pass-through that leaves the geometry unmodified 
// and sets the render target array index.
[maxvertexcount(3)]
void main(triangle GeometryShaderInput input[3], inout TriangleStream<GeometryShaderOutput> outStream)
{
    GeometryShaderOutput output;
    [unroll(3)]
    for (int i = 0; i < 3; ++i)
    {
        output.pos   = input[i].pos;
        output.color = input[i].color;
        output.rtvId = input[i].instId;
        outStream.Append(output);
    }
}

存在Present

Holographic フレームでスワップチェーンを表示できるようにしますEnable the holographic frame to present the swap chain

Windows Mixed Reality では、システムによってスワップチェーンが制御されます。With Windows Mixed Reality, the system controls the swap chain. 次に、システムは、各 holographic カメラへのフレームの表示を管理して、高品質なユーザーエクスペリエンスを実現します。The system then manages presenting frames to each holographic camera to ensure a high quality user experience. また、イメージの安定化や Mixed Reality のキャプチャなどのシステムの側面を最適化するために、各カメラの各フレームを更新するためのビューポートも用意されています。It also provides a viewport update each frame, for each camera, to optimize aspects of the system such as image stabilization or Mixed Reality Capture. そのため、DirectX を使用している holographic アプリは、DXGI スワップチェーンではを呼び出すことができません。So, a holographic app using DirectX doesn't call Present on a DXGI swap chain. 代わりに、 HolographicFrameクラスを使用して、フレームを描画した後、そのすべてのスワップチェーンを表示します。Instead, you use the HolographicFrame class to present all swapchains for a frame once you're done drawing it.

From DeviceResources::P再送信します。From DeviceResources::Present:

HolographicFramePresentResult presentResult = frame.PresentUsingCurrentPrediction();

既定では、この API はフレームが終了するまで待機してから制御を戻します。By default, this API waits for the frame to finish before it returns. Holographic アプリは、新しいフレームで作業を開始する前に、前のフレームが終了するまで待機する必要があります。これにより、待機時間が短縮され、Holographic フレーム予測の結果が向上します。Holographic apps should wait for the previous frame to finish before starting work on a new frame, because this reduces latency and allows for better results from holographic frame predictions. これは難しいルールではなく、1つの画面の更新をレンダリングするのに時間がかかるフレームがある場合は、HolographicFramePresentWaitBehavior パラメーターを使用してCurrent予測を実行することで、この待機を無効にすることができます。This isn't a hard rule, and if you have frames that take longer than one screen refresh to render you can disable this wait by passing the HolographicFramePresentWaitBehavior parameter to PresentUsingCurrentPrediction. この場合、GPU に継続的な負荷を維持するために、非同期レンダリングスレッドを使用する可能性があります。In this case, you would likely use an asynchronous rendering thread in order to maintain a continuous load on the GPU. HoloLens デバイスのリフレッシュレートは60hz であることに注意してください。1つのフレームの期間は約16ミリ秒です。Note that the refresh rate of the HoloLens device is 60hz, where one frame has a duration of approximately 16 ms. イマーシブヘッドセットデバイスは 60hz ~ 90hz の範囲で指定できます。ディスプレイを 90 hz で更新すると、各フレームの期間は約11ミリ秒になります。Immersive headset devices can range from 60hz to 90hz; when refreshing the display at 90 hz, each frame will have a duration of approximately 11 ms.

HolographicFrame と連携して、Devicのシナリオを処理しますHandle DeviceLost scenarios in cooperation with the HolographicFrame

DirectX 11 アプリは通常、DXGI スワップチェーンのpresent関数によって返された HRESULT を確認して、 devicループエラーが発生したかどうかを調べます。DirectX 11 apps would typically want to check the HRESULT returned by the DXGI swap chain's Present function to find out if there was a DeviceLost error. HolographicFrameクラスはこれを処理します。The HolographicFrame class handles this for you. Direct3D デバイスとデバイスベースのリソースを解放して再作成する必要があるかどうかを確認するために、返されたHolographicFramePresentResultを調べます。Inspect the HolographicFramePresentResult it returns to find out if you need to release and recreate the Direct3D device and device-based resources.

// The PresentUsingCurrentPrediction API will detect when the graphics device
// changes or becomes invalid. When this happens, it is considered a Direct3D
// device lost scenario.
if (presentResult == HolographicFramePresentResult::DeviceRemoved)
{
    // The Direct3D device, context, and resources should be recreated.
    HandleDeviceLost();
}

Direct3D デバイスが失われ、再作成した場合は、新しいデバイスの使用を開始するようにHolographicSpaceに指示する必要があることに注意してください。Note that if the Direct3D device was lost, and you did recreate it, you have to tell the HolographicSpace to start using the new device. スワップチェーンは、このデバイスに対して再作成されます。The swap chain will be recreated for this device.

DeviceResources:: InitializeUsingHolographicSpaceから:From DeviceResources::InitializeUsingHolographicSpace:

m_holographicSpace.SetDirect3D11Device(m_d3dInteropDevice);

フレームが表示されたら、メインのプログラムループに戻り、次のフレームに進むことができます。Once your frame is presented, you can return back to the main program loop and allow it to continue to the next frame.

ハイブリッドグラフィックス Pc と mixed reality アプリケーションHybrid graphics PCs and mixed reality applications

Windows 10 の作成者更新 Pc は、離散 Gpu と統合 Gpu の両方で構成できます。Windows 10 Creators Update PCs may be configured with both discrete and integrated GPUs. これらの種類のコンピューターでは、ヘッドセットが接続されているアダプターが Windows によって選択されます。With these types of computers, Windows will choose the adapter the headset is connected to. アプリケーションでは、作成する DirectX デバイスで同じアダプターが使用されるようにする必要があります。Applications must ensure the DirectX device it creates uses the same adapter.

一般的な Direct3D サンプルコードでは、既定のハードウェアアダプターを使用して DirectX デバイスを作成する方法を示しています。このハードウェアアダプターは、ヘッドホンで使用されているものと同じではない場合があります。Most general Direct3D sample code demonstrates creating a DirectX device using the default hardware adapter, which on a hybrid system may not be the same as the one used for the headset.

この問題を回避するには、いずれかのHolographicSpaceHolographicAdapterIdを使用します。PrimaryAdapterId () またはHolographicDisplay。AdapterId ()。To work around any issues this may cause, use the HolographicAdapterId from either HolographicSpace.PrimaryAdapterId() or HolographicDisplay.AdapterId(). この adapterId を使用すると、IDXGIFactory4 を使用して適切に DXGIAdapter を選択できます。This adapterId can then be used to select the right DXGIAdapter using IDXGIFactory4.EnumAdapterByLuid.

DeviceResources:: InitializeUsingHolographicSpaceから:From DeviceResources::InitializeUsingHolographicSpace:

// The holographic space might need to determine which adapter supports
// holograms, in which case it will specify a non-zero PrimaryAdapterId.
LUID id =
{
    m_holographicSpace.PrimaryAdapterId().LowPart,
    m_holographicSpace.PrimaryAdapterId().HighPart
};

// When a primary adapter ID is given to the app, the app should find
// the corresponding DXGI adapter and use it to create Direct3D devices
// and device contexts. Otherwise, there is no restriction on the DXGI
// adapter the app can use.
if ((id.HighPart != 0) || (id.LowPart != 0))
{
    UINT createFlags = 0;

    // Create the DXGI factory.
    ComPtr<IDXGIFactory1> dxgiFactory;
    winrt::check_hresult(
        CreateDXGIFactory2(
            createFlags,
            IID_PPV_ARGS(&dxgiFactory)
        ));
    ComPtr<IDXGIFactory4> dxgiFactory4;
    winrt::check_hresult(dxgiFactory.As(&dxgiFactory4));

    // Retrieve the adapter specified by the holographic space.
    winrt::check_hresult(
        dxgiFactory4->EnumAdapterByLuid(
            id,
            IID_PPV_ARGS(&m_dxgiAdapter)
        ));
}
else
{
    m_dxgiAdapter.Reset();
}

IDXGIAdapter を使用するように DeviceResources:: CreateDeviceResources を更新するコードCode to update DeviceResources::CreateDeviceResources to use IDXGIAdapter

// Create the Direct3D 11 API device object and a corresponding context.
ComPtr<ID3D11Device> device;
ComPtr<ID3D11DeviceContext> context;

const D3D_DRIVER_TYPE driverType = m_dxgiAdapter == nullptr ? D3D_DRIVER_TYPE_HARDWARE : D3D_DRIVER_TYPE_UNKNOWN;
const HRESULT hr = D3D11CreateDevice(
    m_dxgiAdapter.Get(),        // Either nullptr, or the primary adapter determined by Windows Holographic.
    driverType,                 // Create a device using the hardware graphics driver.
    0,                          // Should be 0 unless the driver is D3D_DRIVER_TYPE_SOFTWARE.
    creationFlags,              // Set debug and Direct2D compatibility flags.
    featureLevels,              // List of feature levels this app can support.
    ARRAYSIZE(featureLevels),   // Size of the list above.
    D3D11_SDK_VERSION,          // Always set this to D3D11_SDK_VERSION for Windows Runtime apps.
    &device,                    // Returns the Direct3D device created.
    &m_d3dFeatureLevel,         // Returns feature level of device created.
    &context                    // Returns the device immediate context.
);

ハイブリッドグラフィックスとメディアファンデーションHybrid graphics and Media Foundation

ハイブリッドシステムでメディアファンデーションを使用すると、ビデオがレンダリングされない、またはビデオテクスチャが破損する問題が発生する可能性があります。Using Media Foundation on hybrid systems may cause issues where video will not render or video texture is corrupt. これは、前述のようにメディアファンデーションがシステムの動作を既定とするために発生する可能性があります。This can occur because Media Foundation is defaulting to a system behavior as mentioned above. 場合によっては、マルチスレッドをサポートするために個別の ID3D11Device を作成する必要があり、適切な作成フラグが設定されます。In some scenarios, creating a separate ID3D11Device is required to support multi-threading and the correct creation flags are set.

ID3D11Device を初期化するときは、D3D11_CREATE_DEVICE_VIDEO_SUPPORT フラグを D3D11_CREATE_DEVICE_FLAG の一部として定義する必要があります。When initializing the ID3D11Device, D3D11_CREATE_DEVICE_VIDEO_SUPPORT flag must be defined as part of the D3D11_CREATE_DEVICE_FLAG. デバイスとコンテキストが作成されたら、 Setmultithreadprotectedを呼び出してマルチスレッドを有効にします。Once the device and context is created, call SetMultithreadProtected to enable multithreading. デバイスをImfdxgidevicemanagerに関連付けるには、 Imfdxgidevicemanager:: resetdevice関数を使用します。To associate the device with the IMFDXGIDeviceManager, use the IMFDXGIDeviceManager::ResetDevice function.

ID3D11Device を IMFDXGIDeviceManager に関連付けるコード。Code to associate a ID3D11Device with IMFDXGIDeviceManager:

// create dx device for media pipeline
winrt::com_ptr<ID3D11Device> spMediaDevice;

// See above. Also make sure to enable the following flags on the D3D11 device:
//   * D3D11_CREATE_DEVICE_VIDEO_SUPPORT
//   * D3D11_CREATE_DEVICE_BGRA_SUPPORT
if (FAILED(CreateMediaDevice(spAdapter.get(), &spMediaDevice)))
    return;                                                     

// Turn multithreading on 
winrt::com_ptr<ID3D10Multithread> spMultithread;
if (spContext.try_as(spMultithread))
{
    spMultithread->SetMultithreadProtected(TRUE);
}

// lock the shared dxgi device manager
// call MFUnlockDXGIDeviceManager when no longer needed
UINT uiResetToken;
winrt::com_ptr<IMFDXGIDeviceManager> spDeviceManager;
hr = MFLockDXGIDeviceManager(&uiResetToken, spDeviceManager.put());
if (FAILED(hr))
    return hr;
    
// associate the device with the manager
hr = spDeviceManager->ResetDevice(spMediaDevice.get(), uiResetToken);
if (FAILED(hr))
    return hr;

関連項目See also