Início Rápido: Criar um aplicativo de acompanhamento do corpo do Azure Kinect

Introdução ao SDK de Acompanhamento do Corpo? Este início rápido coloca você em funcionamento com o acompanhamento do corpo! É possível encontrar mais exemplos neste repositório Azure-Kinect-Sample.

Pré-requisitos

headers

O acompanhamento do corpo usa um cabeçalho, k4abt.h. Inclua este cabeçalho além de k4a.h. Verifique se o seu compilador de escolha está configurado para as pastas lib e include do SDK do Sensor e do SDK de Acompanhamento do Corpo. Também será necessário vincular aos arquivos k4a.lib e k4abt.lib. A execução do aplicativo requer que k4a.dll, k4abt.dll, onnxruntime.dll e dnn_model.onnx estejam no caminho de execução de aplicativos.

#include <k4a/k4a.h>
#include <k4abt.h>

Abrir o dispositivo e iniciar a câmera

Seu primeiro aplicativo de acompanhamento do corpo pressupõe um dispositivo Azure Kinect conectado ao PC.

O acompanhamento do corpo se baseia no SDK do Sensor. Para usar o acompanhamento do corpo, primeiro é necessário abrir e configurar o dispositivo. Use a função k4a_device_open() para abrir o dispositivo e configurá-lo com um objeto k4a_device_configuration_t. Para obter os melhores resultados, defina o modo de profundidade como K4A_DEPTH_MODE_NFOV_UNBINNED ou K4A_DEPTH_MODE_WFOV_2X2BINNED. O rastreador de corpo não será executado se o modo de profundidade estiver definido como K4A_DEPTH_MODE_OFF ou K4A_DEPTH_MODE_PASSIVE_IR.

É possível encontrar mais informações sobre como localizar e abrir o dispositivo nesta página.

É possível encontrar mais informações sobre os modos de profundidade do Azure Kinect nestas páginas: especificação de hardware e enumerações k4a_depth_mode_t.

k4a_device_t device = NULL;
k4a_device_open(0, &device);

// Start camera. Make sure depth camera is enabled.
k4a_device_configuration_t deviceConfig = K4A_DEVICE_CONFIG_INIT_DISABLE_ALL;
deviceConfig.depth_mode = K4A_DEPTH_MODE_NFOV_UNBINNED;
deviceConfig.color_resolution = K4A_COLOR_RESOLUTION_OFF;
k4a_device_start_cameras(device, &deviceConfig);

Criar o rastreador

A primeira etapa para obter resultados de acompanhamento do corpo é criar um rastreador de corpo. É necessária a estrutura k4a_calibration_t de calibragem do sensor. A calibragem do sensor pode ser consultada usando a função k4a_device_get_calibration().

k4a_calibration_t sensor_calibration;
k4a_device_get_calibration(device, deviceConfig.depth_mode, deviceConfig.color_resolution, &sensor_calibration);

k4abt_tracker_t tracker = NULL;
k4abt_tracker_configuration_t tracker_config = K4ABT_TRACKER_CONFIG_DEFAULT;
k4abt_tracker_create(&sensor_calibration, tracker_config, &tracker);

Obter capturas do dispositivo Azure Kinect

É possível encontrar mais informações sobre como recuperar dados de imagem nesta página.

// Capture a depth frame
k4a_capture_t sensor_capture;
k4a_device_get_capture(device, &sensor_capture, TIMEOUT_IN_MS);

Enfileirar a captura e exibir os resultados

O rastreador mantém internamente uma fila de entrada e uma fila de saída para processar de maneira assíncrona as capturas do Azure Kinect DK com mais eficiência. A próxima etapa é usar a função k4abt_tracker_enqueue_capture() para adicionar uma nova captura à fila de entrada. Use a função k4abt_tracker_pop_result() para exibir um resultado da fila de saída. O valor de tempo limite é dependente do aplicativo e controla o tempo de espera de enfileiramento.

Seu primeiro aplicativo de acompanhamento do corpo usa o padrão de processamento em tempo real. Veja obter resultados de acompanhamento do corpo para obter uma explicação detalhada dos outros padrões.

k4a_wait_result_t queue_capture_result = k4abt_tracker_enqueue_capture(tracker, sensor_capture, K4A_WAIT_INFINITE);
k4a_capture_release(sensor_capture); // Remember to release the sensor capture once you finish using it
if (queue_capture_result == K4A_WAIT_RESULT_FAILED)
{
    printf("Error! Adding capture to tracker process queue failed!\n");
    break;
}

k4abt_frame_t body_frame = NULL;
k4a_wait_result_t pop_frame_result = k4abt_tracker_pop_result(tracker, &body_frame, K4A_WAIT_INFINITE);
if (pop_frame_result == K4A_WAIT_RESULT_SUCCEEDED)
{
    // Successfully popped the body tracking result. Start your processing
    ...

    k4abt_frame_release(body_frame); // Remember to release the body frame once you finish using it
}

Acessar os dados de resultado de acompanhamento do corpo

Os resultados de acompanhamento do corpo para cada captura do sensor são armazenados em uma estrutura k4abt_frame_t de quadro do corpo. Cada quadro do corpo contém três componentes principais: uma coleção de structs do corpo, um mapa de índice de corpo 2D e a captura de entrada.

Seu primeiro aplicativo de acompanhamento do corpo acessa apenas o número de corpos detectados. Veja acessar dados no quadro do corpo para obter uma explicação detalhada dos dados em um quadro do corpo.

size_t num_bodies = k4abt_frame_get_num_bodies(body_frame);
printf("%zu bodies are detected!\n", num_bodies);

Limpar

A etapa final é desligar o rastreador do corpo e liberar o objeto de acompanhamento do corpo. Também é necessário parar e fechar o dispositivo.

k4abt_tracker_shutdown(tracker);
k4abt_tracker_destroy(tracker);
k4a_device_stop_cameras(device);
k4a_device_close(device);

Origem completa

#include <stdio.h>
#include <stdlib.h>

#include <k4a/k4a.h>
#include <k4abt.h>

#define VERIFY(result, error)                                                                            \
    if(result != K4A_RESULT_SUCCEEDED)                                                                   \
    {                                                                                                    \
        printf("%s \n - (File: %s, Function: %s, Line: %d)\n", error, __FILE__, __FUNCTION__, __LINE__); \
        exit(1);                                                                                         \
    }                                                                                                    \

int main()
{
    k4a_device_t device = NULL;
    VERIFY(k4a_device_open(0, &device), "Open K4A Device failed!");

    // Start camera. Make sure depth camera is enabled.
    k4a_device_configuration_t deviceConfig = K4A_DEVICE_CONFIG_INIT_DISABLE_ALL;
    deviceConfig.depth_mode = K4A_DEPTH_MODE_NFOV_UNBINNED;
    deviceConfig.color_resolution = K4A_COLOR_RESOLUTION_OFF;
    VERIFY(k4a_device_start_cameras(device, &deviceConfig), "Start K4A cameras failed!");

    k4a_calibration_t sensor_calibration;
    VERIFY(k4a_device_get_calibration(device, deviceConfig.depth_mode, deviceConfig.color_resolution, &sensor_calibration),
        "Get depth camera calibration failed!");

    k4abt_tracker_t tracker = NULL;
    k4abt_tracker_configuration_t tracker_config = K4ABT_TRACKER_CONFIG_DEFAULT;
    VERIFY(k4abt_tracker_create(&sensor_calibration, tracker_config, &tracker), "Body tracker initialization failed!");

    int frame_count = 0;
    do
    {
        k4a_capture_t sensor_capture;
        k4a_wait_result_t get_capture_result = k4a_device_get_capture(device, &sensor_capture, K4A_WAIT_INFINITE);
        if (get_capture_result == K4A_WAIT_RESULT_SUCCEEDED)
        {
            frame_count++;
            k4a_wait_result_t queue_capture_result = k4abt_tracker_enqueue_capture(tracker, sensor_capture, K4A_WAIT_INFINITE);
            k4a_capture_release(sensor_capture); // Remember to release the sensor capture once you finish using it
            if (queue_capture_result == K4A_WAIT_RESULT_TIMEOUT)
            {
                // It should never hit timeout when K4A_WAIT_INFINITE is set.
                printf("Error! Add capture to tracker process queue timeout!\n");
                break;
            }
            else if (queue_capture_result == K4A_WAIT_RESULT_FAILED)
            {
                printf("Error! Add capture to tracker process queue failed!\n");
                break;
            }

            k4abt_frame_t body_frame = NULL;
            k4a_wait_result_t pop_frame_result = k4abt_tracker_pop_result(tracker, &body_frame, K4A_WAIT_INFINITE);
            if (pop_frame_result == K4A_WAIT_RESULT_SUCCEEDED)
            {
                // Successfully popped the body tracking result. Start your processing

                size_t num_bodies = k4abt_frame_get_num_bodies(body_frame);
                printf("%zu bodies are detected!\n", num_bodies);

                k4abt_frame_release(body_frame); // Remember to release the body frame once you finish using it
            }
            else if (pop_frame_result == K4A_WAIT_RESULT_TIMEOUT)
            {
                //  It should never hit timeout when K4A_WAIT_INFINITE is set.
                printf("Error! Pop body frame result timeout!\n");
                break;
            }
            else
            {
                printf("Pop body frame result failed!\n");
                break;
            }
        }
        else if (get_capture_result == K4A_WAIT_RESULT_TIMEOUT)
        {
            // It should never hit time out when K4A_WAIT_INFINITE is set.
            printf("Error! Get depth frame time out!\n");
            break;
        }
        else
        {
            printf("Get depth capture returned error: %d\n", get_capture_result);
            break;
        }

    } while (frame_count < 100);

    printf("Finished body tracking processing!\n");

    k4abt_tracker_shutdown(tracker);
    k4abt_tracker_destroy(tracker);
    k4a_device_stop_cameras(device);
    k4a_device_close(device);

    return 0;
}

Próximas etapas