媒体合成和编辑

本文向你介绍如何使用 Windows.Media.Editing 命名空间中的 API 来快速开发应用,从而使用户从音频和视频源文件创建媒体合成。 框架的功能包括以编程方式同时追加多个视频剪辑、添加视频和图像覆盖、添加后台音频,以及同时应用音频和视频效果。 创建媒体合成后,可在平面媒体文件中进行呈现以供播放或共享,但合成还可通过磁盘进行序列化和反序列化,从而允许用户加载并修改之前创建的合成。 这一完整功能将在易于使用的 Windows 运行时接口中提供,与低级别 Microsoft Media Foundation API 相比,它可大大减少执行这些任务所需的代码数量和复杂性。

创建新的媒体合成

MediaComposition 类是包含组成合成的所有媒体剪辑的容器,用于负责呈现最终合成、将合成加载并保存到光盘,以及提供合成的预览流,以便用户可以在 UI 中查看它。 若要在你的应用中使用 MediaComposition,需包括 Windows.Media.Editing 命名空间以及提供你将需要的相关 API 的 Windows.Media.Core 命名空间。

using Windows.Media.Editing;
using Windows.Media.Core;
using Windows.Media.Playback;
using System.Threading.Tasks;

在你的代码中可通过多个点访问 MediaComposition 对象,因此,你通常将声明一个要在其中存储该对象的成员变量。

private MediaComposition composition;

MediaComposition 的构造函数不采用任何参数。

composition = new MediaComposition();

将媒体剪辑添加到合成

媒体合成通常包含一个或多个视频剪辑。 你可以使用 FileOpenPicker 以允许用户选择某个视频文件。 选择文件后,通过调用 MediaClip.CreateFromFileAsync 创建新的 MediaClip 对象以包含视频剪辑。 然后,将该剪辑添加到 MediaComposition 对象的 Clips 列表。

private async Task PickFileAndAddClip()
{
    var picker = new Windows.Storage.Pickers.FileOpenPicker();
    picker.SuggestedStartLocation = Windows.Storage.Pickers.PickerLocationId.VideosLibrary;
    picker.FileTypeFilter.Add(".mp4");
    Windows.Storage.StorageFile pickedFile = await picker.PickSingleFileAsync();
    if (pickedFile == null)
    {
        ShowErrorMessage("File picking cancelled");
        return;
    }

    // These files could be picked from a location that we won't have access to later
    var storageItemAccessList = Windows.Storage.AccessCache.StorageApplicationPermissions.FutureAccessList;
    storageItemAccessList.Add(pickedFile);

    var clip = await MediaClip.CreateFromFileAsync(pickedFile);
    composition.Clips.Add(clip);

}
  • 媒体剪辑按照它们在 Clips 列表中显示的相同顺序显示在 MediaComposition 中。

  • MediaClip 只能包含在合成中一次。 尝试添加已由合成使用的 MediaClip 将导致错误。 若要在合成中多次重复使用视频剪辑,可调用 Clone 以创建新的 MediaClip 对象,这些对象随后将添加到合成中。

  • 通用 Windows 应用没有访问整个文件系统的权限。 StorageApplicationPermissions 类的 FutureAccessList 属性允许你的应用存储已由用户选择的文件的记录,以便你可以保留访问该文件的权限。 FutureAccessList 最多可以包含 1000 个条目,因此你的应用需要管理列表,以确保列表不会饱和。 如果你计划支持加载和修改之前创建的合成,这一点尤其重要。

  • MediaComposition 支持采用 MP4 格式的视频剪辑。

  • 如果视频文件包含多个嵌入的音轨,通过设置 SelectedEmbeddedAudioTrackIndex 属性可以选择在合成中使用哪个音轨。

  • 通过调用 CreateFromColor 并指定该剪辑的颜色和持续时间,创建使用单一颜色填充整个帧的 MediaClip

  • 通过调用 CreateFromImageFileAsync 并指定该剪辑的图像文件和持续时间,从图像文件中创建 MediaClip

  • 通过调用 CreateFromSurface 并指定该剪辑的图面和持续时间,从 IDirect3DSurface 创建 MediaClip

在 MediaElement 中预览合成

若要使用户能够查看媒体合成,将 MediaPlayerElement 添加到定义 UI 的 XAML 文件中。

<MediaPlayerElement x:Name="mediaPlayerElement" AutoPlay="False" Margin="5" HorizontalAlignment="Stretch" AreTransportControlsEnabled="True" />

声明类型 MediaStreamSource 的成员变量。

private MediaStreamSource mediaStreamSource;

调用 MediaComposition 对象的 GeneratePreviewMediaStreamSource 方法,为合成创建 MediaStreamSource。 通过调用工厂方法 CreateFromMediaStreamSource 创建 MediaSource 对象,并将其分配给 MediaPlayerElementSource 属性。 现在,可以在 UI 中查看合成。

public void UpdateMediaElementSource()
{

    mediaStreamSource = composition.GeneratePreviewMediaStreamSource(
        (int)mediaPlayerElement.ActualWidth,
        (int)mediaPlayerElement.ActualHeight);

    mediaPlayerElement.Source = MediaSource.CreateFromMediaStreamSource(mediaStreamSource);

}
  • MediaComposition 必须包含至少一个媒体剪辑才能调用 GeneratePreviewMediaStreamSource,否则返回的对象将为 null。

  • MediaElement 时间线不会自动更新为反映合成中的更改。 建议在每次对合成进行一组更改并希望更新 UI 时,调用 GeneratePreviewMediaStreamSource 并设置 MediaPlayerElementSource 属性。

建议在用户导航离开页面,以便发布关联的资源时,将 MediaPlayerElementMediaStreamSource 对象和 Source 属性设置为 null。

protected override void OnNavigatedFrom(NavigationEventArgs e)
{
    mediaPlayerElement.Source = null;
    mediaStreamSource = null;
    base.OnNavigatedFrom(e);

}

将合成呈现到视频文件

若要将媒体合成呈现到平面视频文件,以便在其他设备上进行共享和查看,你将需要使用 Windows.Media.Transcoding 命名空间中的 API。 若要在异步操作过程中更新 UI,你还需要使用 Windows.UI.Core 命名空间中的 API。

using Windows.Media.Transcoding;
using Windows.UI.Core;

允许用户使用 FileSavePicker 选择输出文件后,通过调用 MediaComposition 对象的 RenderToFileAsync 将合成呈现到选定的文件。 以下示例中的剩余代码只需遵循处理 AsyncOperationWithProgress 的模式即可。

private async Task RenderCompositionToFile()
{
    var picker = new Windows.Storage.Pickers.FileSavePicker();
    picker.SuggestedStartLocation = Windows.Storage.Pickers.PickerLocationId.VideosLibrary;
    picker.FileTypeChoices.Add("MP4 files", new List<string>() { ".mp4" });
    picker.SuggestedFileName = "RenderedComposition.mp4";

    Windows.Storage.StorageFile file = await picker.PickSaveFileAsync();
    if (file != null)
    {
        // Call RenderToFileAsync
        var saveOperation = composition.RenderToFileAsync(file, MediaTrimmingPreference.Precise);

        saveOperation.Progress = new AsyncOperationProgressHandler<TranscodeFailureReason, double>(async (info, progress) =>
        {
            await this.Dispatcher.RunAsync(CoreDispatcherPriority.Normal, new DispatchedHandler(() =>
            {
                ShowErrorMessage(string.Format("Saving file... Progress: {0:F0}%", progress));
            }));
        });
        saveOperation.Completed = new AsyncOperationWithProgressCompletedHandler<TranscodeFailureReason, double>(async (info, status) =>
        {
            await this.Dispatcher.RunAsync(CoreDispatcherPriority.Normal, new DispatchedHandler(() =>
            {
                try
                {
                    var results = info.GetResults();
                    if (results != TranscodeFailureReason.None || status != AsyncStatus.Completed)
                    {
                        ShowErrorMessage("Saving was unsuccessful");
                    }
                    else
                    {
                        ShowErrorMessage("Trimmed clip saved to file");
                    }
                }
                finally
                {
                        // Update UI whether the operation succeeded or not
                    }

            }));
        });
    }
    else
    {
        ShowErrorMessage("User cancelled the file selection");
    }
}
  • MediaTrimmingPreference 允许你设置转换代码操作的速度与剪裁相邻媒体剪辑的精度的优先级。 Fast 导致转换代码的速度更快,但剪裁精度较低,Precise 导致转换代码的速度较慢,但剪裁精度较高。

剪裁视频剪辑

通过设置 MediaClip 对象的 TrimTimeFromStart 属性、TrimTimeFromEnd 属性或同时设置两者,剪裁合成中视频剪辑的持续时间。

private void TrimClipBeforeCurrentPosition()
{
    var currentClip = composition.Clips.FirstOrDefault(
        mc => mc.StartTimeInComposition <= mediaPlayerElement.MediaPlayer.PlaybackSession.Position &&
        mc.EndTimeInComposition >= mediaPlayerElement.MediaPlayer.PlaybackSession.Position);

    TimeSpan positionFromStart = mediaPlayerElement.MediaPlayer.PlaybackSession.Position - currentClip.StartTimeInComposition;
    currentClip.TrimTimeFromStart = positionFromStart;

}
  • 你可以使用所需的任何 UI,让用户指定开始和结束剪裁值。 上述示例使用与 MediaPlayerElement 关联的 MediaPlaybackSessionPosition 属性,通过检查 StartTimeInCompositionEndTimeInComposition,先确定在合成中的当前位置上播放的是哪个 MediaClip。 然后,再次使用 PositionStartTimeInComposition 属性,计算要从剪辑开始处剪裁的时间量。 FirstOrDefault 方法是 System.Linq 命名空间中的扩展方法,可简化用于从列表中选择项目的代码。
  • 通过 MediaClip 对象的 OriginalDuration 属性,你可以在未应用任何剪辑的情况下知道媒体剪辑的持续时间。
  • 通过 TrimmedDuration 属性,你可以在应用剪裁后知道媒体剪辑的持续时间。
  • 指定一个大于剪辑原始持续时间的剪裁值不会引发错误。 但是,如果合成仅包含单个剪辑,并且通过指定较大的剪裁值将其长度剪裁为零,则对 GeneratePreviewMediaStreamSource 的后续调用将返回 null,就像合成没有剪辑一样。

将后台音轨添加到合成

若要将后台音轨添加到合成,请加载音频文件,然后通过调用工厂方法 BackgroundAudioTrack.CreateFromFileAsync 创建 BackgroundAudioTrack 对象。 然后,将 BackgroundAudioTrack 添加到合成的 BackgroundAudioTracks 属性。

private async Task AddBackgroundAudioTrack()
{
    // Add background audio
    var picker = new Windows.Storage.Pickers.FileOpenPicker();
    picker.SuggestedStartLocation = Windows.Storage.Pickers.PickerLocationId.MusicLibrary;
    picker.FileTypeFilter.Add(".mp3");
    picker.FileTypeFilter.Add(".wav");
    picker.FileTypeFilter.Add(".flac");
    Windows.Storage.StorageFile audioFile = await picker.PickSingleFileAsync();
    if (audioFile == null)
    {
        ShowErrorMessage("File picking cancelled");
        return;
    }

    // These files could be picked from a location that we won't have access to later
    var storageItemAccessList = Windows.Storage.AccessCache.StorageApplicationPermissions.FutureAccessList;
    storageItemAccessList.Add(audioFile);

    var backgroundTrack = await BackgroundAudioTrack.CreateFromFileAsync(audioFile);

    composition.BackgroundAudioTracks.Add(backgroundTrack);

}
  • MediaComposition 支持采用以下格式的后台音轨:MP3、WAV、FLAC

  • 后台音轨

  • 与视频文件一样,你应用使用 StorageApplicationPermissions 类保留对合成中文件的访问权限。

  • MediaClip 一样,BackgroundAudioTrack 只能包含在合成中一次。 尝试添加已由合成使用的 BackgroundAudioTrack 将导致错误。 若要在合成中多次重复使用音轨,请调用 Clone 以创建新的 MediaClip 对象,这些对象随后将添加到合成中。

  • 默认情况下,后台音轨在合成的开头开始播放。 如果存在多个后台音轨,将在合成的开头开始播放所有音轨。 若要使后台音轨在其他时间开始播放,请将 Delay 属性设置为所需的时间偏移。

将覆盖添加到合成

覆盖允许你在合成中各个覆盖顶部堆栈多层视频。 合成可以包含多个覆盖层,每个覆盖层可以包含多个覆盖。 通过将 MediaClip 传入其构造函数中来创建 MediaOverlay 对象。 设置覆盖的位置和不透明度,然后创建新的 MediaOverlayLayer 并将 MediaOverlay 添加到其 Overlays 列表。 最后,将 MediaOverlayLayer 添加到合成的 OverlayLayers 列表。

private void AddOverlay(MediaClip overlayMediaClip, double scale, double left, double top, double opacity)
{
    Windows.Media.MediaProperties.VideoEncodingProperties encodingProperties =
        overlayMediaClip.GetVideoEncodingProperties();

    Rect overlayPosition;

    overlayPosition.Width = (double)encodingProperties.Width * scale;
    overlayPosition.Height = (double)encodingProperties.Height * scale;
    overlayPosition.X = left;
    overlayPosition.Y = top;

    MediaOverlay mediaOverlay = new MediaOverlay(overlayMediaClip);
    mediaOverlay.Position = overlayPosition;
    mediaOverlay.Opacity = opacity;

    MediaOverlayLayer mediaOverlayLayer = new MediaOverlayLayer();
    mediaOverlayLayer.Overlays.Add(mediaOverlay);

    composition.OverlayLayers.Add(mediaOverlayLayer);
}
  • 某个层中的覆盖根据其在包含层的 Overlays 列表中的顺序,按 z 顺序进行排序。 在该列表内,较高索引呈现在较低索引的顶部。 这对于合成内的覆盖层同样适用。 在合成的 OverlayLayers 列表中,具有较高索引的层将呈现在较低索引的顶部。

  • 因为覆盖将在各个覆盖顶部堆栈,而不是按顺序播放,因此默认情况下,所有覆盖都将在合成的开头开始播放。 若要使覆盖在其他时间开始播放,请将 Delay 属性设置为所需的时间偏移。

将效果添加到媒体剪辑

合成中的每个 MediaClip 都具有音频和视频效果列表,可向其中添加多个效果。 效果必须分别实现 IAudioEffectDefinitionIVideoEffectDefinition。 以下示例使用当前 MediaPlayerElement 位置选择当前查看的 MediaClip,然后创建 VideoStabilizationEffectDefinition 的新实例并将其追加到媒体剪辑的 VideoEffectDefinitions 列表。

private void AddVideoEffect()
{
    var currentClip = composition.Clips.FirstOrDefault(
        mc => mc.StartTimeInComposition <= mediaPlayerElement.MediaPlayer.PlaybackSession.Position &&
        mc.EndTimeInComposition >= mediaPlayerElement.MediaPlayer.PlaybackSession.Position);

    VideoStabilizationEffectDefinition videoEffect = new VideoStabilizationEffectDefinition();
    currentClip.VideoEffectDefinitions.Add(videoEffect);
}

将合成保存到文件

媒体合成可序列化为要在以后修改的文件。 选取输出文件,然后调用 MediaComposition 方法 SaveAsync 以保存合成。

private async Task SaveComposition()
{
    var picker = new Windows.Storage.Pickers.FileSavePicker();
    picker.SuggestedStartLocation = Windows.Storage.Pickers.PickerLocationId.VideosLibrary;
    picker.FileTypeChoices.Add("Composition files", new List<string>() { ".cmp" });
    picker.SuggestedFileName = "SavedComposition";

    Windows.Storage.StorageFile compositionFile = await picker.PickSaveFileAsync();
    if (compositionFile == null)
    {
        ShowErrorMessage("User cancelled the file selection");
    }
    else
    {
        var action = composition.SaveAsync(compositionFile);
        action.Completed = (info, status) =>
        {
            if (status != AsyncStatus.Completed)
            {
                ShowErrorMessage("Error saving composition");
            }

        };
    }
}

从文件中加载合成

媒体合成可从文件中进行反序列化,以允许用户查看和修改合成。 选取合成文件,然后调用 MediaComposition 方法 LoadAsync 以加载合成。

private async Task OpenComposition()
{
    var picker = new Windows.Storage.Pickers.FileOpenPicker();
    picker.SuggestedStartLocation = Windows.Storage.Pickers.PickerLocationId.VideosLibrary;
    picker.FileTypeFilter.Add(".cmp");

    Windows.Storage.StorageFile compositionFile = await picker.PickSingleFileAsync();
    if (compositionFile == null)
    {
        ShowErrorMessage("File picking cancelled");
    }
    else
    {
        composition = null;
        composition = await MediaComposition.LoadAsync(compositionFile);

        if (composition != null)
        {
            UpdateMediaElementSource();

        }
        else
        {
            ShowErrorMessage("Unable to open composition");
        }
    }
}