Указание кодеков с помощью MediaRecorder

как я могу указать кодеки, используемые с API MediaRecorder? Единственный вариант, который я вижу, - для mimeType чего на самом деле недостаточно. Зубрежка в кодеках в опции mimeType, похоже, не работает.

var mediaRecorder = new MediaRecorder(
    outputMediaStream
  ),
  {
    mimeType: 'video/webm; codecs="opus,vp8"'
  }
);

это приводит к потоку WebM с Vorbis и VP8:

FFMPEG STDERR: Input #0, matroska,webm, from 'pipe:':
  Metadata:
    encoder         : QTmuxingAppLibWebM-0.0.1
  Duration: N/A, start: 0.000000, bitrate: N/A
    Stream #0:0(eng): Video: vp8, yuv420p, 640x360, SAR 1:1 DAR 16:9, 30 fps, 30 tbr, 1k tbn, 1k tbc (default)
    Stream #0:1(eng): Audio: vorbis, 44100 Hz, stereo, fltp (default)

Если я делаю MediaStream, который имеет только звуковую дорожку( без видео), то MediaRecorder выводит Opus audio в Ogg контейнер:

FFMPEG STDERR: Input #0, ogg, from 'pipe:':
  Duration: N/A, start: 0.000000, bitrate: N/A
    Stream #0:0: Audio: opus, 48000 Hz, stereo, fltp
    Metadata:
      ENCODER         : Mozilla44.0.2

как я могу получить Opus audio с VP8 video в контейнере WebM с API MediaRecorder?

Firefox v44.0.2

6
firefox mediarecorder-api web-audio web-mediarecorder webrtc

2 ответов

Проверьте Chrome LayoutTests на isTypeSupported(), the mimeType используется там должно быть применимо к MediaRecorder конструктор.

3

как я могу получить Opus audio с VP8 video в контейнере WebM с API MediaRecorder?

к сожалению, это, по-видимому, невозможно в настоящее время. На самом деле, кажется, что даже mimetype в настоящее время не может быть установлен, в дополнение к кодекам аудио/видео потока. Firefox решает, какой кодер использовать из тех, которые доступны, на основе запрошенных потоков, и JavaScript API не предлагает много сказать в этом вопросе.

как всегда, доказательство в источнике.

вот где кодируется инициализируется из mimetype.

фрагмент dom/media/MediaRecorder.cpp:

    // Allocate encoder and bind with union stream.
    // At this stage, the API doesn't allow UA to choose the output mimeType format.

    // Make sure the application has permission to assign AUDIO_3GPP
    if (mRecorder->mMimeType.EqualsLiteral(AUDIO_3GPP) && CheckPermission("audio-capture:3gpp")) {
      mEncoder = MediaEncoder::CreateEncoder(NS_LITERAL_STRING(AUDIO_3GPP),
                                             mRecorder->GetAudioBitrate(),
                                             mRecorder->GetVideoBitrate(),
                                             mRecorder->GetBitrate(),
                                             aTrackTypes);
    } else if (mRecorder->mMimeType.EqualsLiteral(AUDIO_3GPP2) && CheckPermission("audio-capture:3gpp2")) {
      mEncoder = MediaEncoder::CreateEncoder(NS_LITERAL_STRING(AUDIO_3GPP2),
                                             mRecorder->GetAudioBitrate(),
                                             mRecorder->GetVideoBitrate(),
                                             mRecorder->GetBitrate(),
                                             aTrackTypes);
    } else {
      mEncoder = MediaEncoder::CreateEncoder(NS_LITERAL_STRING(""),
                                             mRecorder->GetAudioBitrate(),
                                             mRecorder->GetVideoBitrate(),
                                             mRecorder->GetBitrate(),
                                             aTrackTypes);
    }

A мы можем видеть, за исключением мимов 3GPP*, тип mimetype передан CreateEncoded является пустой строкой NS_LITERAL_STRING("").

этот комментарий дает надежду на будущее, хотя:

// At this stage, the API doesn't allow UA to choose the output mimeType format.

выдержки из dom/media/encoder/MediaEncoder.cpp:

первый случай для видео с поддержкой формата WebM.

  else if (MediaEncoder::IsWebMEncoderEnabled() &&
          (aMIMEType.EqualsLiteral(VIDEO_WEBM) ||
          (aTrackTypes & ContainerWriter::CREATE_VIDEO_TRACK))) {
    if (aTrackTypes & ContainerWriter::CREATE_AUDIO_TRACK) {
      audioEncoder = new VorbisTrackEncoder();
      NS_ENSURE_TRUE(audioEncoder, nullptr);
    }
    videoEncoder = new VP8TrackEncoder();
    writer = new WebMWriter(aTrackTypes);
    NS_ENSURE_TRUE(writer, nullptr);
    NS_ENSURE_TRUE(videoEncoder, nullptr);
    mimeType = NS_LITERAL_STRING(VIDEO_WEBM);
  }

последний случай только для аудио с включенным OGG.

  else if (MediaDecoder::IsOggEnabled() && MediaDecoder::IsOpusEnabled() &&
           (aMIMEType.EqualsLiteral(AUDIO_OGG) ||
           (aTrackTypes & ContainerWriter::CREATE_AUDIO_TRACK))) {
    writer = new OggWriter();
    audioEncoder = new OpusTrackEncoder();
    NS_ENSURE_TRUE(writer, nullptr);
    NS_ENSURE_TRUE(audioEncoder, nullptr);
    mimeType = NS_LITERAL_STRING(AUDIO_OGG);
  }

основываясь на этом коде, я думаю, мы можем сделать вывод, что на данный момент это невозможно, но, похоже, это есть в дорожной карте.

@jib расположены следующие связанные отчеты об ошибках Mozilla.

8