Синхронизация аудио и видео с OpenCV и PyAudio

Я получил как OpenCV, так и PyAudio, однако я не уверен, как я буду синхронизировать их вместе. Я не могу получить частоту кадров из OpenCV и измерить время вызова для изменения кадра от момента к моменту. Однако с PyAudio это основа захватывает определенную частоту дискретизации. Как бы я синхронизировал их с одинаковой скоростью. Я предполагаю, что есть какие-то стандартные или какие-то кодеки. (Я пробовал google, все, что я получил, это информация о синхронизации губ :/).

Рамка В Формате OpenCV ставка

from __future__ import division
import time
import math
import cv2, cv

vc = cv2.VideoCapture(0)
# get the frame
while True:

    before_read = time.time()
    rval, frame = vc.read()
    after_read  = time.time()
    if frame is not None:
        print len(frame)
        print math.ceil((1.0 / (after_read - before_read)))
        cv2.imshow("preview", frame)

        if cv2.waitKey(1) & 0xFF == ord('q'):
            break

    else:
        print "None..."
        cv2.waitKey(1)

# display the frame

while True:
    cv2.imshow("preview", frame)

    if cv2.waitKey(1) & 0xFF == ord('q'):
        break

захват и сохранение аудио

from sys import byteorder
from array import array
from struct import pack

import pyaudio
import wave

THRESHOLD = 500
CHUNK_SIZE = 1024
FORMAT = pyaudio.paInt16
RATE = 44100

def is_silent(snd_data):
    "Returns 'True' if below the 'silent' threshold"
    print "nnnnnnnn"
    print max(snd_data)
    print "nnnnnnnn"
    return max(snd_data) < THRESHOLD

def normalize(snd_data):
    "Average the volume out"
    MAXIMUM = 16384
    times = float(MAXIMUM)/max(abs(i) for i in snd_data)

    r = array('h')
    for i in snd_data:
        r.append(int(i*times))
    return r

def trim(snd_data):
    "Trim the blank spots at the start and end"
    def _trim(snd_data):
        snd_started = False
        r = array('h')

        for i in snd_data:
            if not snd_started and abs(i)>THRESHOLD:
                snd_started = True
                r.append(i)

            elif snd_started:
                r.append(i)
        return r

    # Trim to the left
    snd_data = _trim(snd_data)

    # Trim to the right
    snd_data.reverse()
    snd_data = _trim(snd_data)
    snd_data.reverse()
    return snd_data

def add_silence(snd_data, seconds):
    "Add silence to the start and end of 'snd_data' of length 'seconds' (float)"
    r = array('h', [0 for i in xrange(int(seconds*RATE))])
    r.extend(snd_data)
    r.extend([0 for i in xrange(int(seconds*RATE))])
    return r

def record():
    """
    Record a word or words from the microphone and 
    return the data as an array of signed shorts.

    Normalizes the audio, trims silence from the 
    start and end, and pads with 0.5 seconds of 
    blank sound to make sure VLC et al can play 
    it without getting chopped off.
    """
    p = pyaudio.PyAudio()
    stream = p.open(format=FORMAT, channels=1, rate=RATE,
        input=True, output=True,
        frames_per_buffer=CHUNK_SIZE)

    num_silent = 0
    snd_started = False

    r = array('h')

    while 1:
        # little endian, signed short
        snd_data = array('h', stream.read(1024))
        if byteorder == 'big':
            snd_data.byteswap()

        print "nnnnnn"
        print len(snd_data)
        print snd_data

        r.extend(snd_data)

        silent = is_silent(snd_data)

        if silent and snd_started:
            num_silent += 1
        elif not silent and not snd_started:
            snd_started = True

        if snd_started and num_silent > 1:
            break

    sample_width = p.get_sample_size(FORMAT)
    stream.stop_stream()
    stream.close()
    p.terminate()

    r = normalize(r)
    r = trim(r)
    r = add_silence(r, 0.5)
    return sample_width, r

def record_to_file(path):
    "Records from the microphone and outputs the resulting data to 'path'"
    sample_width, data = record()
    data = pack('<' + ('h'*len(data)), *data)

    wf = wave.open(path, 'wb')
    wf.setnchannels(1)
    wf.setsampwidth(sample_width)
    wf.setframerate(RATE)
    wf.writeframes(data)
    wf.close()

if __name__ == '__main__':
    print("please speak a word into the microphone")
    record_to_file('demo.wav')
    print("done - result written to demo.wav")

1 ответов


Я думаю, вам лучше использовать GSreamer или ffmpeg, или если вы находитесь в Windows, DirectShow. Эти библиотеки могут обрабатывать как аудио, так и видео, и должны иметь какой-то мультиплексор, позволяющий правильно смешивать видео и аудио.

но если вы действительно хотите сделать это с помощью Opencv, вы должны иметь возможность использовать VideoCapture чтобы получить частоту кадров, вы пытались использовать этой?

fps = cv.GetCaptureProperty(vc, CV_CAP_PROP_FPS)

другой способ-оценить fps как количество кадров делится на продолжительность:

nFrames  = cv.GetCaptureProperty(vc, CV_CAP_PROP_FRAME_COUNT)
           cv.SetCaptureProperty(vc, CV_CAP_PROP_POS_AVI_RATIO, 1)
duration = cv.GetCaptureProperty(vc, CV_CAP_PROP_POS_MSEC)
fps = 1000 * nFrames / duration;

Я не уверен, что понимаю, что вы пытались сделать здесь:

before_read = time.time()
rval, frame = vc.read()
after_read  = time.time()

мне кажется, что делать after_read - before_read только измеряет, сколько времени потребовалось OpenCV для загрузки следующего кадра, он не измеряет fps. OpenCV не пытается выполнить воспроизведение, это только загрузка кадров, и он попытается сделать это как можно быстрее, и я думаю, что нет способа настроить это. Я думаю, что положить waitKey(1/fps) после отображения каждого кадра достигнет того, что вы находясь в поиске.