Linux, как захватить экран и имитировать движения мыши

Мне нужно захватить экран (как экран печати) таким образом, чтобы я мог получить доступ к данным цвета пикселей, чтобы сделать некоторое распознавание изображений, после этого мне нужно будет генерировать события мыши на экране, такие как щелчок левой кнопкой мыши, перетаскивание (перемещение мыши при нажатии кнопки, а затем отпустите ее). Как только изображения будут удалены.

Примечание: мне нужно захватить весь экран все, что пользователь может видеть, и мне нужно имитировать щелчки за пределами окна моей программы (если это делает разница)

Spec: Linux ubuntu Язык: C++

производительность не очень важна, функция "печать экрана" будет выполняться один раз каждые ~10 сек. Продолжительность процесса может составлять до 24 часов, поэтому метод должен быть стабильным и без утечек памяти (как обычно :)

Я смог сделать в windows с win GDI и некоторыми событиями windows, но я понятия не имею, как это сделать в Linux.

Спасибо большое

9
c++ linux mouseevent screen-capture

2 ответов

//sg

//Solution using Xlib for those who use Linux
#include <X11/Xlib.h>
#include<stdio.h>
#include<unistd.h>
#include <stdlib.h>
#include <string.h>

#include <unistd.h>

#include <X11/Xlib.h>
#include <X11/Xutil.h>

void mouseClick(int button)
{
    Display *display = XOpenDisplay(NULL);

    XEvent event;

    if(display == NULL)
    {
        fprintf(stderr, "Cannot initialize the display\n");
        exit(EXIT_FAILURE);
    }

    memset(&event, 0x00, sizeof(event));

    event.type = ButtonPress;
    event.xbutton.button = button;
    event.xbutton.same_screen = True;

    XQueryPointer(display, RootWindow(display, DefaultScreen(display)), &event.xbutton.root, &event.xbutton.window, &event.xbutton.x_root, &event.xbutton.y_root, &event.xbutton.x, &event.xbutton.y, &event.xbutton.state);

    event.xbutton.subwindow = event.xbutton.window;

    while(event.xbutton.subwindow)
    {
        event.xbutton.window = event.xbutton.subwindow;

        XQueryPointer(display, event.xbutton.window, &event.xbutton.root, &event.xbutton.subwindow, &event.xbutton.x_root, &event.xbutton.y_root, &event.xbutton.x, &event.xbutton.y, &event.xbutton.state);
    }

    if(XSendEvent(display, PointerWindow, True, 0xfff, &event) == 0) fprintf(stderr, "Error\n");

    XFlush(display);

    usleep(100000);

    event.type = ButtonRelease;
    event.xbutton.state = 0x100;

    if(XSendEvent(display, PointerWindow, True, 0xfff, &event) == 0) fprintf(stderr, "Error\n");

    XFlush(display);

    XCloseDisplay(display);
}
int main(int argc,char * argv[]) {

    int x , y;
    x=atoi(argv[1]);
    y=atoi(argv[2]);
    Display *display = XOpenDisplay(0);

    Window root = DefaultRootWindow(display);
    XWarpPointer(display, None, root, 0, 0, 0, 0, x, y);
    mouseClick(Button1);
    XFlush(display);
    XCloseDisplay(display);
    return 0;
}

построить его, а затем имитировать щелчок на x, y do:

$ ./a.out x y

то есть

$ g++ - lX11 sgmousesim2.cpp

$ .a.из 123 13

на всякий случай, если вы все еще заинтересованы.

14

Swinput - это решение для моделирования событий мыши / ключа. Вам нужно скомпилировать его, вероятно, для вашего ядра. Xorg предоставил некоторые заголовки для записи событий мыши/ключа, но я думаю, что на данный момент он сломан. Есть C код evtest который можно использовать для захвата событий из /dev/input/eventX, /dev/input/mice файлы. Это может быть полезно.

Edit:

на Исправлена ошибка в расширении записи Xorg, так что это может быть тоже работает.

1