Как написать самомодифицирующийся код в сборке x86

поскольку вы пишете JIT-компилятор, вы, вероятно, не хотите self-modifying код, который вы хотите создать исполняемый код во время выполнения. Это две разные вещи. Самомодифицирующийся код-это код, который модифицируется после того, как он уже запущен. Самомодифицирующийся код имеет большой штраф производительности на современных процессорах и поэтому нежелателен для JIT-компилятора.

создание исполняемого кода во время выполнения должно быть простым вопрос mmap () в некоторой памяти с разрешениями PROT_EXEC и PROT_WRITE. Вы также можете вызвать mprotect () в некоторой памяти, выделенной вами, как это сделал dwelch выше.

вы также можете посмотреть на такие проекты, как GNU lightning. Вы даете ему код для упрощенной машины типа RISC, и она генерирует правильную машину динамически.

очень реальная проблема, о которой вы должны думать, - это взаимодействие с зарубежными библиотеками. Вероятно, вам понадобится поддержка хотя бы некоторых вызовов/операций системного уровня, чтобы ваша виртуальная машина была полезной. Совет Кицунэ-хорошее начало, чтобы заставить вас задуматься о вызовах системного уровня. Вы, вероятно, использовать mprotect для убедитесь,что измененная память становится юридически исполняемой. (@KitsuneYMG)

некоторые FFI, разрешающие вызовы динамических библиотек, написанных на C, должны быть достаточными, чтобы скрыть многие конкретные детали ОС. Все эти проблемы могут повлиять на ваш дизайн совсем немного, поэтому лучше начать думать о них раньше.

немного более простой пример, основанный на примере выше. Благодаря dwelch помогли много.

#include <stdio.h>
#include <string.h>
#include <stdlib.h>
#include <sys/mman.h>

char buffer [0x2000];
void* bufferp;

char* hola_mundo = "Hola mundo!";
void (*_printf)(const char*,...);

void hola()
{ 
    _printf(hola_mundo);
}

int main ( void )
{
    //Compute the start of the page
    bufferp = (void*)( ((unsigned long)buffer+0x1000) & 0xfffff000 );
    if(mprotect(bufferp, 1024, PROT_READ|PROT_EXEC|PROT_WRITE))
    {
        printf("mprotect failed\n");
        return(1);
    }
    //The printf function has to be called by an exact address
    _printf = printf;

    //Copy the function hola into buffer
    memcpy(bufferp,(void*)hola,60 //Arbitrary size);


    ((void (*)())bufferp)();  

    return(0);
}

Я работаю над самомодифицирующейся игрой для обучения сборке x86 и должен был решить эту точную проблему. Я использовал следующие две библиотеки:

ассемблер FASM https://github.com/ZenLulz/Fasm.NET

UDIS86 дизассемблер: https://github.com/vmt/udis86

инструкции читаются с Udis86, пользователь может редактировать их как строку, а затем FASM используется для сборки новых байтов. Их можно записать назад в память, и как другие пользователи указали, что для обратной записи требуется использовать VirtualProtect в Windows или mprotect в Unix.

образцы кода немного длинны для StackOverflow, поэтому я отсылаю вас к статье, которую я написал с образцами кода:

https://medium.com/squallygame/how-we-wrote-a-self-hacking-game-in-c-d8b9f97bfa99

функционирующее РЕПО Windows находится здесь (очень легковес):

https://github.com/Squalr/SelfHackingApp

эти примеры находятся в Windows, но это просто вопрос замены VirtualProtect до mprotect чтобы сделать эту работу для Linux

это написано в AT & T assembly. Как вы можете видеть из выполнения программы, выходные данные изменились из-за самомодифицирующегося кода.

компиляция: GCC-M32 изменить.ы изменить.c

опция-m32 используется, потому что пример работает на 32-битных машинах

Aessembly:

.globl f4
.data     

f4:
    pushl %ebp       #standard function start
    movl %esp,%ebp

f:
    movl ,%eax # moving one to %eax
    movl ,f+1  # overwriting operand in mov instuction over
                 # the new immediate value is now 0. f+1 is the place
                 # in the program for the first operand.

    popl %ebp    # standard end
    ret

C тестовая программа:

 #include <stdio.h>

 // assembly function f4
 extern int f4();
 int main(void) {
 int i;
 for(i=0;i<6;++i) {
 printf("%d\n",f4());
 }
 return 0;
 }

выход:

1
0
0
0
0
0

Я никогда не писал самомодифицирующийся код, хотя у меня есть базовое понимание того, как он работает. В основном вы пишете на память инструкции, которые хотите выполнить, а затем прыгаете туда. Процессор интерпретирует те байты, которые вы написали инструкции и (пытается) выполнить их. Например, вирусы и программы защиты от копирования могут использовать этот метод.
Что касается системных вызовов, вы были правы, аргументы передаются через регистры. Для справки системных вызовов linux и их аргумент просто проверить здесь.