Как написать программу на C для измерения скорости кэширования?

это обычно требует некоторого знания "геометрии" кэша и других его аспектов. Также полезно иметь некоторый контроль над системой за пределами простого доступа пользователя к ней и зависимых от реализации вещей, таких как более точное время, чем может быть предоставлено через стандартный C clock механизм.

вот первоначальный подход:

• напишите процедуру, которая принимает указатель на память, длину и количество повторений и считывает всю эту память в последовательном порядке, неоднократно.
• напишите процедуру, которая берет указатель на память, длину и количество повторений и записывает во всю эту память в последовательном порядке, неоднократно.
• вышеуказанные процедуры, возможно, придется преобразовать свои указатели в volatile чтобы предотвратить оптимизацию компилятором доступа, которые в противном случае не имеют никакого эффекта.
• выделить большой объем памяти.
• вызовите каждую из вышеуказанных процедур, получая текущее время до и после каждого вызова и вызова с различными длинами, чтобы увидеть время для разных длин.

когда вы это сделаете, вы обычно увидите быстрые скорости (количество прочитанных/написанных байтов в секунду) для небольших длин и более медленные скорости для более длинных длин. Снижение скорости будет происходить при превышении размеров различных уровней кэша. Таким образом, вы, скорее всего, увидите размеры кэша L1 и L2, отраженные в данных, собранных с помощью вышеизложенного метод.

вот некоторые причины, по которым подход неадекватен:

• он не контролирует инструкции, используемые для чтения и записи кэша. Компилятор C вполне может генерировать инструкции load-word и store-word, но многие современные процессоры имеют инструкции, которые могут загружать и хранить 16 байтов за раз, и чтение и запись могут быть быстрее с этими инструкциями, чем с четырехбайтовыми инструкциями word.
• кэш будет вести себя по-разному при доступе в последовательно, чем при случайном доступе. Большинство кэшей пытаются отслеживать, когда используются данные, так что недавно использованные данные хранятся в кэше, в то время как другие данные выбрасываются. Части доступа реальных программ обычно отличаются от последовательных операций, описанных выше.
• в частности, последовательные записи в память могут заполнить всю строку кэша, так что ничего не нужно читать из памяти, в то время как шаблон реального использования, который записывает только одно слово в конкретное местоположение может быть реализовано путем чтения строки кэша из памяти и слияния в измененных байтах.
• конкуренция с другими процессами в вашей системе будет мешать тому, что находится в кэше и с измерением.