Алгоритм Параллельной Сортировки

Я ищу простую реализацию распараллеленного (многопоточного) алгоритма сортировки в C# , который может работать на List<T> или массивы и, возможно, использование параллельных расширений, но эта часть не является строго необходимой.

Edit: Фрэнк Крюгер дает хороший ответ, однако я хочу преобразовать этот пример в тот, который не использует LINQ. Также обратите внимание, что Parallel.Do() Кажется, был заменен Parallel.Invoke().

спасибо.

5 ответов


из "темной стороны" в своей статье параллельные расширения .Net Framework у нас есть эта версия параллельных расширений quicksort:

(Edit: поскольку ссылка теперь мертва, заинтересованные читатели могут найти ее архив в машина Wayback)

private void QuicksortSequential<T>(T[] arr, int left, int right) 
where T : IComparable<T>
{
    if (right > left)
    {
        int pivot = Partition(arr, left, right);
        QuicksortSequential(arr, left, pivot - 1);
        QuicksortSequential(arr, pivot + 1, right);
    }
}

private void QuicksortParallelOptimised<T>(T[] arr, int left, int right) 
where T : IComparable<T>
{
    const int SEQUENTIAL_THRESHOLD = 2048;
    if (right > left)
    {
        if (right - left < SEQUENTIAL_THRESHOLD)
        {

            QuicksortSequential(arr, left, right);
        }
        else
        {
            int pivot = Partition(arr, left, right);
            Parallel.Do(
                () => QuicksortParallelOptimised(arr, left, pivot - 1),
                () => QuicksortParallelOptimised(arr, pivot + 1, right));
        }
    }
}

обратите внимание, что он возвращается к последовательной сортировке, как только количество элементов меньше 2048.


обновление теперь я достигаю лучшего, чем 1.7 x speedup на двухъядерной машине.

Я думал, что попробую написать параллельный сортировщик, который работал в .NET 2.0 (Я думаю, проверьте меня на этом), и это не использует ничего, кроме ThreadPool.

вот результаты сортировки массива элементов 2,000,000:

Time Parallel    Time Sequential
-------------    ---------------
2854 ms          5052 ms
2846 ms          4947 ms
2794 ms          4940 ms
...              ...
2815 ms          4894 ms
2981 ms          4991 ms
2832 ms          5053 ms

Avg: 2818 ms     Avg: 4969 ms
Std: 66 ms       Std: 65 ms
Spd: 1.76x

я получил ускорение 1.76 x-довольно близко к оптимальному 2x, на которое я надеялся - в этом среды:

  1. 2,000,000 random Model объекты
  2. сортировка объектов делегатом сравнения, который сравнивает два DateTime свойства.
  3. Mono JIT компилятор версии 2.4.2.3
  4. Max OS X 10.5.8 на 2,4 ГГц Intel Core 2 Duo

на этот раз я использовал Бен Уотсон QuickSort в C#. Я изменил его QuickSort внутренний цикл от:

QuickSortSequential:
    QuickSortSequential (beg, l - 1);
    QuickSortSequential (l + 1, end);

в:

QuickSortParallel:
    ManualResetEvent fin2 = new ManualResetEvent (false);
    ThreadPool.QueueUserWorkItem (delegate {
        QuickSortParallel (l + 1, end);
        fin2.Set ();
    });
    QuickSortParallel (beg, l - 1);
    fin2.WaitOne (1000000);
    fin2.Close ();

(на самом деле, в код я делаю небольшую балансировку нагрузки, которая, кажется, помогает.)

я обнаружил, что запуск этой параллельной версии окупается только тогда, когда в массиве более 25 000 элементов (хотя минимум 50 000, похоже, позволяет моему процессору дышать больше).

Я сделал столько улучшений, сколько могу придумать на моей маленькой двухъядерной машине. Я хотел бы попробовать некоторые идеи на 8-way monster. Кроме того, эта работа была сделана на маленьком 13-дюймовом MacBook под управлением Mono. Мне интересно, как живут другие. нормальный .В Net 2.0 установить.

исходный код во всей его уродливой славе доступен здесь:http://www.praeclarum.org/so/psort.cs.txt. Я могу все убрать, если есть интерес.


для записи здесь есть версия без выражений lamda, которая будет компилироваться в параллельных расширениях C#2 и .Net 2 +. Это также должно работать с Mono с собственной реализацией параллельных расширений (от Google Summer of code 2008):

/// <summary>
/// Parallel quicksort algorithm.
/// </summary>
public class ParallelSort
{
    #region Public Static Methods

    /// <summary>
    /// Sequential quicksort.
    /// </summary>
    /// <typeparam name="T"></typeparam>
    /// <param name="arr"></param>
    public static void QuicksortSequential<T>(T [] arr) where T : IComparable<T>
    {
        QuicksortSequential(arr, 0, arr.Length - 1);
    }

    /// <summary>
    /// Parallel quicksort
    /// </summary>
    /// <typeparam name="T"></typeparam>
    /// <param name="arr"></param>
    public static void QuicksortParallel<T>(T[] arr) where T : IComparable<T>
    {
        QuicksortParallel(arr, 0, arr.Length - 1);
    }

    #endregion

    #region Private Static Methods

    private static void QuicksortSequential<T>(T[] arr, int left, int right) 
        where T : IComparable<T>
    {
        if (right > left)
        {
            int pivot = Partition(arr, left, right);
            QuicksortSequential(arr, left, pivot - 1);
            QuicksortSequential(arr, pivot + 1, right);
        }
    }

    private static void QuicksortParallel<T>(T[] arr, int left, int right) 
        where T : IComparable<T>
    {
        const int SEQUENTIAL_THRESHOLD = 2048;
        if (right > left)
        {
            if (right - left < SEQUENTIAL_THRESHOLD)
            {
                QuicksortSequential(arr, left, right);
            }
            else
            {
                int pivot = Partition(arr, left, right);
                Parallel.Invoke(new Action[] { delegate {QuicksortParallel(arr, left, pivot - 1);},
                                               delegate {QuicksortParallel(arr, pivot + 1, right);}
                });
            }
        }
    }

    private static void Swap<T>(T[] arr, int i, int j)
    {
        T tmp = arr[i];
        arr[i] = arr[j];
        arr[j] = tmp;
    }

    private static int Partition<T>(T[] arr, int low, int high) 
        where T : IComparable<T>
    {
        // Simple partitioning implementation
        int pivotPos = (high + low) / 2;
        T pivot = arr[pivotPos];
        Swap(arr, low, pivotPos);

        int left = low;
        for (int i = low + 1; i <= high; i++)
        {
            if (arr[i].CompareTo(pivot) < 0)
            {
                left++;
                Swap(arr, i, left);
            }
        }

        Swap(arr, low, left);
        return left;
    }

    #endregion
}

на ум приходит сортировка слияния, основанная на размере кэша процессора, при этом блоки делятся между процессорами.

этап слияния может быть выполнен путем разделения слияния на N битов с каждым процессором, начинающим объединять блоки из правильного смещения в блоки.

Я не пробовал писать это.

(как относительная скорость кэша процессора и основной оперативной памяти, не так далеко от относительной скорости оперативной памяти и ленты, как время слияния сортировка была обнаружена, возможно, нам следует снова начать использовать сортировку слиянием)


разделите список, который вам нужно отсортировать, на подсписки одинакового размера, в зависимости от того, сколько процессоров у вас есть, а затем, когда две части сделаны, объедините их вместе с новой частью, пока не останется только один и все потоки завершены. Очень просто вы должны иметь возможность реализовать его самостоятельно, и сортировка списков в каждом потоке может быть выполнена с использованием любого существующего алгоритма сортировки (например, в библиотеке).