qsort

Индексы массива для сортировки 1-5.

// Проход вперед, сравнивая 1-2, 2-3, 3-4, 4-5
if(n[2]>n[1]) swap(n[1],n[2]);
if(n[3]>n[2]) swap(n[2],n[3]);
if(n[4]>n[3]) swap(n[3],n[4]);
if(n[5]>n[4]) swap(n[4],n[5]);

// Проход назад, сравнивая 3-4, 2-3, 1-2
if(n[4]>n[3]) swap(n[3],n[4]);
if(n[3]>n[2]) swap(n[2],n[3]);
if(n[2]>n[1]) swap(n[1],n[2]);

Надо проверить правда, погонять тесты, может такой алгоритм не все комбинации сортирует.

Пусть числа равны соответственно n1, n2, n3, n4 и n5.
1) Сравним n1 и n2. Пусть n1 > n2
2) Сравним n3 и n4. Пусть n3 > n4
3) Сравним n2 и n4. Получится либо n1 > n2 > n4 < n3, либо n3 > n4 > n2 < n1.
Пусть выполняется первый вариант( из принципа симметрии это не важно ).
4 + 5) Известно, что n1>n2>n4. За 2 сравнения мы можем найти место n5 в этой цепочке:
Сравниваем n2 и n5. Если n2 > n5, то сравниваем n1 и n5, иначе сравниваем n4 и n5.
6 + 7) Получили цепочку вида na > nb > nc > nd < n3 ( Если n4 > n5, то nd = n5, nd < n4 < n3 )
Аналогично пунктам 4, 5 можно найти место n3 в цепочке na > nb > nc за 2 сравнения

Первый же пример, пришедший в голову (1,6,2,8,3), дал отрицательный результат (8,6,2,3,1).

Для алгоритма xintrea