Keďže mi to nedalo pokoja a ďalej som sa v tom vŕtal, podarilo sa mi problém vyriešiť. Tu je riešenie:

Na stránke Google Groups sa dá preklikať na download SQLite kompiláciu s ICU:
http://www.urban-eye.com/pagesqliteicu.html

Lenže mne to nefungovalo. Dôvod bol ten (ako som neskôr zistil pomocou nástroja depends, že úplne posledný download (najvyššie s najnovšími verziami) zrejme kvôli chybe autora neobsahuje SQLite naviazané na ICU, ale len čisté SQLite a ICU je k tomu len pribalené. Treba stiahnuť staršiu kompiláciu. Ja som stiahol tú najstaršiu. Potom je treba stiahnuť kompiláciu ICU pre Windows z ICU stránky a doložiť súbor icudt38.dll. Potom po ovorení databázy treba zadať SQL príkaz:
SELECT icu_load_collation('sk_SK', 'slovak');

A samotné triedenie musí na konci ORDER klauzuly obsahovať:
COLLATE slovak

Toto síce nie je nutné, ale len vtedy, ak je tabuľka už vytvorená so správnym COLLATE, lenže tam by zrejme hrozila nekompatibilita s ostatnými klientmi.