Być może autor użył to w kontekście jakiegoś omawianego tematu, to będzie po prostu "rodzaj problemu", który należy do pewnej grupy, ale znacząco odbiega od pozostałych. Powiedzmy, że przyjmowany jest jakiś element wspólny, czy grupa elementów, problem dewiacyjny to problem, który odbiega całkowicie od norm w grupie problemów.
Więc w algorytmice coś takiego jako termin nie istnieje, sądzę, że to złe tłumaczenie, lub autor chce w ten sposób cos podkreślić w omawianym temacie.
Algorytm dewiacyjny: to w skrócie - nietuzinkowy, odbiegająco od pozostałych i ogólno przyjętej normy, sposób postępowania na rozwiązanie jakiegoś problemu.