Sztuczna inteligencja to bardzo szerokie pojęcie. Możesz zacząć od pisania własnych, bardzo prostych algorytmów np. do gier, wykorzystując prostą matematykę,
Poczytaj o sieciach neuronowych i algorytmach typu SVM, które są bardzo popularne, a w sieci znajdziesz sporo ich implementacji, głównie w C++. Dobrą podstawą do nauki może być MATLAB, który udostępnia bardzo ciekawe Toolbox'y właśnie z zakresu sztucznej inteligencji
Jak pisał kolega przede mną, sztuczna inteligencja polega(w dużym uprooszczeniu) na podawaniu programowi zestawu danych uczących, któr program przetwarza przy pomocy określonych funkcji przejścia. Im więcej takich danych dostanie, tym bardziej poszczególne wyniki będą zbliżone do siebie, a program "nauczy się" danego zagadnienia.
Opisy sztucznej inteligencji w sieci niejednokrotnie nasycone są skomplikowanymi wzorami matematycznymi, ale tak naprawdę są to stosunkowo proste zagadnienia :)