Rozpisz to sobie na małe etapy i spróbuj zadawać pytania dopiero jeżeli natrafisz na problem. Bo to jest zbyt ogólne pytanie, na które można odpowiedzieć tak:
1.Zrób widok do wpisania szukanej frazy, katalogu do przeszukania, oraz wyświetlenia wyniku
2. Za pomocą AJAX wyślij zapytanie do serwera (plik php) które zwróci Ci listę plików w katalogu wskazanym w zapytaniu.
3. Przeszukuj wynik i zwracaj pasujące elementy