Jeśli chcesz się bawić z formatami plików to nie na windowsie, bo nie ma narzędzi łatwo dostępnych. Tutaj raczej linux jakiś.
Poczytaj też o budowie poszczególnych formatów plików, nagłówkach, rodzajach itp. Może być tak, że mimo że plik ma odpowiednie rozszerzenie to potrzebuje np XORowania bitów (najprostszy system pseudo-szyfrowania plików, raczej nie ma co na to liczyć) i program, który z niego korzysta wie jak go odpowiednio odczytać. Ogólnie rzecz biorąc, dużo zachodu z tym, nie wiem czy masz czas i chęci żeby to robić, ale powodzenia