1. Wpierw chciałbym wiedzieć jak doprowadziłeś ten kod do działania.
float bok_a[0],wynik[0];
wynik[0],bok_a[0],bok_b[0],bok_c[0],bok_d[0];
Po drugie, każda funkcja powinna mieć zmienne lokalne i odpowiadać za ich wczytanie. Po trzecie, jeśli umiesz obiektówkę - tu by się przydała. Po czwarte, przydałoby się rozbić to na więcej funkcji i więcej plików.
2. Bezpośrednio binarne przełożenie programu nie wiem na co Ci się przyda, ale możesz spróbować plik .cpp lub .exe odczytywać jakoś plik binarny bajt po bajcie i konwertować to na 0 1. Chyba, że chodzi Ci o kod assemblera (instrukcje dla procesora) to jedyne co mogę polecić to dissasembly in Code Blocks.
3. Ogólnie nie zrozumiałem, ale polecam odstawić to na później.