Używasz kompilatora, który generuje format ELF, a nie BIN.
Tak na szybko to znalazłem tylko taki emulator online: https://copy.sh/v86/?profile=msdos, ale on wymaga wpisywania tekstu programu w edytorze EDIT, a później uruchomienia nasm -o A.COM A.ASM. I na końcu uruchomienia programu A.COM.