Wydaje mi się, że problemem jest to, że sortujesz stringi, a nie liczby. Spróbuj zrobić coś takiego:
import sys
for i in sys.stdin:
a, b, c = sorted(map(float, i.split()))
if a + b <= c:
print("brak")
elif c*c == a*a + b*b:
print("prostokątny")
elif c*c > a*a + b*b:
print("rozwartokątny")
elif c*c < a*a + b*b:
print("ostrokątny")
Z sortowaniem stringów jest taki problem, że na przykład '11' będzie przed '2'.