dziwne zachowanie zmiennych float

pytanie zadane 5 grudnia 2018 w Java przez kvbq Obywatel (1,490 p.)

Natrafiłem na dziwne zachowanie się zmiennych float. W np takim działaniu jak potęgowanie dla 0,4*0,4 wynik to około 0,160001 chociaż przecież powinno wyjść 0,16 tak samo dla np 0,7 a już dla 0,5 wszytko działa poprawnie. W skrócie float dodaje jakąś 100000 część do niektórych wyników chociaż to nie powinno się dziać.

2 odpowiedzi

odpowiedź 5 grudnia 2018 przez adrian17 Mentor (354,880 p.)
wybrane 6 grudnia 2018 przez kvbq

odpowiedź 5 grudnia 2018 przez Snejki Stary wyjadacz (14,520 p.)
edycja 5 grudnia 2018 przez Snejki

Jest to spowodowane sposobem zapisu liczby float.

Liczba float jest reprezentowana przez standard binarny IEE754, czyli w uproszczeniu przy użyciu kodu binarnego.

Jak wiemy, w reprezentacji binarnej nie jesteśmy w stanie zapisać niektórych części ułamkowych, np nie jesteśmy w stanie zapisać 0.1. W zamian za nią będzie zapisana najbliższa jej liczba możliwa do zapisania w kodzie binarnym, czyli dla 0.1 jest to 0.00011001100 binarnie, które w rzeczywistości jest równe 0.099609375 dziesiętnie.