• Najnowsze pytania
  • Bez odpowiedzi
  • Zadaj pytanie
  • Kategorie
  • Tagi
  • Zdobyte punkty
  • Ekipa ninja
  • IRC
  • FAQ
  • Regulamin
  • Książki warte uwagi

Dziwny błąd w kalkulatorze Windows 10

Object Storage Arubacloud
0 głosów
739 wizyt
pytanie zadane 2 lutego 2019 w Offtop przez jegor377 Stary wyjadacz (13,230 p.)

Cześć! Napotkałem dziwną sytuację podczas używania kalkulatora Windows 10, która mnie zaciekawiła. Otóż po wykonaniu obliczenia 2^1.5 - (2^0.5 * 2^1), otrzymałem -6,136163494359346031014718664718e-38, a w pythonie wynikiem było 0. Czemu kalkulator Windowsowy podaje taki wynik, a maszyna pythona podaje 0?

1 odpowiedź

+1 głos
odpowiedź 2 lutego 2019 przez mbabane Szeryf (79,280 p.)

Zauważ, że na końcu masz e-38 czyli wynik podanego wyrażenia, że tak powiem, jakąkolwiek cyfrę posiada dopiero (o ile się nie mylę) 38 miejsc po przecinku. Typ wykorzystywany w python najwyraźniej nie ma aż takiej precyzji i dla niego wynikiem jest zero.

https://pl.wikipedia.org/wiki/Notacja_naukowa

 

Nie znam za bardzo Pythona, może jest tam jakiś typ, który obsłuży liczbę z taką dokładnością.

komentarz 2 lutego 2019 przez jegor377 Stary wyjadacz (13,230 p.)
Hmm, x^1/2 = pierwiastek drugiego stopnia z x jeżeli się nie mylę, a kiedy wykonuje równanie 2*2^0.5 - (2*sqrt(2)) to kalkulator mi mówi, że to 1,0553773915866059703081848063389e-39 zamiast 0. Python już pokazuje poprawnie. Dziwne to to, ale dzięki za odzew. :D Może to jakiś błąd kalkulatora.
komentarz 2 lutego 2019 przez mbabane Szeryf (79,280 p.)
Generalnie dla komputera liczby rzeczywiste są dość problematyczne w szczególności kiedy idzie o bardzo dużą dokładność tak jak tutaj, prawie 40 miejsc po przecinku.

Dlatego na przykład do obliczeń pieniężnych nie używa się prostego typu float czy double.

Podobne pytania

+1 głos
1 odpowiedź 396 wizyt
+1 głos
2 odpowiedzi 405 wizyt
pytanie zadane 7 marca 2016 w Offtop przez jegor377 Stary wyjadacz (13,230 p.)
0 głosów
0 odpowiedzi 90 wizyt
pytanie zadane 28 października 2020 w Systemy operacyjne, programy przez x_000 Obywatel (1,460 p.)

92,568 zapytań

141,420 odpowiedzi

319,617 komentarzy

61,953 pasjonatów

Motyw:

Akcja Pajacyk

Pajacyk od wielu lat dożywia dzieci. Pomóż klikając w zielony brzuszek na stronie. Dziękujemy! ♡

Oto polecana książka warta uwagi.
Pełną listę książek znajdziesz tutaj.

Akademia Sekuraka

Kolejna edycja największej imprezy hakerskiej w Polsce, czyli Mega Sekurak Hacking Party odbędzie się już 20 maja 2024r. Z tej okazji mamy dla Was kod: pasjamshp - jeżeli wpiszecie go w koszyku, to wówczas otrzymacie 40% zniżki na bilet w wersji standard!

Więcej informacji na temat imprezy znajdziecie tutaj. Dziękujemy ekipie Sekuraka za taką fajną zniżkę dla wszystkich Pasjonatów!

Akademia Sekuraka

Niedawno wystartował dodruk tej świetnej, rozchwytywanej książki (około 940 stron). Mamy dla Was kod: pasja (wpiszcie go w koszyku), dzięki któremu otrzymujemy 10% zniżki - dziękujemy zaprzyjaźnionej ekipie Sekuraka za taki bonus dla Pasjonatów! Książka to pierwszy tom z serii o ITsec, który łagodnie wprowadzi w świat bezpieczeństwa IT każdą osobę - warto, polecamy!

...