• Najnowsze pytania
  • Bez odpowiedzi
  • Zadaj pytanie
  • Kategorie
  • Tagi
  • Zdobyte punkty
  • Ekipa ninja
  • IRC
  • FAQ
  • Regulamin
  • Książki warte uwagi

Dziwny błąd w kalkulatorze Windows 10

VPS Starter Arubacloud
0 głosów
728 wizyt
pytanie zadane 2 lutego 2019 w Offtop przez jegor377 Stary wyjadacz (13,230 p.)

Cześć! Napotkałem dziwną sytuację podczas używania kalkulatora Windows 10, która mnie zaciekawiła. Otóż po wykonaniu obliczenia 2^1.5 - (2^0.5 * 2^1), otrzymałem -6,136163494359346031014718664718e-38, a w pythonie wynikiem było 0. Czemu kalkulator Windowsowy podaje taki wynik, a maszyna pythona podaje 0?

1 odpowiedź

+1 głos
odpowiedź 2 lutego 2019 przez mbabane Szeryf (79,280 p.)

Zauważ, że na końcu masz e-38 czyli wynik podanego wyrażenia, że tak powiem, jakąkolwiek cyfrę posiada dopiero (o ile się nie mylę) 38 miejsc po przecinku. Typ wykorzystywany w python najwyraźniej nie ma aż takiej precyzji i dla niego wynikiem jest zero.

https://pl.wikipedia.org/wiki/Notacja_naukowa

 

Nie znam za bardzo Pythona, może jest tam jakiś typ, który obsłuży liczbę z taką dokładnością.

komentarz 2 lutego 2019 przez jegor377 Stary wyjadacz (13,230 p.)
Hmm, x^1/2 = pierwiastek drugiego stopnia z x jeżeli się nie mylę, a kiedy wykonuje równanie 2*2^0.5 - (2*sqrt(2)) to kalkulator mi mówi, że to 1,0553773915866059703081848063389e-39 zamiast 0. Python już pokazuje poprawnie. Dziwne to to, ale dzięki za odzew. :D Może to jakiś błąd kalkulatora.
komentarz 2 lutego 2019 przez mbabane Szeryf (79,280 p.)
Generalnie dla komputera liczby rzeczywiste są dość problematyczne w szczególności kiedy idzie o bardzo dużą dokładność tak jak tutaj, prawie 40 miejsc po przecinku.

Dlatego na przykład do obliczeń pieniężnych nie używa się prostego typu float czy double.

Podobne pytania

+1 głos
1 odpowiedź 370 wizyt
+1 głos
2 odpowiedzi 402 wizyt
pytanie zadane 7 marca 2016 w Offtop przez jegor377 Stary wyjadacz (13,230 p.)
0 głosów
0 odpowiedzi 87 wizyt
pytanie zadane 28 października 2020 w Systemy operacyjne, programy przez x_000 Obywatel (1,460 p.)

92,453 zapytań

141,262 odpowiedzi

319,088 komentarzy

61,854 pasjonatów

Motyw:

Akcja Pajacyk

Pajacyk od wielu lat dożywia dzieci. Pomóż klikając w zielony brzuszek na stronie. Dziękujemy! ♡

Oto polecana książka warta uwagi.
Pełną listę książek znajdziesz tutaj.

Akademia Sekuraka

Akademia Sekuraka 2024 zapewnia dostęp do minimum 15 szkoleń online z bezpieczeństwa IT oraz dostęp także do materiałów z edycji Sekurak Academy z roku 2023!

Przy zakupie możecie skorzystać z kodu: pasja-akademia - użyjcie go w koszyku, a uzyskacie rabat -30% na bilety w wersji "Standard"! Więcej informacji na temat akademii 2024 znajdziecie tutaj. Dziękujemy ekipie Sekuraka za taką fajną zniżkę dla wszystkich Pasjonatów!

Akademia Sekuraka

Niedawno wystartował dodruk tej świetnej, rozchwytywanej książki (około 940 stron). Mamy dla Was kod: pasja (wpiszcie go w koszyku), dzięki któremu otrzymujemy 10% zniżki - dziękujemy zaprzyjaźnionej ekipie Sekuraka za taki bonus dla Pasjonatów! Książka to pierwszy tom z serii o ITsec, który łagodnie wprowadzi w świat bezpieczeństwa IT każdą osobę - warto, polecamy!

...