• Najnowsze pytania
  • Bez odpowiedzi
  • Zadaj pytanie
  • Kategorie
  • Tagi
  • Zdobyte punkty
  • Ekipa ninja
  • IRC
  • FAQ
  • Regulamin
  • Książki warte uwagi

Dziwny błąd w kalkulatorze Windows 10

Aruba Cloud VPS - 50% taniej przez 3 miesiące!
0 głosów
954 wizyt
pytanie zadane 2 lutego 2019 w Offtop przez jegor377 Stary wyjadacz (13,230 p.)

Cześć! Napotkałem dziwną sytuację podczas używania kalkulatora Windows 10, która mnie zaciekawiła. Otóż po wykonaniu obliczenia 2^1.5 - (2^0.5 * 2^1), otrzymałem -6,136163494359346031014718664718e-38, a w pythonie wynikiem było 0. Czemu kalkulator Windowsowy podaje taki wynik, a maszyna pythona podaje 0?

1 odpowiedź

+1 głos
odpowiedź 2 lutego 2019 przez mbabane Szeryf (79,260 p.)

Zauważ, że na końcu masz e-38 czyli wynik podanego wyrażenia, że tak powiem, jakąkolwiek cyfrę posiada dopiero (o ile się nie mylę) 38 miejsc po przecinku. Typ wykorzystywany w python najwyraźniej nie ma aż takiej precyzji i dla niego wynikiem jest zero.

https://pl.wikipedia.org/wiki/Notacja_naukowa

 

Nie znam za bardzo Pythona, może jest tam jakiś typ, który obsłuży liczbę z taką dokładnością.

komentarz 2 lutego 2019 przez jegor377 Stary wyjadacz (13,230 p.)
Hmm, x^1/2 = pierwiastek drugiego stopnia z x jeżeli się nie mylę, a kiedy wykonuje równanie 2*2^0.5 - (2*sqrt(2)) to kalkulator mi mówi, że to 1,0553773915866059703081848063389e-39 zamiast 0. Python już pokazuje poprawnie. Dziwne to to, ale dzięki za odzew. :D Może to jakiś błąd kalkulatora.
komentarz 2 lutego 2019 przez mbabane Szeryf (79,260 p.)
Generalnie dla komputera liczby rzeczywiste są dość problematyczne w szczególności kiedy idzie o bardzo dużą dokładność tak jak tutaj, prawie 40 miejsc po przecinku.

Dlatego na przykład do obliczeń pieniężnych nie używa się prostego typu float czy double.

Podobne pytania

+1 głos
1 odpowiedź 528 wizyt
+1 głos
2 odpowiedzi 464 wizyt
pytanie zadane 7 marca 2016 w Offtop przez jegor377 Stary wyjadacz (13,230 p.)
0 głosów
0 odpowiedzi 110 wizyt
pytanie zadane 28 października 2020 w Systemy operacyjne, programy przez x_000 Obywatel (1,460 p.)

93,191 zapytań

142,206 odpowiedzi

322,041 komentarzy

62,518 pasjonatów

Advent of Code 2024

Top 15 użytkowników

  1. 2817p. - dia-Chann
  2. 2769p. - Łukasz Piwowar
  3. 2759p. - Łukasz Eckert
  4. 2738p. - CC PL
  5. 2704p. - Tomasz Bielak
  6. 2678p. - Łukasz Siedlecki
  7. 2666p. - rucin93
  8. 2584p. - Adrian Wieprzkowicz
  9. 2536p. - Mikbac
  10. 2485p. - Marcin Putra
  11. 2418p. - Michal Drewniak
  12. 2239p. - Michał Telesz
  13. 2156p. - Anonim 3619784
  14. 1733p. - rafalszastok
  15. 1650p. - Mariusz Fornal
Szczegóły i pełne wyniki

Motyw:

Akcja Pajacyk

Pajacyk od wielu lat dożywia dzieci. Pomóż klikając w zielony brzuszek na stronie. Dziękujemy! ♡

Oto polecana książka warta uwagi.
Pełną listę książek znajdziesz tutaj

Wprowadzenie do ITsec, tom 1 Wprowadzenie do ITsec, tom 2

Można już zamawiać dwa tomy książek o ITsec pt. "Wprowadzenie do bezpieczeństwa IT" - mamy dla Was kod: pasja (użyjcie go w koszyku), dzięki któremu uzyskamy aż 15% zniżki! Dziękujemy ekipie Sekuraka za fajny rabat dla naszej Społeczności!

...