• Najnowsze pytania
  • Bez odpowiedzi
  • Zadaj pytanie
  • Kategorie
  • Tagi
  • Zdobyte punkty
  • Ekipa ninja
  • IRC
  • FAQ
  • Regulamin
  • Książki warte uwagi

Niedokładność liczb zmiennoprzecinkowych i ich zaokrąglanie

Aruba Cloud PRO i VPS, Openstack, VMWare, MS Hyper-V
0 głosów
961 wizyt
pytanie zadane 21 lipca 2016 w JavaScript przez Strategiusz Dyskutant (9,220 p.)
Pretekstem do tego pytania jest 4. odc. kursu JS https://www.youtube.com/watch?v=tiK92m-RopI

Czy liczba 0.3 wklepana z klawiatury albo otrzymana przez Math.rund() jest dokładnie tym czym ma być, czyli 0.3, a nie 0.30000000000000004? Czy system IEEE 754, czy jakikolwiek binarny system pozwala zapisać wartość 0.3? Jeśli tak, to skąd wynika niedokładność? Jeśli nie, to dlaczego wyświetla się 0.3 a nie 0.30000000000000004?

1 odpowiedź

–1 głos
odpowiedź 21 lipca 2016 przez Comandeer Guru (579,500 p.)
0.3 to 0.3. Tyle w temacie. Jak chcesz się dowiedzieć, co się dzieje za kulisami, to polecam rzucić okiem np na http://www.2ality.com/2012/04/number-encoding.html

Podobne pytania

0 głosów
1 odpowiedź 208 wizyt
0 głosów
2 odpowiedzi 27,672 wizyt
pytanie zadane 17 lipca 2016 w C i C++ przez BanditPlayGame Użytkownik (680 p.)
+1 głos
2 odpowiedzi 35,840 wizyt
pytanie zadane 26 września 2015 w Java przez przemko06 Początkujący (370 p.)

89,728 zapytań

138,332 odpowiedzi

309,340 komentarzy

59,649 pasjonatów

Advent of Code 2022

Top 15 użytkowników

  1. 429p. - Argeento
  2. 427p. - nidomika
  3. 396p. - Mikbac
  4. 392p. - ssynowiec
  5. 390p. - Łukasz Eckert
  6. 387p. - TheLukaszNs
  7. 386p. - rucin93
  8. 382p. - Michal Drewniak
  9. 382p. - Marcin Harasimowicz
  10. 378p. - JMazurkiewicz
  11. 373p. - tokox
  12. 367p. - Jarosław Roszyk
  13. 362p. - adrian17
  14. 359p. - overcq
  15. 350p. - Mawrok
Szczegóły i pełne wyniki

Motyw:

Akcja Pajacyk

Pajacyk od wielu lat dożywia dzieci. Pomóż klikając w zielony brzuszek na stronie. Dziękujemy! ♡

Sklep oferujący ćwiczenia JavaScript, PHP, rozmowy rekrutacyjne dla programistów i inne materiały

Oto dwie polecane książki warte uwagi. Pełną listę znajdziesz tutaj.

...