https://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html
Operatiile in virgula mobila intotdeauna au fost un subiect mai special unde lumea se intreaba de ce nu da cat ma astept eu
https://0.30000000000000004.com/
De exemplu in cazuri din acestea nu e ok sa faci si o impartire/inmultire si o scadere/adunare. Cel mai bine faci direct o inmultire cu 0.95. Eu sunt putin obisnuit din CUDA pe arhitecturi mai vechi sa merge-uiesc doua operatii care desi pe hartie par la fel, pentru procesor sunt total diferite si iti dau niste solutii care difera la ultima zecimala. Daca cumva acea eroare de o zecimala (si aici ma refer la o eroare de 10^-6) se propaga in program si faci operatii cu acea valoare eronata … well,…
3 Likes
Super site-ul, am transformat putin postul tau intr-un pariu pentru echipa mea de dev.
I-am intrebat intai care e raspunsul pe hartie la: 0.33333333333+0.44444444444 si apoi i-am provocat sa verifice cu consola de js din browser.
3 Likes
std.bless
noiembrie 18, 2021, 6:22pm
3
1 Like
NicusorN5
noiembrie 18, 2021, 8:16pm
4
Alt site, dar care e interactiv: IEEE-754 Floating Point Converter
1 Like
@std.bless si @NicusorN5 foarte interesante link-urile
2 Likes
Cornel
noiembrie 19, 2021, 1:48am
6
