Temat: Dziwne wyniki obliczeń

Witam
Jestem tu nowy więc proszę o wyrozumiałość.
Stworzyłem prostą bazę danych składającą się z dwóch tabel których przechowuję dane liczbowe z dokładnością do trzech miejsc po przecinku np. 12,354; 1,025; 0,25; 4,001 itp. W tabeli ma ustawione to pole jako podwójna precyzja, miejsca dziesiętne auto. I teraz jak w kwerendzie dokonuję prostych obliczeń na tych danych ( dodawanie i odejmowanie) to w 99% przypadków liczy dobrze a czasem wynik powinien wyjść "0" a on mi pokazuje np.2,00000000000022E-03?
Przykład odejmuję od 3,882-3,882=4,44089209850063E-16 a powinno być zero. Jak usunę części tysięczne - zostawię 3,88-3,88 to policzy poprawnie i da wynik zero.

Obrazek

Czym może to być spowodowane?
Pozdrawiam Dominik Łuszczki
Oskar Shon

Oskar Shon Dodatki do Office
www.VBATools.pl

Temat: Dziwne wyniki obliczeń

Stosowałeś w obliczeniach zaokrąglenia?

Temat: Dziwne wyniki obliczeń

Nie

Temat: Dziwne wyniki obliczeń

Jedyne co to w trakcie jak baza już działałą to zmieniłem parametry pola z liczba całkowita na podwójna precyzja bo się okazało że muszę mieć wartości z przecinkami
Oskar Shon

Oskar Shon Dodatki do Office
www.VBATools.pl

Temat: Dziwne wyniki obliczeń

To częsty problem w Excelu, gdzie na poziomie nieistotnych miejsc po przecinku dochodzi do błędu procesowa.
Rozwiązaniem jest po prostu zaokrąglenie na siłę danych wejściowych np do 4go miejsca po przecinku.

Temat: Dziwne wyniki obliczeń

Zaokrągliłem funkcją Round wynik tego odejmowania w kwerendzie do trzech miejsc po przecinku i poprawnie obliczyło.
Dziękuję bardzo z pomoc

Następna dyskusja:

Zapraszam na warsztaty podn...




Wyślij zaproszenie do