Aktyw Forum

Zarejestruj się na forum.ep.com.pl i zgłoś swój akces do Aktywu Forum. Jeśli jesteś już zarejestrowany wystarczy, że się zalogujesz.

Sprawdź punkty Zarejestruj się

Bascom vs dzielenie liczb

kpw
-
-
Posty:15
Rejestracja:4 wrz 2003, o 12:56
Bascom vs dzielenie liczb

Postautor: kpw » 17 lut 2004, o 18:25

Odczytuje cyklicznie wartosc z ADC
i chce odczytana wartosc podzielic przez 10 i zapisac do zmiennej single
wszystko wydaje sie proste a tu porazka ...

z ADC odczytuje 235 dziele przez 10 i wychodzi 23.4999999
mam 231 /10 = 23.199999 lub 23.999999

od czego to zalezy jak poprawnie "przesunac" przecinek

z gory dzieki za pomoc

Guru
-
-
Posty:250
Rejestracja:30 cze 2003, o 13:26
Lokalizacja:Kraków

Dzielenie przez 0Ah

Postautor: Guru » 17 lut 2004, o 20:14

Nie ty nie dzielisz przez 10 tylko przez 0Ah, a to już inna sprawa i nie można tak prosto na ten temat udzielić odpowiedzi. Jeżeli cię to bardzo interesuje to proszę przeczytaj sobie coś o przedstawianiu ułamkowych liczb w kodzie hexadecymalnym, lub też binarnym. Dla ułatwienia powiem że jedynki w kodzie binarnym po przecinku mają wagi 1/2^n gdzie n pozycja jedynki licząc od strony przecinka. Tak więc 0,0101 = 1/4 + 1/16 a dzielenie przez 0Ah to jeszcze bardziej skomplikowana sprawa.

Wróć do „Projektowanie PCB, programy EDA, CAD, narzędziowe”

Kto jest online

Użytkownicy przeglądający to forum: Obecnie na forum nie ma żadnego zarejestrowanego użytkownika i 30 gości