PDA

View Full Version : چطور میشه روی یک رشته hex عملیات ریاضی انجام داد؟



coral
دوشنبه 20 مهر 1383, 11:29 صبح
سلام من یک رشته عددی در مبنای هگز دارم که می خواهم رویش عملیات ریاضی انجام بدهم اما در وی بی گویا نمی شود بر مبنای هگز تقسیم نمود.
من اونو به مبنای 10 که می برم overflow می دهد وعدد نهایی من را درست حساب نمی کند!!

vbprogramer
دوشنبه 20 مهر 1383, 12:26 عصر
سلام دوست عزیز
اگه درست به مبنای 10 برده بشه فکر نمی کنم مشکلی داشته باشه شاید مشکل از تبدیل مبنا و یا نوع متغییر شماست . آن را بزرگتر در نظر بگیرید شاید مشکلتان حل شود :)

mahdi_farhani
دوشنبه 20 مهر 1383, 13:29 عصر
اگه دیدی باز هم نشد از متغییر Vareint استفاده کن جواب میده

coral
دوشنبه 20 مهر 1383, 13:41 عصر
ببینید عدد هگز من این است Y257FZ4E , و بعد از تبدیل به کد اسکی این شده: 8950535570905269 و من باید ضرب وتقسیم هایم را روی این انجام بدهم

vbprogramer
دوشنبه 20 مهر 1383, 15:19 عصر
coral جان همانطور که دوست عزیزمان گفت از Vareint استفاده کن جواب میده
برای من که همان عدد شما جواب داد :)

coral
دوشنبه 20 مهر 1383, 15:30 عصر
ببین من از variant استفاده کردم موقعی که تقسیم می کنم آره درست کار می کنه یعنی: عدد اصلی من این است:
8950535570905269
اونو ثقسیم بر 982374 می کنم :
9111128318.64979 = 982374 / 8950535570905269
حاصل را دوباره در اون ضرب می کنم اما همان طور که می بینید دو عدد یکسان نمی شوند!!
8.95053557090527E+15 = 9111128318.64979 * 982374

coral
دوشنبه 20 مهر 1383, 15:31 عصر
من می خواهم که این دو عدد کاملا یکسان باشند

vbprogramer
دوشنبه 20 مهر 1383, 16:02 عصر
عزیز من همان عدد ها رو امتحان میکنم و درست جواب میده :متفکر:
مطمئن هستی جایی اشتباه نمی کنی؟
دو جواب دقیقاْ مثل هم هستند

Dim a As Variant
Dim b As Variant
a = 8.95053557090527E+15
b = a / 982374
Print b * 982374

coral
دوشنبه 20 مهر 1383, 16:22 عصر
نگا کنین عدد من 8950535570905269 است : ومن اون نماد علمی را نمی خوام داشته با شه

vbprogramer
دوشنبه 20 مهر 1383, 16:34 عصر
متوجه هستم ولی خودش برای من نماد علمی میگذاره من نمی گذارم
وقتی میروم خط بعدش عدد رو به نماد علمی مینویسه
چه کارش کنم ننویسه؟ :?:

coral
سه شنبه 21 مهر 1383, 08:13 صبح
مشکل من هم دقیقا همین بود