关于角度转换

renzhao_liu · 发表于 2019-3-12 08:40:43

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要登录才可以下载或查看，没有账号？立即注册

×

xdrx_api中有个角度转换函数xdrx_math_DMSToDEG，有些情况下转换出来的角度不正确。如(xdrx_math_DMSToDEG 120.30)，结果应该是120.50，但该函数的转换结果是120.511。研究其原因是取小数时由于双精度保存的值不正确。如果将其加入一个很小的正数就是对的，例如(xdrx_math_DMSToDEG （+ 120.30 0.0000000001)，结果就是120.5

renzhao_liu · 发表于 2019-3-12 08:42:58

当然这种情况下转换弧度肯定也是不正确的。

账号		自动登录	找回密码
密码			立即注册

[研讨] 关于角度转换

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。