提供3000多款全球软件/控件产品
针对软件研发的各个阶段提供专业培训与技术咨询
根据客户需求提供定制化的软件开发服务
全球知名设计软件,显著提升设计质量
打造以经营为中心,实现生产过程透明化管理
帮助企业合理产能分配,提高资源利用率
快速打造数字化生产线,实现全流程追溯
生产过程精准追溯,满足企业合规要求
以六西格玛为理论基础,实现产品质量全数字化管理
通过大屏电子看板,实现车间透明化管理
对设备进行全生命周期管理,提高设备综合利用率
实现设备数据的实时采集与监控
利用数字化技术提升油气勘探的效率和成功率
钻井计划优化、实时监控和风险评估
提供业务洞察与决策支持实现数据驱动决策
翻译|使用教程|编辑:杨鹏连|2020-12-16 11:49:06.740|阅读 369 次
概述:在计算过程中,由于舍入误差,使用MONEY和SMALLMONEY数据类型可能会导致意外的精度损失。通常最好使用DECIMAL(又名NUMERIC)类型。
# 慧都年终大促·界面/图表报表/文档/IDE等千款热门软控件火热促销中 >>
相关链接:
SQL Prompt是一款实用的SQL语法提示工具。SQL Prompt根据数据库的对象名称、语法和代码片段自动进行检索,为用户提供合适的代码选择。自动脚本设置使代码简单易读--当开发者不大熟悉脚本时尤其有用。SQL Prompt安装即可使用,能大幅提高编码效率。此外,用户还可根据需要进行自定义,使之以预想的方式工作。
该MONEY数据类型混淆了它们的显示数据值的存储,但它的名字明确提示了排序它拥有的数据。它是SQL Server专有的,允许您指定货币值后加货币符号,但是SQL Server根本不存储任何带有实际数值的货币信息,因此其目的尚不清楚。
精度有限;基础类型是aBIGINT或(如果是SMALLMONEY,则是an)INT,因此由于舍入错误,您可能会无意间失去精度。尽管简单的加法或减法很好,但是可以对财务报告进行的更复杂的计算可能会显示错误。尽管MONEY数据类型通常占用较少的存储空间,并且在通过TDS通过网络发送时占用的带宽也较小,但是通常最好使用诸如theDECIMAL或NUMERICtype这样的数据类型,这种数据类型不太可能出现舍入错误或小数位溢出。
SQL Prompt(BP022)中的“最佳实践”代码分析规则中包含避免使用MONEY或SMALLMONEY数据类型的建议。
使用MONEY数据类型时的舍入错误
该MONEY和SMALLMONEY数据类型是精确到大约万分之一货币单位的,他们代表。SMALLMONEY在– 214,748.3648和214,748.3647MONEY之间准确,而在-922,337,203,685,477.5808(-922,337万亿)和922,337,203,685,477.5807(922,337万亿)之间准确。
尽管MONEY可以用货币符号表示,但不会存储此信息。在幕后,MONEY存储为整数数据类型。十进制数字(用于存储货币值的更常用的选择)的准确范围在-10 ^ 38 +1到10 ^ 38 – 1之间。
科学界可以容忍微小的舍入误差和误差幅度,但在金融领域,货币计算是对还是错。认为奇数美分或便士不值得担心是徒劳的。当我是一个错误的答案时,我一直被自己嘲笑。
以清单1中的计算为例,这是我能想到的最简单的计算方法。
DECLARE @MoneyTable TABLE (Total MONEY, Portion MONEY); INSERT INTO @MoneyTable (Total, Portion) VALUES ($271.00, $199.50), ($4639.00, $4316.00), ($8031.00, $7862.00), ($7558.00, $7081.00), ($9912.00, $9547.00), ($389.00, $179.00), ($4495.00, $4214.00), ($2844.00, $2398.00), ($265.67, $124.33), ($4936.56, $967.54); SELECT Portion, Total, (Portion / total)*100 AS Percentage FROM @MoneyTable清单1
结果如下:
DECLARE @MoneyTable TABLE (Total DECIMAL(19, 4), Portion DECIMAL(19, 4)); INSERT INTO @MoneyTable (Total, Portion) VALUES (271.00, 199.50), (4639.00, 4316.00), (8031.00, 7862.00), (7558.00, 7081.00), (9912.00, 9547.00), (389.00, 179.00), (4495.00, 4214.00), (2844.00, 2398.00), (265.67, 124.33), (4936.56, 967.54); SELECT Portion,Total, cast((Portion / Total) * 100 as numeric(19,2)) AS percentage FROM @MoneyTable清单2
这次,答案与我们在Excel中看到的答案相同:
下图显示了在做反向计算的结果,即在计算portion值,从total和percentage。我们无法根据使用数据类型(清单1)产生的值精确地计算出portion(或total),这一事实证实了这些百分比值中存在舍入误差。percentageMONEY
如果在使用值时尝试以经典方式计算相关性,则还会出现刻度溢出错误MONEY。如果您试图在许多行中找到货币价值与其他变量之间的关系,则存储在平方计算的中间和中的值会变得非常大。这将导致相关值错误。如果无法避免MONEY数据类型,那么最好使用内置的StDevP()聚合函数来获取相关性。
概要
基本上,在DECIMAL(aka NUMERIC)中使用小数点右边的位数尽可能多地进行计算是值得的,并且仅使用两个或三个小数位来显示结果。对于除加法或减法之外的所有运算所涉及的数据类型,小数点右边的四位数刻度并不总是足够的。在计算中也要注意“四舍五入”。
MONEY如果您知道所有约束和变通办法,例如可以NUMERIC在使用除法或乘法运算的计算中使用数据类型,或使用内置的聚合函数,则可以使其性能良好且准确。MONEY在内部使用整数,因此速度很快,并且通常使用较少的存储空间,特别适合作为TDS在网络上传输。但是,仅适用于专家。
试用下载>>>本站文章除注明转载外,均为本站原创或翻译。欢迎任何形式的转载,但请务必注明出处、不得修改原文相关链接,如果存在内容上的异议请邮件反馈至chenjj@pclwef.cn
文章转载自:Unity 是一款功能极其丰富的游戏引擎,允许开发人员将各种媒体集成到他们的项目中。但是,它缺少最令人兴奋的功能之一 - 将 Web 内容(例如 HTML、CSS 和 JavaScript)直接渲染到 3D 场景中的纹理上的能力。在本文中,我们将介绍如何使用 DotNetBrowser 在 Unity3D 中将 Web 内容渲染为纹理。
DevExpress v24.2帮助文档正式发布上线了,请按版本按需下载~
本教程将向您展示如何用MyEclipse构建一个Web项目,欢迎下载最新版IDE体验!
在处理电子表格时,尤其是在专业和数据导向型环境中,正确设置 Excel 单元格内的数字格式至关重要。本文将介绍如何使用 Spire.XLS for Java 设置 Excel 单元格的数字格式,帮助轻松创建精美且结构清晰的电子表格。
服务电话
重庆/ 023-68661681
华东/ 13452821722
华南/ 18100878085
华北/ 17347785263
客户支持
技术支持咨询服务
服务热线:400-700-1020
邮箱:sales@pclwef.cn
关注我们
地址 : 重庆市九龙坡区火炬大道69号6幢