问题标签 [decimal]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
12 回答
63468 浏览

c# - 如何在 C# 中将 Decimal 转换为 Double?

我想用 aTrack-Bar来改变 aForm的不透明度。

这是我的代码:

当我构建应用程序时,它给出了以下错误:

我曾尝试使用transand double,但随后Control不起作用。此代码在过去的 VB.NET 项目中运行良好。

0 投票
20 回答
398294 浏览

c# - 如何在十六进制和十进制之间转换数字

如何在 C# 中转换十六进制数和十进制数?

0 投票
6 回答
8348 浏览

python - 十进制模块中的有效数字

所以我决定尝试通过编写一些python脚本来解决我的物理作业来为我解决问题。我遇到的一个问题是重要的数字似乎并不总是正确地出现。例如,这可以正确处理有效数字:

但这不会:

所以两个问题:

  1. 我是对的,这不是预期的有效数字数量,还是我需要复习有效数字数学?
  2. 有什么方法可以做到这一点而不必手动设置小数精度?当然,我确信我可以使用 numpy 来做到这一点,但我只是想知道是否有一种方法可以使用 decimal 模块来做到这一点。
0 投票
5 回答
4176 浏览

java - 用Java表达Excel公式(十进制到时间的解释)

我正在将 excel 工作表公式转换为 java,但我不明白 excel 如何设法采用以下公式:0.22 应用公式:=TEXT(R5/14, "h:mm") 并以某种方式得出:0.22

如果我再次提供: 2.8 它到达 4.48 有人可以向我解释它是如何做到的。我已经阅读了一些关于十进制的内容并且我理解转换,但这还没有帮助解释上述内容。

0 投票
37 回答
1913107 浏览

java - 如何在Java中将数字四舍五入到n位小数

我想要的是一种将双精度数转换为使用半数方法四舍五入的字符串的方法 - 即,如果要四舍五入的小数是 5,它总是向上舍入到下一个数字。这是大多数人在大多数情况下所期望的标准舍入方法。

我也希望只显示有效数字 - 即不应该有任何尾随零。

我知道这样做的一种方法是使用以下String.format方法:

返回:

这很好,但是它总是显示带有 5 位小数的数字,即使它们不重要:

返回:

另一种方法是使用DecimalFormatter

返回:

但是,如您所见,这使用了半偶数舍入。也就是说,如果前一个数字是偶数,它将向下舍入。我想要的是这样的:

在 Java 中实现这一目标的最佳方法是什么?

0 投票
18 回答
1258712 浏览

c# - 如何将十进制值显示到小数点后 2 位?

当前使用 显示小数的值时.ToString(),精确到小数点后 15 位,由于我用它来表示美元和美分,所以我只希望输出为小数点后 2 位。

.ToString()是否为此使用了一个变体?

0 投票
3 回答
36107 浏览

jsf - 在 JSF 中格式化双精度

我有一个与此处发现的问题类似的问题:JSF selectItem label formatting

我想要做的是接受一个双精度值作为我的值并用两位小数显示。这可以通过简单的方式完成吗?

我尝试过使用,但这似乎适用于发送到服务器的 inputText 的值,而不是输入字段中的初始值。

到目前为止我的代码:

编辑:上面的代码确实有效。我被 JDeveloper 愚弄了,即使我对项目进行了显式重建并重新启动了嵌入式 OC4J 服务器,它也没有更新 jsp 页面。但是,重新启动计算机后,一切都很好。

0 投票
4 回答
4942 浏览

c# - How can I Convert a Big decimal number to Hex in C# (Eg : 588063595292424954445828)

The number is bigger than int & long but can be accomodated in Decimal. But the normal ToString or Convert methods don't work on Decimal.

0 投票
3 回答
12615 浏览

vb.net - 在 VB.Net 中将 byte() 数组转换为 double

我有这种情况。我有一个真实的存储在 sql 2005 数据库的 varbinary 字段中。由于我无法在 sql 2005 中将 varbinary 转换为实数,因此我正在尝试在 vb.net 中执行此操作。

该字段作为 byte() 数组存储在 DataTable 中。

现在我想将该 byte() 读入一个双精度或十进制变量。但我对如何做到这一点没有太多线索......

0 投票
7 回答
1716 浏览

language-agnostic - 使用 Decimal 与 double 的应用程序。.

我想看看人们是否在金融应用程序中使用十进制而不是双精度。我见过很多人到处使用 double 并产生意想不到的后果。.

您是否看到其他人犯了这个错误。. .