问题标签 [numerical]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
4037 浏览

matlab - Matlab分数到浮点

在具有一个变量的方程上使用“求解”函数后,Matlab 似乎不喜欢使用浮点数。所以,我的回答是

而且我不确定将其转换为可理解的小数的最佳方法是什么。到目前为止我最好的方法是

(对于那些跟踪的人来说,这给了我-0.5002),但我对这个解决方案并不满意。

任何人都可以提出更好的建议吗?

0 投票
7 回答
87409 浏览

floating-point - 在 16、32 和 64 位 IEEE-754 系统中可以表示什么范围的数字?

我对浮点数的表示方式略知一二,但恐怕还不够。

一般的问题是:

对于给定的精度(出于我的目的,以 10 为基数的精确小数位数),对于 16、32 和 64 位 IEEE-754 系统可以表示什么范围的数字?

具体来说,我只对精确到 +/-0.5(个位)或 +/-0.0005(千分位)的 16 位和 32 位数字的范围感兴趣。

0 投票
12 回答
46370 浏览

c# - 如何确定一组值的标准偏差 (stddev)?

我需要知道与一组数字相比的数字是否在平均值的 1 stddev 之外,等等。

0 投票
8 回答
1620 浏览

c++ - 最准确的线交点坐标计算与浮点数?

我正在计算给定横坐标 x 线上的点的纵坐标 y。该线由其两个端点坐标 (x0,y0)(x1,y1) 定义。端点坐标是浮点数,必须以浮点精度进行计算才能在 GPU 中使用。

数学以及因此幼稚的实现是微不足道的。

让 t = (x - x0)/(x1 - x0),然后 y = (1 - t) * y0 + t * y1 = y0 + t * (y1 - y0)。

问题是当 x1 - x0 很小时。结果将引入取消错误。当与 x - x0 之一结合时,在除法中,我预计 t 会出现重大错误。

问题是是否存在另一种更准确地确定 y 的方法?

即我应该先计算 (x - x0)*(y1 - y0),然后除以 (x1 - x0) 吗?

y1 - y0 的差异总是很大。

0 投票
2 回答
778 浏览

numerical - ZHEEV 和 ZHEEVD 的精度

我正在使用 LAPACK 对复杂的 Hermitian 矩阵进行对角化。我可以在 ZHEEV 和 ZHEEVD 之间进行选择。对于大小为 40 的矩阵和从 1E-2 到 1E1 的一系列特征值,这些例程中的哪一个更准确?

0 投票
2 回答
602 浏览

haskell - 如何处理“推断类型的多态性低于预期”?

我需要 Numeric.FAD 库,尽管它仍然完全被存在类型所迷惑。

这是代码:

error' 在 Reader monad 中运行,由 diff_op 运行,然后生成一个匿名函数来获取当前的 NetworkState 和来自 FAD.grad 的差分输入,并将它们填充到 Reader 中。

Haskell 让我对以下内容感到困惑:

0 投票
3 回答
1966 浏览

haskell - Haskell 64 位数字类型

我正在用 Haskell 编写一个函数来处理超过 32 位 int 长度的数字。我找不到执行此操作的类型,而且我似乎在寻找错误的术语。

它需要能够保存长度约为 2^40 的数字而不会损失任何精度

例子:

0 投票
2 回答
531 浏览

c - GCC 使用 -O0 和 -O2 给出不同的数值结果

我正在使用 4.1.2。有人对我的代码中最好看的地方有任何想法吗?有常见原因的经验?我正在努力消除一些丑陋的指针转换(即 d = (double) (* (float *) p),其中 p 是指向 int 的指针),但还没有运气。
对于它的价值,-O0 给出了正确的答案。谢谢你的帮助。

0 投票
2 回答
6992 浏览

java - Java 的 QP 求解器

我正在寻找一种易于使用的基于 Java 的二次规划 (QP) 求解器。

谷歌搜索我发现了 ojAlgo ( http://ojalgo.org )。

但是,我想知道是否还有其他/更好的选择。

0 投票
2 回答
191 浏览

.net - 是否有任何 .NET 图形计算库?

我想找一个计算库而不是绘图库来帮助我做一些图形计算,比如贝塞尔的长度、贝塞尔的点或其他元数据。

有这样的图书馆吗?