问题标签 [numerical]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
matlab - Matlab分数到浮点
在具有一个变量的方程上使用“求解”函数后,Matlab 似乎不喜欢使用浮点数。所以,我的回答是
而且我不确定将其转换为可理解的小数的最佳方法是什么。到目前为止我最好的方法是
(对于那些跟踪的人来说,这给了我-0.5002),但我对这个解决方案并不满意。
任何人都可以提出更好的建议吗?
floating-point - 在 16、32 和 64 位 IEEE-754 系统中可以表示什么范围的数字?
我对浮点数的表示方式略知一二,但恐怕还不够。
一般的问题是:
对于给定的精度(出于我的目的,以 10 为基数的精确小数位数),对于 16、32 和 64 位 IEEE-754 系统可以表示什么范围的数字?
具体来说,我只对精确到 +/-0.5(个位)或 +/-0.0005(千分位)的 16 位和 32 位数字的范围感兴趣。
c# - 如何确定一组值的标准偏差 (stddev)?
我需要知道与一组数字相比的数字是否在平均值的 1 stddev 之外,等等。
c++ - 最准确的线交点坐标计算与浮点数?
我正在计算给定横坐标 x 线上的点的纵坐标 y。该线由其两个端点坐标 (x0,y0)(x1,y1) 定义。端点坐标是浮点数,必须以浮点精度进行计算才能在 GPU 中使用。
数学以及因此幼稚的实现是微不足道的。
让 t = (x - x0)/(x1 - x0),然后 y = (1 - t) * y0 + t * y1 = y0 + t * (y1 - y0)。
问题是当 x1 - x0 很小时。结果将引入取消错误。当与 x - x0 之一结合时,在除法中,我预计 t 会出现重大错误。
问题是是否存在另一种更准确地确定 y 的方法?
即我应该先计算 (x - x0)*(y1 - y0),然后除以 (x1 - x0) 吗?
y1 - y0 的差异总是很大。
numerical - ZHEEV 和 ZHEEVD 的精度
我正在使用 LAPACK 对复杂的 Hermitian 矩阵进行对角化。我可以在 ZHEEV 和 ZHEEVD 之间进行选择。对于大小为 40 的矩阵和从 1E-2 到 1E1 的一系列特征值,这些例程中的哪一个更准确?
haskell - 如何处理“推断类型的多态性低于预期”?
我需要 Numeric.FAD 库,尽管它仍然完全被存在类型所迷惑。
这是代码:
error' 在 Reader monad 中运行,由 diff_op 运行,然后生成一个匿名函数来获取当前的 NetworkState 和来自 FAD.grad 的差分输入,并将它们填充到 Reader 中。
Haskell 让我对以下内容感到困惑:
haskell - Haskell 64 位数字类型
我正在用 Haskell 编写一个函数来处理超过 32 位 int 长度的数字。我找不到执行此操作的类型,而且我似乎在寻找错误的术语。
它需要能够保存长度约为 2^40 的数字而不会损失任何精度
例子:
c - GCC 使用 -O0 和 -O2 给出不同的数值结果
我正在使用 4.1.2。有人对我的代码中最好看的地方有任何想法吗?有常见原因的经验?我正在努力消除一些丑陋的指针转换(即 d = (double) (* (float *) p),其中 p 是指向 int 的指针),但还没有运气。
对于它的价值,-O0 给出了正确的答案。谢谢你的帮助。
.net - 是否有任何 .NET 图形计算库?
我想找一个计算库而不是绘图库来帮助我做一些图形计算,比如贝塞尔的长度、贝塞尔的点或其他元数据。
有这样的图书馆吗?