问题标签 [scientific-notation]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
42368 浏览

c# - 在 C# 中从科学计数法字符串转换为浮点数

使用 C# 从科学计数法字符串(例如“1.234567E-06”)转换为浮点变量的正确方法是什么?

0 投票
3 回答
7323 浏览

ms-access - 在 Access 2007 CSV 导出中:禁用科学记数法

从 Access 2007 导出 CSV 时,它会自动将小数转换为科学记数法。

不幸的是,接收它们的工具将这些字段视为文本,并按原样显示它们。

导出的值来自针对某些 Excel 链接表运行的查询,它们完美地显示在查询视图中。

有什么办法可以禁用自动转换为科学计数法。

即,如果它在查询中显示为 0.007,它将在输出 csv 中显示为 0.007 而不是 7E3?

注意:我只能为此使用 Excel 和 Access。尽管我很想切换到 SQL Server,但如果我把它放在她的工作笔记本电脑上,我妻子会不高兴的!

0 投票
4 回答
30828 浏览

regex - 合理地解析科学记数法?

我希望能够编写一个函数,它接收科学计数法中的数字作为字符串,并将系数和指数拆分为单独的项目。我可以只使用正则表达式,但传入的数字可能没有被规范化,我希望能够规范化然后将部分分解。

一位同事使用 VB6 获得了解决方案的一部分,但它并不完全存在,如下面的成绩单所示。

应该是 1 和 6

正确的

正确的

应该是 -1.233456 和 -2

正确的

有任何想法吗?顺便说一下,Clive 是一个基于 VBScript 的 CLI,可以在我的博客上找到。

0 投票
8 回答
984 浏览

c - 为什么在 c 中定义的常量末尾使用'e0'?

我正在尝试调试调用某些 c 程序进行文本编辑的 perl 应用程序的问题。

BATCH_JV_CSH_MAX 用于测试金额字段的最大值。如果金额超过 99,999,999.99,则当前指示错误。应该接受高达 999,999,999.99 的值。好吧,无论如何,这就是文档中所述的内容。

它在包含文件中:

我还不知道这个程序是如何工作的。它可能会去除除数字以外的任何值并连接字符。在继续之前,我想知道金额末尾的“e0”是什么意思。在我决定询问这个小组之前,我在 Safari 中的几本 c 编程书籍中进行了文本搜索。

此值在错误消息中打印,因此 '999999999' 比 1e9 更有意义

该值的使用方式如下:

get_tot_amt1() 获取一个值 tot_amt1,该值已在另一个 c 程序中计算。它是“静态双”。

是的,我有很多工作要做。这是读取以空格分隔的记录并写出固定格式记录的过程的一部分。

谢谢。凯茜

0 投票
1 回答
2560 浏览

floating-point - 为什么在 SAS 中,科学计数法中的数字文字与明确写出的数字不同?

以下 SAS 代码:

在我的 Windows 机器上打印出:

虽然我知道只有前 15-16 位数字是可信的,但为什么它们给出不同的基础数字呢?SAS如何计算1e25?

编辑:我被要求提供 10 到 1e25 的其他幂的输出。以下程序:

给出以下输出:

0 投票
2 回答
17391 浏览

lua - 如何在不使用科学计数法的情况下在 Lua 中打印大量数字?

我正在处理 Lua 中的时间戳,显示自纪元以来的微秒数(例如“1247687475123456”)。

真的很想能够打印出那个可怕的数字,但是 Lua 坚持用科学计数法打印它。我已经搜索了有关打印格式化字符串的可用文档,但唯一可用的命令是“以科学记数法打印 (%e/%E)”和“如果数字很长 (%g),则自动以科学记数法打印” . 似乎没有可用的选项以正常形式打印该数字。

我意识到我可以编写一个函数来获取原始数字,除以 10 并循环打印数字,但这似乎很麻烦。当然有某种内置于语言中的方法吗?

0 投票
5 回答
19177 浏览

java - Java DecimalFormat 科学记数法问题

我正在使用 Java 的DecimalFormat类以科学记数法打印数字。但是,我有一个问题。无论值如何,我都需要字符串具有固定长度,并且十次方的符号将其丢弃。目前,这是我的格式:

这给了我以下组合:1.0E1、1.0E-1、-1.0E1 和 -1.0E-1。

我可以使用setPositivePrefix来获得:+1.0E1、+1.0E-1、-1.0E1 和 -1.0E-1,或者任何我喜欢的,但它不影响电源的符号!

有什么办法可以让我有固定长度的字符串吗?谢谢!

编辑:啊,所以没有办法使用 Java 现有的DecimalFormat API 来做到这一点?感谢您的建议!我想我可能不得不继承 DecimalFormat,因为我受到已经存在的接口的限制。

0 投票
5 回答
3984 浏览

c++ - 科学 ofstream 中的指数只有 2 位

因此,根据 cplusplus.com,当您通过以下方式将输出流的格式标志设置为科学计数法时

of.setf(ios::scientific)

您应该看到 3 位数字加号和指数中的符号。但是,我的输出中似乎只得到 2。有任何想法吗?使用 GCC 4.0.1 在 Mac OS 上编译。

这是我正在使用的实际代码:

和一个示例输出行:

谢谢

0 投票
2 回答
26956 浏览

c++ - 科学计数法 C++ 中的字符串到双重转换

我有一个充满双打的数据库,如下所示:

有人知道如何在 C++ 中将这样的数字转换为双精度数吗?

有没有一种“标准”的方式来做这种事情?还是我必须推出自己的功能?

现在我正在做这样的事情:

谢谢!

0 投票
3 回答
9100 浏览

python - Python 科学记数法使用 D 而不是 E

Fortran 程序生成的某些结果文件使用字母D而不是 来报告双精度数字(以科学计数法) E,例如:

我需要使用 Python 处理大量此类数据,我才意识到它无法读取D符号中的数字,例如:

我可以更改我的语言环境并让 Python 知道这D意味着E什么吗?我真的不想进行全局搜索和替换!