为什么 SQL Server 返回 0.759999 之类的数字，而 MySQL 返回 0.76？

Question

我有一个包含三列的 SQL Server 数据库表。例如，此列中的一个值可能是 0.76。这列名为“paramvalue”的数据定义为real。当我使用 pyodbc 模块命令时fetchall()，我得到一个像 0.7599999904632568 而不是 0.76 的数字。我正在使用 Visual Studio 2017 和 Visual Studio 的 Python 工具。我也尝试过 pypyodbc 模块，但遇到了同样的问题。该表有三列，定义如下；pconfig_id [int] IDENTITY(41,1) NOT NULL,paramname  [nvarchar](50)       NOT NULL,paramvalue [real]                   NULL我的 Python 代码：import pyodbccnxn = pyodbc.connect('DRIVER={SQL Server};SERVER=SERVERNAME;DATABASE=DBNAME;UID=USER;PWD=PASSWORD;Connect Timeout=15')cursor = cnxn.cursor()dict = {}rows = cursor.execute("SELECT * FROM mytable")for row in cursor.fetchall() :    if not row[1] in dict.keys():        dict[row[1]] = {}        dict[row[1]][row[2]] = row[0]在上面的示例中，典型行的 row[2] 的值是 0.7599999904632568，而不是预期的 0.76。

Answer 1

我应该提到这个数据库是从 MySQL 数据库迁移而来的，在这种情况下，类型是浮点数。当我使用 MySQLdb 模块从该 MySQL 表中获取数据时，它按预期输入为 0.76。

这不是由 pyodbc 引起的问题。MySQL 和 MSSQL 的区别在于浮点数的显示方式。

0.76 不是一个可以精确表示为 32 位浮点（“单精度”）值的值。正如这个网站（和其他网站）会告诉你的那样，这个数字的最准确表示是 7.599999904632568359375E-1，所以这就是两个数据库存储的内容（内部表示为 0x3F428F5C）。

检索值时，MSSQL 返回写入数据库的实际值。这就是为什么它返回为 0.7599999904632568。

另一方面，MySQL 返回表示浮点值的最短字符串，这将导致给定的存储值。如文档中所述：

F -> D 转换以尽可能高的精度完成，将 D 作为最短字符串返回，当读回并四舍五入到 IEEE 指定的本机二进制格式中的最接近值时产生 F。

因此，MySQL 往返 0.76，因为它恰好是对应于内部表示为 0x3F428F5C 的浮点值的最短值。这可以通过使用非常接近 0.76 但不完全相等的数字进行测试来说明：

is_mssql = (cnxn.getinfo(pyodbc.SQL_DRIVER_NAME) == 'msodbcsql17.dll')

crsr = cnxn.cursor()

test_value = '0.7599999905'

if is_mssql:

    crsr.execute("CREATE TABLE #foo (x real)")

    crsr.execute(f"INSERT INTO #foo (x) VALUES ('{test_value}')")

    result = crsr.execute("SELECT x FROM #foo").fetchval()

else:

    crsr.execute("CREATE TEMPORARY TABLE foo (x float(23))")

    crsr.execute(f"INSERT INTO foo (x) VALUES ('{test_value}')")

    result = crsr.execute("SELECT x FROM foo").fetchval()

print(f'{"MSSQL" if is_mssql else "MySQL"} returned {result}')

即使 0.7599999905 是“实际”值，MySQL 仍然返回 0.76，MSSQL 仍然返回 0.7599999904632568。

Answer 2

这是由于四舍五入 -Real类型是近似的。

https://docs.microsoft.com/en-us/sql/t-sql/data-types/float-and-real-transact-sql?view=sql-server-2017