声明:以下为笔者阅读gbase官方文档和oracle官方文档的理解,如有错误,敬请指正。
边界范围使用数据类型 | oracle | gbase |
---|---|---|
最大精度126位 | FLOAT/NUMBER | DECIMAL |
单精度浮点数数据类型 | BINARY_FLOAT | smallfloat |
双精度浮点数数据类型 | BINARY_DOUBLE | FLOAT |
下面首先回忆一下精度、定点、浮点的定义,然后再来看oracle、gbase的官方文档。
单精度和双精度是计算机中用于表示浮点数的两种不同精度的格式。
单精度(Single Precision):单精度浮点数使用32位(4个字节)来存储一个浮点数。它包括一个符号位(用于表示正负)、8位指数和23位尾数。单精度提供大约7位有效数字的精度。
双精度(Double Precision):双精度浮点数使用64位(8个字节)来存储一个浮点数。它包括一个符号位、11位指数和52位尾数。双精度提供大约15-16位有效数字的精度,比单精度更高。
主要区别:
精度: 双精度提供比单精度更高的精度,因为它使用更多的位来表示数字。这使得双精度能够处理更大范围的数值,并提供更高的精确度。
存储需求: 双精度使用的存储空间是单精度的两倍,因此在存储大量数据时,双精度需要更多的内存空间。
计算速度: 在某些情况下,单精度计算可能比双精度计算速度更快,因为它涉及更少的位数和更简单的计算。
选择使用单精度还是双精度通常取决于对精度和内存使用的要求。如果需要更高的精度或者处理非常大或非常小的数值范围,双精度可能更适合。而如果对精度要求不高,但需要节省内存,那么单精度可能更合适。
定点数和浮点数是计算机表示数据的两种不同方式。定点数的小数点位置在计算机的存储中是约定好的,这意味着小数位为固定十进制数,而浮点数的小数位则随2的几次幂的大小而浮动。例如,8位定点数可以表示的范围是-16.00~15.875,其最大精度为0.125。
将浮点数转换为定点数的操作包括:首先计算 b = a * 2^F(a为浮点数,F为小数部分字长),然后将b化为整数,最后用二进制将b表示成c。这种转换方法在可以接受精度损失的前提下,有可能提高运算效率。然而,一般而言,定点数的数值范围有限,要求的处理硬件比较简单。
精度是一个衡量测量结果与真实值接近程度的概念,它反映的是误差的大小。如果误差小,则精度高;反之,如果误差大,则精度低。在计算机科学中,精度也用于表示数值的最小度量单位,例如,GPS的精度为0.1m,表示这个GPS最小能识别0.1m的位置差异。同时,精度还被用来描述计算机中小数点前后的总位数,如单精度和双精度分别表示精确到小数点后几位。然而,需要注意的是,仪器的精度并不能完全反映其准确度。
NUMBER
数据类型用于存储可能为负值或正值的数值。
数据类型存储定点数和浮点数。精度 38 位有效数字。
NUMBER(p, s):
Oracle FLOAT
数据类型是NUMBER
数据类型的子类型。FLOAT(b):用于存储浮点数,范围从-1.79E+308到1.79E+308。FLOAT
的最大精度是126
。二进制精度的最大126
位数,大致等于十进制数位数的38
位数。
BINARY_FLOAT是 32 位单精度浮点数数据类型。每个值需要 5 个字节,包括一个长度字节。
BINARY_FLOAT
BINARY_DOUBLE是 64 位双精度浮点数数据类型。每个值需要 9 个字节,包括一个长度字节。
BINARY_DOUBLE
create table t2 (a binary_float,b binary_double);
insert into t2 values (3.141592653589,3.141592653589);
insert into t2 values (1023.141592653589,1023.141592653589);
insert into t2 values (1023.14159265358933333333,1023.14159265358933333333);
gbase应该是32位最长,oracle是38位
smallfloat:8位有效数字的单精度浮点数值
float/double:16位有效数字的双精度浮点数值。
建表时,在数据类型声明中接受precision参数,但是该参数对数据库服务器存储的值的实际精度不起作用。
create table t1 (a float,b smallfloat);
desc t1;
insert into t1 values (3.14,3.14);
insert into t1 values (3.1415926,3.1415926);
insert into t1 values (3.141592653589,3.141592653589);
insert into t1 values (1023.141592653589,1023.141592653589);
insert into t1 values (1023.14159265358933333333,1023.14159265358933333333);
select * from t1;
可以看出 smallfloat超过8位有效数字会截断
可以看出指定该参数对数据库服务器存储的值的实际精度不起作用。
查看计算后小数位数是decimal类型