1、小数的由来自魏晋时代的刘徽。他在计算圆周率的过程中，用到尺、寸、分、厘、毫、秒、忽等7个单位；对于忽以下的更小单位则不再命名，而统称为“微数”。
2、到了宋、元时代，小数概念得到了进一步的普及和更明确的表示。杨辉《日用算法》(1262年)载有两斤换算 的口诀：“一求，隔位六二五；二求，退位一二五”，即1/16=0.0625；2/16=0.125。
3、这里的“隔位”、“退位”已含有指示小数点位置的意义。秦九韶则将单位注在表示整数部分个位的筹码之下，例如： —Ⅲ—Ⅱ表示13.12寸 寸是世界上最早的小数表示法。