编码器分辨率和精度不一定相等。 精度由刻线、编码器机械同心度、读数响应速度、温度特性等因素决定。 如果一个编码器的正弦槽段分辨率很高，那么它的精度并没有提高，细分只会提高分辨率。 细分前后的精度没有变化，所以一些高分辨率编码器的精度取决于之前的刻线数。
在细分前划线的精度是多少，或者细分后的精度是多少，所以一些高分辨率编码器的精度取决于前刻线线是多少再细分。 绝对编码器数字代表码盘码数，因为是在二进制码盘中（格雷码是一样的），所以变成了二的几方次方精度，比如12，也就是4096，二的12次方。
