Чем более линеен выходной сигнал датчика, тем проще его откалибровать и минимизировать неопределенность при масштабировании выходного сигнала

Большинство датчиков с аналоговым выходным сигналом имеют общие характеристики, такие как линейность (или нелинейность), воспроизводимость и разрешающая способность; для них также указываются факторы окружающей среды, такие как рабочая температура, ускорение и вибрация, и динамические характеристики, такие как время отклика или полоса пропускания.

Все эти характеристики представляют пределы погрешностей либо указывают источники неопределенностей, искажающих идеализированную зависимость выходного сигнала датчика от входного воздействия. Многие из этих терминов довольно легко понять только по их определениям, но нелинейность не относятся к этой категории.

• Нелинейность определяется относительно прямой линии наилучшего соответствия, рассчитанной методом наименьших квадратов.
• Малая величина нелинейности датчика повышает точность измерений и облегчает калибровку системы.
• Погрешности, вызванные влиянием температуры, воспроизводимости, гистерезиса и разрешающей способности, также могут повлиять на линейность выходного сигнала.
• Величины погрешностей датчика складываются не арифметически, а векторно.
• Погрешность оборудования для калибровки датчика должна быть, как минимум, в десять раз ниже, чем требуемая нелинейность датчика.