Ansichten:

Frage:  

Ist dieses Messgerät genau genug - und/oder - wird dieses Messgerät einen ausreichend kleinen Wert anzeigen?


Antwort:  

Es gibt ein allgemeines Messprinzip, das besagt, dass ein Messgerät für eine genaue Messung eine Auflösung haben sollte, die zehnmal größer ist als der erforderliche Messwert.
Um zum Beispiel 1 cm genau zu messen, sollte ein Lineal 1 mm auflösen (bzw. anzeigen). 
In der Praxis kann dies das auch das Vierfache sein, aber bei digitalen Messgeräten geht die Auflösung in Zehnerschritten.

Ein Beispiel: Der niedrigste Messbereich eines bestimmten Messgeräts ist 320,0 mV (Auflösung 0,1 mV). Der niedrigste Wert, den ein zufällig ausgewähltes Messgerät genau messen sollte, ist 1 mV. 
Es können auch Werte unter 1 mV angezeigt werden, aber die Art und Weise, wie dieser Messwert verwendet wird, bestimmt, ob die Toleranz für den Messwert akzeptabel ist.

Bei einem spezifischen Wert von 0,5 mV beträgt die Genauigkeitsspezifikation ±0,1 mV, wobei die Art und Weise, wie dieser Wert verwendet wird, darüber entscheidet, wie relevant er ist. 
In Wirklichkeit wird ein "unbekannter" Wert von nominal 0,5 mV gemessen, aber das Messgerät kann nur 0,4 mV oder 0,5 mV oder 0,6 mV anzeigen, was einer Abweichung von 20 % entspricht.