Messunsicherheiten - Seite 1/10
  • >
    • Messgröße bzw.
    Kalibriergegenstand    		Messbereich MessbedingungenMessunsicherheitBemerkungen
    Gleichspannung1 V  1,5 . 10-6U = jeweiliger
    Messwert
    1,018 V1,9 . 10-6
    10 V1,2 . 10-6
    Kalibrieren von
    Spannungsmessgeräten    		0 V  0,75 µV
    0 mV bis 2 mV 1,2 µV
    >2 mV bis 100 mV 0,86 · 10-3 · U
    >100 mV bis 220 mV 0,12 · 10-3 · U
    >220 mV bis 2,2 V 11 · 10-6 · U + 1 µV
    >2,2 V bis 11 V 13 · 10-3 · U
    >11 V bis 22 V 13 · 10-3 · U
    >22 V bis 220 V 14 · 10-3 · U+ 67 µV
    >220 bis 1100 V 23 · 10-3 · U + 0,3 mV
    >1100 V bis 40 kV 0,8 % . U
    Kalibrieren von
    Spannungsquellen    		0mVbis 2 mV direkte Messung0,6 µV
    >2 mV bis 10 mV   0,67 · 10-3 · U
    >10 mV bis 0,1 Vdirekte Messung 16 · 10-6 · U + 0,4 µV
    >0,1V bis 0,22 V Substitutionsmessung13 · 10-6 · U + 0,64 µV
    >0,22 V bis 1 Vdirekte Messung 9 · 10-6 · U + 1,8 µV
    > 1 V bis 10 Vdirekte Messung 9,6 · 10-6 · U + 2 µV
    >10 V bis 22 V Substitutionsmessung13 · 10-3 · U
    >22 V bis 100 Vdirekte Messung 12 · 10-6 · U + 32 µV
    >100 V bis 220 V Substitutionsmessung14 · 10-6 · U + 32 µV
    >220 V bis 1000 V Substitutionsmessung23 · 10-6 · U + 0,3 mV
    >1000 V bis 30 kV Substitutionsmessung1,5 % . U
    Gleichstromstärke
    Kalibrieren von
    Strommessgeräten    		0 A bis 1 pA mit Keithley 2630,03 pAI = jeweiliger
    Messwert
    >1 pA bis 20 pA 30 · 10-3 · I
    >20 pA bis 200 pA 10 · 10-3 · I
    >200 pA bis 20 nA5,2 · 10-3 · I
    >20 nA bis 10 µA0,34 · 10-3 · I
    10 µA bis 220 µA  71 · 10-6 · I + 9,1 nA
    >220 µA bis 2,2 mA 76 · 10-6 · I + 7,8 nA
    >2,2 mA bis 22 mA 76 · 10-6 · I + 7,8 nA
    >22 mA bis 220 mA0,11 · 10-3 · I
    220 mA bis 1 A0,12 ·10 -3 · I
    >1 A bis 2,2 A0,17 · 10 -3 · I
    >2,2 A bis 5 A 0,39 · 10-3 · I + 0,14 mA
    >5 A bis 10 A 0,34 · 10-3 · I + 0,41 mA
    >10 A bis 20 A0,39 · 10-3 · I
    10 A bis 150 A0,02%
    10A bis580A0,10%
    Kalibrieren von
    Stromquellen und
    Kalibratoren    		0 A bis <2 pA mit Keithley 6170,03 pA
    2 pA bis 20 pA 30 · 10-3 · I
    >20 pA bis 200 pA 21 · 10-3 · I
    >200 pA bis 20 nA6,1 · 10-3 · I
    >20 nA bis 200 nA3 · 10-3 · I
    >200 nA bis 10 µA2 · 10-3 · I
    10 µA bis 100 µA direkte Messung80 · 10-6 · I + 0,6 nA
    >100 µA bis 1 mA 45 · 10-6 · I + 4,5 nA
    >1 mA bis 10 mA 45 · 10-6 · I + 4,5 nA
    >10 mA bis 100 mA 56 · 10-6 · I + 0,5 µA
    >100 mA bis 3 A 0,16 · 10-3 · I + 10 µA
    1A bis 5 Amit Shunt 0,41 · 10-3 · I + 53 µA
    >5 A bis 10 A 0,34 · 10-3 · I + 0,41 mA
    >10 A bis 20 A0,39 · 10-3 · I
    10 A bis 300 A 1%