Messunsicherheiten - Seite 2/10
  • >
  • <
    • Messgröße bzw.
    Kalibriergegenstand    		Messbereich MessbedingungenMessunsicherheitBemerkungen
    Gleichstromwiderstand
    Kalibrieren von
    Widerstands­
    messgeräten    		 0,01 Ω 0,24 · 10-3 
    0,1 Ω0,12 · 10-3
    1 Ω; 1,9 Ω0,11 · 10-3
    10 Ω34 · 10-6
    19 Ω 33 · 10-6
    100 Ω; 190 Ω 22 · 10-6
    1 kΩ; 1,9 kΩ18 · 10-6
    10 kΩ17 · 10-6
    19 kΩ24 · 10-6
    100 kΩ26 · 10-6
    190 kΩ34 · 10-6
    1 MΩ; 1,9 MΩ0,10 · 10-3
    10 MΩ; 19 MΩ0,21 · 10-3
    100 MΩ0,42 · 10-3
    1 GΩ3,9 · 10-3
    10 GΩ4,8 · 10-3
    100 GΩ6,7 · 10-3
    Kalibrieren von
    Widerstands­
    messgeräten
    (Bereiche)    		 0,00001 Ω bis 0,01 Ω  1,2 · 10-2R = jeweiliger
    Messwert
    0,01 Ω bis 10 Ω4 · 10-3 · R + 0,13 mΩ
    >1 Ω bis 10 Ω 39 · 10-6 · R + 0,13Ω
    >10 Ω bis 100 Ω 11 · 10-6 · R + 1,6 m~
    >100 Ω bis 100kΩ 24 · 10-6 · R
    >100kΩ bis 1MΩ 48 · 10-6 · R
    >1MΩ bis 10MΩ 75 · 10-6 · R + 0,11 kΩ
    >10MΩ bis 100MΩ 0,72 · 10-3 · R
    Gleichstromwiderstand
    Kalibrieren von
    Widerständen    		> 0,01 mΩ bis 0,1Ω   0,13 · 10-3 · RR = jeweiliger
    Messwert
    > 0,1Ω bis 1Ω1 A 0,12 · 10-3 · R
    > 1Ω bis 10Ω  23 · 10-6 · R + 85 µΩ
    > 10Ω bis 100Ω 13 · 10-6 · R + 0,90 mΩ
    > 100Ω bis 1kΩ 14 · 10-6 · R + 0,70 mΩ
    > 1 kΩ bis 10 kΩ 13 · 10-6 · R + 6,8 mΩ
    > 10 kΩ bis 100 kΩ 15 · 10-6 · R + 50 mΩ
    > 100 kΩ bis 1MΩ 30 · 10-6 · R + 1,8 Ω
    > 1 MΩ bis 10 MΩ 75 · 10-6 · R + 0,10 kΩ
    > 10 MΩ bis 100 MΩ 0,61 · 10-3 · R + 1 kΩ
    > 100 MΩ bis 100 GΩ 20 · 10-3 · R
    1Ω mit HP 3458A 12 · 10-6
    1 kΩ4,4 · 10-6
    10 kΩ6,7 · 10-6