Resolution & Accuracy

Tester 의 Specification 을 보면 Resolution 과 Accuracy 가 나오는데,

초보자들에게는 이해하는 데 어려움이 있는 듯 하다.

예를 들면 Specification 이 다음과 같이 주어졌다.

Current Range	Measurement Range	Resolution	Measurement Accuracy	Current Limitation
8uA	0A to +/-6uA	2nA	+/-(0.5% + 6nA + 1nA/V)	0.999mA
80uA	0A to +/-60uA	20nA	+/-(0.2% + 40nA + 10nA/V)	0.999mA

8uA range 를 선택하면 6uA~-6uA 까지 측정할 수 있다.

이 range 에서 Current Clamp 는 0.999mA 이다.

Resolution 는 정밀도(해상도)를 뜻하고 2nA 이므로, 측정값의 step 은 2nA 단위이다.

예를 들면, 10nA 혹은 12nA 가 측정될 수 있으나, 11nA 혹은 10.5nA 가 측정되지는 않는다.

이 것을 bit 수로 본다면 전체range/resolution = 12uA/2nA = 6000 = 약 13bits 가 된다.

Accuracy 는 정확도이다.

측정하고자 하는 PIN에 1V 의 전압을 가하여 20nA 가 측정되었다고 하면,

오차는 MAX 20nA*0.5% + 6nA + 1nA = 7.1nA 가 되므로 약 13nA~27nA 의 값이 측정된 것이다.

이 것을 bit 수로 본다면 Accuracy 는 12uA/6nA = 약 11bits 가 된다.

http://cafe.naver.com/semicontest.cafe?iframe_url=/ArticleRead.nhn%3Farticleid=40