블로그 이미지
짱의 꽁기꽁기 월드입니다 ㅎ Baracuda

카테고리

분류 전체보기 (4858)
Days of my life (45)
좋은 글 좋은 생각 (93)
Cartoon~ (114)
Funny, HaHa (4450)
Music~ (6)
보울~~~링 (46)
Etc (59)
Private (13)
Utility (14)
XK2 (1)
Forte Koup (5)
Total
Today
Yesterday

Resolution & Accuracy

Etc / 2008. 1. 28. 14:37

Tester 의 Specification 을 보면 Resolution 과 Accuracy 가 나오는데,

초보자들에게는 이해하는 데 어려움이 있는 듯 하다.


예를 들면 Specification 이 다음과 같이 주어졌다.


Current
Range
Measurement
Range
Resolution Measurement
Accuracy
Current
Limitation
8uA 0A to +/-6uA 2nA +/-(0.5% + 6nA + 1nA/V) 0.999mA
80uA 0A to +/-60uA 20nA +/-(0.2% + 40nA + 10nA/V) 0.999mA


8uA range 를 선택하면 6uA~-6uA 까지 측정할 수 있다.

이 range 에서 Current Clamp 는 0.999mA 이다.

Resolution 는 정밀도(해상도)를 뜻하고 2nA 이므로, 측정값의 step 은 2nA 단위이다.

예를 들면, 10nA 혹은 12nA 가 측정될 수 있으나, 11nA 혹은 10.5nA 가 측정되지는 않는다.

이 것을 bit 수로 본다면 전체range/resolution = 12uA/2nA = 6000 = 약 13bits 가 된다.

Accuracy 는 정확도이다.

측정하고자 하는 PIN에 1V 의 전압을 가하여 20nA 가 측정되었다고 하면,

오차는 MAX 20nA*0.5% + 6nA + 1nA = 7.1nA 가 되므로 약 13nA~27nA 의 값이 측정된 것이다.

이 것을 bit 수로 본다면 Accuracy 는 12uA/6nA = 약 11bits 가 된다.



http://cafe.naver.com/semicontest.cafe?iframe_url=/ArticleRead.nhn%3Farticleid=40

Posted by Baracuda
, |