Resolution & Accuracy
Etc / 2008. 1. 28. 14:37
Tester 의 Specification 을 보면 Resolution 과 Accuracy 가 나오는데,
초보자들에게는 이해하는 데 어려움이 있는 듯 하다.
예를 들면 Specification 이 다음과 같이 주어졌다.
| Current Range |
Measurement Range |
Resolution | Measurement Accuracy |
Current Limitation |
| 8uA | 0A to +/-6uA | 2nA | +/-(0.5% + 6nA + 1nA/V) | 0.999mA |
| 80uA | 0A to +/-60uA | 20nA | +/-(0.2% + 40nA + 10nA/V) | 0.999mA |
8uA range 를 선택하면 6uA~-6uA 까지 측정할 수 있다.
이 range 에서 Current Clamp 는 0.999mA 이다.
Resolution 는 정밀도(해상도)를 뜻하고 2nA 이므로, 측정값의 step 은 2nA 단위이다.
예를 들면, 10nA 혹은 12nA 가 측정될 수 있으나, 11nA 혹은 10.5nA 가 측정되지는 않는다.
이 것을 bit 수로 본다면 전체range/resolution = 12uA/2nA = 6000 = 약 13bits 가 된다.
Accuracy 는 정확도이다.
측정하고자 하는 PIN에 1V 의 전압을 가하여 20nA 가 측정되었다고 하면,
오차는 MAX 20nA*0.5% + 6nA + 1nA = 7.1nA 가 되므로 약 13nA~27nA 의 값이 측정된 것이다.
이 것을 bit 수로 본다면 Accuracy 는 12uA/6nA = 약 11bits 가 된다.
http://cafe.naver.com/semicontest.cafe?iframe_url=/ArticleRead.nhn%3Farticleid=40
'Etc' 카테고리의 다른 글
| kmp tip(꼭 알아야 할것 ) (0) | 2008.05.13 |
|---|---|
| HD 고화질 동영상 재생의 모든것(H264 TP TS AVC등) (0) | 2008.05.07 |
| HHD(Hybrid Hard Disk)에 대해서 (0) | 2008.04.21 |
| 그래픽카드 DVI 단자 종류에 대한 설명 (0) | 2008.03.30 |
| LCD 패널에 관한 설명 (0) | 2008.03.29 |
| 매트랩 강의 블로그 (0) | 2008.01.23 |
| 매트랩, 주파수분석관련 (0) | 2008.01.23 |
| 10의 지수(Power of 10) (0) | 2008.01.20 |
| unsigned int 음수 결과 (0) | 2008.01.17 |
| 춤추는 대수사선 보는 순서 (0) | 2008.01.12 |