JP3390407B2 - デジタルメータ及びそのゲイン誤差補正方法 - Google Patents

デジタルメータ及びそのゲイン誤差補正方法

Info

Publication number
JP3390407B2
JP3390407B2 JP2000138619A JP2000138619A JP3390407B2 JP 3390407 B2 JP3390407 B2 JP 3390407B2 JP 2000138619 A JP2000138619 A JP 2000138619A JP 2000138619 A JP2000138619 A JP 2000138619A JP 3390407 B2 JP3390407 B2 JP 3390407B2
Authority
JP
Japan
Prior art keywords
value
gain
gain constant
digital signal
adjustment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2000138619A
Other languages
English (en)
Other versions
JP2001317971A (ja
Inventor
重典 和田
Original Assignee
宮城日本電気株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 宮城日本電気株式会社 filed Critical 宮城日本電気株式会社
Priority to JP2000138619A priority Critical patent/JP3390407B2/ja
Publication of JP2001317971A publication Critical patent/JP2001317971A/ja
Application granted granted Critical
Publication of JP3390407B2 publication Critical patent/JP3390407B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Analogue/Digital Conversion (AREA)
  • Testing Or Calibration Of Command Recording Devices (AREA)
  • Measuring Instrument Details And Bridges, And Automatic Balancing Devices (AREA)

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は電流や電圧等の測定
値をデジタル表示するデジタルメータ及びそのゲイン誤
差補正方法に関し、特にデジタルメータのA−D変換器
で発生するゲイン誤差による表示値のずれを補正するデ
ジタルメータ及びそのゲイン誤差補正方法に関する。
【0002】
【従来の技術】一般にデジタルメータの基本構成は、図
4に示すように、検出器(図示せず)から出力される測
定信号S1を受けてデジタル信号D1に変換するA−D
変換器1と、A−D変換器1から出力されるデジタル信
号D1にゲイン定数を乗算して表示器3に測定値を表示
させる信号D2を出力するDSP部6(DSP:デジタ
ルシグナルプロセッサ)と、DSP部6から出力される
信号D2に応じて測定値をデジタル表示する表示器3
と、A−D変換器1のゲイン誤差を補正するためのゲイ
ン調整値N(Nは整数)を発生するゲイン調整値発生部
4と、調整終了時のゲイン定数Gaを記憶するメモリ5
とを備えている。
【0003】なお、測定信号S1は、図示しない検出器
によって検出された電圧や電流等の測定値を示すアナロ
グ信号である。
【0004】いま、この測定信号S1がA−D変換器1
によって、例えば16bitのデジタル信号D1に変換
される場合、デジタル信号D1の最上位ビットは正負符
号を示すビットとすれば、残り15ビットが測定値の絶
対値を示すことになる。従って、このデジタル信号D1
が示す最大値は2の15乗、すなわち、32768とな
る。
【0005】ここで、DSP部6に入力するデジタル信
号D1が最大値のときに、表示器3に所定桁数で最大値
を表示させるためには、入力デジタル信号D1が示す最
大値Dmとデジタル表示の最大値Mmとの比(ゲイン定
数と称する)に、測定時の入力デジタル信号を乗算し、
この乗算出力信号が示す値を表示器3に表示させればよ
い。すなわち、ゲイン定数をGmとすれば、Gm=(M
m/Dm)であり、入力するデジタル信号の値をDとす
れば、表示器に表示させるデジタル信号の値Mは、M=
Gm×Dとすればよい。
【0006】例えば、DSP部6に16bitのデジタ
ル信号が入力し、この信号の示す最大値Dmが3276
8を示したときに、表示器3に最大表示値Mmとして1
000(V)を表示させる場合は、ゲイン定数Gmは1
000/32768である。いま、測定時の入力デジタ
ル信号の値Dが16384であるならば、DSP部6
は、この入力デジタル信号の値Dにゲイン定数Gmを乗
じた値、16384×1000/32768=500を
求め、表示器に500(V)を表示させればよい。
【0007】ところで、一般にA−D変換器1はデジタ
ル変換に際してゲイン誤差が生じ、測定信号S1をデジ
タル信号に変換したとき、測定信号S1の示す測定値と
デジタル信号の示す値との間にずれが生じる。このよう
なゲイン誤差を補正する必要があるため、図4に示した
ように、ゲイン調整値発生部4および調整済ゲイン定数
を記憶するメモリ5を設けている。
【0008】従来、ゲイン誤差を補正する場合は、ゲイ
ン定数Gm=(Mm/Dm)の分子(Mm)にゲイン調
整値N(Nは整数)を加算してゲイン定数を調整するこ
とにより行っている。
【0009】いま、調整したゲイン定数をGaとすれ
ば、 Ga=((Mm+N)/Dm)=Gm+(N/Dm) ……(1)としている。
【0010】このゲイン調整値Nを発生するのがゲイン
調整値発生部4であり、ゲイン調整値Nの最小可変単位
を±1として、±1、±2、±3……となるように可変
させている。
【0011】式(1)で示したゲイン定数の調整は、D
SP部6において行っている。すなわち、DSP部6の
内部メモリにゲイン定数Gmを予め記憶させておき、デ
ジタルメータの調整段階において、実際に測定しようと
する測定値を示す測定信号S1をA−D変換器1に入力
し、A−D変換器1の出力デジタル信号(つまり、DS
P部への入力デジタル信号D1)をDSP部6に入力す
る。そして、表示器3に正しい値が表示されるようにゲ
イン調整値発生部4のゲイン調整値Nを変化させてゲイ
ン定数を調整し、調整終了時に調整済のゲイン定数Ga
をメモリ5に記憶させる。
【0012】調整後の通常の測定時には、調整済のゲイ
ン定数Gaをメモリ5から読み出し、このゲイン定数G
aを入力デジタル信号D1に乗算し、この乗算出力の値
を表示器3に所定桁数で数字表示させるための7セグメ
ント変換を行って表示器3に出力し、A−D変換器1の
ゲイン誤差が補正された値を表示器3に表示させてい
る。
【0013】ここで、表示器3に表示される値Mは、入
力するデジタル信号D1の値をDとすれば、 M=Ga×D=(Gm+(N/Dm))×D ……(2)となる。
【0014】
【発明が解決しようとする課題】上述したように従来
は、A−D変換器1のゲイン誤差を補正するために、デ
ジタルメータの調整段階において、DSP部6に入力す
るデジタル信号D1の示す最大値Dmと表示器3に表示
させる最大値Mmとの比であるゲイン定数Gmの分子M
mにゲイン調整値Nを加算し、表示器3に正しい値が表
示されるようにゲイン定数を調整している。
【0015】ところで、デジタルメータの調整時の入力
デジタル信号の値をDaとすれば、ゲイン調整値Nを変
化させたときの表示器に表示される値の変化は、式
(2)から、(N/Dm)×Da=N×(Da/Dm)
である。
【0016】いま、デジタルメータ調整時の入力デジタ
ル信号の値DaがDmに近い値である場合は、ゲイン調
整値Nを±1可変させたとき、表示器3に表示される値
もゲイン調整値Nと同じに±1変化する。
【0017】しかし、デジタルメータの調整時の入力デ
ジタル信号Daの値がDmよりも小さい場合には、(D
a/Dm)<1となるので、ゲイン調整値Nを±1変化
させても表示値の変化量は±1よりも小さくなり、表示
の最小桁が変化しないことがある。この場合には、ゲイ
ン調整値Nを更に大きく変化させなければならない。
【0018】このようにゲイン調整値Nを変化させてゲ
イン定数を調整するとき、調整時の入力デジタル信号の
値が小さい程、ゲイン調整値Nを大きく変化させなくて
はならないので、調整に時間がかかり操作性が悪いとい
う問題点を有している。
【0019】本発明の目的は、A−D変換器のゲイン誤
差を補正するため行うゲイン定数の調整において、調整
時の入力デジタル信号の値が小さい場合でも、調整時間
を短縮でき、操作性が向上して調整を容易にすることが
できるデジタルメータを提供することにある。
【0020】
【課題を解決するための手段】本発明のデジタルメータ
は、検出器から出力される測定値を示すアナログ信号を
A−D変換器によりデジタル信号に変換し、予め設定さ
れたゲイン定数を前記デジタル信号に乗算し、この乗算
結果が示す値を表示器にデジタル表示するデジタルメー
タにおいて、前記A−D変換器のゲイン誤差を補正する
ために前記ゲイン定数を調整するゲイン定数調整手段を
備え、このゲイン定数調整手段は、デジタルメータの調
整段階において、調整時の前記デジタル信号の値Daと
可変調整するゲイン調整値(N)(Nは整数)との比
(N/Da)に、前記デジタル信号の示す最大値(D
m)と前記表示器に表示させる最大値(Mm)との比で
ある予め設定されたゲイン定数(Gm=Mm/Dm)を
加算し、この値(Gm+(N/Da))を調整したゲイ
ン定数とする。
【0021】本発明のデジタルメータは、検出器から出
力される測定値を示すアナログ信号をデジタル信号に変
換するA−D変換器と、前記測定値をデジタル表示する
表示器と、前記A−D変換器からの入力デジタル信号に
ゲイン定数を乗算し前記表示器に乗算結果を表示させる
信号として出力するDSP部(デジタルシグナルプロセ
ッサ)とを備えるデジタルメータにおいて、前記DSP
部は、前記入力デジタル信号の示す最大値(Dm)と前
記表示器に表示させる最大値(Mm)との比であるゲイ
ン定数(Gm=Mm/Dm)を予め保持し、デジタルメ
ータの調整段階において、調整時の前記入力デジタル信
号の値(Da)と可変調整するゲイン調整値(N)(N
は整数)との比(N/Da)を演算し、この演算結果に
前記ゲイン定数(Gm)を加算した値を調整したゲイン
定数(Ga)とし、このゲイン定数(Ga)を前記入力
デジタル信号に乗算した結果を前記表示器に表示させ
る。
【0022】上記構成において、前記ゲイン調整値
(N)(Nは整数)を発生するゲイン調整値発生部と、
調整終了時に調整済のゲイン定数(Ga)を記憶するメ
モリとを具備し、前記DSP部は、前記表示器の表示値
が正しい値になるように前記ゲイン調整値(N)が調整
されたときの調整済の前記ゲイン定数(Ga)を前記メ
モリに記憶させる。
【0023】また、前記DSP部は、前記ゲイン定数
(Gm)を予め保持する内部メモリと、前記ゲイン調整
値発生部から出力される前記ゲイン調整値(N)および
前記内部メモリから出力される前記ゲイン定数(Gm)
並びに前記入力デジタル信号をそれぞれ受け前記A−D
変換器で生じるゲイン誤差を補正するように前記ゲイン
定数(Gm)を調整するゲイン定数調整回路と、調整時
には前記ゲイン定数調整回路から出力される調整された
ゲイン定数を選択し、通常の測定時には前記メモリから
読出された調整済の前記ゲイン定数を選択するスイッチ
と、このスイッチにより選択されたゲイン定数を前記入
力デジタル信号に乗算する乗算回路とを有する。
【0024】更に、前記ゲイン定数調整回路は、調整時
の入力デジタル信号(値はDa)と前記ゲイン調整値
(N)との比(N/Da)を算出する除算回路と、この
除算回路の出力に前記ゲイン定数Gmを加算して調整さ
れたゲイン定数(Ga=Gm+(N/Da))として出
力する加算回路と、調整終了時に前記加算回路から出力
される調整済のゲイン定数(Ga)を保持して前記メモ
リに記憶させる保持回路とを有する。
【0025】本発明のデジタルメータのゲイン誤差補正
方法は、検出器から出力される測定値を示すアナログ信
号をA−D変換器によりデジタル信号に変換し、予め設
定されたゲイン定数を前記デジタル信号に乗算し、この
乗算結果が示す値を表示器にデジタル表示するデジタル
メータにおける前記A−D変換器のゲイン誤差補正方法
であって、測定しようとする測定値を示す前記アナログ
信号を前記A−D変換器に入力したときの前記デジタル
信号の値(Da)と可変調整するゲイン調整値(N:整
数)との比(N/Da)を求め、前記デジタル信号の示
す最大値(Dm)と前記表示器に表示させる最大値(M
m)との比である予め設定されたゲイン定数(Gm=M
m/Dm)を前記(N/Da)に加算し、この加算した
値(Gm+(N/Da))に前記デジタル信号に乗算
し、この乗算結果が示す値が正しい値になるように前記
ゲイン調整値(N)を変化させてゲイン定数を調整する
ことを特徴とする。
【0026】
【発明の実施の形態】次に本発明について図面を参照し
て説明する。
【0027】図1は、本発明の一実施形態を示すブロッ
ク図であり、DSP部2を除いて、図4に示した基本構
成と同じであり、同じ構成要素には同一符号を付してあ
る。
【0028】すなわち、検出器(図示せず)から出力さ
れる測定信号S1をデジタル信号D1に変換するA−D
変換器1と、A−D変換器1から出力されるデジタル信
号D1にゲイン定数を乗算して表示器3に測定値を表示
させる信号D2を出力するDSP部2(DSP:デジタ
ルシグナルプロセッサ)と、DSP部2から出力される
信号D2に応じて測定値をデジタル表示する表示器3
と、A−D変換器1のゲイン誤差を補正するためのゲイ
ン調整値N(Nは整数)を発生するゲイン調整値発生部
4と、調整終了時に調整済のゲイン定数Gaを記憶する
メモリ5とを備えている。
【0029】なお、測定信号S1は、図示しない検出器
によって検出された電圧や電流等の測定値を示すアナロ
グ信号である。
【0030】また、DSP部2は、入力するデジタル信
号D1の示す最大値Dmと表示器3に表示させる最大値
Mmとの比であるゲイン定数Gmを予め保持する内部メ
モリ21と、A−D変換器1で生じるゲイン誤差を補正
するためにゲイン定数Gmを調整するゲイン定数調整回
路22と、調整時と測定時とで切換えるスイッチ23
と、入力するデジタル信号D1にゲイン定数を乗算する
乗算回路24と、乗算出力値を表示器3に所定桁数で数
字表示させるために7セグメント変換を行って信号D2
として表示器3に出力する7セグメント変換回路25と
を有している。
【0031】次に本発明のゲイン定数調整の基本作用に
ついて説明する。
【0032】図3は、DSP部2に入力するデジタル信
号D1の値と表示器3の表示値との関係を示している。
【0033】なお、横軸はDSP部2に入力するデジタ
ル信号D1の値を示し、縦軸は表示器3の表示値を示し
ている。また、直線(a)はゲイン定数調整後を示し、
直線(b)はゲイン定数調整前を示している。
【0034】ここで、入力デジタル信号の最大値をDm
とし、表示器3に表示する最大値をMmとすれば、ゲイ
ン定数Gmは、Gm=(Mm/Dm)であり、このゲイ
ン定数Gmはゲイン定数調整前の直線(b)の傾きを示
している。
【0035】さて、デジタルメータの調整段階におい
て、値がDaのデジタル信号をDSP部2に入力する。
ゲイン定数調整前では、表示器3に表示される値はMで
あるが、正しい測定値Maになるようにゲイン調整値発
生部4のゲイン調整値Nを変化させる。
【0036】ところで、ゲイン定数Gmはゲイン定数調
整前の直線(b)の傾きであり、(Mm/Dm)=(M
/Da) ……(3)である。また、表示器3に表示さ
れる値Mは、M=(Gm×Da)である。
【0037】この表示値Mにゲイン調整値Nを加算して
ゲイン定数を調整すれならば、調整したゲイン定数Ga
は、 Ga=(M+N)/Da=(M/Da)+(N/Da) ……(4)となる。
【0038】ここで、式(3)を式(4)に代入する
と、 Ga=Gm+(N/Da) ……(5)となる。
【0039】調整後の通常の測定時に、DSP部2に入
力するデジタル信号D1の値がDであれば、表示器3の
表示値Mは、M=Ga×Dとなり、ゲイン誤差が補正さ
れた値を表示することができる。
【0040】上記の式(5)に基づいてゲイン定数を調
整するならば、調整時の入力デジタル信号の値に関係な
く、ゲイン調整値Nを可変させたときに表示器3の表示
値がゲイン調整値と同じ量だけ変化し、従って、従来の
ように、調整時の入力デジタル信号の値が小さいときに
ゲイン調整値Nを大きく変化させなくてもよいので、調
整時間を短縮でき、操作性が向上して調整が容易にな
る。
【0041】次に動作を説明する。
【0042】図1において、A−D変換器1で生じるゲ
イン誤差を補正するためのゲイン定数の調整を行う場
合、まず、スイッチ23を接点a側に切替えると共に、
測定しようとする測定値を示す測定信号S1をA−D変
換器1に入力し、A−D変換器1の出力デジタル信号
(つまり、DSP部2への入力デジタル信号D1)をD
SP部2に入力する。なお、このときの入力デジタル信
号D1の値はDaとする。
【0043】なお、スイッチ23を接点a側に切替える
ことにより、ゲイン定数調整回路22から出力されるゲ
イン定数Gaが乗算回路24へ供給される。
【0044】乗算回路24は、スイッチ23を介して供
給されるゲイン定数および入力デジタル信号D1とを乗
算し、乗算出力信号を7セグメント変換回路25へ出力
する。7セグメント変換回路25は、乗算出力信号の示
す値を表示器3に所定桁数で数字表示させるための7セ
グメント変換を行い、信号D2として表示器3に出力す
る。
【0045】ゲイン定数を調整するときは、表示器3に
表示される値を見ながら、表示器3に正しい値が表示さ
れるようにゲイン調整値発生部4のゲイン調整値Nを変
化させてゲイン定数を調整する。
【0046】ここで、ゲイン定数調整回路22は、入力
デジタル信号D1およびゲイン調整値発生部4から出力
されるゲイン調整値N並びに内部メモリ21から読み出
されるゲイン定数Gmとをそれぞれ受け、式(5)に基
づいてゲイン定数を調整し出力する。そして、表示器3
に正しい値が表示されたときのゲイン定数Gaを調整済
のゲイン定数としてメモリ5に記憶させる。
【0047】調整後の通常の測定時には、スイッチ23
を接点b側に切替え、メモリ5から読み出される調整済
のゲイン定数Gaを乗算回路24へ供給する。乗算回路
24は、このゲイン定数Gaと入力するデジタル信号D
1とを乗算することにより、A−D変換器1のゲイン誤
差が補正された値を示すデジタル信号を出力する。
【0048】図2は、ゲイン定数調整回路22の一例を
示すブロック図である。
【0049】ゲイン定数調整回路22は、式(5)に基
づいてゲイン定数を調整するように構成されている。す
なわち、調整時に入力するデジタル信号D1(値はD
a)とゲイン調整値Nとの比(N/Da)を算出する除
算回路221と、この除算回路221の出力に内部メモ
リ21に予め記憶させたゲイン定数Gmを加算し、調整
されたゲイン定数Ga(Ga=Gm+(N/Da))と
して出力する加算回路222と、調整終了時にゲイン定
数Gaを保持して調整済のゲイン定数としてメモリ5に
記憶させる保持回路223とを有している。
【0050】このように、式(5)に基づいてゲイン定
数を調整することにより、従来のように入力デジタル信
号の値が小さい場合に、ゲイン調整値を大きく変化させ
なくても表示値が変化するので、調整時間を短縮でき、
操作性を向上させることができる。
【0051】
【発明の効果】以上説明したように本発明によれば、A
−D変換器で生じるゲイン誤差を補正するためのゲイン
定数の調整において、調整時に入力するデジタル信号D
1の値Daとゲイン調整値Nとの比(N/Da)にゲイ
ン定数Gmを加算した値(Gm+(N/Da))をゲイ
ン定数Gaとし、表示器に正しい値が表示されるように
ゲイン調整値Nを変化させてゲイン定数Gaを調整する
ことにより、調整時の入力デジタル信号の値が小さい場
合でも、調整時間を短縮でき、操作性が向上して調整を
容易にすることができる。
【図面の簡単な説明】
【図1】本発明の一実施形態を示すブロック図である。
【図2】図1に示したゲイン定数調整回路22の一例を
示すブロック図である。
【図3】図1に示したDSP部2の入力デジタル信号D
1の値と表示器3の表示値との関係を示す図である。
【図4】デジタルメータの基本構成を示すブロック図で
ある。
【符号の説明】
1 A−D変換器 2 DSP部 3 表示器 4 ゲイン調整値発生部 5 メモリ 21 内部メモリ 22 ゲイン定数調整回路 23 スイッチ 24 乗算回路 221 除算回路 222 加算回路 223 保持回路
───────────────────────────────────────────────────── フロントページの続き (56)参考文献 特開 昭63−94110(JP,A) 特開 平7−243873(JP,A) 特開 平9−119853(JP,A) 特開 平1−284710(JP,A) 特開 平10−341158(JP,A) 特開2001−53608(JP,A) 実開 平6−62642(JP,U) (58)調査した分野(Int.Cl.7,DB名) G01D 18/00 G01R 15/12 H03M 1/00

Claims (6)

    (57)【特許請求の範囲】
  1. 【請求項1】 検出器から出力される測定値を示すアナ
    ログ信号をA−D変換器によりデジタル信号に変換し、
    予め設定されたゲイン定数を前記デジタル信号に乗算
    し、この乗算結果が示す値を表示器にデジタル表示する
    デジタルメータにおいて、前記A−D変換器のゲイン誤
    差を補正するために前記ゲイン定数を調整するゲイン定
    数調整手段を備え、このゲイン定数調整手段は、デジタ
    ルメータの調整段階において、調整時の前記デジタル信
    号の値(Da)と可変調整するゲイン調整値(N:整
    数)との比(N/Da)に、前記デジタル信号の示す最
    大値(Dm)と前記表示器に表示させる最大値(Mm)
    との比である予め設定されたゲイン定数(Gm=Mm/
    Dm)を加算し、この値(Gm+(N/Da))を調整
    したゲイン定数とすることを特徴とするデジタルメー
    タ。
  2. 【請求項2】 検出器から出力される測定値を示すアナ
    ログ信号をデジタル信号に変換するA−D変換器と、前
    記測定値をデジタル表示する表示器と、前記A−D変換
    器からの入力デジタル信号にゲイン定数を乗算し前記表
    示器に乗算結果を表示させる信号として出力するDSP
    部(デジタルシグナルプロセッサ)とを備えるデジタル
    メータにおいて、前記DSP部は、前記入力デジタル信
    号の示す最大値(Dm)と前記表示器に表示させる最大
    値(Mm)との比であるゲイン定数(Gm)(Gm=M
    m/Dm)を予め保持し、デジタルメータの調整段階に
    おいて、調整時の前記入力デジタル信号の値(Da)と
    可変調整するゲイン調整値(N)(Nは整数)との比
    (N/Da)を演算し、この演算結果に前記ゲイン定数
    (Gm)を加算した値を調整したゲイン定数(Ga)と
    し、このゲイン定数(Ga)を前記入力デジタル信号に
    乗算した結果を前記表示器に表示させることを特徴とす
    るデジタルメータ。
  3. 【請求項3】 前記ゲイン調整値(N)(Nは整数)を
    発生するゲイン調整値発生部と、調整終了時に調整済の
    ゲイン定数(Ga)を記憶するメモリとを具備し、前記
    DSP部は、前記表示器の表示値が正しい値になるよう
    に前記ゲイン調整値(N)が調整されたときの調整済の
    前記ゲイン定数(Ga)を前記メモリに記憶させること
    を特徴とする請求項2記載のデジタルメータ。
  4. 【請求項4】 前記DSP部は、前記ゲイン定数(G
    m)を予め保持する内部メモリと、前記ゲイン調整値発
    生部から出力される前記ゲイン調整値(N)および前記
    内部メモリから出力される前記ゲイン定数(Gm)並び
    に前記入力デジタル信号をそれぞれ受け前記A−D変換
    器で生じるゲイン誤差を補正するように前記ゲイン定数
    (Gm)を調整するゲイン定数調整回路と、調整時には
    前記ゲイン定数調整回路から出力される調整されたゲイ
    ン定数を選択し、通常の測定時には前記メモリから読出
    された調整済の前記ゲイン定数を選択するスイッチと、
    このスイッチにより選択されたゲイン定数を前記入力デ
    ジタル信号に乗算する乗算回路とを有することを特徴と
    する請求項3記載のデジタルメータ。
  5. 【請求項5】 前記ゲイン定数調整回路は、調整時の入
    力デジタル信号(値はDa)と前記ゲイン調整値(N)
    との比(N/Da)を算出する除算回路と、この除算回
    路の出力に前記ゲイン定数(Gm)を加算して調整され
    たゲイン定数(Ga=Gm+(N/Da))として出力
    する加算回路と、調整終了時に前記加算回路から出力さ
    れる調整済のゲイン定数(Ga)を保持して前記メモリ
    に記憶させる保持回路とを有することを特徴とする請求
    項4記載のデジタルメータ。
  6. 【請求項6】 検出器から出力される測定値を示すアナ
    ログ信号をA−D変換器によりデジタル信号に変換し、
    予め設定されたゲイン定数を前記デジタル信号に乗算
    し、この乗算結果が示す値を表示器にデジタル表示する
    デジタルメータにおける前記A−D変換器のゲイン誤差
    補正方法であって、測定しようとする測定値を示す前記
    アナログ信号を前記A−D変換器に入力したときの前記
    デジタル信号の値(Da)と可変調整するゲイン調整値
    (N:整数)との比(N/Da)を求め、前記デジタル
    信号の示す最大値(Dm)と前記表示器に表示させる最
    大値(Mm)との比である予め設定されたゲイン定数
    (Gm=Mm/Dm)を前記(N/Da)に加算し、こ
    の加算した値(Gm+(N/Da))に前記デジタル信
    号に乗算し、この乗算結果が示す値が正しい値になるよ
    うに前記ゲイン調整値(N)を変化させてゲイン定数を
    調整するを特徴とするデジタルメータのゲイン誤差補正
    方法。
JP2000138619A 2000-05-11 2000-05-11 デジタルメータ及びそのゲイン誤差補正方法 Expired - Fee Related JP3390407B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000138619A JP3390407B2 (ja) 2000-05-11 2000-05-11 デジタルメータ及びそのゲイン誤差補正方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000138619A JP3390407B2 (ja) 2000-05-11 2000-05-11 デジタルメータ及びそのゲイン誤差補正方法

Publications (2)

Publication Number Publication Date
JP2001317971A JP2001317971A (ja) 2001-11-16
JP3390407B2 true JP3390407B2 (ja) 2003-03-24

Family

ID=18646205

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000138619A Expired - Fee Related JP3390407B2 (ja) 2000-05-11 2000-05-11 デジタルメータ及びそのゲイン誤差補正方法

Country Status (1)

Country Link
JP (1) JP3390407B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010103927A (ja) * 2008-10-27 2010-05-06 Asahi Kasei Electronics Co Ltd ゲイン調整回路、a/d変換装置、ゲイン調整方法
JP5875900B2 (ja) * 2012-03-08 2016-03-02 株式会社ミツトヨ 表面性状測定機、その制御装置およびその調整方法

Also Published As

Publication number Publication date
JP2001317971A (ja) 2001-11-16

Similar Documents

Publication Publication Date Title
JP2795765B2 (ja) アナログ−ディジタル変換器及びアナログ−ディジタル変換の線形化処理方法
JP2001218359A (ja) 通電情報計測装置付き回路遮断器およびその補正方法
JPH0229967B2 (ja)
JP2677722B2 (ja) ディジタル保護継電器
JP3390407B2 (ja) デジタルメータ及びそのゲイン誤差補正方法
WO2003060540A1 (fr) Watt-heuremetre, procede d'ajustement d'erreurs pour un tel watt-heuremetre et circuit de calcul de puissance
US6748344B2 (en) Method and apparatus employing a scaling factor for measuring and displaying an electrical parameter of an electrical system
JP2003032108A (ja) 直線性補償装置及び直線性補償方法
JP2002139530A (ja) 接地抵抗測定装置
JP3193390B2 (ja) 電池容量表示装置
JPH08122166A (ja) 温度測定方法および装置
JP3077360B2 (ja) 電力用計器調整方法
JPH08181610A (ja) 高速高精度ad変換装置
JP2000028658A (ja) ディジタルパワーメータ
JP3411474B2 (ja) 指示計器
JPH05203459A (ja) 計測装置
JPH0373822B2 (ja)
JPH11257993A (ja) ディジタル形継電器
JPH04131769A (ja) サンプリング式電力計
JPH08292215A (ja) バッテリ電圧測定装置
JPH05322941A (ja) 交流計測装置の調整方法
JPH0712852A (ja) 波形生成機能付き波形測定装置
JPS62148882A (ja) 時間計測装置
JP2011043373A (ja) 波形測定器および波形測定器補正データ作成システム
JP2005241305A (ja) 電力量計の位相調整回路

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20021217

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080117

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090117

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100117

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees