自然科学総合実験 課題4「電気伝導」でありがちな間違い

有効数字の取り扱い方

付録の「有効数字」で説明がしてあるにも関わらず、きちんと読まないのか理解していないのか、殆どの場合計算した結果の桁数が多すぎるか、少なすぎるかです。 「精度良く測定する」ということが実験の目的に入っていることからわかるように、有効数字を理解出来ていないと思われる物については間違いなく再レポートになります。

間違いの例、その1

正方向と逆方向に電流の向きを変えて測定した電圧、 V+とV-から、試料の端子間の電位差 Vを求めます。

使う式は、V = (V+ - V-)/2

2で割った後に、下の桁が0か5になりますが、0 の場合はその桁を書かず、5の場合は書いてあるものを多く見かけます。たとえば、

I [mA]V+ [mV]V- [mV]V [mV]R [Ω]
2.0151.15-51.1451.14525.445

の様なものです。

加減算の場合には桁数を合わせるのではなく、どこまでが意味のある桁かを考えなければいけません。 従って、小数点以下3桁目には精度はなく小数点以下二桁目までしか意味がありません。 なお、分母にある整数 2 は、有効数字1桁ではなく、2.00000000..... と少数以下にゼロが無限に続くものとして考えます。

同様の加減算をする際の間違いは、実験2の同じ計算及び温度計で表示された温度(小数点以下1桁)の平均を取る場合にも見られます。 そのあと、絶対温度に変換する際に 273.15 を足して、やはり小数点以下1桁しか精度の無いものが、小数点以下二桁になっているものも多々あります。

間違いの例、その2

色々あるので、まとめて説明します。

  • 測定装置が表示した数字を切り上げて、有効数字が少なくなっている
  • 小数点以下の桁をそろえれば良いと考えている
    • 有効数字の桁が増えている
    • 丸め過ぎて桁が減っている
I [mA]V+ [mV]V- [mV]V [mV]R [Ω]
00.09-0.080.000-
251.16-51.1451.1453×101
4103.22-103.18103.2003×101
6155.14-155.08155.1103×101
8207.00-206.90206.9503×101
10258.70-258.70258.7003×101
12309.20-309.20309.2003×101
14361.50-361.40361.4503×101
16412.50-412.40412.4503×101
18463.30-463.20463.2503×101

まず電流の値ですが、定電流電源のデジタルメータは、ch.1 が小数点以下3桁、ch.2 3 は2桁あります。 これを、小数点以下を四捨五入して丸めてしまうと、電流 0-8 mA までは抵抗値の有効数字1桁。 10-18 mA では、2桁になります。 不必要に値を丸めることによって精度を落としてしまう結果になります。

次に、各電流の設定毎に測定した二つの電圧ですが、よく見ると 8 mA 以降では小数点2桁目の値が必ずゼロになっています。 0-8 mA までの電圧の変化から考えると、ここからゼロが続く確率はかなり低いと言わざるを得ません。 これは、電圧計が表示した数値は小数点以下1桁でしかないものに後から2桁目にゼロを足したと考えられます。

この例では抵抗の値の有効数字は1桁しかありません。 これも丸めすぎの例です。

測定結果の電流値が小数点以下2桁で全部は3桁、電圧が小数点以下は1桁で全部で4桁の場合、を例に挙げます。 この場合、

I [mA]V+ [mV]V- [mV]V [mV]R [Ω]
8.03207.0-206.9207.025.8

となります。 V の有効数字は、4桁。 抵抗の有効数字は、I と V の桁数の少ない方を取るので、3桁になります。

間違いの例、その3

例2と同じような表を例に挙げます。

I [mA]V+ [mV]V- [mV]V [mV]R [Ω]
0.000.09-0.080.00-
2.0051.16-51.1451.1525.6
4.02103.22-103.18103.2025.6
5.99155.14-155.08155.1125.9
8.01207.00-206.90206.9525.9
10.00258.70-258.70258.7025.9
12.00309.20-309.20309.2025.8
14.01361.50-361.40361.4525.8
16.02412.50-412.40412.4525.7
18.00463.30-463.20463.2525.7

ここでは、電流、電圧までは問題ありません。 しかし、抵抗値の列を見てみると全て3桁になっています。 同じ物質の抵抗値なので、同じ桁数だと考えているようですが、各行それぞれの測定に対して有効数字が異なっています。

  • I = 2.00 [mA] では、電流2桁、電圧3桁なので抵抗値は3桁
  • I = 4.02 から 8.01 [mA] の行では、電流3桁、電圧5桁なので抵抗値は3桁
  • I = 10.00 から 18.00 [mA] の行では、電流4桁、電圧5桁なので抵抗値は4桁

となります。 同じ物質でも測定毎に電流・電圧の有効数字が異なっていますから、それぞれの測定(表の行)毎に有効数字を考える必要があります。

間違いの例、その4

実験2では、電気抵抗率が温度と共にどのように変化するかを測定します。 実験装置の温度計は摂氏で表示されますが、グラフにするとき必要なのは絶対温度です。 各測定点で温度は二回記録します。 それぞれ、T1 [℃], T2 [℃] とすると、絶対温度 T [K]は

T = (T1 + T2)/2 + 273.15

で与えられます。 ここで注意が必要なのは、温度計の示している温度が小数点以下1桁までということです。

よくある間違いは、上の例で挙げている様に平均を取る際に小数点以下二桁までにしてしまう。 さらに273.15を足す際にもそのままで、最終的に小数点以下2桁にしているというものです。

別のよくある間違いは、温度の有効数字を同じにしてしまうものです。 たとえは、100 [K] 以上では、小数点以下が書かれていないけど、100 [K] 以下になると小数点以下1桁がかかれ、10 [K] 以下になると小数点以下2桁で書かれている、というものを目にします。 これは、「温度の有効数字は3桁だ」と思ってそうしているのでしょう。

 


トップ   編集 凍結解除 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS
Last-modified: 2011-02-01 (火) 12:00:07 (3128d)