- 履歴一覧
- ソース を表示
- 授業/自然科学総合実験/課題4のレポートでありがちな間違い は削除されています。
- 追加された行はこの色です。
- 削除された行はこの色です。
* 自然科学総合実験 課題４「電気伝導」でありがちな間違い [#pe943d8c]
** 有効数字の取り扱い方 [#g848e488]
付録の「有効数字」で説明がしてあるにも関わらず、きちんと読まないのか理解していないのか、殆どの場合計算した結果の桁数が多すぎるか、少なすぎるかです。
「精度良く測定する」ということが実験の目的に入っていることからわかるように、有効数字を理解出来ていないと思われる物については間違いなく再レポートになります。
*** 間違いの例、その１ [#kfcba775]
正方向と逆方向に電流の向きを変えて測定した電圧、 VSUB{+};とVSUB{-};から、試料の端子間の電位差 Vを求めます。
使う式は、V = (VSUB{+}; - VSUB{-};)/2
2で割った後に、下の桁が0か5になりますが、0 の場合はその桁を書かず、5の場合は書いてあるものを多く見かけます。たとえば、
|80|80|80|80|80|c
|~ I [mA] |~ VSUB{+}; [mV] |~ VSUB{-}; [mV] |~ V [mV] |~ R [Ω] |
|RIGHT: 2.01 |RIGHT: 51.15 |RIGHT: -51.14 |RIGHT: 51.145 |RIGHT: 25.445 |
の様なものです。
加減算の場合には桁数を合わせるのではなく、どこまでが意味のある桁かを考えなければいけません。
従って、小数点以下３桁目には精度はなく小数点以下二桁目までしか意味がありません。
なお、分母にある整数 2 は、有効数字1桁ではなく、2.00000000..... と少数以下にゼロが無限に続くものとして考えます。
同様の加減算をする際の間違いは、実験２の同じ計算及び温度計で表示された温度（小数点以下１桁）の平均を取る場合にも見られます。
そのあと、絶対温度に変換する際に 273.15 を足して、やはり小数点以下１桁しか精度の無いものが、小数点以下二桁になっているものも多々あります。
*** 間違いの例、その２ [#gbcc9dd1]
色々あるので、まとめて説明します。
- 測定装置が表示した数字を切り上げて、有効数字が少なくなっている
- 小数点以下の桁をそろえれば良いと考えている
-- 有効数字の桁が増えている
-- 丸め過ぎて桁が減っている
|80|80|80|80|80|c
|~ I [mA] |~ VSUB{+}; [mV] |~ VSUB{-}; [mV] |~ V [mV] |~ R [Ω] |
|RIGHT: 0 |RIGHT: 0.09 |RIGHT: -0.08 |RIGHT: 0.000 |CENTER: - |
|RIGHT: 2 |RIGHT: 51.16 |RIGHT: -51.14 |RIGHT: 51.145 |RIGHT: 3×10SUP{1}; |
|RIGHT: 4 |RIGHT: 103.22 |RIGHT:-103.18 |RIGHT: 103.200 |RIGHT: 3×10SUP{1}; |
|RIGHT: 6 |RIGHT: 155.14 |RIGHT:-155.08 |RIGHT: 155.110 |RIGHT: 3×10SUP{1}; |
|RIGHT: 8 |RIGHT: 207.00 |RIGHT:-206.90 |RIGHT: 206.950 |RIGHT: 3×10SUP{1}; |
|RIGHT:10 |RIGHT: 258.70 |RIGHT:-258.70 |RIGHT: 258.700 |RIGHT: 3×10SUP{1}; |
|RIGHT:12 |RIGHT: 309.20 |RIGHT:-309.20 |RIGHT: 309.200 |RIGHT: 3×10SUP{1}; |
|RIGHT:14 |RIGHT: 361.50 |RIGHT:-361.40 |RIGHT: 361.450 |RIGHT: 3×10SUP{1}; |
|RIGHT:16 |RIGHT: 412.50 |RIGHT:-412.40 |RIGHT: 412.450 |RIGHT: 3×10SUP{1}; |
|RIGHT:18 |RIGHT: 463.30 |RIGHT:-463.20 |RIGHT: 463.250 |RIGHT: 3×10SUP{1}; |
まず電流の値ですが、定電流電源のデジタルメータは、ch.1 が小数点以下３桁、ch.2 3 は２桁あります。
これを、小数点以下を四捨五入して丸めてしまうと、電流 0-8 mA までは抵抗値の有効数字１桁。
10-18 mA では、２桁になります。
不必要に値を丸めることによって精度を落としてしまう結果になります。
次に、各電流の設定毎に測定した二つの電圧ですが、よく見ると 8 mA 以降では小数点２桁目の値が必ずゼロになっています。
0-8 mA までの電圧の変化から考えると、ここからゼロが続く確率はかなり低いと言わざるを得ません。
これは、電圧計が表示した数値は小数点以下１桁でしかないものに後から２桁目にゼロを足したと考えられます。
この例では抵抗の値の有効数字は１桁しかありません。
これも丸めすぎの例です。
測定結果の電流値が小数点以下２桁で全部は３桁、電圧が小数点以下は１桁で全部で４桁の場合、を例に挙げます。
この場合、
|80|80|80|80|80|c
|~ I [mA] |~ VSUB{+}; [mV] |~ VSUB{-}; [mV] |~ V [mV] |~ R [Ω] |
|RIGHT: 8.03 |RIGHT: 207.0 |RIGHT:-206.9 |RIGHT: 207.0 |RIGHT: 25.8 |
となります。
V の有効数字は、４桁。
抵抗の有効数字は、I と V の桁数の少ない方を取るので、３桁になります。
*** 間違いの例、その３ [#n2df5482]
例２と同じような表を例に挙げます。
|80|80|80|80|80|c
|~ I [mA] |~ VSUB{+}; [mV] |~ VSUB{-}; [mV] |~ V [mV] |~ R [Ω] |
|RIGHT: 0.00 |RIGHT: 0.09 |RIGHT: -0.08 |RIGHT: 0.00 |CENTER: - |
|RIGHT: 2.00 |RIGHT: 51.16 |RIGHT: -51.14 |RIGHT: 51.15 |RIGHT: 25.6 |
|RIGHT: 4.02 |RIGHT: 103.22 |RIGHT:-103.18 |RIGHT: 103.20 |RIGHT: 25.6 |
|RIGHT: 5.99 |RIGHT: 155.14 |RIGHT:-155.08 |RIGHT: 155.11 |RIGHT: 25.9 |
|RIGHT: 8.01 |RIGHT: 207.00 |RIGHT:-206.90 |RIGHT: 206.95 |RIGHT: 25.9 |
|RIGHT:10.00 |RIGHT: 258.70 |RIGHT:-258.70 |RIGHT: 258.70 |RIGHT: 25.9 |
|RIGHT:12.00 |RIGHT: 309.20 |RIGHT:-309.20 |RIGHT: 309.20 |RIGHT: 25.8 |
|RIGHT:14.01 |RIGHT: 361.50 |RIGHT:-361.40 |RIGHT: 361.45 |RIGHT: 25.8 |
|RIGHT:16.02 |RIGHT: 412.50 |RIGHT:-412.40 |RIGHT: 412.45 |RIGHT: 25.7 |
|RIGHT:18.00 |RIGHT: 463.30 |RIGHT:-463.20 |RIGHT: 463.25 |RIGHT: 25.7 |
ここでは、電流、電圧までは問題ありません。
しかし、抵抗値の列を見てみると全て３桁になっています。
同じ物質の抵抗値なので、同じ桁数だと考えているようですが、各行それぞれの測定に対して有効数字が異なっています。
- I = 2.00 [mA] では、電流２桁、電圧３桁なので抵抗値は３桁
- I = 4.02 から 8.01 [mA] の行では、電流３桁、電圧５桁なので抵抗値は３桁
- I = 10.00 から 18.00 [mA] の行では、電流４桁、電圧５桁なので抵抗値は４桁
となります。
同じ物質でも測定毎に電流・電圧の有効数字が異なっていますから、それぞれの測定（表の行）毎に有効数字を考える必要があります。
