- 履歴一覧
- ソース を表示
- 授業/自然科学総合実験/課題4のレポートでありがちな間違い は削除されています。
- 追加された行はこの色です。
- 削除された行はこの色です。
* 自然科学総合実験 課題４「電気伝導」でありがちな間違い [#pe943d8c]
** 有効数字の取り扱い方 [#g848e488]
付録の「有効数字」で説明がしてあるにも関わらず、きちんと読まないのか理解していないのか、殆どの場合計算した結果の桁数が多すぎるか、少なすぎるかです。
「精度良く測定する」ということが実験の目的に入っていることからわかるように、有効数字を理解出来ていないと思われる物については間違いなく再レポートになります。
*** 間違いの例、その１ [#kfcba775]
正方向と逆方向に電流の向きを変えて測定した電圧、 VSUB{+};とVSUB{-};から、資料の端子間の電位差 Vを求めます。
使う式は、V = (VSUB{+}; - VSUB{-};)/2
2で割った後に、下の桁が0か5になりますが、0 の場合はその桁を書かず、5の場合は書いてあるものを多く見かけます。たとえば、
|80|80|80|80|80|c
|~ I [mA] |~ VSUB{+}; [mV] |~ VSUB{-}; [mV] |~ V [mV] |~ R [Ω] |
|RIGHT: 2.01 |RIGHT: 51.15 |RIGHT: -51.14 |RIGHT: 51.145 |RIGHT: 25.445 |
の様なものです。
加減算の場合には桁数を合わせるのではなく、どこまでが意味のある桁かを考えなければいけません。
従って、小数点以下３桁目には精度はなく小数点以下二桁目までしか意味がありません。
なお、分母にある整数 2 は、有効数字1桁ではなく、2.00000000..... と少数以下にゼロが無限に続くものとして考えます。
同様の加減算をする際の間違いは、実験２の同じ計算及び温度計で表示された温度（小数点以下１桁）の平均を取る場合にも見られます。
そのあと、絶対温度に変換する際に 273.15 を足して、やはり小数点以下１桁しか精度の無いものが、小数点以下二桁になっているものも多々あります。
*** 間違いの例、その２ [#gbcc9dd1]
色々あるので、表を例に説明します。
- 測定装置が表示した数字を切り上げて、有効数字が少なくなっている
- 小数点以下の桁をそろえれば良いと考えている
-- 有効数字の桁が増えている
-- 丸め過ぎて桁が減っている
|80|80|80|80|80|c
|~ I [mA] |~ VSUB{+}; [mV] |~ VSUB{-}; [mV] |~ V [mV] |~ R [Ω] |
|RIGHT: 0 |RIGHT: 0.09 |RIGHT: -0.08 |RIGHT: 0.000 |CENTER: - |
|RIGHT: 2 |RIGHT: 51.16 |RIGHT: -51.14 |RIGHT: 51.145 |RIGHT: 3×10SUP{1}; |
|RIGHT: 4 |RIGHT: 103.22 |RIGHT:-103.18 |RIGHT: 103.200 |RIGHT: 3×10SUP{1}; |
|RIGHT: 6 |RIGHT: 155.14 |RIGHT:-155.08 |RIGHT: 155.110 |RIGHT: 3×10SUP{1}; |
|RIGHT: 8 |RIGHT: 207.00 |RIGHT:-206.90 |RIGHT: 206.950 |RIGHT: 3×10SUP{1}; |
|RIGHT:10 |RIGHT: 258.70 |RIGHT:-258.70 |RIGHT: 258.700 |RIGHT: 3×10SUP{1}; |
|RIGHT:12 |RIGHT: 309.20 |RIGHT:-309.20 |RIGHT: 309.200 |RIGHT: 3×10SUP{1}; |
|RIGHT:14 |RIGHT: 361.50 |RIGHT:-361.40 |RIGHT: 361.450 |RIGHT: 3×10SUP{1}; |
|RIGHT:16 |RIGHT: 412.50 |RIGHT:-412.40 |RIGHT: 412.450 |RIGHT: 3×10SUP{1}; |
|RIGHT:18 |RIGHT: 463.30 |RIGHT:-463.20 |RIGHT: 463.250 |RIGHT: 3×10SUP{1}; |
まず電流の値ですが、定電流電源のデジタルメータは、ch.1 が小数点以下３桁、ch.2 3 は２桁あります。
これを、小数点以下を四捨五入して丸めてしまうと、抵抗値は0-8 mA までは、有効数字１桁。
10-18 mA では、２桁になります。
不必要に、値を丸めることによって精度を落としてしまう結果になります。
次に、各電流の設定毎に測定した二つの電圧ですが、よく見ると 8 mA 以降では小数点２桁目の値が必ずゼロになっています。
0-8 mA までの電圧の変化から考えると、ここからゼロが続く確率はかなり低いと言わざるを得ません。
これは、電圧計が表示した数値は小数点以下１桁でしかないものに後から２桁目にゼロを足したと考えられます。
この例では抵抗の値の有効数字は１桁しかありません。
これも丸めすぎの例です。
測定結果の電流値が小数点以下２桁で全部は３桁、電圧が小数点以下は１桁で全部で４桁の場合、を例に挙げます。
この場合、
|80|80|80|80|80|c
|~ I [mA] |~ VSUB{+}; [mV] |~ VSUB{-}; [mV] |~ V [mV] |~ R [Ω] |
|RIGHT: 8.03 |RIGHT: 207.0 |RIGHT:-206.9 |RIGHT: 207.0 |RIGHT: 25.8 |
となります。
V の有効数字は、４桁。
抵抗の有効数字は、I と V の桁数の少ない方を取るので、３桁になります。
