2023-07-01から1ヶ月間の記事一覧
シフト演算 シフト演算は、桁を左右にずらすことでべき乗の計算をする方法。ひいては乗算や除算を行うことができる。 2進数のシフト演算 左にnビットシフト:元の数値の2n倍になる 右にnビットシフト:元の数値の2-n倍になる 論理シフトと算術シフト シフト…
文字としての数字 キーボードから入力した数字は10進数の文字として扱われる。これは表示用途としての10進数であり、10進数の体系を残したままのコード形式で記録される。なお、計算用途では内部で2進数に変換される。 10進数を表すコード体系 1. BCDコード…
ビットとバイト コンピュータが処理を行うときのデータの最小単位をビットという。ビットは2進数1桁を表すbinary digitの略。 さらに8ビットをひとまとまりとして扱う単位がバイトという。 固定小数点数形式 2進数を使った数値の表現方法の一つ。 - 表現する…