본문 바로가기

가수2

부동 소수점 - 32 비트(IEEE 754) 32비트 부동 소수점 - 부호비트 1비트(양수면 0, 음수면 1) + 지수비트 8비트(음수, 양수 가능, 실제 지수 = 지수 비트 - 127, ) + 가수비트 23비트, 정규화해 사용한다. 음수를 표현할 때는 절대값을 사용한다. 1101.11001 = +1 X 1.110111001 X 2^3 234.48 = 11101010.0111101011100001 = 1 X 1.11010100111101011100001 X 2^7 부호비트 : 0, 지수비트 : 7 + 127 = 134 -234.48 = 11101010.0111101011100001 = -1 X 1.11010100111101011100001 X 2^7 부호비트 : 1, 지수비트 : 7 + 127 = 134 표현 가능한 지수의 범위는 -126 ~ 12.. 2023. 1. 3.
실수 - 고정 소수점, 부동 소수점 실수 - 유리수와 무리수로 이뤄진 수의 체계 유리수 - 분수로 나타낼 수 있는 소수 무리수 - 분수로 나타낼 수 없는 소수 고정소수점 수 - N자리 숫자가 있을 때 언제나 정해진 자리에 소수점이 찍힌다는 뜻이다. 최상위 비트는 부호를 나타낼 때 사용한다. 음수의 경우는 2의 보수로 표현한다. 표현할 수 있는 범위의 값은 확실하게 표현이 가능하다. 하지만 표현 가능한 수의 범위가 작다. 정수를 늘리기엔 소수를 정밀하게 표현이 어렵다. 현재 CPU에서는 고정 소수점 수를 지원하지 않는다. 연산을 한 결과에 따라 정밀도 손실 및 오버플로우가 발생할 수 있다. (연산 결과가 Q4.3을 넘어가면 표현할 수 없음) 8비트의 경우, 1번째 비트는 부호, 7비트는 실제 수를 표현하는 비트이다. 상위 4비트를 정수, 하.. 2023. 1. 2.