본문 바로가기

binary3

데이터 표현 방식 - 비트, 바이트 비트(Bit) - 하나의 트랜지스터의 상태를 기록하는 최소 단위 비트레이트 - 특정 시간마다 저장된 데이터(비트)의 양 (ex. 음악 스트리밍 어플에서 오디오 퀄리티 조절할 때 등) 바이트(Byte) - 1byte = 8bit, 메모리나 저장매체에 보간 되어 있는 데이터를 읽어올 때나 저장할 때의 최소 단위 RAM이나 SSD 등에서는 바이트 단위(32GB, 4TB)를 많이 사용하고, 인터넷에서는 비트 단위(1Gb/s = 125MB/s)를 많이 사용한다. 비트가 n개 일 때 2^n개의 값 표현 가능하다. 4개의 비트가 16진수 표현 가능, 2개의 16진수를 표현하려면 8개 비트 필요 즉, 1개 바이트 필요하다. RGB 표현 방식 (255, 0, 0 = FFFFFF, 000000, 000000) 즉, 8비트.. 2022. 12. 24.
숫자 체계 - 진법 Decimal 10진법 - 한 자리에 사용 가능한 숫자가 10개이다. (0 ~ 9) (Decimal) 10진법의 자리값 - 맨 오른쪽 자리부터 10의 0승, 10의 1승. 10의 2승으로 표현한다. 2384 = 2x10^3 + 3x10^2 + 8x10^1 + 4x10^0 덧셈 : 0부터 9까지 표기하고 9를 넘어선 다음 숫자는 다음 자리수에 1 더해주고 원래 자리수는 최소값인 0으로 돌아온다. 뺄셈 : 마지막 자리수가 0이 되면 해당 왼쪽 자리수에 1을 빼고 원래 자리수는 최대값인 9로 표기한다. 2진법 - 2개의 숫자를 사용해 수를 표현하는 방법이다. (0, 1) 숫자 앞에 0b, 0B를 붙인다. (Binary) 10110 = 1x2^4 + 0x2^3 + 1x2^2 + 1x2^1 + 0x2^0 8진법 - 8개의 숫자.. 2022. 12. 10.
Java Script - 64bit 부동 소수점 Java Script에서 소수점 계산 시 오류가 발생할 수 있다. let x = 0.1 + 0.2; console.log(x); 당연히 x는 0.3으로 결과가 출력될 것 같지만 실제로는 0.30000000000000004가 출력된다. 이는 10진법에서 2진법으로 바꿔 계산하는 과정에서 발생하는 것으로 무한소수와 유한소수의 차이점에서 나타난다. 무한소수는 말그대로 소수가 끝나지 않는 것으로 64비트를 사용하는 Java Script에서는 숫자가 넘치게 된다. console.log((0.1).toString(10)); console.log((0.1).toString(2)); 0.1 0.0001100110011001100110011001100110011001100110011001101 이러한 차이점이다. 그래서.. 2022. 12. 5.

티스토리툴바