nan

[기술 질문] #9_부동 소수점 float 자료형과 부동 소수점에 대해 알아보겠습니다. Overview 고정 소수점 부동 소수점 오차 발생의 이유 무한과 NaN #0. 고정 소수점 1. 개념 컴퓨터에서 실수를 표현하는 두 가지 방식 중 "고정 소수점" 방식은 소수부의 자릿수를 미리 정하여, 고정된 자릿수의 소수만 표현하는 것입니다. 가장 왼쪽의 1Bit는 부호를 표현하고, 나머지 31Bit를 정수부와 소수부로 표현합니다. 소수부는 점을 기준으로 순서대로 채우며, 나머지 Bit는 0으로 채워줍니다. 고정 소수점 방식의 장점은 구현의 편리함입니다. 고정 소수점 방식의 단점은 비트 수 대비 표현 가능한 수의 범위와 정밀도가 낮기 때문에 실수 표현을 다루는 범용 시스템에서 사용하지 않고, 높은 정밀도를 필요로 ..
Hardii2
'nan' 태그의 글 목록