a > 자유게시판

본문 바로가기
사이트 내 전체검색


회원로그인

네이버 아이디로 로그인 Sign in with googleSign in with kakao
자동로그인

a
EnE
쪽지보내기 자기소개 아이디로 검색

작성일: 2016-10-03 03:51:42 조회: 404  /  추천: 2  /  반대: 0  /  댓글: 11 ]

본문

a


추천 2 반대 0

댓글목록

소수점 표현에 올림 내림 차이 아닌가요

엑셀 문제라기보다는 산수 문제 같네요 ㅎ

    0 0

a

    0 0

유효숫자 때문에??
혼나고싶나님께서 말씀하신 반올림차이와도 연관되겠네요ㅎ

    0 0

a

    0 0

절상이냐 반올림리냐 그차이 아닌가요

    0 0

a

    0 0

ㅋㅋ 신기하네요. 문제가 소숫점 열네자린데 열세자리까진 올바르게 값이 나오는데 열네자리부터 저렇게 값이 부정확하네여. 엑셀 연산처리 자체가 열네자리부턴 신뢰할 수 없는 게 아닌지. 참고로 엑셀 2007이고 서식은 회계로 했어여.

    0 0

a

    0 0

이것저것 해보니 정수부분이 한자리 늘어나면 소수점 맨 뒷 부분이 추가로 반올림 되버리네요..
정수부분하고 소수점 부분하고 자리수 합이 같은 것 같아요..
106.3333333333330
 26.33333333333330
  6.33333333333327
내부 알고리즘을 이케 짜놨는가본데 왜 그랬으까요??

    0 0

a

    0 0

유효숫자 개념이네요.... 저런식으로 표현 많이 해요....

    0 0



리모컨

맨위로
 댓 글 
 목 록 
회사소개 개인정보처리방침 서비스이용약관 메일문의 Copyright © 딜바다닷컴 All rights reserved.
상단으로
모바일 버전으로 보기