프로그램마다 정수를 취급하는 방식이 다 다른가봅니다.
알림
|
페이지 정보
작성일
2025.01.03 15:31
본문
TI-Nspire와 autolisp로 코딩해서 정수 계산을 돌려보고 있는데요.
숫자가 9자리 이상 10자리 까지 올라가니
프로그램마다 답이 다 다르군요.
똑같은 코드를 사용해도 캐드 프로그램에 따라서도 결과가 다르군요.
참 난감하군요.
해결방법은 숫자를 낮게 설정해야 하는군요.
제가 볼때 ti-nspire 값이 정확한데 autolisp로 짠 코드는 정수가 9자리 넘어가니
똑같은 답이 안나오네요.
댓글 6
/ 1 페이지
꿈의대화님의 댓글
autolisp 에서 취급되는 정수는 -2147483648 ~ +2147483647 까지 표현 가능한걸로 검색됩니다.
위 범위를 넘어서면 엉뚱한 결과가 나오게 되죠.
TI-Nspire 는 검색해보니 공학용 계산기로 나오네요.
계산기 프로그램이니 아무래도 정밀도가 훨씬 높을겁니다.
위 범위를 넘어서면 엉뚱한 결과가 나오게 되죠.
TI-Nspire 는 검색해보니 공학용 계산기로 나오네요.
계산기 프로그램이니 아무래도 정밀도가 훨씬 높을겁니다.
Castle님의 댓글의 댓글
@꿈의대화님에게 답글
최대한 8자리로 맞추고 계산하고 있는데요 캐드 프로그램에 따라서 9자리부터 마이너스로 변경되기도 하는가 봅니다.
꿈의대화님의 댓글의 댓글
@Castle님에게 답글
9자리 (억 단위) 숫자 계산에는 정상적으로 나올텐데요??
21억이 넘어가면 문제가 발생할 수 있습니다.
21억이 넘어가면 문제가 발생할 수 있습니다.
꼬반님의 댓글의 댓글
@Castle님에게 답글
흠 캐드 2015버전부터의 메뉴얼을 쭉 봤는데 다 32bit 를 사용한다고 합니다. 다만 일부 함수는 16bit 만 표현하고 이 경우는 +32767 to -32678 범위를 표현한다고 되잇네요. 근데 이것도 8자리 9자리와는 무방한데.. 신기하네요
Castle님의 댓글의 댓글
@꼬반님에게 답글
브릭스캐드와 zwcad도 있는데 브릭스.캐드가 좀 다른가 봅니다.
최대한 가능한 숫자 범위까지 숫자를 낮춰보고 있습니다 ^^
최대한 가능한 숫자 범위까지 숫자를 낮춰보고 있습니다 ^^
뚜아아빠님의 댓글