수학적 기초와 오차분석
페이지 정보
작성일 23-01-25 01:05본문
Download : [전기공학].hwp
-- 절대값이 작은 수로 곱하거나 절대값이 큰 수로 나누는 것을 조심(underflow)
레포트 > 기타
설명
극한 진법 수학 도함수 오차
§1-3 오 차
-- 절대치가 비슷한 두수의 뺄셈에 주의
-- 덧셈은 절대치가 작은 수부터 계산
극한 진법 수학 도함수 오차 / ()
◎ 수치 계산시 오차 감소 방법
Download : [전기공학].hwp( 63 )
-- 비교적 차이가 큰 수끼리 더하거나 빼는 것을 조심
-- 유효숫자 많도록 변수의 기억장소를 넓힘(배정밀도 사용)
수학적 기초와 오차분석
-- 절대값이 큰 수로 곱하거나 절대값이 작은 수로 나누는 것을 조심(overflow)
-- 가급적 연산 횟수가 작은 식을 고안하여 사용 & 연산의 순서를 잘 조정
극한 진법 수학 도함수 오차 / ()
§1-1 수학의 기본 槪念
순서
§1-2 진법과 수의 표시
다.