Truncation Error and Round-Off Error
로그 함수나 사인 함수와 같은 것을 계산한다고 해보자. 가장 간단한 방법은, 간단히 계산기를 꺼내서 두들겨 보는 것이다. 그러나, 이것은 트랜지스터 시대를 살아가는 사람들의 이야기이고, 트랜지스터가 등장하기 전, 사람의 손으로만 계산을 해야 했던 시대에서는 어떠한가? 주어진 식을 테일러 급수와 같은 것으로 전개하여, 가능한 높은 정확도로 미리 계산하여 표로 만들어 두고, 이렇게 미리 만들어진 표를 참조하여 값을 얻는 것이 가장 간단한 방법이었을 것이다. 그러나, 이렇게 컴퓨터를 사용하는 방법이나, 급수 전개를 통한 방법으로 얻어진 값은 완전히 정확한 값은 아니다. 주어진 최초의 식을 테일러 급수를 사용하여 전개하면, 이것은 원래 식과 완전히 같은 식이 아니라, 비슷한 값을 얻을 수 있는 근사식의 형태로 ..
더보기