Some interesting (and wrong) calculations, probably rounding somewhere: (1)<mcelrath@hawk:/u/mcelrath> ginsh ginsh - GiNaC Interactive Shell (GiNaC V1.0.3) __, _______ Copyright (C) 1999-2001 Johannes Gutenberg University Mainz, (__) * | Germany. This is free software with ABSOLUTELY NO WARRANTY. ._) i N a C | You are welcome to redistribute it under certain conditions. <-------------' For details type `warranty;'. Type ?? for a list of help topics.
evalf(1/3); 0.33333333333333333334 Digits=30; 30 evalf(1/3); 0.333333333333333333333333333333333333334 Digits=40; 40 evalf(1/3); 0.3333333333333333333333333333333333333333333333334 Digits=50; 50 evalf(1/3); 0.33333333333333333333333333333333333333333333333333333333336
Note also that this is on page 14 of the tutorial, and the tutorial does not have the unusual final digit... Cheers, -- Bob Bob McElrath (rsmcelrath@students.wisc.edu) Univ. of Wisconsin at Madison, Department of Physics