evalf()/Digits bugs

[Bob McElrath]

Some interesting (and wrong) calculations, probably rounding somewhere:

(1)<mcelrath at hawk:/u/mcelrath> ginsh 
ginsh - GiNaC Interactive Shell (GiNaC V1.0.3)
  __,  _______  Copyright (C) 1999-2001 Johannes Gutenberg University Mainz,
 (__) *       | Germany.  This is free software with ABSOLUTELY NO WARRANTY.
  ._) i N a C | You are welcome to redistribute it under certain conditions.
<-------------' For details type `warranty;'.

Type ?? for a list of help topics.
> evalf(1/3);
0.33333333333333333334
> Digits=30;
30
> evalf(1/3);
0.333333333333333333333333333333333333334
> Digits=40;
40
> evalf(1/3);
0.3333333333333333333333333333333333333333333333334
> Digits=50;
50
> evalf(1/3);
0.33333333333333333333333333333333333333333333333333333333336
> 

Note also that this is on page 14 of the tutorial, and the tutorial does not
have the unusual final digit...

Cheers,
-- Bob

Bob McElrath (rsmcelrath at students.wisc.edu) 
Univ. of Wisconsin at Madison, Department of Physics
-------------- next part --------------
A non-text attachment was scrubbed...
Name: not available
Type: application/pgp-signature
Size: 240 bytes
Desc: not available
Url : http://www.cebix.net/pipermail/ginac-list/attachments/20020107/9261d238/attachment.pgp