An analysis of errors in mathematical tables

A mode of analysis of the errors in a mathematical table is provided by examining the residuals, the differences between the entries that appear in the table and the appropriate computed values. For the most part, the residuals used here are integer-valued, related to the precision of the table entries. These residuals can provide information about typographical errors, round-off errors, calculation errors and errors due to approximation. Residuals may also be used to make inferences about unknown (to us today) parameters that were used in the construction of a table. The methodology is illustrated by examining four different historical tables.

RésuméNous donnons une méthode d'analyse des erreurs dans une table mathématique, fondée sur l'examen des résidus, c'est-à-dire des différences entre les entrées qui apparaissent dans la table et les valeurs calculées. Pour la plupart, les résidus utilisés ici sont des valeurs entières et sont liés à la précision des entrées de la table. Ces résidus peuvent fournir des informations sur les erreurs typographiques, les erreurs d'arrondis, les erreurs de calcul et celles dues à l'approximation. Les résidus peuvent aussi permettre de révéler des paramètres qui nous sont inconnus aujourd'hui mais qui intervenaient dans la construction des tables. Cette méthodologie est illustrée par l'examen de quatre exemples historiques.