Lorsqu'on demande à un mathématicien de constituer une liste des nombres qui lui semblent les plus remarquables, il cite en général le nombre pi, puis le « nombre d'or », et enfin quelques autres plus « savants » comme e (base des logarithmes néperiens), i (base des imaginaires purs) ou encore γ (constante d'Euler). Un peu curieusement, la racine carrée de 2, pourtant extraordinaire à plus d'un titre, est souvent oubliée.


Une perle méconnue

La racine carrée de 2, qui vaut approximativement 1,414213562, est « le nombre qui, multiplié par lui-même, donne 2 », selon la définition aujourd'hui la plus courante. Elle est aussi la « racine du carré de taille 2 », c'est-à-dire la longueur du côté d'un carré d'aire 2. C'est ce contexte géométrique qui fait de cette « racine » un point de départ, une origine.

L'une comme l'autre de ces définitions pourrait laisser penser que nous avons affaire à un nombre tout juste bon à exprimer la solution d'un problème de géométrie pour écoliers auxquels on demande d'apprendre que l'aire A d'un carré de côté a est donnée par la formule A = a2. En réalité, non seulement ces deux aspects (algébrique et géométrique) ont d'innombrables conséquences dans des directions souvent inattendues, mais la racine carrée de 2 est susceptible d'autres définitions qui, elles aussi, donnent naissance à des ramifications qui s'étendent bien au-delà du simple calcul de l'aire d'un carré. C'est ainsi que les domaines où intervient ce nombre au moins quatre fois millénaire dans l'histoire de la pensée sont d'une variété presque infinie.
Si la racine carrée de 2 devait être personnifiée, peut-être serait-ce en la déesse Athéna au panthéon des nombres. Toutes deux inspirent en effet les actions d'artisans ou d'ingénieurs autant que les réflexions intellectuelles d'un Platon.

Toutes deux figurent la rigueur, toutes deux apparaissent dans des situations très diverses. Enfin, de même que la protectrice de la cité d'Athènes se montre attentive aussi bien aux enfants qu'aux plus vaillants guerriers, la racine carrée de 2 est utile aux simples amateurs autant qu'aux mathématiciens chevronnés car, à tous, elle donne l'occasion de s'émerveiller, de découvrir et d'apprendre. Avec elle, nous sommes bien loin de cet autre résident de l'Olympe mathématique qu'est le nombre pi (π), rapport de la circonférence d'un cercle à son diamètre et qui vaut environ 3,14.

Beaucoup de mathématiciens pensent du nombre pi qu'il est « le plus glorieux, le plus grand », comme le dit de Zeus l'Agamemnon de l'Iliade. Mais à l'instar du dieu souverain de la mythologie grecque, π se révèle souvent d'une puissance écrasante : la plupart de ses propriétés sont si difficiles à établir que bien des amateurs et des mathématiciens buttent sur le sens profond de la démonstration de tel ou tel résultat significatif concernant le « roi des nombres ». La racine carrée de 2 est quant à elle d'un accès plus facile, tout en donnant à voir une foule de richesses et de splendeurs mathématiques.


Un nombre "irrationnel"

Une caractéristique que partagent plusieurs des membres de l'Olympe des nombres est la propriété d'« irrationalité ». On dit d'un nombre qu'il est irrationnel lorsqu'il n'est pas le résultat de la division d'un nombre entier par un autre : ainsi, par définition, les nombres 8/5, 1/3 ou encore 287645/1000 sont tous des nombres rationnels (leurs expressions décimales respectives sont 1,6, 0,333333… et 287,645). La racine carrée de 2, en revanche, ne s'identifie à aucune fraction. S'il en existe certes qui approchent √2 de façon aussi précise que désirée, comme 7/5 (qui vaut 1,4), 14142/10000 (qui vaut 1,4142) ou encore 577/408 (environ égale à 1,414216), aucune d'elles n'exprime de façon exacte la valeur de la racine carrée de 2, rétive qu'est cette dernière à toute représentation fractionnaire.

La notion d'irrationalité est l'une des plus importantes de toutes les mathématiques. Si la racine carrée n'est pas – et de loin – le seul nombre irrationnel, deux raisons font toutefois que c'est souvent elle qu'on présente comme premier exemple d'un tel nombre. La première est que, contrairement à d'autres nombres irrationnels « courants » (comme π), il est possible de démontrer le caractère irrationnel de √2 avec très peu de bagage mathématique ; autrement dit, si les irrationnels sont « les plus compliqués des nombres », la racine carrée de 2 est, d'une certaine façon, le plus simple de ces nombres compliqués. La seconde raison est qu'il se peut que la racine carrée de 2 ait été le tout premier nombre identifié comme irrationnel.

Malgré la notoriété que lui vaut son double statut d'irrationnelle et de doyenne putative des nombres reconnus comme tels, il faut tout de même bien reconnaître que la racine carrée de 2 ne retient pas si souvent l'attention. À lire les innombrables présentations générales de la théorie des nombres, le statut mathématique de la racine carrée de 2 semble se borner à celui de l'éternel exemple simple, qui permet d'introduire la notion de nombre irrationnel et d'évoquer quelques faits historiques. Est-ce précisément parce qu'elle constitue le pain quotidien des mathématiciens qu'on oublie de s'y intéresser davantage ? Peut-être la racine carrée de 2 est-elle d'un usage trop fréquent pour que naisse spontanément l'idée de la regarder avec les mêmes yeux curieux qui nous poussent à admirer les merveilles cachées et inattendues du nombre pi.


Les signes du fond des âges

C'est une petite tablette d'argile de quelques centimètres de côté. Un objet tout simple qui tient dans le creux de la main et sur lequel ont été tracées quelques lignes et gravées quelques marques.

La tablette YBC 7289

Cette tablette se trouve à l'université de Yale, aux États-Unis, répertoriée sous le nom de YBC 7289 (Yale Babylonian Collection). Probablement l'½uvre d'un scribe babylonien de la première dynastie, soit entre 1900 et 1600 avant notre ère, elle n'est rien de moins que l'acte de naissance de la racine carrée de 2 en tant qu'objet mathématique, ainsi que l'une des plus anciennes incursions de l'humanité dans le monde de la pensée scientifique. Il n'est pas très difficile de traduire cette tablette, écrite dans la langue la plus universelle qui soit : les mathématiques. En voici une translittération dans notre système moderne de numération (avec d'inévitables arrondis dus au fait que les Babyloniens utilisaient un système de représentation des nombres à base 60 et non à base 10 comme nous le faisons aujourd'hui).
Le sens de la tablette YBC 7289 tel que nous pouvons le reconstituer est le suivant : un carré de côté 30 étant donné, la longueur de sa diagonale s'obtient en multipliant 30 par la valeur 1,41421296, ce qui donne 42,4263889.

Contrairement à la longueur du côté, sans doute choisie égale à 30 dans le simple but de donner un exemple concret, la valeur 1,41421296 que les Babyloniens ont mise en évidence a une portée universelle : c'est cette valeur qu'il faut utiliser pour trouver la diagonale de n'importe quel carré, quelle que soit la longueur de son côté. Bien loin d'une simple grandeur géométrique juste présente à l'occasion d'un exercice, la valeur 1,41421296, qui est pour nous la racine carrée de 2, figure dans YBC 7289 en tant que constante fondamentale de la géométrie. Ce statut est toujours le sien aujourd'hui.


Une impensable précision

Si des tablettes babyloniennes plus anciennes donnent certes déjà des évaluations de √2, la tablette YBC 7289 se distingue par sa remarquable précision (rien n'exclut toutefois, bien entendu, que d'autres tablettes aujourd'hui disparues aient pu la précéder). Il semble qu'une évaluation babylonienne antérieure couramment utilisée était 1,4167, soit une précision de l'ordre du millième : la précision de YBC 7289 est, quant à elle, de l'ordre du millionième. De tous les nombres à trois rangs sexagésimaux (soit « trois chiffres après la virgule », les « chiffres » s'entendant en base soixante), celui figurant sur YBC 7289 est le plus proche de la racine carrée de 2.

Pourquoi les Babyloniens se sont-ils attachés à connaître la racine carrée de 2 avec autant de précision ? Leurs motivations étaient-elles d'ordre pratique ? ludique ? intellectuel ? Quel regard portaient-ils sur le résultat ? Avaient-ils conscience de n'avoir trouvé qu'une approximation ou pensaient-ils avoir trouvé la valeur exacte de √2 ? Quelle méthode ont-ils employé pour parvenir à une telle précision, qui n'a peut-être été dépassée que par l'Indien Govindashwamin, pas moins de deux mille cinq cents ans plus tard ?

Outre les diverses utilisations pour des calculs marchands que faisaient les Babyloniens des racines carrées, un emploi possible de √2 dans l'Antiquité est donné par l'architecture. En 1892, l'égyptologue Francis Griffith a émis l'hypothèse qu'un système de mesures de longueur, dit « digital » et montrant des rapports de longueurs égaux à 7/5 et 10/7, pourrait avoir été conçu pour donner une approximation de √2 qui servait aux architectes pour réaliser des angles droits avec précision.

Pour vérifier qu'un angle est droit dans un carré tracé au sol, on peut comparer le rapport diagonale/côté à √2

Toutefois, aucune utilisation de la racine carrée de 2 n'aurait pu sérieusement nécessiter la connaissance de plus d'une ou deux décimales : aucune justification pratique ne permet de comprendre pourquoi les Babyloniens ont éprouvé le besoin d'aller si loin dans la précision de leur approximation.

En l'absence de nécessité pratique, on peut proposer plusieurs éléments d'explication, non exclusifs les uns des autres. L'un d'eux est le plaisir du jeu. L'envie d'aller toujours un peu plus loin dans le calcul de la valeur de √2 aurait pu être exacerbée par le fait que, telle Athéna née toute casquée et armée en sortant de la tête de Zeus, la racine carrée de 2 semble avoir disposé dès sa naissance des outils les plus performants nécessaires à l'estimation de sa valeur : pour l'essentiel, nos ordinateurs utilisent la même technique que celle prêtée aux Babyloniens ! Une autre raison, conjecturale elle aussi, tient à la nature de l'expression de la racine carrée de 2, comme nous allons le voir.


Le jeu de l'exactitude

Une possibilité serait que, en évaluant le rapport de la diagonale du carré à son côté, les Babyloniens aient tout d'abord pensé qu'ils déboucheraient sur une valeur exacte, légitimant a posteriori les quelques efforts nécessaires pour l'atteindre.

Est-il raisonnable d'espérer pouvoir écrire la valeur exacte de la racine carrée de 2 avec un nombre fini de chiffres après la virgule ? Pour le savoir, plaçons-nous pour simplifier dans la base dix qui nous est familière et cherchons ce que devrait être la valeur d'un éventuel nombre décimal (c'est-à-dire n'ayant qu'une quantité finie de chiffres après la virgule) qui vérifierait que, multiplié par lui-même, on obtienne la valeur 2.

La remarque clé pour étudier la question est que le dernier chiffre (c'est-à-dire le chiffre « le plus à droite ») du résultat de la multiplication de deux décimaux s'obtient en regardant le dernier chiffre du produit de leurs derniers chiffres. Par exemple, dans l'expression 54,27x3,6 = 195,372, le dernier chiffre du résultat (2) est le même que celui du résultat de la multiplication de 7 par 6 (on a 7x6 = 42). Pour se persuader que cela fonctionne pour n'importe quels nombres décimaux, on pose la multiplication selon la méthode « au château », celle apprise à l'école, et on observe la façon dont s'obtient le dernier chiffre du résultat.

Revenons à notre problème et notons m le dernier chiffre d'un éventuel nombre décimal x égal à la racine carrée de 2. Une fois m multiplié par lui-même, on doit obtenir un nombre dont le dernier chiffre est un 0, faute de quoi le produit de x par lui-même finit après la virgule par un chiffre non nul, empêchant du même coup ce produit d'atteindre la valeur 2. Or une vérification simple indique que le carré de n'importe quel entier m entre 1 et 9 ne finit jamais par 0. D'où la conclusion : quelle que soit la valeur décimale x dont on part, jamais sa multiplication par elle-même ne donne 2. Autrement dit, la racine carrée de 2 n'est pas un nombre décimal.

Le raisonnement précédent s'adapte pour la base soixante des Babyloniens, à une petite complication près. Il s'adapte même, cette fois au prix d'un travail mathématique assez fourni, à toutes les bases de numération : que l'on choisisse la base deux des ordinateurs, la base dix qui nous est habituelle, la base soixante des Babyloniens ou n'importe quelle autre, √2 a besoin d'une infinité de chiffres pour être écrite de façon exacte, et l'on peut montrer que cette propriété est équivale


Le paradis perdu de la périodicité

Nous savons désormais que les décimales de √2 sont en quantité infinie. Peut-on en déduire que nous ne les connaîtrons jamais toutes ? Pas nécessairement : on pourrait imaginer en effet que la succession des chiffres suive une règle de formation identifiable qui en fournisse une description complète. Pour bien comprendre ce point, oublions un instant la racine carrée de 2 et tournons-nous vers les nombres rationnels. Le nombre 11/6, par exemple, est égal à 1,8333333… ; de même, on a 13/11 = 1,1818181818…, ou encore 16/7 = 2,28571428571428… Le point commun entre ces cas est qu'à chaque fois les chiffres se répètent de façon périodique à partir d'un certain moment : des « 3 » dans notre premier calcul, des « 18 » dans le second, des « 142857 » dans le troisième. Cela n'a rien d'un hasard. Un résultat général est que, quels que soient les entiers p et q, l'expression décimale du rapport p/q est « périodique à partir d'un certain rang », c'est-à-dire que, hormis peut-être au début, la succession des chiffres est la répétition d'un même « motif » (éventuellement « 0 », pour une division qui « tombe juste » comme 13/5 = 6,5). La réciproque est vraie : on peut montrer qu'un nombre dont le développement décimal est périodique à partir d'un certain rang est nécessairement rationnel.

Revenons à la racine carrée de 2. Puisqu'il s'agit d'un nombre irrationnel, ce qui précède indique que la suite de ses décimales n'est pas périodique. Mais comme il s'agit tout de même de l'un des nombres irrationnels les plus « simples », l'on pourrait malgré tout s'attendre à ce que la suite de ses décimales montre une structure simple elle aussi.

√2 = 1,4142135623730950488016887242096980785696718753769480731766797379907324
784621070388503875343276415727… (Les cent premières décimales de √2)

De façon un peu étrange, il semble que la question d'une telle structure n'ait jamais été clairement mathématisée avant les travaux du mathématicien Émile Borel, au début du XXe siècle.

Plus curieux : aujourd'hui encore, la réponse est entièrement inconnue. Il y a un monde entre, d'une part, calculer les décimales de la racine carrée de 2 de proche en proche et, d'autre part, connaître suffisamment bien leur règle de formation pour être en mesure, par exemple, de déterminer la millième décimale de √2 sans avoir au préalable calculé toutes les précédentes. La racine carrée de 2 donne l'exemple sans doute le plus extrême de nombre pour lequel triomphent les méthodes quantitatives (les techniques de calcul des décimales de √2, qui n'ont presque pas changé depuis l'époque babylonienne, sont extrêmement performantes) et pour lequel les questions d'ordre qualitatif sont aujourd'hui sans réponse : on ignore s'il y a une infinité de 1 dans l'expression décimale de √2, si le chiffre 3 y apparaît ou non « plus souvent » que le chiffre 4, et plus généralement si la succession de décimales de la racine carrée de 2 a des propriétés statistiques qui l'apparentent à une suite infinie de chiffres tirés entièrement au hasard. Quarante ans après avoir posé la question, Borel écrivait que « le problème de savoir si les chiffres d'un nombre tel que √2 satisfont ou non à toutes les lois que l'on peut énoncer pour des chiffres choisis au hasard me paraît toujours être un des problèmes les plus importants qui se posent aux mathématiciens. » Ses mots sont toujours d'actualité.