Le Livre V d’Euclide s’était fixé pour objet de définir des rapports de grandeurs irrationnels en n’utilisant que les nombres entiers. Cependant, il était admis que les grandeurs en question – longueurs, aires, volumes – avaient bien une existence. Ces rapports de grandeurs pouvaient-ils être considérés eux-mêmes comme des nombres ?
C’est au XIXe siècle, grâce au mathématicien Richard Dedekind, que l’on a commencé à considérer les irrationnels comme des nombres et qu’ils pouvaient être définis indépendamment de tout rapport avec d’éventuelles grandeurs géométriques à mesurer.
Dedekind suppose seulement connu l’ensemble des nombres rationnels $\mathbb{Q}$ auquel il souhaite adjoindre des nombres qui permettent d’effectuer la mesure de toutes les grandeurs. Pour cela, il introduit ce qu’il appelle une coupure de l’ensemble des rationnels.
Une coupure de l’ensemble des rationnels est un couple $\left( C_{1}C_{2}\right)$ où $C_{1}$ et $C_{2}$ sont des sous-ensembles de l’ensemble des rationnels dont la réunion est l’ensemble de tous les rationnels et tels que tout rationnel de $C_{1}$ est strictement inférieur à tout rationnel de $C_{2}$.
Voici par exemple la coupure : $\left( C_{1}C_{2}\right)$
Avec: $$C_{1}=\left\{ r\in \mathbb{Q} \mid r\le \frac{3}{4}\right\}$$ et $$C_{2}=\left\{ r\in \mathbb{Q} \mid r> \frac{3}{4}\right\}$$
La partie $C_{1}$ admet un plus grand élément $\frac{3}{4}$.
Mais il existe aussi des coupures dans lesquelles la partie $C_{1}$ n’admet pas de plus grand élément et la partie $C_{2}$ n’admet pas de plus petit élément.
C’est le cas avec : $$C_{1}=\left\{ r\in \mathbb{Q} \mid r<0~\text{ou}~r^{2}<2\right\}$$
et
$$C_{2}=\left\{ r\in \mathbb{Q} \mid r>0~\text{et}~ r^{2}>2\right\}$$
La réunion de $C_{1}$ et $C_{2}$ est bien l’ensemble de tous les rationnels, car le carré d’un rationnel ne peut être égal à $2$.
De plus, si $x$ appartient à $C_{2}$, alors $x^{2}>2$ et donc, pour $n$ suffisamment grand, on aura aussi $\left( x-\frac{1}{n}\right)^{2}>2$ donc $C_{2}$ n’admet pas de plus petit élément et de même, $C_{1}$ n’admet pas de plus grand élément.
Si $\sqrt{2}$ était considéré déjà comme un nombre existant, on pourrait écrire :
$$C_{1}=\left\{ r\in \mathbb{Q} \mid r<\sqrt{2}\right\}$$
et
$$C_{2}=\left\{ r\in \mathbb{Q} \mid r>\sqrt{2}\right\}$$
On voit ici que l’idée du Livre V est reprise, mais c’est l’objet même de cette coupure de définir $\sqrt{2}$ et on ne peut donc pas utiliser ce nombre.
Pour Richard Dedekind, un nombre irrationnel est une coupure de ce type et un nombre rationnel $x$ est représenté par l’une des deux coupures $\left( C_{1}, C_{2}\right)$ avec $$C_{1}=\left\{ r\in \mathbb{Q} \mid r\le x\right\}$$ et $$C_{2}=\left\{ r\in \mathbb{Q} \mid r>x\right\}$$
La réunion des rationnels et des irrationnels forment l’ensemble des nombres réels et on peut ordonner, additionner et multiplier les coupures. On vérifie que ces nouvelles opérations sont des extensions des opérations des rationnels et, donc on dispose d’un ensemble de nombres contenant les rationnels.
Cette construction constitue un renversement dans l’histoire des mathématiques. C’est ce nouvel ensemble, l’ensemble des réels, qui va constituer le support de la géométrie. Autrefois, les rapports de grandeurs supposée existantes demandaient d’introduire les proportions. Désormais, c’est l’ensemble des nombres réels qui permet de définir ce qu’est une droite, un plan, l’espace… Il aura fallu attendre plus de deux mille ans pour construire cet ensemble en partant d’idées contenues dans le Livre V.
« La théorie des proportions d’Euclide joue dans les mathématiques grecques le même rôle que la théorie des nombres réels dans l’analyse moderne » écrivent Amy Dahan-Dalmedico et Jeanne Peiffer. Un renversement, mais aussi un retour. Car une faille est au cœur du Livre V. S’il définit bien les règles de manipulations des nombres et leurs relations, Euclide admet tacitement qu’ils existent bel et bien. Pourtant, où, ailleurs que dans la géométrie peut-on trouver une preuve de l’existence d’un irrationnel comme $\sqrt{2}$ ?
Ce mouvement – la mise à jour des fondements de la mathématique sur un socle autre que celui de la géométrie – commence en 1822 en Allemagne, avec l’ambitieux Traité de Martin Ohm, qui prétendait écrire une version actualisée des Éléments, en s’appuyant sur les nombres entiers. Il n’y arrivera pas, et il faudra attendre les environs de 1860 pour voir des constructions solides de l’ensemble des nombres réels.