Groupe de tresses et Cryptographie

Rapport de Stage de Magist`ere
sous la direction de
Patrick Dehornoy
Laboratoire de Math´ematiques
Nicolas Oresme
Universit´e de Caen
Groupe de tresses et Cryptographie
Juillet 2003 C´edric Milliet

Table des mati`eres
Introduction 1
1 Le groupe de tresses 3
1.1 Tresses g´eom´etriques . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2 Pr´esentation du groupe de tresses . . . . . . . . . . . . . . . . . . 4
1.3 Le mono¨ıde des tresses positives B+
n................ 6
2 Le probl`eme de mot 8
2.1 Forme normale . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
2.2 Une forme r´eduite : la r´eduction des poign´ees . . . . . . . . . . . 10
3 Un probl`eme difficile du groupe de tresse 11
3.1 Construction d’un ´el´ement ˜ade SSS(a) .............. 11
3.2 Construction de SSS(a)....................... 12
4 Application `a la cryptographie 14
4.1 Cryptographie `a clef secr`ete . . . . . . . . . . . . . . . . . . . . . 14
4.2 Cryptographie `a clef publique . . . . . . . . . . . . . . . . . . . . 14
4.3 Pertinence du groupe de tresse . . . . . . . . . . . . . . . . . . . 15
4.4 Cryptosyst`eme `a clef publique utilisant le groupe Bn. . . . . . . 15
R´ef´erences 17
1

Introduction
Ceci est le rapport d’un stage de premi`ere ann´ee de magist`ere, effectu´e
`a Caen au Laboratoire de Math´ematiques Nicolas Oresme, sous la direction
de Patrick Dehornoy. Outre le stage en lui-mˆeme, j’ai assist´e au laboratoire
de Caen `a plusieurs conf´erences sur le paradoxe de Banach-Tarski et sur la
cryptographie. J’ai ´egalement pass´e une semaine `a Marseille au centre de
Luminy `a l’occasion des Journ´ees tresses.
Ce rapport a pour but d’introduire le groupe de tresses, d’expliquer en quoi
il est un cadre priviligi´e `a la cryptographie, et de pr´esenter un cryptosyst`eme `a
clef publique bas´e sur ce groupe.
Le premier chapitre d´etaille la construction du groupe de tresses en partant
de la notion g´eom´etrique de tresse, et en exhibe quelques propri´et´es, notamment
la pr´esentation du groupe en terme de g´en´erateurs et de relations.
La pr´esentation du groupe en terme de g´en´erateurs et de relations am`ene
naturellement la question du probl`eme de mots que l’on r´esout au chapitre 2.
Le chapitre 3 expose un probl`eme difficile du groupe de tresse, c’est-`a-dire
un probl`eme dont il n’existe pas encore de solution efficace.
C’est cette combinaison de la facilit´e du probl`eme de mot et de la difficult´e
d’un autre probl`eme, qui fait du groupe de tresses un cadre propice `a la crypto-
graphie. Tel est l’objet du dernier chapitre, o`u l’on pr´esente un cryptosyst`eme
bas´e sur le groupe de tresses, apr`es avoir expliqu´e le principe des cryptographies
`a clefs secr`etes et publiques.
2

1 Le groupe de tresses
1.1 Tresses g´eom´etriques
D´efinition — Soit fune permutation de Sn. Une tresse g´eom´etrique `a n
brins associ´ee `a fest l’union de narcs continus disjoints de R2×[0,1] joignant
chaque point (i, 0) au point (f(i),1), et telle que chaque plan horizontal
R2× {z}coupe chaque arc exactement une fois.
Figure 1 —Une tresse g´eom´etrique `a quatre brins
On choisit pour l’axe des zla verticale orient´ee vers le bas. Chaque arc est
appel´e brin. On munit l’ensemble des tresses g´eom´etriques d’un produit : le
produit de deux tresses g´eom´etriques a×best obtenu en contractant aet b
dans R2×[0,1
2] et R2×[1 2,1] respectivement, puis en concat´enant le tout.
Figure 2 —Produit de deux tresses g´eom´etriques
Le produit ainsi obtenu n’est en g´en´eral pas associatif, puisque dans le
produit (ab)c, la tresse cest contract´ee dans R2×[1
2,1] au lieu de R2×[3 4,1]
dans le produit a(bc). Mais ce produit serait associatif si on permettait aux
tresses d’ˆetre contract´ees ou dilat´ees. Ce qui nous sugg`ere d’introduire la
relation d’´equivalence suivante sur les tresses g´eom´etriques `a nbrins :
D´efinition — Deux tresses g´eom´etriques αet βsont dites isotopes s’il existe
une application gde [0,1] dans l’ensemble des tresses g´eom´etriques, continue
pour la topologie usuelle sur R3, et v´erifiant g(0) = αet g(1) = β.
—On appelle tresse `a n brins une classe d’´equivalence de tresses
g´eom´etriques `a nbrins pour la relation d’isotopie. On note Bnl’ensemble
3

quotient correspondant.
G´eom´etriquement, la notion d’isotopie s’exprime comme suit : deux tresses
sont isotopes si l’une peut ˆetre d´eform´ee continuement en l’autre, en laissant
les extr´emit´es {1, .., n}×{0,1}fixes.
Figure 3 —Deux tresses g´eom´etriques `a 4 brins isotopes
Le produit passe au quotient et conf`ere `a Bnune structure de groupe :
l’inverse d’une tresse est la classe d’isotopie de image d’un de ses repr´esentants
dans le miroir de cote 1
2, l’´el´ement neutre est la classe de la tresse triviale,
d´efinie comme la tresse g´eom´etrique dont les brins ne se croisent pas.
Remarque — On a d´efini une tresse g´eom´etrique comme ´etant une union d’arcs
continus. Mais on aurait tout aussi bien pu consid´erer des arcs polygonaux, C1
ou C∞. On obtiendrait alors le mˆeme groupe, toute tresse g´eom´etrique ´etant
isotope `a une tresse C∞,C1, ou polygonale.
Remarque — On a un homomorphisme canonique de Bnsur Snqui `a une tresse
associe la permutation f−1.
1.2 Pr´esentation du groupe de tresses
On voudrait `a pr´esent trouver un alphabet pour coder les tresses. Pour ce
faire, on consid`ere les tresses g´eom´etriques projet´ees sur le plan y= 0. L’id´ee
est que les projections de tresses isotopes sont enti`erement caract´eris´ees par les
croisements de leurs brins (qui forment un alphabet fini).
D´efinition — Une tresse g´eom´etrique est dit r´eguli`ere si sa projection sur le
plan y= 0 n’a aucun point triple et un nombre fini de points doubles, de cotes
dans ]0,1[ deux `a deux distinctes.
Lemme — Toute tresse g´eom´etrique αest isotope `a une tresse r´eguli`ere.
4