Une interprétation cohomologique de la condition de Radon-Cavalieri Andrea D’Agnolo Résumé : Dans cette Note, nous appliquons les méthodes des transformations intégrales pour les faisceaux et les D-modules à l’étude de la transformée de Radon affine réelle. Classiquement, on obtient la “condition de Cavalieri” en utilisant la formule d’inversion pour la transformée de Fourier. Notre approche est différente, et montre comment cette condition, liée à la transformée de Radon projective complexe, est de nature géométrique (ou cohomologique). A cohomological interpretation of Radon-Cavalieri condition Abstract: In this note, we apply the methods of integral transforms for sheaves and D-modules to the study of the real affine Radon transform. Classically, “Cavalieri condition” is obtained using the inversion formula for the Fourier transform. Our approach is different, and shows how this condition, related to the complex projective Radon transform, is of a geometrical (or cohomological) nature. 1991 AMS Mathematics Subject Classification: 44A12, 32L25, 35C15 Abridged English Version Let P be a complex n-dimensional projective space, P∗ the dual projective space, and denote by [z], [ζ] dual systems of homogeneous coordinates. Assume n > 2 for simplicity. Let A ⊂ P × P∗ be the incidence relation defined by the equation hz, ζi = 0. Let L = C(P×P∗ )\A be the sheaf on P × P∗ which is constant with fiber C on (P × P∗ ) \ A and zero elsewhere. Denote by DbR−c (CP ) the (bounded) derived category of sheaves of C-vector spaces on P with R-constructible cohomology groups. For F ∈ DbR−c (CP ), set F ◦ L = Rq2 ! (q1−1 F ⊗ L), where X ← −X×Y − → Y are the natural projections, and Rq2 ! , q1−1 denote q1 q2 the operations of proper direct image and inverse image for sheaves. For Appeared in: C. R. Acad. Sci. Paris Sér. I Math. 324 (1997), no. 1, 19–24. 1 k ∈ Z, set k ∗ = −n − 1 − k, and denote by OP (k) the −k-th tensor power of the tautological line bundle on P. By [3, Corollary 4.5], for −n − 1 < k < 0 there is a natural isomorphism: w w ∼ RΓ(P; F ⊗ OP (k)) − → RΓ(P∗ ; (F ◦ L) ⊗ OP∗ (k ∗ ))[n], (1) w where ⊗ denotes the functor of formal cohomology introduced in [10]. Let P and P ∗ be real n-dimensional projective spaces of which P and ∗ P are linear complexifications. There are essentially two locally constant sheaves of rank one on P , here denoted by CP (ε) for ε ∈ Z/2Z (with CP (0) w being the constant sheaf). For k ∈ Z, the complex CP (ε) ⊗OP (k) is identified to CP∞ (ε|k). This is the C ∞ -line bundle on P whose sections, written in homogeneous coordinates, satisfy the relation: f (λx) = (sgn λ)ε λk f (x) ∀λ ∈ R \ {0}. As it is well-known (cf e.g., [4, page 73]) the real projective Radon transform (ε|k) RP of Definition 1.1 is an isomorphism for −n − 1 < k < 0. In [3], we recovered this result as a corollary of formula (1) for F = CP (ε), by checking that CP (ε) ◦ L is isomorphic to CP ∗ (ε∗ )[−n], up to constant sheaves on P∗ . Let E = P \ H be an affine chart. The Schwartz space S(E) of rapidly w decreasing C ∞ -functions is naturally identified to Γ(P; CE ⊗ OP (k)). Denote by ξ◦ ∈ P ∗ the point corresponding to H ⊂ P . For −n − 1 < k < 0 and (ε|k) ε∗ ≡ 1, the image of S(E) by RP is the set of sections of CP∞∗ (ε∗ |k ∗ ), which are flat at ξ◦ , and which satisfy the Cavalieri condition: for any non-negative integer m and for any ξ 0 , the integral: Z +∞ (0|m) 0 ϕ(sξ◦ + ξ 0 )sm ds cξ◦ ϕ(ξ ) = −∞ is a homogeneous polynomial of degree m + k ∗ + 1 in ξ 0 . Classically (cf e.g., [4, page 86]), the proof of this statement makes use of the inversion formula for the Fourier transform. Here, we recover this result, in a projectively invariant manner, as a corollary of formula (1) for F = CE . More precisely, the embedding H ,→ P induces by duality a projection P ∗ \{ξ◦ } → − H ∗ , where H ∗ is an (n−1)-dimensional real projective space. Denote by q : P∗ \ {ξ◦ } → − H∗ a complexification of this projection, and set Q∗ = q −1 (H ∗ ). An explicit computation shows that, modulo constant sheaves on P∗ , there is a distinguished triangle: CE ◦ L → − CP ∗ \{ξ◦ } (1)[−n] → − CQ∗ [1 − n] −→ . +1 2 Using this distinguished triangle to compute the r.h.s. of (1), we see in particular how Cavalieri condition is of a geometrical nature, the integrals being taken along lines whose complexifications are the fibers of q. By the Legendre contact transformation, these lines correspond to the complex conormal directions to H in P. 1 Énoncé des résultats Soit P un espace projectif réel de dimension n, P ∗ l’espace projectif dual, et [x] = [x0 , . . . , xn ], [ξ] des systèmes de coordonnées homogènes duaux sur P et P ∗ respectivement. Pour k ∈ Z, ε ∈ Z/2Z, notons CP∞ (ε|k) le fibré en droites de classe C ∞ dont les sections satisfont la relation : f (λx) = (sgn λ)ε λk f (x) ∀λ ∈ R \ {0}. (2) Considérons la distribution sur R : δ (ε|k) 1 dk (t) = 2πi dtk 1 (−1)ε − t − i0 t + i0 . Définition 1.1. Pour k ∗ = −n − 1 − k, ε∗ ≡ −n − 1 − ε, on considère la transformation intégrale : (ε|k) RP où ω(x) = Pn : Γ(P ; CP∞ (ε|k)) → − Γ(P ∗ ; CP∞∗ (ε∗ |k ∗ )) Z f (x) 7→ f (x)δ (n+ε|n+k) (hx, ξi)ω(x), j=0 (−1) j cj ∧· · ·∧dxn désigne la n-forme de Leray. xj dx0 ∧· · ·∧ dx Le résultat suivant est bien connu (cf e.g., [4, page 73]) : (ε|k) Théorème 1.2. Pour −n − 1 < k < 0, RP (ε∗ |k ∗ ) étant donnée par RP ∗ . (−n|−n) est un isomorphisme, l’inverse Remarquons que RP coı̈ncide avec la transformée de Radon projective. Pour U ⊂ P ouvert sous-analytique, on note par Γw (U ; CP∞ (ε|k)) le sous-espace de Γ(P ; CP∞ (ε|k)) des fonctions nulles à l’ordre infini dans P \ U . L’espace de Schwartz S(E) des fonctions rapidement décroissantes dans une carte affine E ⊂ P , s’identifie à Γw (E; CP∞ (ε|k)). Il est donc naturel de décrire (ε|k) l’image par RP de Γw (E; CP∞ (ε|k)). 3 Théorème 1.3. Soit H = P \ E l’hyperplan à l’infini de E, notons ξ◦ ∈ P ∗ le point correspondant, et identifions l’espace tangent projectif à P ∗ en ξ◦ à un hyperplan H ∗ ⊂ P ∗ , avec ξ◦ ∈ / H ∗ . Soit ϕ ∈ Γ(P ∗ ; CP∞∗ (ε∗ |k ∗ )). Supposons (ε|k) −n − 1 < k < 0. Alors il existe f ∈ Γw (E; CP∞ (ε|k)) telle que ϕ = RP f si et seulement si : (i) (le cas ε∗ ≡ 0) pour tout entier non négatif m et pour tout ξ 0 ∈ H ∗ les différentielles non-locales de ϕ en ξ◦ au sens de [5] : Z +∞ ∗ (1|k ∗ +m+1) 0 ϕ(ξ◦ + tξ 0 )δ (1|k +m+1) (t)dt (3) d ξ◦ ϕ(ξ ) = −∞ s’annulent. (ii) (le cas ε∗ ≡ 1) ϕ appartient à Γw (P ∗ \ {ξ◦ }; CP∞∗ (1|k ∗ )), et satisfait la “condition de Cavalieri” : pour tout entier non négatif m et pour tout ξ 0 ∈ H ∗ , l’intégrale : Z +∞ (0|m) 0 cξ◦ ϕ(ξ ) = ϕ(sξ◦ + ξ 0 )sm ds (4) −∞ est un polynôme homogène de degré m + k ∗ + 1 en ξ 0 . La partie (ii) de l’énoncé a été démontré e.g. dans [4, page 86] pour k = −n. La partie (i) pourrait aussi être démontrée par la même méthode, qui consiste à utiliser la formule d’inversion pour la transformée de Fourier. Ici notre approche est différente, et utilise la théorie des transformations intégrales pour les faisceaux et les D-modules de [2], [3], [10] (cf aussi [6] pour une approche voisine). En particulier, on verra que les conditions (3), (4) sont de nature géométrique (ou cohomologique), liée à la transformée de Radon projective complexe. 2 Transformations intégrales pour les faisceaux et les D-modules Soit X une variété analytique complexe, OX son faisceau structural, ΩX le faisceau des formes de degré maximal, et DX le faisceau d’anneaux des opérateurs différentiels linéaires à coefficients holomorphes. Si A ⊂ X est un sous-ensemble localement fermé, on note CA le faisceau sur X, constant de fibre C sur A et zéro ailleurs. On note par Db (CX ) (resp., Db (DX )) la catégorie dérivée de la catégories des complexes bornés de faisceaux de Cvectoriels (resp., de DX -modules) sur X. Soit Y une autre variété analytique 4 complexe. Pour G ∈ Db (CY ), M ∈ Db (DX ), L ∈ Db (CX×Y ), et L ∈ Db (DX×Y ), on pose : ( L ◦ G = Rq1 ! (L ⊗ q2−1 G), (5) M ◦ L = q2 ! (q1 −1 M ⊗OL L), X×Y où X ← − X ×Y − → Y désignent les projections naturelles, et Rq1 ! , q2−1 (resp., q1 q2 q2 ! , q1 −1 ) désignent les opérations d’image directe propre et d’image inverse pour les faisceaux (resp., pour les D-modules). On définit de la même façon F ◦ L pour F ∈ Db (CX ). On note DbR−c (CX ) la sous-catégorie triangulée pleine de Db (CX ) dont les objets sont à cohomologie R-constructible. On dit qu’un DX -module M est quasi-good si, pour tout sous-ensemble relativement compact de X, il admet une filtration {Mk } par des DX -sous-modules cohérents, telle que tout quotient Mk /Mk−1 admette une bonne filtration, et Mk = 0 pour k 0. On note Dbq−good (DX ) la sous-catégorie triangulée pleine de Db (DX ) dont les objets sont à cohomologie quasi-good. Pour F ∈ DbR−c (CX ), les complexes w F ⊗OX et T Hom (F, OX ) de cohomologie formelle et tempérée ont été définis dans [8], [10]. Le théorème suivant est l’analogue en cohomologie formelle d’une formule d’adjonction de [2] Théorème 2.1. ([10, Theorem 10.8]) Soient G ∈ DbR−c (CY ) et M ∈ Dbq−good (DX ). Soit L ∈ Db (DX×Y ) holonome régulier, et posons L = RHom DX×Y (L, OX×Y ). Supposons que : (supp(M) × Y ) ∩ supp(L) soit propre sur Y, (X × supp(G)) ∩ supp(L) soit propre sur X. Alors, on a un isomorphisme : w ∼ w RHom DX (M, (L ◦ G) ⊗ OX )[dX ] − → RHom DY (M ◦ L, G ⊗ OY ). 3 (6) Transformation de Radon projective complexe Soit P un espace projectif complexe de dimension n, P∗ son espace projectif dual, et [z], [ζ] des systèmes duaux de coordonnées homogènes. Soit A ⊂ P × P∗ la variété d’incidence définie par l’équation hz, ζi = 0. Posons : L = C(P×P∗ )\A , L = T Hom (L, OP×P∗ ). 5 (7) Pour k ∈ Z, on note OP (k) la −k-ième puissance tensorielle du fibré tautologique, et on pose DP (k) = DP ⊗OP OP (k). La fonction méromorphe : sk (z, ζ) = ω(z) , hz, ζin+1+k (8) considérée dans [11], définit une section de L(n,0) (−k, k ∗ ) = ((ΩP ⊗OP OP (−k)) OP∗ (k ∗ )) ⊗OP×P∗ L. Théorème 3.1. ([3, Theorem 4.3]) Supposons −n − 1 < k < 0. Alors, s k induit un isomorphisme dans Db (DP∗ ) : DP∗ (−k ∗ ) → − DP (−k) ◦ L. Soit F ∈ DbR−c (CP ). Comme corollaire des Théorèmes 2.1 et 3.1, pour −n − 1 < k < 0 on obtient un isomorphisme induit par sk : w w ∼ RΓ(P; F ⊗ OP (k)) − → RΓ(P∗ ; (F ◦ L) ⊗ OP∗ (k ∗ ))[n]. 4 (9) Esquisse de la preuve Soient P et P ∗ les espaces projectifs réels dont P et P∗ sont les complexifiés linéaires. Supposons par simplicité n > 2. Puisque π1 (P ) = Z/2Z, il y a essentiellement deux faisceau localement constants de rang un sur P : le faisceaux constant CP , qu’on notera CP (0), et le fibré canonique, qu’on notera CP (1). Pour ε ∈ Z/2Z, on pose ε∗ ≡ −n − 1 − ε. Si F est un faisceau sur P , on pose F (ε) = F ⊗ CP (ε). D’après [3, Proposition 5.16], CP (ε) ◦ L est isomorphe à CP ∗ (ε∗ )[−n], modulo faisceaux constants sur P∗ . Plus exactement, on a un isomorphime : CP (ε) ◦ L ' CP ∗ (ε∗ )[−n] dans Db (CP∗ ; Ṫ ∗ P∗ ), (10) la catégorie localisée de Db (CP∗ ) en Ṫ ∗ P∗ , le fibré conormal à P∗ privé de la section nulle (cf [9]). Avec les notations du Théorème 1.3, l’immersion H ,→ P induit par dualité une projection P ∗ \{ξ◦ } → − H ∗ , où H ∗ est un espace ∗ projectif réel de dimension (n − 1). Soit q : P \ {ξ◦ } → − H∗ un complexifié de cette projection, et posons Q∗ = q −1 (H ∗ ). Par un calcul explicite, on montre qu’on a les triangles distingués dans Db (CP∗ ; Ṫ ∗ P∗ ) : CE (0∗ ) ◦ L → − CP ∗ (0)[−n] → − CQ∗ (1)[1 − n] −→, (11) CE (1∗ ) ◦ L → − CP ∗ \{ξ◦ } (1)[−n] → − CQ∗ [1 − n] −→ . (12) +1 +1 6 Rappelons que, pour k ∈ Z, ε ∈ Z/2Z, on a les isomorphismes : w Γ(P ; CP∞ (ε|k)) ' RΓ(P; CP (ε) ⊗ OP (k)), w Γw (E; CP∞ (ε|k)) ' RΓ(P; CE (ε) ⊗ OP (k)). w Pour −n − 1 < k < 0, le foncteur RΓ(P∗ ; (·) ⊗ OP∗ (k ∗ )) est bien défini dans DbR−c (CP∗ ; Ṫ ∗ P∗ ). Dans [3], on a retrouvé le Théorème 1.2 comme corollaire w de la formule (9) pour F = CP (ε). Si on applique RΓ(P∗ ; (·) ⊗ OP∗ (k ∗ )) au triangle distingué : CE (ε) ◦ L → − CP (ε) ◦ L → − CH (ε) ◦ L −→, +1 en utilisant les formules (10), (11), (12), et (9) on obtient les suites exactes courtes : (0∗ |k) 0→ − RP (13) Γ(P ∗ ; CP∞∗ (0|k ∗ )) Y ∗ ∞ − 0, Γ(H ∗ ; CH −−−− −−→ ∗ (1|k + m + 1)) → ∗ Γw (E; CP∞ (0∗ |k)) → − (1|k +·+1) dξ ◦ 0→ − (1∗ |k) RP Γw (E; CP∞ (1∗ |k)) m≥0 Γw (P ∗ \ {ξ◦ }; CP∞∗ (1|k ∗ )) → − (14) w H 1 (P∗ ; CQ∗ ⊗ OP∗ (k ∗ )) → − 0. → − c L’exactitude de (13) démontre la partie (i) du Théorème 1.3. En appliquant w le foncteur RΓ(P∗ ; (·) ⊗ OP∗ (k ∗ )) au diagramme : 0 / C Q∗ O / CQ ∗ v: v v vv vv v v / C ξ◦ / 0 CP ∗ \{ξ◦ } on voit que le morphisme c de (14) s’insère dans le diagramme commutatif : 0→ − OP∗ˆ|ξ◦ t / Q ∞ ∗ Γ(H ∗ ; CH ∗ (0|k + m + 1)) m≥0 (0|·) w / H 1 (P∗ ; CQ∗ ⊗ OP∗ (k ∗ )) → − 0 hhh3 chhhhhhh h h h hhhh hhhh O c ξ◦ Γw (P ∗ \ {ξ◦ }; CP∞∗ (1|k ∗ )) P Une section de OP∗ˆ|ξ◦ est une série formelle mP ψm , où ψm sont P des polynômes homogènes de degré m. On vérifie alors que t( m ψm ) = m ψk∗ +m+1 . Ceci démontre la partie (ii) du Théorème 1.3. 7 5 Commentaires et remarques La surjectivité du morphisme c dans (14) démontre un théorème de Borel pour les différentielles non-locales. Par des méthodes analogues on pourrait obtenir d’autres résultats, comme le théorème des supports d’Helgason, ou une description de l’image de la transformée de Radon conforme. Les résultats de cette Note sont développés dans la prépublication [1]. Enfin, il nous est agréable de remercier ici Masaki Kashiwara pour des nombreuses conversations utiles sur ce sujet. Références bibliographiques [1] A. D’Agnolo, Nonlocal differentials, Radon transform, and Cavalieri condition: a cohomological approach, Prépublication, Univ. Paris VI and Paris VII, January 1996. [2] A. D’Agnolo and P. Schapira, La transformée de Radon-Penrose des Dmodules, C. R. Acad. Sci. Paris Sér. I Math., 319 (1994), 461–466; The Radon-Penrose transform for D-modules, J. Funct. Anal. 139 (1996), 349– 382. [3] , Quantification de Leray de la dualité projective, C. R. Acad. Sci. Paris Sér. I Math., 319 (1994), 595–598; Leray’s quantization of projective duality, Duke Math. J. 84 (1996), 453–496. [4] I. M. Gelfand, S. G. Gindikin, and M. I. Graev, Integral geometry in affine and projective spaces, Journal of Soviet Math. 18 (1982), 39–167. [5] I. M. Gelfand and M. M. Smirnov, Lagrangians satisfying Crofton formulas, Radon transforms, and nonlocal differentials, Adv. in Math. 109 (1994), 188– 227. [6] A. Goncharov, Integral geometry and D-modules, Mathematical Research Letters 2 (1995), 415–435. [7] S. Helgason, The Radon transform, Progress in Mathematics, no. 5, Birkhäuser, 1980. [8] M. Kashiwara, The Riemann-Hilbert problem for holonomic systems, Publ. Res. Inst. Math. Sci. 20 (1984), no. 2, 319–365. [9] M. Kashiwara and P. Schapira, Sheaves on manifolds, Grundlehren der mathematischen Wissenschaften, no. 292, Springer, 1990. 8 [10] , Moderate and formal cohomology associated with constructible sheaves, Mém. Soc. Math. France (N.S.) 123 (1996), no. 63. [11] J. Leray, Le calcul différentiel et intégral sur une variété analytique complexe (problème de Cauchy III), Bull. Soc. Math. France 87 (1959), 81–180. 9