844 — Série A C. R. Acad. Se. Paris, t. 273 (8 novembre 1971)
ANALYSE MATHÉMATIQUE. — Opérateurs différentiels homogènes sur R 3. Note (*) de M. ANDRÉ UNTERBERGER, présentée par M. Paul Lévy.
On étudie la propagation des singularités pour les opérateurs différentiels à coefficients constants sur R 3, dont le symbole P est homogène, à valeurs réelles, et vérifie en outre la condition suivante : en tout point la matrice hessienne de P est de rang 2.
Renvoyons à (1) pour tout ce qui concerne les espaces de Sobolev d'ordre variable.
THÉORÈME. — Soit P un polynôme homogène réel d'ordre sur R 3; soit V son cône caractéristique, et soit S le sous-cône défini par les équations Supposons qu'en tout point, la matrice hessienne de P soit de rang 2. Soit S1 le sous-cône de S engendré par les points ( est la sphère unité de R3) isolés dans .
Soit pi l'ensemble des directions de droite de R3 qui sont orthogonales à V en des points réguliers de V (i. e. des points de V\S) ; soit 92 l'ensemble des directions de plan de R3 qui sont orthogonales à des droites de S1.
Soient un ouvert de R3 et K et L deux parties compactes de , avec K C L. Supposons les deux conditions suivantes satisfaites :
a. pour tout plan E2 parallèle à un élément de p2, l'homomorphisme d'inclusion (en cohomologie d'Alexander à coefficients réels) :
est trivial.
b. pour toute droite E1 parallèle à un élément de p1 [adhérence de pi dans l'espace projectif P2 (R)], l'homomorphisme d'inclusion
est trivial.
Alors pour toute distribution en dehors de en dehors de L.
Pour démontrer ce théorème, on remarque d'abord que la restriction de P à 2 n'a pas de point critique dégénéré : ceci permet d'appliquer le lemme de Morse et d'obtenir ainsi une factorisation locale de P comme produit de symboles n'ayant que des caractéristiques simples. On conclut à l'aide du lemme suivant, qui est une forme localisée d'un lemme que nous avions donné dans ( 1) (cf. lemme 3.1, p. 109) :
LEMME. — Soit K un opérateur pseudo-différentiel de convolution, dont le symbole h est C et homogène d'ordre 1 en dehors de 0. Soient la sphère