Numerical solution of the two-dimensional elliptic Monge-Ampère equation with Dirichlet boundary conditions: a least-squares approach

We addressed, in a previous note [C. R. Acad. Sci. Paris, Ser. I 336 (2003) 779-784], the numerical solution of the Dirichlet problem for the two-dimensional elliptic Monge-Ampère equation, namely: detD2[psi]=f in [Omega], [psi]=g on [not partial differential][Omega] ([Omega][subset of]R2 and f>0, here). The method discussed previously relies on an augmented Lagrangian algorithm operating in the space H2([Omega]) and related functional spaces of symmetric tensor-valued functions. In the particular case where the above problem has no solution in H2([Omega]), while the data f and g verify f,g [set membership, variant]L1([Omega])×H3/2([not partial differential][Omega]), there is strong evidence that the augmented Lagrangian algorithm discussed in previously converges-in some sense-to a least squares solution belonging to Vg= [phi][phi][set membership, variant]H2([Omega]),[phi]=g on [not partial differential][Omega] . Our goal in this note is to discuss a least-squares based alternative solution method for the Monge-Ampère Dirichlet problem. This method relies on the minimization on the set Vg×Qf (with Qf= qq=(qij)1[less-than-or-equals, slant]i,j[less-than-or-equals, slant]2,qij[set membership, variant]L2([Omega]),[for all]i,j,1[less-than-or-equals, slant]i,j[less-than-or-equals, slant]2,q=qt,detq=f ) of a well-chosen least-squares functional. From a practical point of view we solve the above minimization problem via a relaxation type algorithm, operating alternatively in Vg and Qf and very easy to combine to the mixed finite element approximations employed in the earlier work. Numerical experiments show that the above method has good convergence properties when the Monge-Ampère Dirichlet problem has solutions in Vg; they show also that, for cases where the above problem has no solution in Vg, while neither Vg nor Qf are empty, the new method reproduces the solutions obtained via the augmented Lagrangian approach, but faster. To cite this article: E.J. Dean, R. Glowinski, C. R. Acad. Sci. Paris, Ser. I 339 (2004).Résumé La résolution numérique du problème de Dirichlet pour l'équation de Monge-Ampère elliptique bi-dimensionelle, soit : detD2[psi]=f in [Omega], [psi]=g on [not partial differential][Omega] (ici, [Omega][subset of]R2 et f>0), a été étudiée dans une note précédente [C. R. Acad. Sci. Paris, Ser. I 336 (2003) 779-784]. La méthode décrite là, repose sur un algorithme de Lagrangien augmenté opérant dans l'espace H2([Omega]) et des espaces associés de fonctions à valeurs tensorielles symétriques. Dans les cas où le problème ci-dessus n'a pas de solution dans H2([Omega]), alors que les données f and g verifient f,g [set membership, variant]L1([Omega])×H3/2([not partial differential][Omega]), diverses observations et analogies suggèrent fortement que l'algorithme de Lagrangien augmenté décrit dans notre note précédente converge-en un certain sens-vers une solution appartenant à Vg= [phi][phi][set membership, variant]H2([Omega]),[phi]=g on [not partial differential][Omega] et du type moindres carrés. L'objet de cette note est la résolution du problème de Monge-Ampère Dirichlet, directement par une méthode de moindres carrés. Cette méthode repose sur la minimisation sur l'ensemble Vg×Qf (avec Qf= qq=(qij)1[less-than-or-equals, slant]i,j[less-than-or-equals, slant]2,qij[set membership, variant]L2([Omega]),[for all]i,j,1[less-than-or-equals, slant]i,j[less-than-or-equals, slant]2,q=qt,detq=f ), d'une fonction coût bien choisie, de type moindres carrés. D'un point de vue pratique, on résout le problème de minimisation ci-dessus par un algorithme de type relaxation qui opère alternativement dans Vg et Qf ; cet algorithme est facile à combiner aux approximations par élements finis mixtes utilisées dans la note précédente. Des essais numériques montrent que la méthode de moindres carrés ci-dessus a de bonnes propriétés de convergence quand le problème de Monge-Ampère Dirichlet a des solutions dans Vg ; ces essais montrent également que lorsque problème ci-dessus n'a pas de solution dans Vg, bien que Vg et Qf soient non vides, la nouvelle méthode reproduit les solutions obtenues par Lagrangien augmenté, mais ce plus rapidement. Pour citer cet article : E.J. Dean, R. Glowinski, C. R. Acad. Sci. Paris, Ser. I 339 (2004).