L'algorithme de Levenberg-Marquardt (LM) est parmi les algorithmes les plus
populaire pour la résolution des problèmes des moindres carrés non linéaire. Motivés par la structure des problèmes de l'assimilation de données, nous
considérons dans cette thèse l'extension de l'algorithme LM aux situations
dans lesquelles le sous problème linéarisé, qui a la forme min||Ax - b ||^2,
est résolu de façon approximative, et/ou les données sont bruitées et ne
sont précises qu'avec une certaine probabilité.
Sous des hypothèses appropriées, on montre que le nouvel algorithme converge presque sûrement vers un point stationnaire du premier ordre. Notre approche est appliquée à une instance dans l'assimilation de données variationnelles où les modèles stochastiques du gradient sont calculés par le lisseur de Kalman d'ensemble (EnKS). On montre la convergence dans L^p de l'EnKS vers le lisseur de Kalman, quand la taille de l'ensemble tend vers l'infini. On montre aussi la convergence de l'approche LM-EnKS, qui est une variante de l'algorithme de LM avec l'EnKS utilisé comme solveur linéaire, vers l'algorithme classique de LM ou le sous problème est résolu de façon exacte.
La sensibilité de la méthode de décomposition en valeurs singulières tronquée est étudiée. Nous formulons une expression explicite pour le conditionnement de la solution des moindres carrés tronqués. Cette expression est donnée en
termes de valeurs singulières de A et les coefficients de Fourier de b. |
The Levenberg-Marquardt algorithm (LM) is one of the most popular algorithms
for the solution of nonlinear least squares problems. Motivated by the problem structure in data assimilation, we consider in this thesis the extension of the LM algorithm to the scenarios where the linearized least squares subproblems, of the form min||Ax - b ||^2, are solved inexactly and/or the gradient model is noisy and accurate only within a certain probability.
Under appropriate assumptions, we show that the modified algorithm converges
globally and almost surely to a first order stationary point. Our approach is applied to an instance in variational data assimilation where stochastic
models of the gradient are computed by the so-called ensemble Kalman smoother (EnKS). A convergence proof in L^p of EnKS in the limit for large ensembles to the Kalman smoother is given. We also show the convergence
of LM-EnKS approach, which is a variant of the LM algorithm with EnKS as a
linear solver, to the classical LM algorithm where the linearized subproblem
is solved exactly.
The sensitivity of the trucated sigular value decomposition method to solve the linearized subprobems is studied. We formulate an explicit expression for
the condition number of the truncated least squares solution. This expression is given in terms of the singular values of A and the Fourier coefficients
of b. |