Elsevier

Signal Processing

Volume 38, Issue 2, July 1994, Pages 259-268
Signal Processing

Erratum
Nonlinear phase FIR filter design according to the L2 norm with constraints for the complex error

https://doi.org/10.1016/0165-1684(94)90145-7

Abstract

We examine the problem of approximating a complex frequency response by a real-valued FIR filter according to the L2 norm subject to additional inequality constraints for the complex error function. Starting with the Kuhn-Tucker optimality conditions which specialize to a system of nonlinear equations, we deduce an iterative algorithm. These equations are solved by Newton's method in every iteration step. The algorithm allows arbitrary tradeoffs between an L2 and an L design. The L2 and the L solution result as special cases.

Zusammenfassung

Wir untersuchen das Problem der Approximation eines komplexen Frequenzganges mittels eines reellwertigen nichtrekursiven Filters nach der L2-Norm mit zusätzlichen Ungleichungsbedingungen für die komplexe Fehlerfunktion. Ausgehend von den Kuhn-Tucker Optimalitätsbedingungen, die auf ein nichtlineares Gleichungssystem führen, leiten wir einen iterativen Algorithmus her. Diese Gleichungen werden in jedem Iterationsschritt mittels des Newton-Verfahrens gelöst. Der Algorithmus erlaubt beliebige Kompromisse zwischen einem L2- und einem L-Entwurf. Die L2- und die L-Lösung ergeben sich als Spezialfälle.

Résumé

Nous examinons le problème de l'approximation d'une réponse fréquencielle complexe par un filtre à valeurs réels FIR en accord avec la norme L2 sujette à des contraintes additionnelles pour la fonction d'erreur complexe. En partant des conditions d'optimalités de Kuhn-Tucker qui se spécialise dans les systèmes d'équations non linéaires, nous en déduisons un algorithme itératif. Ces équations sont résolues par la méthode de Newton à chaque pas d'itération. L'algorithme alloue des compromis arbitraires entre les normes L2 et L. Les solutions L2 et L étant des cas particuliers.

Keywords

Complex FIR filter
Filter design
Constrained optimization

Cited by (0)

Corrected version from the paper previously published in Signal Processing, Vol. 36, No. 1, March 1994, pp. 31–40.

View Abstract