This term I am teaching “Integraltransformation” and plan to put my lecture notes here. Since the lecture is German, the notes are also in German. Here is the first part:

1. Einleitung

Obwohl diese Vorlesung “Integraltransformationen” heißt, behandelt sie nicht nur solche, sondern auch anderen Arten von Transformationen. Konkret behandeln wir:

• die -Transformation,
• die Laplace-Transformation,
• die Fourier-Transformation,
• Fourier-Reihen

und gegebenfalls noch

• die Wavelet-Transformation,
• die gefensterte Fourier-Transformation,
• die Hilbert-Transformation,
• die Zak-Transformation.

Die grundlegende Idee bei all diesen Transformationen ist es, einem mathematischen Objekt (zum Beispiel einer Funktion) ein anderes mathematisches Objekt zuzuordnen, welches die Information die das Objekt trägt in anderer Weise kodiert. Dieses neue Objekt kann es dann erlauben, bestimmte Eigenschaften einfacher abzulesen, oder es ist manchmal möglich, bestimmte Änderungen am Objekt in übersichtlicherer Weise darzustellen.

Obwohl alle genannten Transformationen mathematisch interessant und sehr hilfreich sind, haben sie ein Anwendungsfeld, welches nicht nur zur Motivation dient, sondern auch bei der Interpretation eine gute Hilfestellung bietet:

1.1. Signalverarbeitung

Unter einem Signal kann man verschiedenes verstehen – es geht auf jeden Fall um etwas, was Information kodiert und zur Übertragung von einer Stelle an eine andere geeignet ist. Dies kann zum Beispiel sein:

• ein Schallsignal wie es vom MP3-Player durch das Kopfhörerkabel geleitet wird,
• eine Folge von Bits wie sie durch das Netzwerkkabel vom Computer geleitet wird,
• eine elektromagnetische Welle wie sie vom Handy zum Funkmast gesendet wird, oder auch
• ein digitales Bild wie es auf der Speicherkarte eine Digitalkamera abgelegt wird.

Signale werden grob unterteilt:

• Analoge Signale: Das “Signal” ist eine Funktion auf einem kontinuierlichen Definitionsbereich, hier ein kontinuierliches Zeitintervall. Beispiele sind das Schallsignal oder die elektromagnetische Welle.
• Digitale Signale: Das “Signal” ist eine (endliche oder unendliche) Folge von Werten, wie die Bitfolge oder das Digitalbild.

Man könnte auch noch nach dem Wertebereich unterscheiden (ist er diskret, wie bei der Bitfolge und dem Bild, oder kontinuierlich, wie beim Schallsignal). In dieser Vorlesung wird diese Unterscheidung keine Rolle spielen – unsere Signale haben immer kontinuierliche Werte (meist reelle oder komplexe Zahlen).

Eine zentrale Frage der Signalverarbeitung ist es, wie aus analogen Signalen digitale Signale gewonnen werden und wie der umgekehrte Weg beschritten werden kann. Die Thematik läuft unter dem Namen “Abtasten” und “Interpolieren” (innerhalb der E-Technik auch AD- und DA-Konversion; Analog-Digital bzw. Digital-Analog). Weitere Aufgaben sind die Abwandlung/Bearbeitung von Signalen oder auch die Kompression.

Wir werden zwar keine Signalverarbeitung im eigentlichen Sinn behandeln, aber es wird im Folgenden hilfreich sein, sich der Intuition zu bedienen, dass es sich bei den auftretenden Funktionen und Folgen um kontinuierliche bzw.~diskrete Signale handelt.

1.2. Etwas Notation

Wir bezeichen mit die natürlichen Zahlen (inklusive Null), mit die ganzen Zahlen, mit die reellen und mit die komplexen Zahlen.

Eine Funktion bezeichnen wir auch als komplexwertiges kontinuierliches Signal. Eine Abbildung nennen wir auch reellwertiges diskretes Signal (auch wird so genannt). Analog sind natürlich reellwertige kontinuierliche Signale und komplexwertige diskrete Signale zu verstehen. Im Falle von diskreten Signalen benutzen wir auch die Schreibweise (wie bei Folgen üblich).

Mit bzw bezeichnen wir die -dimensionalen Vektorräume und notieren die euklidschen Normen darauf mit (was nicht zu Verwechselungen mit dem Betrag auf und führen sollte).

Die komplexe Konjugation von bezeichnen wir mit , den Real- und Imaginärteil von mit bzw. .

1.3. Literatur

Literatur zum Inhalt dieser Vorlesung gibt es reichlich, z.B.

• Strampp, W., Voroztsov, E.V., Mathematische Methoden der Signalverarbeitung, Oldenbourg, 2004
• Föllinger, O., Laplace-, Fourier- und -Transformation, VDE-Verlag, 2011
• Doetsch, G., Einführung in Theorie und Anwendung der Laplace-Transformation, Birkhäuser Verlag, 1958
• Damelin, S.B., Miller, Jr., W., The Mathematics of Signal Processing, Cambridge University Press, 2012
• Vich, R., -Transformation: Theorie und Anwendung,Verlag Technik, 1964
• Frey, T., Bossert, M., Signal- und Systemtheorie,Vieweg+Teubner, 2008.

2. Die -Transformation

Die -Transformation macht aus einem diskreten Signal eine holomorphe Funktion. Neben ihrer Anwendung auf diskrete Signale eignet sie sich auch zur Untersuchung von Differenzengleichungen.

Interpretieren wir den Index einer Folge als diskrete Zeit, so lassen sich diskrete Signale in Kategorien aufteilen: Die Signale die eine “Vergangenheit” haben und die, die nur “von jetzt ab” existieren und noch die, die “nur in der Vergangenheit” existieren.

Definition 1 (Kausale, antikausale und akausale Folgen) Eine zweiseitige Folge heißt kausal, wenn für gilt. Sie heißt antikausal, wenn für gilt. Gilt keins von beiden, heißt sie akausal.

Eine (einseitige) Folge bezeichnen wir ebenfalls als kausal.

2.1. Definition und elementare Eigenschaften

Definition 2 (-Transformation) Für kausale Folge definieren wir die -Transformierteals

Die Abbildung heißt -Transformation. Für zweiseitige Folgen definieren wir analog die zweiseitige -Transformationdurch

In der Funktionentheorie haben wir gelernt, wie die Konvergenzbereiche von -Transformierten aussehen:

Proposition 3 (Konvergenzgebiete von -Transformierten) Zu einer Folge existiert , so dass auf der Menge absolut und lokal gleichmäßig konvergiert. Zu einer zweiseitigen Folge existieren , so dass auf der Menge absolut und lokal gleichmäßig konvergiert. Die Fälle sind zugelassen und bedeuten, dass keine untere, bzw.~obere Schranke für besteht.

Man beachte, dass der Fall ein leeres Konvergenzgebiet bedeutet. Im Zusammenhang mit der zweiseitigen -Tranformation nennt man den Teil den kausalen Teil (was bis auf den -ten Term dem Hauptteil der Laurentreihe entspricht) und den Teil den antikausalen Teil. Das Konvergenzgebiet von ist genau der Schnitt der Konvergenzgebiete des kausalen und antikausalen Teils.

Proposition 4 Existieren für eine zweiseitige Folge Konstanten und , so dass für gilt

dann Konvergiert für .

Beweis:Aus (für ) folgt und daher auch

Die Potenzreihe konvergiert nach dem Wurzelkriterium also für , d.h. der kausale Teil von konvergiert für . Ebenso sieht man, dass für gilt und also auch . Die Potenzreihe (der antikausale Teil von ) konvergiert also für .

Die Wachstumsbedingungen und () garantieren bei also die Konvergenz einer zweiseitigen -Transformierten auf einem Kreisring in der komplexen Ebene. Natürlich konvergieren einseitige -Transformierte außerhalb einer Kreisscheibe um den Nullpunkt bei entsprechenden Wachstumsbedingung.

Die -Transformation ist unter anderem geeignet, um Differenzengleichungen zu lösen:

Beispiel 5 (Differenzengleichungen und die -Transformation) Wir betrachten die berühmte Fibonacci-Folge , welche rekursiv definiert ist:

 

Natürlich lässt sich für jedes der Wert von rekursiv bestimmen. Unter einer “Lösung der Differenzengleichung (1)” verstehen wir allerdings eine explizite Darstellung von in Abhängigkeit von . Wir wollen nun beide Seiten von (1)-transformieren. Dazu definieren wir die Hilfsfolge durch , und berechnen

Ebenso berechnen wir für

Wir -Transformieren nun die Gleichung (1)und erhalten (unter Benutzung der Werte und )

was wir nach auflösen können

An dieser Stelle müssen wir eine Folge finden, die die Funktion als -Transformierte hat. Mit Hilfe der Funktionentheorie ist dies möglich. Wir unterbrechen das Beispiel kurz, für einen Satz, der die Koeffizienten einer -Transformierten angibt.

Satz 6 (Umkehrung der -Transformation) Es gelte für und es sei . Dann gilt

das heißt, die Folge wird durch die -Transformation in überführt. Außerdem ist die einzige solche Folge.

Beweis:Die -Transformierte der Folge ist

Wir multiplizieren diese Gleichung mit und integrieren beide Seiten über die Kreislinie : Da wir auf Grund der gleichmäßigen Konvergenz entlang des Weges gliedweise Integrieren dürfen ergibt sich

Mit

folgt . Die Eindeutigkeit der Folge ist analog zur Eindeutigkeit der Taylor-Koeffizienten.

Beispiel 7 (Fortsetzung des Fibonacci-Beispiels) Wir müssen also die Funktion betrachten. Es liegen zwei Pole vor die wir als Nullstellen des Nenners berechnen:

Wir benutzen nun Satz~6und wählen ein und berechnen

Mit dem Residuensatz bekommen wir

Explizit erhalten wir die geschlossene Form der -ten Fibonacci-Zahl

Diese Formel ist auch unter dem Namen “Formel von Moivre-Binet” bekannt. (Ein anderer Beweis dieser Formel stellt die Fibonacci-Folge durch Matrix-Potenzen dar und benutzt die Diagonalisierung der Matrix zur expliziten Darstellung der Einträge der Potenzen.)

Am Beispiel der Fibonacci-Folge haben wir nicht nur die Umkehrformel aus Satz~6, sonder auch schon deren Linearität und einen “Verschiebungssatz” benutzt. Wir sammeln diese und weitere solcher Eigenschaften im folgenden Satz:

Satz 8 (Elementare Eigenschaften der einseitigen -Transformation) Die -Transformierte der Folge habe den Konvergenzbereich . Für die einseitige -Transformation gilt:

• Linearität: Für Folgen und und gilt

  

  falls in beiden Konvergenzbereichen von und liegt.

• Konjugation: Es gilt

  

• Dämpfung: Für , und mit gilt für

  

• Differentiation: Für und gilt

  

• Linksverschiebung: Für , setze , (also ). Dann gilt für

  

• Rechtsverschiebung: Für , setze

  

  (also ). Dann gilt für

  

 

Beweis:

• Linearität folgt aus der Linearität der Reihenbildung.
• Dämpfung rechnet man direkt nach:

  

• Konjugation rechnet man ebenso direkt.
• Differentiation zeigt man, indem man mit startet und Differentiation mit der Reihenbildung vertauscht (lokal gleichmäßige Konvergenz!):

  

  Beachte noch, dass gliedweise Differentiation den Konvegrenzbereich unverändert lässt.

• Linksverschiebung rechnet man wie folgt nach:

  

• Rechtsverschiebung geht noch ein bisschen einfacher:

  

  

  Für die zweiseitige Transformation gelten analoge Regeln, nur bei der Verschiebung wird es einfacher und wir können die “Zeit” umkehren:

  Satz 9 (Weitere Regeln für die zweiseitige -Transformation) Die -Transformierte der zweiseitigen Folge konvergiere für . Dann gilt:

• Verschiebung: Für setze . Dann gilt für

  

• Zeitumkehr: Mit gilt für

  

   

•  

  Beweis: In beiden Fällen sind das elementare Rechnungen, die sich zur Übung lohnen.

  2.2. Rechenbeispiele

  Wir werden im Folgenden häufig die etwas laxe Schreibweise anstelle von benutzen, d.h. anstelle der Folge setzen wir “das -te Folgenglied” ein. Das erspart ein wenig Schreibarbeit und ist manchmal klarer. So wir die Dämpfungsregel zum Beispiel zu

  

  Beispiel 10 (“Einheitssprung”) In der Signalverarbeitung ist der Einheitssprung die Folge, die bei vom Wert Null auf Eins springt, d.h.

  

  Die zweiseitige -Transformierte des Einheitssprunges ist

  

  Die ist ebenfalls die einseitige -Transformierte der konstanten Folge , , d.h. .

  Beispiel 11 (Komplexe Exponentialfolge) Zu schließen wir mit der Dämpfungsregel und dem vorherigen Beispiel

  

  Beispiel 12 (Einsatz der Ableitungsregel) Wegen

  

  schließen wir (wieder aus der bekannten Transformierten des Einheitssprunges)

  

  Beispiel 13 Zu mit suchen wir die Urbildfolge zur -Transformierten

  

  Es gilt

  

  Wir wissen schon und schließen mit der Linearität und der Regel für die Rechtsverschiebung

  

  2.3. Faltungssatz und Anwendung

  Definition 14 Für zwei zweiseitige Folgen und ist die Faltungvon und definiert durch

  

  (wann immer die Reihe konvergiert).

  Bemerkung 15 Die Konvergenz der Reihe in der Definition der Faltung ist unter vielen verschiedenen Umständen gesichert (zum Beispiel, falls eine Folge absolut summiertbar ist, muss die andere nur beschränkt sein und ein Wachstum der einen Folge für kann durch entsprechenden Abfall der anderen Folge ausgeglichen werden). Sind die beiden Folgen und zum Beispiel absolut summierbar, so ist auch absolut summierbar, denn

  

  Weiterhin sieht man durch Indexsubstitution, dass die Faltung eine kommutative Operation ist:

  

  Assoziativität ist nicht immer erfüllt. Um dies zu sehen, betrachten wir und :

  

  

  Beide Ausdrücke sind gleich falls wir die Reihen vertauschen dürfen, was zum Beispiel für absolut summierbare Folgen , und der Fall ist. Es zeigt sich also, dass sich absolut summierbare Folgen gut mit der Faltung vertragen. Wir führen daher ein:

  

  Der Raum ist ein Vektorraum der üblicherweise mit der Norm versehen wird; damit wird er zum normierten Raum (und, da er vollständig ist, sogar zum Banach-Raum). Die Faltung erfüllt auch ein Distributivgesetz, so dass wir festhalten können: bildet mit der Addition und der Faltung als Produkt eine kommutative und assoziative Algebra. Es gibt hier auch ein Einselement , d.h. ein neutrales Element bzgl. der Faltung, nämlich

  

  Beispiel 16 Falten mit

  

  verschiebt das Signal:

  

  Falten mit

  

  bildet einen lokalen Mittelwert über die Nachbarn:

  

  Filtern mit dem Einheitssprung (aus Beispiel 10) liefert eine kumulative Summe:

  

  Ist die Faltung eine umkehrbare Operation? Das heißt, kann man die Gleichung nach auflösen? Anders gesagt: Gibt es zu ein “Faltungsinverses”? Im Allgemeinen nicht, aber wann das geht, kann man mit Hilfe des Faltungssatzes erkennen.

  Der Faltungssatz für die -Transformation sagt, dass die -Transformation die Faltung in eine punktweise Multiplikation überführt:

  Satz 17 (Faltungssatz für die -Transformation, zweiseitig) Die (zweiseitigen) -Transformierten der zweiseitigen Folgen und konvergieren für . Dann gilt ebenfalls für

  

  Beweis:Wir beginnen von der rechten Seite. Da die jeweiligen Reihen absolut konvergieren, können wir umsortieren:

  

  

  Setzen wir kausale Folgen im Faltungssatz sein, erhalten wir den Spezialfall für einseitige Folgen:

  Korollar 18 (Faltungssatz für die -Transformation, einseitig) Die -Transformierten der Folgen und konvergieren für . Dann gilt mit der Definition

  

  ebenfalls für

  

  Beispiel 19 (Entfaltung) Es seien und zweiseitige Folgen und . Nach -Transformation können wir die Gleichung formal nach auflösen, denn nach dem Faltungssatz gilt und daher . Wir nehmen nun an, dass das Konvergenzgebiet von jenes von umfasst (welches wir als annehmen). Hat nun keine Nullstellen in , so ist dort komplex differenzierbar (insbesondere hat es keine Pole). In der Tat handelt es sich bei um eine -Transformierte. Unter Umständen handelt es sich bei auch um eine -Transformierte; die zugehörige Folge könnte man dann als “Faltungsinverse” von bezeichnen. Wir machen dies an einem Beispiel konkret: Wir betrachten die Faltung mit dem Einheitssprung (Beispiel 10). Dieser hat die -Transformierte

  

  Der Kehrwert davon ist

  

  Die inverse -Transformierte davon lässt sich aus bekannten -Transformierten bestimmen oder raten: Es gilt

  

  und

  

  Die inverse -Transformierte von ist also .

  2.4. Differenzengleichungen

  Nun behandeln wir noch das Lösen von Differenzengleichungen etwas ausführlicher. Zuerst definieren wir Differenzen und Partialsummen von Folgen und geben dann Rechenregeln für die zugehörigen -Transformierten an:

  Definition 20 Zu einer Folge definieren wir die erste Differenz , und die Partialsumme .

  Satz 21 Die -Transformierte von konvergiere für . Es gilt

  

  (und konvergiert ebenfalls für ) und

  

  (und konvergiert für )

  Beweis:Die erste Gleichung folgt aus der Regel für die Linksverschiebung und der Linearität

  

  Für die zweite Gleichung rechnen wir direkt

  

  Bemerke, dass die mittlere Doppelreihe (und somit auch die anderen Ausdrücke) absolut und lokal gleichmäßig konvergieren für .

  Der Differenzenoperator und der Partialsummenoperator entsprechen grob der Ableitung und dem Integral für Funktionen auf der reellen Achse.

  Beispiel 22 (Differenz und Ableitung) Ist eine Folge durch “Abtasten” einer Funktion mit “Abtastrate” gegeben, so schreiben wir (unter Missbrauch der Notation) . Dann gilt

  

  Für (mit der Kopplung ) konvergiert die rechte Seite gegen . Wir betrachten nun die Differenzengleichung

  

  und berechnen die Lösung mit Hilfe der -Transformation. Es ergibt sich

  

  und daher

  

  Die Lösung ist also

  

  Im Grenzwert (wieder bei Kopplung ) erhalten wir den Grenzwert wie es auch zu erwarten wäre.

  Lineare Differenzengleichung (auch höherer Ordnung) lassen sich prinzipiell mit Hilfe der -Transformation lösen. Hier noch ein paar Beispiele:

  Beispiel 23

  1. Wir betrachten

     

     mit und . -Transformation ergibt

     

     also

     

     damit

     

     Um die inverse -Transformierte zu bestimmen, benutzen wir die Partialbruchzerlegung und bekommen

     

     Die invers -Transformierten lassen sich nun ablesen:

     

      

  2. Als weiteres Beispiel betrachten wir

     

     mit den Anfangsbedingungen . -Transformation ergibt

     

     also (nach Bestimmung der Nullstellen von )

     

     Partialbruchzerlegung von gibt

     

     und mit Hilfe von bekannten -Transformierten und den Rechenregeln können wir die Lösung ablesen:

     

   

  2.5. Zur Umkehrung der -Transformation

  In Satz~6haben wir ein Ergebnis zur Umkehrung der einseitigen -Transformation formuliert: Ist die -Transformierte von mit Konvergenzgebiet , dann gilt für jedes

  

  Für die zweiseitige -Transformierte ist die Situation ein klein wenig komplizierter, und es stellt sich heraus, dass es zu einer Funktion durchaus mehrere Folgen geben kann, deren -Transformierte sie ist. Der Grund dafür sind die etwas komplizierteren Konvergenzgebiete, die bei der zweiseitigen Transformation aus Kreisringen und nicht aus Komplementen von Kreisen bestehen.

  Wir betrachten ein Beispiel:

  Beispiel 24 Es sei

  

  Der Nenner hat die Nullstellen und . Es gibt nun drei Möglichkeiten, ein Konvergenzgebiet festzulegen, nämlich:

  1. ,
  2. und
  3. .

  Jedes Konvergenzgebiet gehört zu einer anderen zweiseitigen Folge. Um diese Folgen zu berechnen, zerlegen wir als

  

  Wir entwickeln die Summanden nun auf zwei verschiedene Arten in Reihen: Einerseits ist

  

   

  und andererseits gilt

  

   

  Die erste Reihe konvergiert für , die zweite für . Für beide Summanden haben wir jeweils zwei Möglichkeit, wobei eine auf ein leeres Konvergenzgebiet führt ( und ). Die relevanten drei Möglichkeiten ergeben:

  1. Wählen wir jeweils die Variante (2), so ergibt sich für :

     

     also

     

     bzw.

     

      

  2. Im Konvergenzgebiet ergibt sich

     

     also

     

     bzw.

     

      

  3. Wählen wir beide Male die Variante (3)ergibt sich im Konvergenzgebiet :

     

     also

     

     bzw.

     

  Wir halten fest: Für eine gegebene Funktion erhalten wir eine Invers--Transformierte indem wir einen Kreisring wählen, in dem komplex differenzierbar ist (insbesondere ohne Polstellen und wesentliche Singularitäten). Für einen Kreislinie mit Radius die sich ganz im Inneren des Kreisrings befindet ergibt die Formel

  

  die Folgenglieder der Invers--Transformierten. Dass diese Formel für verschiedene Radien verschiedene Ergebnisse liefert liegt daran, dass das Integral nach dem Residuensatz den Residuendes Integranden innerhalb der Kreislinie entspricht; in Formeln:

  

  Für Berechnungen lohnt es sich oft auf bekannte -Transformierte zurückzugreifen, man muss dabei jedoch die Konvergenzgebiete entsprechend berücksichtigen.

  2.6. Abschlussbemerkungen

  Wir schließen die Behandlung der -Transformation mit einigen Bemerkungen ab:

  1. Die -Transformation hat einen Verwandten in der Mathematik: Die sogenannte erzeugende Funktioneiner Folge . Diese ist

     

     Sie unterscheidet sich von der -Transformierte nur im den Exponenten des und es gilt . Sie hat vielerlei Anwendungen in der Kombinatorik und auch in der Wahrscheinlichkeitsrechnung.

  2. Die -Transformierte wird auf Folgen angewendet und lässt sich für zum Beispiel für digitale Signale und für Differenzengleichungen einsetzen. Die Erweiterung auf Funktionen (d.h. analoge Signale) wird die Laplace-Transformation sein (mit welcher dann z.B. Differentialgleichungen gelöst werden können).
  3. Von besonderem Interesse sind beschränkte Folgen (in der Signalverarbeitung sind unbeschränkte Folgen als Signale nicht relevant). Zweiseitige beschränkte Folgen können durchaus ein leeres Konvergenzgebiet haben (wie schon das einfache Beispiel zeigt) Sind so kann entlang des “kritischen Kreises” keine Aussage über die Konvergenz getroffen werden. Mit Hilfe von Fourier-Reihen werden wir diese Situation weiter untersuchen.

 

It feels a bit awkward to write this post this very evening but, however, I planned to write it and so I’ll do…

I’ve been to some job interviews for lately (three to be precise). In all three interviews it happened that I was asked a question I did not prepare an answer for (although I had heard this question before and should have known that it’ll be asked). Hence, I thought it could be helpful to collect some standard questions here.

Probably I should add that I am talking about job interviews for professorships in mathematics in Germany. When I looked around on the web for tips and tricks for job interviews, I found a lot of tips for the US market. Most of the tips seem to apply to the German situation but I had the feeling that a post specifically for Germany could help.

When you apply for a professorship in Germany you send your documents as requested – usually that is:

• Your CV.
• Your list of publications.
• Your teaching record.
• A list of your projects (third party funded).
• A cover letter.
• A copy of your PhD certificate.

I have everything but the cover letter and the certificate within the CV. Sometimes you’ll be asked to send some kind of “teaching statement” or “research statement” and sometimes they ask for evaluation sheets of lectures. Recently I’ve seen more advertisements that directly say that they want digital applications via email.

Respect the deadline! Once the deadline has passed you have to wait. If the committee is quick and you’re lucky you’ll hear something after a few weeks (two or three, say); if you do not hear anything for more than six weeks, you are probably out of the game. In case you are lucky you will be invited for a job interview (sometimes by email, sometimes by snail mail and sometimes by phone). Usually there will be five to seven people invited. The job interview always takes place at the university you applied to (I think – I have never been asked for a phone or Skype interview). It always consists of

• research talk (between 30 and 45 minutes) and
• the actual interview with the committee.

Sometimes you will be asked to

• give a lecture for students

and I was once told that there will be an interview by students. It never happened to me that special meetings with other faculty, the dean or anybody else were planned neither I had special campus tours.

I will focus on the job interview here. Usually, the committee consists of some math professors (three to six or so), a PostDoc or PhD student, some students (about two) and some member of the non-scientific staff. Moreover, it may happen that some member of the university board is present.

The question almost always follow the general guideline: Research, projects, cooperation, teaching, administration.

What are your next goals for your research? Variations are: Where to do you see yourself and your research in five or ten years? What are the important issues in your field? Here you can use what you have talked about in your research talk (and you can prepare your talk such that it helps you here). Have something concrete and some more general vision.

What was your motivation to apply for this position? You should have a good reason (different from “I apply to every position I can find.”) and you should tell the commitee.

What are your experiences with third party funding? Usually the committee would like to hear that you know where to get money for research and that you know how that works.

What possibilities for cooperation do you see? I think this is a crucial point and I often put some effort in to find out what is happening in the math department, in computer science, in physics and in the engineering department. However, I think that it is quite difficult to judge if there is the possibility for cooperation by just looking at the research themes on the webpages. Sometimes they sound pretty interesting and related but then it turns out that goals are different. It also happens that there are possibilities for cooperation where you do not expect them (which happened to me here in Braunschweig). Hence, I am quite careful here.

What lecture did you teach, what would you like to teach and hoe does that fit in our system? While the first two parts are easy, I usually found it quite hard to figure out how some system work from the inspection of the webpages, Modulshandbüchern or Studienordnungen. However, I try to be prepared by looking for lecture in their system which I could give. Often you will be asked “What do you think about “service teaching?” (meaning something like “math for engineers”, “math for biology”,…). There is an obvious false answer here I don’t really know what is the sense of this question…

What is your experience with administration? Basically the same as for the “service teaching”-question. There is an obviously false answer.

For sure there are more standard question and probably I’ll add them as they come to my mind.

When the committee is through with their questions, you’ll will be asked it you have any. Have some! Ask about the library, the expected travel budget, if there are positions associated to the professorship, the IT administration, how many students are there, if there are plans for larger research projects,…

Finally, I briefly summarize what happens after the interview: After all job interviews are through, the committee will decide on a subset of the invited guys (I think three to five) and ask some “big shots” in the field for reports. and an the basis of this the committee will form a list (in most cases with three places, exceptionally a shorter list on two or even one, in rare cases with two people on the third place). This takes at least three weeks but can take up to several month. The list has to go through the university administration which may take another few weeks. Strictly speaking you’ll not be contacted unless you are on the first place. However, you can ask the head of the committee (by phone – I not sure if email is appropriate) what has happened to your application. In case you are not on the list, the first thing you’ll hear officially is that the position has be filled (which can be several month or even more that a year later).

Share this:

• Twitter
• Facebook
• Email
• Google +1

Like this:

Like Loading...

 

Today I’d like to blog about two papers which appeared on the arxiv.

1. Regularization with the Augmented Lagrangian Method – Convergence Rates from Variational Inequalities

The first one is the paper “Regularization of Linear Ill-posed Problems by the Augmented Lagrangian Method and Variational Inequalities” by Klaus Frick and Markus Grasmair.

Well, the title basically describes the content quite accurate. However, recall that the Augmented Lagrangian Method (ALM) is a method to calculate solutions to certain convex optimization problems. For a convex, proper and lower-semicontinuous function on a Banach space , a linear and bounded operator from into a Hilbert space and an element consider the problem

The ALM goes as follows: Start with an initial dual variable , choose step-sizes and iterate

(These days one should note that this iteration is also known under the name Bregman iteration…). Indeed, it is known that the ALM converges to a solution of (1) if there exists one. Klaus and Markus consider the ill-posed case, i.e. the range of is not closed and is replaced by some which fulfills (and hence, is generally not in the range of ). Then, the ALM does not converge but diverges. However, one observes “semi-convergence” in practice, i.e. the iterates approach an approximate “solution to ” (or even a true solution to ) first but then start to diverge from some point on. Then it is natural to ask, if the ALM with replaced by can be used for regularization, i.e. can one choose a stopping index (depending on and ) such that the iterates approach the solution of (1) if vanishes? The question has been answered in the affirmative in previous work by Klaus (here and here) and also estimates on the error and convergence rates have been derived under an additional assumption on the solution of (1). This assumption used to be what is called “source condition” and says that there should exist some such that for a solution of (1) it holds that

Under this assumption it has been shown that the Bregman distance goes to zero linearly in under appropriate stopping rules. What Klaus and Markus investigate in this paper are different conditions which ensure slower convergence rates than linear. These conditions come in the form of “variational inequalities” which gained some popularity lately. As usual, these variational inequalities look some kind of messy at first sight. Klaus and Markus use

for some positive functional with and some non-negative, strictly increasing and concave function . Under this assumption (and special ) they derive convergence rates which again look quite complicated but can be reduced to simpler and more transparent cases which resemble the situation one knows for other regularization methods (like ordinary Tikhonov regularization).

In the last section Klaus and Markus also treat sparse regularization (i.e. with ) and derive that a weak condition (like for some already imply the stronger one (1) (with a different ). Hence, interestingly, it seems that for sparse regularization one either gets a linear rate or nothing (in this framework).

2. On necessary conditions for variational regularization

The second paper is “Necessary conditions for variational regularization schemes” by Nadja Worliczek and myself. I have discussed some parts of this paper alread on this blog here and here. In this paper we tried to formalize the notion of “a variational method” for regularization with the goal to obtain necessary conditions for a variational scheme to be regularizing. As expected, this goal is quite ambitions and we can not claim that we came up with ultimate necessary condition which describe what kind of variational methods are not possible. However, we could first relate the three kinds of variational methods (which I called Tikhonov, Morozov and Ivanov regularization here) and moreover investigated the conditions on the data space a little closer. In recent years it turned out that one should not always use a term like to measure the noise or to penalize the deviation from to . For several noise models (like Poisson noise or multiplicative noise) other functionals are better suited. However, these functionals raise several issues: They are often not defined on a linear space but on a convex set, sometimes with the nasty property that their interior is empty. They often do not have convenient algebraic properties (e.g. scaling invariance, triangle inequalities or the like). Finally they are not necessarily (lower semi-)continuous with respect to the usual topologies. Hence, we approached the data space from quite abstract way: The data space is topological space which comes with an additional sequential convergence structure (see e.g. here) and on (a subset of) which there is a discrepancy functional . Then we analyzed the interplay of these three things , and . If you wonder why we use the additional sequential convergence structure, remember that in the (by now classical) setting for Tikhonov regularization in Banach spaces with a functional like

with some Banach space norms and there are also two kinds of convergence on : The weak convergence (which is replaced by in our setting) which is, e.g., used to describe convenient (lower semi-)continuity properties of and the norm and the norm convergence which is used to describe that for . And since we do not have a normed space in our setting and one does not use any topological properties of the norm convergence in all the proofs of regularizing properties, Nadja suggested to use a sequential convergence structure instead.

Today I would like to comment on two arxiv-preprints I stumbled upon:

1. “Augmented L1 and Nuclear-Norm Models with a Globally Linearly Convergent Algorithm” – The Elastic Net rediscovered

The paper “Augmented L1 and Nuclear-Norm Models with a Globally Linearly Convergent Algorithm” by Ming-Jun Lai and Wotao Yin is another contribution to a field which is (or was?) probably the fastest growing field in applied mathematics: Algorithms for convex problems with non-smooth -like terms. The “mother problem” here is as follows: Consider a matrix , try to find a solution of

or, for

which appeared here on this blog previously. Although this is a convex problem and even has a reformulation as linear program, some instances of this problem are notoriously hard to solve and gained a lot of attention (because their applicability in sparse recovery and compressed sensing). Very roughly speaking, a part of its hardness comes from the fact that the problem is neither smooth nor strictly convex.

The contribution of Lai and Yin is that they analyze a slight perturbation of the problem which makes its solution much easier: They add another term in the objective; for they consider

or

This perturbation does not make the problem smooth but renders it strongly convex (which usually makes the dual more smooth). It turns out that this perturbation makes life with this problem (and related ones) much easier – recovery guarantees still exists and algorithms behave better.

I think it is important to note that the “augmentation” of the objective with an additional squared -term goes back to Zou and Hastie from the statistics community. There, the motivation was as follows: They observed that the pure objective tends to “overpromote” sparsity in the sense that if there are two columns in which are almost equally good in explaining some component of then only one of them is used. The “augmented problem”, however, tends to use both of them. They coined the method as “elastic net” (for reasons which I never really got).

I also worked on elastic-net problems for problems in the form

in this paper (doi-link). Here it also turns out that the problem gets much easier algorithmically. I found it very convenient to rewrite the elastic-net problem as

which turns the elastic-net problem into just another -penalized problem with a special matrix and right hand side. Quite convenient for analysis and also somehow algorithmically.

2. Towards a Mathematical Theory of Super-Resolution

The second preprint is “Towards a Mathematical Theory of Super-Resolution” by Emmanuel Candes and Carlos Fernandez-Granda.

The idea of super-resolution seems to pretty old and, very roughly speaking, is to extract a higher resolution of a measured quantity (e.g. an image) than the measured data allows. Of course, in this formulation this is impossible. But often one can gain something by additional knowledge of the image. Basically, this also is the idea behind compressed sensing and hence, it does not come as a surprise that the results in compressed sensing are used to try to explain when super-resolution is possible.

The paper by Candes and Fernandez-Granada seems to be pretty close in spirit to Exact Reconstruction using Support Pursuit on which I blogged earlier. They model the sparse signal as a Radon measure, especially as a sum of Diracs. However, different from the support-pursuit-paper they use complex exponentials (in contrast to real polynomials). Their reconstruction method is basically the same as support pursuit: The try to solve

i.e. they minimize over the set of Radon measures under the constraint that certain measurements result in certain given values . Moreover, they make a thorough analysis of what is “reconstructable” by their ansatz and obtain a lower bound on the distance of two Diracs (in other words, a lower bound in the Prokhorov distance). I have to admit that I do not share one of their claims from the abstract: “We show that one can super-resolve these point sources with infinite precision—i.e. recover the exact locations and amplitudes—by solving a simple convex program.” My point is that I can not see to what extend the problem (1) is a simple one. Well, it is convex, but it does not seem to be simple.

I want to add that the idea of “continuous sparse modelling” in the space of signed measures is very appealing to me and appeared first in Inverse problems in spaces of measures by Kristian Bredies and Hanna Pikkarainen.