Inversio-ongelmat, kevät 2010

Last modified by smsiltan@helsinki_fi on 2024/03/27 10:32

Inversio-ongelmat, kevät 2010

Kurssijuliste
(English description on the bottom of this page. All course material is available also in English.)

tomo.png

Tentti

Tentti on 14.4.2010 kello 10-12 salissa B120.

Laskennallisen inversion kurssimonisteesta koealue on luvut 1-4.
 Teoreettisen osuuden koealue on luennolla käsitellyt asiat.

Tentissä on kuusi tehtävää, joista tehdään vapaavalintaiset neljä tehtävää.

Uutiset ja luentomateriaali

Kurssin eteneminen

27.1. Lassas: Johdatus analyyttiseen inversioon
 29.1. Lassas: Röntgen ja Radon-munnosten määritelmät, Fourier-sarjat
 2.2. Lassas: Fourier-muunnos
 3.2. Lassas: Nyquist-Shannon näytteenottoteoria
 5.2. Siltanen: Johdatus laskennalliseen inversioon
 9.2. Siltanen: Konvoluution suora ongelma ja dekonvoluution herkkyys mittausvirheille (conv1D_01_inversecrime.m, conv1D_02_naive.m)
        Kotitehtävät, palautus 16.2. luennon alussa: luentomateriaalin luvun 2.7 tehtävät 1, 3 ja 4. Huom: opiskele luku 2.2.2 itsenäisesti!
 10.2. Lassas: Laskostuminen (Aliasing), suodattimet (filters)
 12.2. Lassas: Pseudodifferentiaalioperaattorit, Radon-muunnoksen ja Fourier-muunnoksen yhteys
 16.2. Siltanen: Kaksiulotteinen konvoluutio (conv2D_01_inversecrime.m; conv2D_02_naive.m).
         Datan keräys digitaalikameralla. Tällä sivulla asiaan liittyviä tiedostoja.
         Kotitehtävät, palautus perjantaina 26.2.:
         (1) Arvioi mittausten kohinataso prosentteina (ISO 100 ja ISO 3200 erikseen)
         (2) Poimi kuvadatasta pienempi PSF (kolmas vasemmalta lukien) ja normalisoi se.
         (3) Vertaa huonosti tarkennettua valokuvaa ja konvoluutiolla sumennettua kuvaa siirtämällä ne tarkasti päällekkäin ja vähentämällä ne toisistaan.
 17.2. Siltanen: Röntgentomografiadatan rakenne ja matriisimallinnus
         Kotitehtävä, palautus perjantaina 26.2.: Luentomateriaalin luvun 2.7 tehtävä 2.
 19.2. HUOM. Luennot tulevat olemaan poikkeuksellisesti auditoriossa CK112. Luennoija Lassas, aihe: Temperoidut distribuutiot
 23.2. Lassas: Takaisinprojektio-operaattori.
 24.2. Siltanen: Singulaariarvohajotelma ja sen katkaisu.
 26.2. Oksanen: Matlab-harjoitukset Physicumin luokassa D211. Osallistumisesta saa laskuharjoituspisteitä.
          Harjoitusten teema: tutki, miten katkaistua singulaariarvohajotelmaa voi soveltaa yksiulotteiseen
          dekonvoluutioon käyttämällä Matlab-rutiinia conv1D_03_SVD.m. Yhdistä seuraavaksi kyseinen rutiini
          ja conv2D_02_naive.mniin, että saat kaksiulotteiselle dekonvoluutiolle ratkaisun katkaistulla SVD:llä.
          Tarvitset myös Matlab-funktion oblur.m.
 2.3. Lassas: Radon-muunnoksen derivaattakaava ja nopeasti väheneviä funktioita avaruudessa Z.
 3.3. Lassas: Radon-muunnoksen kääntäminen suodatetun takaisinprojektion avulla (filtered back projection)
 5.3. Oksanen: Matlab-harjoitukset Physicumin luokassa D210.
        Päivän teema on Tikhonov-regularisaatio, jota varten kannattaa lukea etukäteen
        opetusmateriaalin luvut 4.2.1, 4.2.3, 4.2.4 ja 4.2.6. Tärkeät kaavat ovat (4.13) ja (4.14) sekä aidon valokuvan
        dekonvoluutiota varten normaaliyhtälömuotoilu (4.23). Myös: yhtälön (4.23) iteratiivista ratkaisua varten
        kannattaa tutustua konjugaattigradienttimenetelmään.
        (1) Muokkaa aiempaa SVD-koodiasi niin, että pääset kokeilemaan Tikhonov-regularisaatiota kaavalla (4.13).
        (2) Tarkenna epätarkka valokuva käyttäen 16.2. annetuissa tehtävissä poimimaasi PSF:ää ja kaavaa (4.23).
              Miksi SVD:n käyttö ei ole tässä mahdollista? Mitä eroa on ISO 100 ja ISO 3200 -kuvien tarkentamisessa?
              Voit käyttää ohjelmoinnin lähtökohtana rutiinia ex_conv_2D_Tikhonov_CG.m.
        (3) Jos aikaa jää, kokeile regularisaatioparametrin valintaa L-käyrämenetelmällä (luku4.2.5).
        Edellisten harjoitusten tiedostoja conv2D_harjoitus1.m, PSF_comp.m.
 16.3. Lassas: Takaisinprojektio-kuvantamisen R^*R kuvausominaisuuksia funktioavaruudessa
 17.3. Lassas: Huonosti asetetut ongelmat, Radon-muunnoksen ja käänteismuunnoksen kuvausominaisuudet
 19.3. Ei vielä tiedossa
 23.3. Siltanen: Tihonov-regularisaatio, tavallinen ja yleistetty versio. Määrittely minimointiongelmana sekä normaaliyhtälöiden kautta.
          L-käyrämenetelmä regularisaatioparametrin määräämiseen. Asiat löytyvät luentomateriaalin luvusta 4.2.
          Matlab-esimerkkitiedostoja: conv1D_04_Tikhonov.m, conv1D_08_Tikhonov_Lcurve.m.
 24.3. Siltanen
 26.3. Harjoitustöiden aiheet jaettiin seuraavasti:
 -Harri M (rajoitetun kulman röntgentomografia)
 -Henrik M (valokuvan tarkentaminen)
 -Miika P (valokuvan tarkentaminen)
 -Eemeli B ja Markus K (valokuvan tarkentaminen)
 -Max S ja Rami L (tilastollinen inversio ja MCMC)
 -Mikhail G (kulkuaikojen inversio-ongelma Abelin yhtälön kautta)
 -Hanne K ja Jouni P (käänteinen ominaisarvo-ongelma)
 -Janne H ja Stratos S (GOMOS-inversio)
 -Anu M (satelliittidatan tulkinta)
 -Matti M ja Valter P (kulkuaikojen simulointi)

Kurssiin liittyviä verkkosivuja

Sisältö

Inversio-ongelmien tutkimus on sekä puhtaan että sovelletun matematiikan aktiivinen
 osa-alue, joka on Matematiikan ja tilastotieteen laitoksella edustettuna kolmen professorin
 ja Suomen Akatemian huippuyksikön voimin. Alan tutkimuksessa tavoitteena
 on saada tuntemattomasta kohteesta tietoa epäsuorien mittausten avulla.

Inversio-ongelmilla on sovelluksia monilla eri tieteen ja tekniikan aloilla.
 Näitä ovat mm. signaalinkäsittely, rakenteita tuhoamaton testaus, fysiikka ja astrofysiikka,
 muodon optimointi, lääketieteellinen kuvantaminen ja potilaan elintoimintojen seuraaminen,
 solubiologia, geofysikaalinen kuvantaminen sekä optiohinnottelu osakemarkkinoilla.

Esimerkkejä inversio-ongelmista:
 -Epätarkan valokuvan terävöittäminen
 -Kolmiulotteinen röntgentomografia
 -Maan rakenteiden kuvantaminen maanjäristysaaltojen kulkuaikojen avulla
 -Halkeamien etsiminen rakenteista
 -Öljyn ja mineraalien etsintä
 -Saasteiden maanalaisen leviämisen havainnointi
 -Asteroidien muodon selvittäminen kirkkauden muutosten avulla
 Yhteistä kaikille näille ongelmille on niiden herkkyys
 mittausvirheille sekä se, että tutkittavasta kohteesta saadaan
 vain epäsuoria ja kohinaisia mittauksia.

Keväällä 2010 järjestetään laaja inversio-ongelmien kurssi, jonka
 voi sisällyttää sekä yleisen että sovelletun matematiikan syventäviin opintoihin.

Kurssin luennot koostuvat kahdesta osasta:
 -Analyyttiset inversio-ongelmat (prof. Matti Lassas)
 -Laskennalliset inversio-ongelmat (prof. Samuli Siltanen).

Luentojen laajuus on 5+5=10 op.

Luentojen lisäksi kurssi sisältää aiempaa "Matematiikan sovellusprojektit"-kurssia
 vastaavan projektityön. Tämä tehdään ohjattuna parityönä ja sen laajuus on 5-10 op.

Yhteensä kurssin laajuus on siis 15-20 op.

Kurssin ensimmäinen luento on 27.1.2010. Tervetuloa!

Kurssin osien tarkempi sisältö:

Analyyttisten inversio-ongelmien luennot (professori Matti Lassas):

Luennoilla esitellään analyyttisten inversio-ongemien keskeisiä käsitteitä kuten yksikäsitteisyys,
 rekonstruktiomenetelmä ja stabiilisuus eri inversio-ongelmien yhteydessä.

Käsiteltäviä ongelmia ovat:
 -Radon- ja röntgenmuunnoksen kuvausominaisuudet ja
 kääntyvyys. Sovelluksia tomografiaan ja aaltoyhtälöön.
 -Kulkuaikojen inversio-ongelmat ja kuvantamisongelmat:
 Tehtävänä on esimerkiksi aallonnopeuden tai muiden fysikaalisten ominaisuuksien
 selvittäminen kappaleen sisällä kun aaltojen kulkuajat
 reunapisteiden välillä tunnetaan (esimerkiksi maapallon rakenteen selvittäminen
 kun maanjäristysaaltojen kulkuaikoja tunnetaan). Sovelluksia lääketieteelliseen
 ja geofysikaaliseen kuvantamiseen esitellään.

Suositeltavat esitiedot: Fourier-muunnoksen perusteet, mitta- ja integrointiteoria,
 Funktionaalianalyysin perusteet.

Laskennallisten inversio-ongelmien luennot (professori Samuli Siltanen):

Kurssi keskittyy inversio-ongelmien menetelmillä ratkeavien
 ongelmien tunnistamiseen ja niiden käytännölliseen ratkaisemiseen
 kun käytettävissä on vain kohinaista dataa ja tuntemattomien
 suureiden määrä on suuri.

Erikoisesti käsitellään todellisissa käytännön sovelluksissa kohdattavia
 ongelmia: Mallituksen ja ratkaisualgoritmien on oltava sopivia ratkaisun
 suorittamiseksi numeerisesti. Lisäksi tarkastellaan ratkaisun yksikäsitteisyyttä,
 ratkaisun stabiilisuutta, mallin parametrisointia ja ongelmien regularisointimenetelmiä.

Käsiteltäviä menetelmiä ovat singulaariarvohajotelma (SVD),
 Tikhonov-regularisointi, totaalivariaatioregularisointi ja tilastollinen inversio.

Suositeltavat esitiedot: Lineaarialgebra 1-2, todennäköisyyslaskennan perusteet.

Projektityö

Ideana on tutustua johonkin inversio-ongelmaan sekä teoreettiselta että käytännölliseltä kannalta:
 tarvitaan ongelman matemaattinen analyysi sekä itse mitatun (tai simuloidun) kohinaisen datan
 laskennallinen tulkinta Matlabilla käyttäen kurssilla opittuja asioita. Dataa voi mitata teollisuusmatematiikan
 laboratoriossa.

Projekti tehdään parityönä, ja lopputuotteena on 10-20 sivun raportti, joka noudattaa klassista tiedeartikkelin muotoa:
 1 Johdanto
 2 Materiaalit ja menetelmät
 3 Tulokset
 4 Johtopäätökset

Luvussa 2 kuvataan datan rakenne ja käytetyt inversiomenetelmät. Luvussa 3 kyseisiä menetelmiä sovelletaan dataan,
 ja tulokset raportoidaan mutta niitä ei kommentoida. Luvussa 4 tuloksia analysoidaan ja tulkitaan.

Ensimmäinen tavoite: Tässä vaiheessa pitää olla valmiina alustavat versiot luvuista 1 ja 2. Mitään laskentaa ei tarvitse olla valmiina.
Toinen ja viimeinen tavoite: Valmis raportti palautetaan.

Projektityön molemmat vaiheet arvostellaan, ja arvosana vastaa 30 prosenttia lopullisesta projektityön arvosanasta.

Projektityön aiheita:

1. Näkyvyys ja näkymättömyys röntgentomografiassa.
 Teoriassa äärellisestä määrästä projektioita ei voi määrätä vaimennuskerrointa yksikäsitteisesti, koska aina on olemassa
 "haamuja" eli funktioita, joista mitattu data on nolla. Kuitenkin regularisaatiomenetelmillä voidaan rekonstruoida tuntemattomia
 vaimennuskertoimia sangen luotettavasti. Harjoitustyön ideana on määrätä ja visualisoida "haamuja" sekä laskea vastaavasta
 datasta rekonstruktioita jollakin regularisaatiomenetelmällä.
 Matlab-resursseja: Xraytomo_01_phantom_comp.m, Xraytomo_02_matrix_comp.m, Xraytomo_03_naive.m, Xraytomo_04_SVD_comp.m
Xraytomo_05_truncSVD.m. Näitä rutiineja käyttääksesi tarvitset "data"-nimisen alihakemiston työhakemistoosi.
 Huomaa, että koodit 02 ja 04 saattavat käyttää runsaasti tietokoneresursseja; voit vähentää laskennallista taakkaa pienentämällä
 simuloidun kohteen kokoa rutiinissa 01.

2. Rajoitetun kulman röntgentomografia.
 Teoriassa vaimennuskerroin määräytyy yksikäsitteisesti rajoitetun kulman datasta, vaikka näkyvyyskulma olisi miten pieni.
 Tosin tämä edellyttää ääretöntä määrää mittauskulmia. Kuitenkin käytännön tilanteissa on selvää, että mitä pienempi
 näkyvyyskulma, sen huonommin asetettu inversio-ongelma on kyseessä. Harjoitustyön ideana on esittää teoreettinen
 yksikäsitteisyystulos ja arvioida sen suhdetta käytännöllisiin rekonstruktioihin rajoitetun kulman datasta.
 Analyyttisen jatkamisen epästabiilisuus sekä singulaariarvohajotelma ovat keskeisiä käsitteitä.
 Matlab-resursseja:Xraytomo_01_phantom_comp.m, Xraytomo_06_limitedmatrix_comp.m, Xraytomo_07_limitednaive.m,

Xraytomo_08_limitedSVD_comp.m, Xraytomo_09_limitedtruncSVD.m. Näitä rutiineja käyttääksesi tarvitset "data"-nimisen alihakemiston työhakemistoosi. Huomaa, että koodit 06 ja 08 saattavat käyttää runsaasti
 tietokoneresursseja; voit vähentää laskennallista taakkaa pienentämällä simuloidun kohteen kokoa rutiinissa 01.

3. Epätarkan valokuvan tarkentaminen.
 Teollisuusmatematiikan laboratoriossa mitataan väärin tarkennettuja valokuvia, jotka dekonvoloidaan käyttäen joko
 empiirisesti määrättyä tai simuloitua konvoluutioydintä (PSF). Tarkoitus on verrata kahta suuren mittakaavan menetelmää,
 esimerkiksi joitakin seuraavista: (yleistetty) Tihonov-regularisaatio, (pyöristetty) totaalivariaatioregularisaatio ja
 katkaistu pohjustettu iteratiivinen ratkaisija.

4. Tilastollinen inversio ja Monte Carlo Markov Chain -menetelmät
 Yksiulotteisen dekonvoluution tapauksessa sovelletaan a priori -tiedon liittämistä rekonstruktioon tilastollisen inversion keinoin.
 Esimerkiksi kurssilla käsiteltyyn 1D-dekonvoluutio-ongelmaan voi tuoda mukaan tiedon siitä, että alkuperäinen signaali
 saa arvoja vain välillä [0,1]. Lisäksi voidaan kuvailla etukäteistietoa hyppykohtien sijainnista vaikkapa niin, että tunnettujen
 hyppykohtien kohdalla ei sakoteta vierekkäisten pikselien erotuksesta, vaikka muualla käytetään Gaussista sileysprioria.
 Laskentaan kannattaa käyttää Gibbsin sampleria, joka on esitetty luentomateriaalin luvussa 5.3.2.

5. Kulkuaikojen inversio-ongelma. Tehtävässä tutkitaan kappaleen läpi kulkevia aaltoja ja selvitetään kuinka kappaleen reunapisteiden välisten kulkuaikojen avulla aallonnopeus saadaan selville kappaleen sisällä. Työssä tutustutaan myös inversio-ongelmien ja Riemannin geometrian yhteyksiin. Tehtävässä on kaksi vaihtoehtoa:
 5.1. Teoreettinen työ jossa selvitetään yksikäsitteisyyttä,

5.2. Teoreettisen ja numeerisen tutkimuksen yhdistäminen tapauksessa jossa kappale on kiekko ja aallon nopeus riippuu vain syvyydestä, jolloin tehtävä palautuu Abelin integraaliyhtälöön. Työn taustamateriaalina on Guillaume Balin inversio-ongelmien luentomateriaalin luku 3, sekä Riemannin geometrian kirja J. Lee, Riemannian Manifolds: An Introduction to Curvature (Graduate Texts in Mathematics, Springer, 1997). Muuta materiaalia löytyy hakemalla American Mathematical Societyn Mathscinet-tietokannasta hakusanoilla "boundary rigidity", "travel time and inverse" ja "Ray transform". Työn tarkoituksena on kirjottaa raportti, jossa esitellään geodeesien perusominaisuudet, niiden yhteydet kulkuaikaongelmaan ja käydään läpi JOKO Balin luentomuistiinpanojen Lause 3.4.1 TAI Luku 3.1 toteuttaen luvussa esiintyvän Abelin intergraaliyhtälön ratkaisu numeerisesti.

6. Sähköinen tomografia eli impedanssitomografia. Työ liittyy Calderonin inversio-ongelmaan, jossa johtavuutta kappaleen sisällä tutkitaan tekemällä kappaleen pinnalla virta- ja jännitemittauksia. Matemaattisesti ongelma vastaa osittaisdifferentiaaliyhtälön kertoimien selvittämistä kun yhtälön ratkaisujen arvoja tunnetaan reunalla. Ongelman ratkeavuutta ja epästabiilisuutta tutkitaan yksinkertaisissa geometrisissa tilanteissa, mm. kiekossa.

7. Suotimien suunnittelua. Työssä perehdytään siihen, miten kompleksianalyysin avulla muodostetaan digitaalisia (ts. diskreettejä) suotimia ja etsitään optimaalisia taajuuskaistasuodattimia.

8. Käänteinen ominaisarvo-ongelma. Työ on teoreettinen ja siinä tutustutaan inversiospektraaliongelmiin, joista klassinen esimerkki on kysymys "Voiko rummun muodon kuulla?". Tehtävässä perehdytään ongelman yksiulotteiseen vastineeseen eli tavallisten differentiaaliyhtälöiden käänteisiin ongelmiin. Työn taustamateriaalina ovat kirjat 1: Inverse boundary spectral problems (Katchalov-Kurylev-Lassas (luku 1), 2: An introduction to inverse scattering and inverse spectral problems (Chadan et al), Chadanin luku, ja 3: An introduction to the mathematical theory of inverse problems (Kirsch, Andreas, Applied Mathematical Sciences, 120. Springer-Verlag, New York, 1996), luku 4. Lähteet 1-2 saa Kumpulan tiedekirjastosta ja lähteen 3 saa luonnoijlta. Muuta materiaalia löytyy hakemalla American Mathematical Societyn Mathscinet-tietokannasta hakusanoilla "inverse spectral" (esim. rajoitteella että haetaan vain kirjoja). Työn tarkoituksena on kirjoittaa raportti, jossa esitellään käänteisen ominaisarvo-ongelman esiintymistä sovelluksissa ja käydään käydään läpi  jokin menetelmä käänteisen spektraaliongelman ratkaisemiseksi tai ongelman yksikäsitteisyystulos yksiulotteisessa tapauksessa. Vaihtoehtoina ovat reunakontrollimenetelmä (lähde 1) tai Gelfand-Levitan menetelmä (lähteet 2 ja 3), joissa tunnettuksi oletetaan joko kaksi erilaista spektria tai yksi spektri ja ominaisfunktioiden derivaatat reunapisteessä.

Luennoitsijat

Matti Lassas ja Samuli Siltanen

Laajuus

15-20 op.

Tyyppi

Syventävä opinto.

Esitietovaatimukset

Luentoajat

III periodi: Luennot (ja aika ajoin laskuharjoitukset)
 ti 10-12 salissa B120,
 ke 10-12 salissa B120,
 pe 12-14 salissa C123.

IV periodi: Projektityö.

Kokeet

Ilmoittaudu

Unohditko ilmoittautua? Mitä tehdä.

Inverse Problems, spring 2010

hammer.jpg

Inverse problems research is an active area of contemporary
 pure and applied mathematics.
 The basic quest of the field is to extract knowledge about an unknown object from
 incomplete or unstable information.

Applications of inverse problems include signal processing, nondestructive testing,
 modelling of astrophysical data, shape optimization in mechanical engineering, monitoring
 cell function in biology, geophysical remote sensing, medical imaging, and option pricing
 in mathematical finance.

Examples of inverse problems:

  • sharpening a misfocused photograph,
  • imaging inner organs of patients using X-ray images taken from different directions,
  • determining the structure of the Earth using seismic data,
  • locating cracks inside materials using electric surface probes,
  • geophysical prospection for oil or minerals,
  • detecting underground contaminants,
  • finding the shape of a distant asteroid from light intensity measurements.
     The common feature of all these problems is that they are very sensitive to measurement
     noise, and their solution is not straightforward.

In spring 2010 there will be a two-part course on inverse problems:
 -Analytical inverse problems (by Professor Matti Lassas)
 -Computational inverse problems (by Professor Samuli Siltanen)
 The size of both parts is 5 credit units.

Also, the traditional course "Applied Mathematics Project" of the department is
 implemented in spring 2010 as a continuation of the inverse problems courses. The project
 work is done in pairs, and can be done as a 5 or 10 credit unit course.

All course material is available also in English.

First lecture is on 27.1.2010. Welcome!

Lectures on analytical inverse problems (by Professor Matti Lassas)

The central concepts of uniqueness, reconstruction and stability are discussed
 in the context of different inverse problems. The considered problems are

Mapping properties and inversion of the Radon Transform.
 Implications to X-ray tomography and wave equation.

Inverse travel time problem and its solution under various hypotheses.
 Implications to recovering wave speed from boundary measurements
 (for example, how to find the inner structure of the Earth from earthquake
 travel times and medical imaging using acoustic measurements).

Prerequisities: Basics of Fourier transform, Measure and integration,
 Basic course of functional analysis

Lectures on computational inverse problems (by Professor Samuli Siltanen)

These lectures concentrates on how to recognize an inverse problem and how to solve it in
 practice even when the data are noisy and the number of unknowns is large.

Emphasis is placed on the practical solution of real-world problems; theory is introduced
 only to the extent needed to understand and implement solution methods. The central
 concepts of uniqueness, stability, model parametrization, and regularization are
 discussed from the practical point of view.

The methodological themes of the lectures are singular value decomposition (SVD) of a
 matrix, Tikhonov regularization, total variation regularization, and statistical
 inversion.

Prerequisities: Linear algebra I and II, basic probability.

Project work

The idea is to study an inverse problem both theoretically and computationally in teams of two students. The end product is a written report consisting of 10-20 pages. We recommend the classical table of contents for structuring the document:
 1 Introduction
 2 Materials and methods
 3 Results
 4 Discussion

Section 2 is for describing the data and the inversion methods used. In section 3 those methods are applied to the data and the results are reported with no interpretation; just facts and outcomes of computations are described. Section 4 is the place for discussing the results and drawing conclusions.

First goal: two first sections should be preliminary written. The draft of project work presented at the first deadline will be graded, and the grade represents 30% of the final grade of the project work.

Second and final goal: report is complete.