Epälineaarinen regressio koostuu sopiva malli, yleensä epälineaarinen,
y = ƒ a 1 ,…, a m ( x )arvojoukolle ( x i , y i ) 1 ≤ i ≤ n . Muuttujat x i ja y i voivat olla skalaareja tai vektoreita.
Säätämällä meidän on ymmärrettävä: määritetään lain parametrit ( a 1 ,…, a m ) S = minimoimiseksi. r i ||, mukana:
r i = y i - ƒ a 1 ,…, a m ( x i ). ||… || on standardi .Käytämme yleensä euklidista normia tai ℓ 2 -normia ; tähän viitataan pienimmän neliösumman menetelmänä .
Esimerkki epälineaarisesta regressiosta epävarmuustankojen kanssa.
Kaksi Gaussin hajaantumista käyttämällä kuutta parametria.
Lähestymistavan perusta on sama kuin lineaarinen regressio : tietojoukolle ( x i , y i ) 1 ≤ i ≤ n S on parametrien ( a j ) 1 ≤ j ≤ m funktio . Jos S on vähintään, niin
jos näitä johdannaisia on olemassa. Tämä tarjoaa järjestelmän n kappaletta yhtälöt , yleensä epälineaarinen, jota ei voida ratkaista analyyttisesti.
Huomaa, että lineaariselle mallille voidaan suorittaa epälineaarinen regressio. Esimerkiksi tiedämme, että normi ℓ 1 - | r i | - on vähemmän herkkä poikkeamille kuin norm 2 -normi . Saatu yhtälöjärjestelmä ei ole kuitenkaan lineaarinen.
Käytämme iteratiivisia algoritmeja: