Polinomiális regresszió

Alosztály	Lineáris regresszió , lokális regresszió

A polinomiális regresszió egy olyan statisztikai elemzés, amely bemutatja a variáció egy véletlen változó megmagyarázható polinomiális függvény magyarázó variate. Ez a többszörös lineáris regresszió speciális esete , ahol a megfigyeléseket egyetlen változó hatványaiból építik fel.

Bemutatás

Ha $( X i , Y i )$ a véletlen változó pár i- edik megvalósítását hívjuk meg, akkor keressük a polinomot

{\ displaystyle P_ {n} (x) = a_ {n} x ^ {n} + a_ {n-1} x ^ {n-1} + \ ldots + a_ {1} x + a_ {0},}

megengedve az írást

{\ displaystyle Y_ {i} = P_ {n} (X_ {i}) + \ varepsilon _ {i}}

az $ε i$ maradvány vagy zavar, amely a legkisebb négyzetek értelmében „a legkisebb” .

A polinom regresszió többszörös lineáris regresszió : írhatjuk a relációt, $X i esetén p = X p i$ :

{\ displaystyle Y_ {i} = a_ {n} \ cdot X_ {i, n} + a_ {n-1} \ cdot X_ {i, n-1} + \ ldots + a_ {1} \ cdot X_ {i , 1} + a_ {0} + \ varepsilon _ {i}.}

Különleges esetek

A lineáris regresszió 1 fokú polinomi regresszió.

Alkalmazások

Bizonyos számú fizikai törvény polinom formájában jelenik meg. Ezután a polinom regresszió lehetővé teszi a törvény paramétereinek értékeinek megbecsülését.

A Savitzky-Golay simítási és levezetési módszer egy polinomiális regressziót alkalmaz csúszó intervallumon.

Legkisebb négyzetek felbontása

Vegyünk egy adatkészletet $( X i , Y i ) 1 \leq i \leq n$ . Regressziót akarunk végrehajtani egy háromfokú polinommal:

{\ displaystyle P_ {3} (x) = ax ^ {3} + bx ^ {2} + cx + d.}

A maradék négyzetét írjuk:

{\ displaystyle \ varepsilon (x, y) ^ {2} = \ balra (P_ {3} (x) -y \ jobbra) ^ {2}}

van

{\ displaystyle {\ begin {aligned} \ varepsilon (x, y) ^ {2} = \ x ^ {6} a ^ {2} + 2x ^ {5} ab + 2x ^ {4} ac + 2x ^ { 3} ad-2x ^ {3} ya \\ + x ^ {4} b ^ {2} + 2x ^ {3} bc + 2x ^ {2} bd-2x ^ {2} yb \\ + x ^ { 2} c ^ {2} + 2xcd-2xyc \\ + d ^ {2} -2yd \\ + y ^ {2} {\ text {.}} \ End {igazítva}}}

Ezután megjegyezzük:

{\ displaystyle \ varepsilon _ {i}: = \ varepsilon (X_ {i}, Y_ {i})}

Az $a , b , c , d$ értékek minimalizálják az $e$ maradványok négyzetének összegét :

{\ displaystyle e = \ sum _ {i} \ varepsilon _ {i} ^ {2}}

Hívjuk

{\ displaystyle \ mathrm {S} _ {j} = \ sum _ {i} \ mathrm {X} _ {i} ^ {j}}

és

{\ displaystyle \ mathrm {T} _ {j} = \ sum _ {i} \ mathrm {X} _ {i} ^ {j} \ mathrm {Y} _ {i}}

Ha a paraméter $egy$ magasabb vagy alacsonyabb, az értéke $e$ növekszik. A értéke $e$ minimális számára $egy$ keresett, azaz, a parciális deriváltja az $e$ tekintetében $egy$ nullának kell lennie:

\ frac {\ részleges e} {\ részleges a} = 0 \ Longrightarrow 2a \ mathrm {S} _6 + 2b \ mathrm {S} _5 + 2c \ mathrm {S} _4 + 2d \ mathrm {S} _3 - 2 \ mathrm {T} _3 = 0

Ugyanezt tehetjük minden paraméter esetében, amely lineáris egyenletrendszert ad :

{\ displaystyle {\ begin {pmatrix} \ mathrm {S} _ {6} & \ mathrm {S} _ {5} & \ mathrm {S} _ {4} & \ mathrm {S} _ {3} \\ \ mathrm {S} _ {5} & \ mathrm {S} _ {4} & \ mathrm {S} _ {3} és \ mathrm {S} _ {2} \\\ mathrm {S} _ {4} & \ mathrm {S} _ {3} & \ mathrm {S} _ {2} & \ mathrm {S} _ {1} \\\ mathrm {S} _ {3} és \ mathrm {S} _ {2 } & \ mathrm {S} _ {1} & \ mathrm {S} _ {0} \ end {pmatrix}} \ cdot {\ begin {pmatrix} a \\ b \\ c \\ d \ end {pmatrix} } = {\ begin {pmatrix} \ mathrm {T} _ {3} \\\ mathrm {T} _ {2} \\\ mathrm {T} _ {1} \\\ mathrm {T} _ {0} \ end {pmatrix}} {\ text {.}}}

Lásd is