Iti0210ex13
Lineaarne regressioon
Tabelis on andmete paarid xj, yj. Oletame et nende vahel on lineaarne seos. Lineaarne mudel on ax + b, kus hetkel on valitud a=3 ja b=-3. Tabelis ~y ja graafikul oranz joon vastavad sellele mudelile.
| j | xj | yj | ~yj |
|---|---|---|---|
| 1 | 1 | 0 | 0 |
| 2 | 2 | 3 | 3 |
| 3 | 3 | 2 | 6 |
| 4 | 4 | 7 | 9 |
| 5 | 5 | 8 | 12 |
Kaofunktsioon
Arvuta kadu praeguse mudeli parameetrite korral:
Gradientlaskumine
Tee üks gradientlaskumise samm, arvutades uued a ja b nende valemitega:
Kasuta α = 0.01.
Kuidas muutuvad a ja b ning mis suunas liigub selle tulemusena mudelile vastava funktsiooni graafik (oranz joon)?
Õppimise kiirus
Kui α on õppimise kiirus, siis võiks vist seda suurendada, et kiiremini õppida? Proovi eelmises arvutuses asendada α = 0.5. Millised a ja b siis oleks saadud? Proovi joonistada, kuidas saadud mudelile vastava sirgjoone graafik paikneks algandmete suhtes.