„KoopKerdesekZHOssz04” változatai közötti eltérés
aNincs szerkesztési összefoglaló |
a Hibás képlet javítása |
||
| (Egy közbenső módosítás ugyanattól a felhasználótól nincs mutatva) | |||
| 39. sor: | 39. sor: | ||
* A momentum módszer olyan heurisztikus eljárás, ahol az egyes lépésekben a súlymódosítás meghatározása két részből áll. Először a gradiens módszernek megfelelően meghatározunk egy súly módosító értéket, azonban nem ezzel végezzük el a korrekciót, hanem még figyelembe vesszük az előző módosítás hatását is. A súlymódosítás ennek megfelelően: | * A momentum módszer olyan heurisztikus eljárás, ahol az egyes lépésekben a súlymódosítás meghatározása két részből áll. Először a gradiens módszernek megfelelően meghatározunk egy súly módosító értéket, azonban nem ezzel végezzük el a korrekciót, hanem még figyelembe vesszük az előző módosítás hatását is. A súlymódosítás ennek megfelelően: | ||
<math> \ | <math> \Delta w ( k + 1 ) = \mu ( - {\nabla} ( k ) ) + \eta \Delta w ( {k} ) </math> | ||
ahol <math> {\eta}_{} </math> az ún. momentum együttható, amelynek értéke 0 és 1 közötti kell | ahol <math> {\eta}_{} </math> az ún. momentum együttható, amelynek értéke 0 és 1 közötti kell legyen (gyakori választás a 0.8 körüli érték). | ||
* A momentum módszer különösen kedvező, ha a hibafelületen keskeny völgy húzódik végig, és a momentumtag nélkül a megoldás felé ezen völgy környezetében túl sok iteráció megtételével haladnánk, és MLP-nél alkalmazható. A módszer alkalmazásával lényegében azonos hibahatár elérése kevesebb számítással, kevesebb idő alatt. | * A momentum módszer különösen kedvező, ha a hibafelületen keskeny völgy húzódik végig, és a momentumtag nélkül a megoldás felé ezen völgy környezetében túl sok iteráció megtételével haladnánk, és MLP-nél alkalmazható. A módszer alkalmazásával lényegében azonos hibahatár elérése kevesebb számítással, kevesebb idő alatt. | ||