Deltaregel - Versionsgeschichte

Josefine am 12. November 2021 um 10:43 Uhr

2021-11-12T10:43:00Z

← Nächstältere Version		Version vom 12. November 2021, 12:43 Uhr
Zeile 6:		Zeile 6:
	Dabei ist ''∆w<sub>xy</sub>'' die Veränderung des Gewichts zwischen dem Inputknoten ''x'' und dem Outputknoten ''y''. Durch ''y<sub>korrekt</sub>'' wird der korrekte Output angegeben. Der Wert ''y<sub>beobachtet</sub>'' ist der tatsächliche Output des Knotens. Der Parameter ''α'' bezeichnet die Lernrate, die Werte zwischen 0 und 1 annimmt und die Geschwindigkeit des [[Lernen\|Lernens]] beeinflusst. Die Differenz zwischen gewünschtem und beobachtetem Output kann auch als ''∆y'' geschrieben werden, was die Namensherkunft der Deltaregel erklärt. Die verkürzte Formel sieht dann folgendermaßen aus:		Dabei ist ''∆w<sub>xy</sub>'' die Veränderung des Gewichts zwischen dem Inputknoten ''x'' und dem Outputknoten ''y''. Durch ''y<sub>korrekt</sub>'' wird der korrekte Output angegeben. Der Wert ''y<sub>beobachtet</sub>'' ist der tatsächliche Output des Knotens. Der Parameter ''α'' bezeichnet die Lernrate, die Werte zwischen 0 und 1 annimmt und die Geschwindigkeit des [[Lernen\|Lernens]] beeinflusst. Die Differenz zwischen gewünschtem und beobachtetem Output kann auch als ''∆y'' geschrieben werden, was die Namensherkunft der Deltaregel erklärt. Die verkürzte Formel sieht dann folgendermaßen aus:

	[[Datei:Deltaregel2.png\|150px]]		[[Datei:Deltaregel2.png\|150px\|link=Ausgelagerte_Formeln#Deltaregel (verkürzt)\|Ausgelagerte Formel Deltaregel (verkürzt)]]

	Beim [[Lernen]] kann es zu drei Szenarien kommen. Wenn die Aktivität des Outputknotens zu gering ist, nimmt ''∆y'' einen positiven Wert an, sodass das Gewicht der Verbindung erhöht wird. Sollte die Aktivität des Outputknotens zu hoch sein, wird die Differenz zwischen gewünschtem und beobachtetem Output negativ und sorgt für eine Schwächung der Verbindung. Im Optimalfall entspricht die Aktivität des Outputknotens dem gewünschten Wert, sodass ''∆y'' Null ist und keine Gewichtsanpassung mehr notwendig ist. Interessant ist nun noch, dass die Veränderung abhängt von der Aktivierung der beteiligten Inputknoten ''x''. Je stärker ein Inputknoten ''x'' an dem produzierten Output beteiligt war, je stärker er also selbst gefeuert hat, desto stärker ist auch seine Verbindung zum Output von der Veränderung betroffen.		Beim [[Lernen]] kann es zu drei Szenarien kommen. Wenn die Aktivität des Outputknotens zu gering ist, nimmt ''∆y'' einen positiven Wert an, sodass das Gewicht der Verbindung erhöht wird. Sollte die Aktivität des Outputknotens zu hoch sein, wird die Differenz zwischen gewünschtem und beobachtetem Output negativ und sorgt für eine Schwächung der Verbindung. Im Optimalfall entspricht die Aktivität des Outputknotens dem gewünschten Wert, sodass ''∆y'' Null ist und keine Gewichtsanpassung mehr notwendig ist. Interessant ist nun noch, dass die Veränderung abhängt von der Aktivierung der beteiligten Inputknoten ''x''. Je stärker ein Inputknoten ''x'' an dem produzierten Output beteiligt war, je stärker er also selbst gefeuert hat, desto stärker ist auch seine Verbindung zum Output von der Veränderung betroffen.

	Die Deltaregel besitzt gegenüber der [[Unsupervised: Hebb\|Hebb’schen Lernregel]] den Vorteil, dass sie zielgerichtet einen bestimmten Output mit einem Input assoziieren kann. Außerdem funktioniert [[Supervised\|überwachtes Lernen]] in der Regel schneller als [[Unsupervised: Hebb\|unüberwachtes]]. Von Nachteil ist jedoch, dass der gewünschte Output für jedes Neuron der Outputschicht (output layer) bekannt sein muss. Dies ist meist nicht der Fall und mindert zudem die biologische Plausibilität des [[Lernen\|Lernens]]. Ein weiteres Problem besteht darin, dass die Deltaregel nur für zweischichtige [[Neuronale Netze\|Netze]] mit einer Input- und einer Outputschicht anwendbar ist, da der gewünschte Output nicht für Hiddenschichten (hidden layers) gilt. Dieses Problem wird durch die [[Backpropagation]]-Regel gelöst, die eine Verallgemeinerung der Deltaregel für mehrschichtige [[Neuronale Netze\|Netze]] darstellt.		Die Deltaregel besitzt gegenüber der [[Unsupervised: Hebb\|Hebb’schen Lernregel]] den Vorteil, dass sie zielgerichtet einen bestimmten Output mit einem Input assoziieren kann. Außerdem funktioniert [[Supervised\|überwachtes Lernen]] in der Regel schneller als [[Unsupervised: Hebb\|unüberwachtes]]. Von Nachteil ist jedoch, dass der gewünschte Output für jedes Neuron der Outputschicht (output layer) bekannt sein muss. Dies ist meist nicht der Fall und mindert zudem die biologische Plausibilität des [[Lernen\|Lernens]]. Ein weiteres Problem besteht darin, dass die Deltaregel nur für zweischichtige [[Neuronale Netze\|Netze]] mit einer Input- und einer Outputschicht anwendbar ist, da der gewünschte Output nicht für Hiddenschichten (hidden layers) gilt. Dieses Problem wird durch die [[Backpropagation]]-Regel gelöst, die eine Verallgemeinerung der Deltaregel für mehrschichtige [[Neuronale Netze\|Netze]] darstellt.

Josefine am 12. November 2021 um 10:39 Uhr

2021-11-12T10:39:15Z

← Nächstältere Version		Version vom 12. November 2021, 12:39 Uhr
Zeile 2:		Zeile 2:
	Die Deltaregel ist ein überwachter [[Lernen\|Lernalgorithmus]], der in [[Neuronale Netze\|künstlichen neuronalen Netzen]] verwendet wird. Die Grundidee besteht darin, dass Gewichte in Abhängigkeit von der Differenz zwischen dem Output des [[Neuronale Netze\|Netzes]] und dem eigentlich korrekten Output modifiziert werden. Unter den verschiedenen Varianten [[Supervised\|überwachten Lernens]] gehört die Deltaregel zu den unkompliziertesten. Sie ist angelehnt an das [[Unsupervised: Hebb\|Hebb’sche Lernen]] und lässt sich als Formel wie folgt darstellen:		Die Deltaregel ist ein überwachter [[Lernen\|Lernalgorithmus]], der in [[Neuronale Netze\|künstlichen neuronalen Netzen]] verwendet wird. Die Grundidee besteht darin, dass Gewichte in Abhängigkeit von der Differenz zwischen dem Output des [[Neuronale Netze\|Netzes]] und dem eigentlich korrekten Output modifiziert werden. Unter den verschiedenen Varianten [[Supervised\|überwachten Lernens]] gehört die Deltaregel zu den unkompliziertesten. Sie ist angelehnt an das [[Unsupervised: Hebb\|Hebb’sche Lernen]] und lässt sich als Formel wie folgt darstellen:

	[[Datei:Deltaregel1.png\|301px]]		[[Datei:Deltaregel1.png\|301px\|link=Ausgelagerte_Formeln#Deltaregel\|Ausgelagerte Formel Deltaregel]]

	Dabei ist ''∆w<sub>xy</sub>'' die Veränderung des Gewichts zwischen dem Inputknoten ''x'' und dem Outputknoten ''y''. Durch ''y<sub>korrekt</sub>'' wird der korrekte Output angegeben. Der Wert ''y<sub>beobachtet</sub>'' ist der tatsächliche Output des Knotens. Der Parameter ''α'' bezeichnet die Lernrate, die Werte zwischen 0 und 1 annimmt und die Geschwindigkeit des [[Lernen\|Lernens]] beeinflusst. Die Differenz zwischen gewünschtem und beobachtetem Output kann auch als ''∆y'' geschrieben werden, was die Namensherkunft der Deltaregel erklärt. Die verkürzte Formel sieht dann folgendermaßen aus:		Dabei ist ''∆w<sub>xy</sub>'' die Veränderung des Gewichts zwischen dem Inputknoten ''x'' und dem Outputknoten ''y''. Durch ''y<sub>korrekt</sub>'' wird der korrekte Output angegeben. Der Wert ''y<sub>beobachtet</sub>'' ist der tatsächliche Output des Knotens. Der Parameter ''α'' bezeichnet die Lernrate, die Werte zwischen 0 und 1 annimmt und die Geschwindigkeit des [[Lernen\|Lernens]] beeinflusst. Die Differenz zwischen gewünschtem und beobachtetem Output kann auch als ''∆y'' geschrieben werden, was die Namensherkunft der Deltaregel erklärt. Die verkürzte Formel sieht dann folgendermaßen aus:

Wehner am 27. August 2018 um 09:46 Uhr

2018-08-27T09:46:07Z

← Nächstältere Version		Version vom 27. August 2018, 11:46 Uhr
Zeile 1:		Zeile 1:
	{{Nav\|Navigation\|Kognitive Modellierung\|Hauptseite}}		{{Nav\|Navigation\|Neuronale Netze\|Kognitive Modellierung\|Hauptseite}}
	Die Deltaregel ist ein überwachter [[Lernen\|Lernalgorithmus]], der in [[Neuronale Netze\|künstlichen neuronalen Netzen]] verwendet wird. Die Grundidee besteht darin, dass Gewichte in Abhängigkeit von der Differenz zwischen dem Output des [[Neuronale Netze\|Netzes]] und dem eigentlich korrekten Output modifiziert werden. Unter den verschiedenen Varianten [[Supervised\|überwachten Lernens]] gehört die Deltaregel zu den unkompliziertesten. Sie ist angelehnt an das [[Unsupervised: Hebb\|Hebb’sche Lernen]] und lässt sich als Formel wie folgt darstellen:		Die Deltaregel ist ein überwachter [[Lernen\|Lernalgorithmus]], der in [[Neuronale Netze\|künstlichen neuronalen Netzen]] verwendet wird. Die Grundidee besteht darin, dass Gewichte in Abhängigkeit von der Differenz zwischen dem Output des [[Neuronale Netze\|Netzes]] und dem eigentlich korrekten Output modifiziert werden. Unter den verschiedenen Varianten [[Supervised\|überwachten Lernens]] gehört die Deltaregel zu den unkompliziertesten. Sie ist angelehnt an das [[Unsupervised: Hebb\|Hebb’sche Lernen]] und lässt sich als Formel wie folgt darstellen:

Reichert am 26. August 2018 um 12:03 Uhr

2018-08-26T12:03:53Z

← Nächstältere Version		Version vom 26. August 2018, 14:03 Uhr
Zeile 1:		Zeile 1:
	{{Nav\|Navigation\|Kognitive Modellierung\|Hauptseite}}		{{Nav\|Navigation\|Kognitive Modellierung\|Hauptseite}}
	~~Artikelinhalt~~		Die Deltaregel ist ein überwachter [[Lernen\|Lernalgorithmus]], der in [[Neuronale Netze\|künstlichen neuronalen Netzen]] verwendet wird. Die Grundidee besteht darin, dass Gewichte in Abhängigkeit von der Differenz zwischen dem Output des [[Neuronale Netze\|Netzes]] und dem eigentlich korrekten Output modifiziert werden. Unter den verschiedenen Varianten [[Supervised\|überwachten Lernens]] gehört die Deltaregel zu den unkompliziertesten. Sie ist angelehnt an das [[Unsupervised: Hebb\|Hebb’sche Lernen]] und lässt sich als Formel wie folgt darstellen:

			[[Datei:Deltaregel1.png\|301px]]

			Dabei ist ''∆w<sub>xy</sub>'' die Veränderung des Gewichts zwischen dem Inputknoten ''x'' und dem Outputknoten ''y''. Durch ''y<sub>korrekt</sub>'' wird der korrekte Output angegeben. Der Wert ''y<sub>beobachtet</sub>'' ist der tatsächliche Output des Knotens. Der Parameter ''α'' bezeichnet die Lernrate, die Werte zwischen 0 und 1 annimmt und die Geschwindigkeit des [[Lernen\|Lernens]] beeinflusst. Die Differenz zwischen gewünschtem und beobachtetem Output kann auch als ''∆y'' geschrieben werden, was die Namensherkunft der Deltaregel erklärt. Die verkürzte Formel sieht dann folgendermaßen aus:

			[[Datei:Deltaregel2.png\|150px]]

			Beim [[Lernen]] kann es zu drei Szenarien kommen. Wenn die Aktivität des Outputknotens zu gering ist, nimmt ''∆y'' einen positiven Wert an, sodass das Gewicht der Verbindung erhöht wird. Sollte die Aktivität des Outputknotens zu hoch sein, wird die Differenz zwischen gewünschtem und beobachtetem Output negativ und sorgt für eine Schwächung der Verbindung. Im Optimalfall entspricht die Aktivität des Outputknotens dem gewünschten Wert, sodass ''∆y'' Null ist und keine Gewichtsanpassung mehr notwendig ist. Interessant ist nun noch, dass die Veränderung abhängt von der Aktivierung der beteiligten Inputknoten ''x''. Je stärker ein Inputknoten ''x'' an dem produzierten Output beteiligt war, je stärker er also selbst gefeuert hat, desto stärker ist auch seine Verbindung zum Output von der Veränderung betroffen.

			Die Deltaregel besitzt gegenüber der [[Unsupervised: Hebb\|Hebb’schen Lernregel]] den Vorteil, dass sie zielgerichtet einen bestimmten Output mit einem Input assoziieren kann. Außerdem funktioniert [[Supervised\|überwachtes Lernen]] in der Regel schneller als [[Unsupervised: Hebb\|unüberwachtes]]. Von Nachteil ist jedoch, dass der gewünschte Output für jedes Neuron der Outputschicht (output layer) bekannt sein muss. Dies ist meist nicht der Fall und mindert zudem die biologische Plausibilität des [[Lernen\|Lernens]]. Ein weiteres Problem besteht darin, dass die Deltaregel nur für zweischichtige [[Neuronale Netze\|Netze]] mit einer Input- und einer Outputschicht anwendbar ist, da der gewünschte Output nicht für Hiddenschichten (hidden layers) gilt. Dieses Problem wird durch die [[Backpropagation]]-Regel gelöst, die eine Verallgemeinerung der Deltaregel für mehrschichtige [[Neuronale Netze\|Netze]] darstellt.

Reichert: Die Seite wurde neu angelegt: „{{Nav|Navigation|Kognitive Modellierung|Hauptseite}} Artikelinhalt“

2018-08-26T11:51:11Z

Die Seite wurde neu angelegt: „{{Nav|Navigation|Kognitive Modellierung|Hauptseite}} Artikelinhalt“

Neue Seite

{{Nav|Navigation|Kognitive Modellierung|Hauptseite}}
Artikelinhalt

← Nächstältere Version		Version vom 12. November 2021, 12:39 Uhr
Zeile 2:		Zeile 2:
	Die Deltaregel ist ein überwachter [[Lernen\|Lernalgorithmus]], der in [[Neuronale Netze\|künstlichen neuronalen Netzen]] verwendet wird. Die Grundidee besteht darin, dass Gewichte in Abhängigkeit von der Differenz zwischen dem Output des [[Neuronale Netze\|Netzes]] und dem eigentlich korrekten Output modifiziert werden. Unter den verschiedenen Varianten [[Supervised\|überwachten Lernens]] gehört die Deltaregel zu den unkompliziertesten. Sie ist angelehnt an das [[Unsupervised: Hebb\|Hebb’sche Lernen]] und lässt sich als Formel wie folgt darstellen:		Die Deltaregel ist ein überwachter [[Lernen\|Lernalgorithmus]], der in [[Neuronale Netze\|künstlichen neuronalen Netzen]] verwendet wird. Die Grundidee besteht darin, dass Gewichte in Abhängigkeit von der Differenz zwischen dem Output des [[Neuronale Netze\|Netzes]] und dem eigentlich korrekten Output modifiziert werden. Unter den verschiedenen Varianten [[Supervised\|überwachten Lernens]] gehört die Deltaregel zu den unkompliziertesten. Sie ist angelehnt an das [[Unsupervised: Hebb\|Hebb’sche Lernen]] und lässt sich als Formel wie folgt darstellen:

	[[Datei:Deltaregel1.png\|301px]]		[[Datei:Deltaregel1.png\|301px\|link=Ausgelagerte_Formeln#Deltaregel\|Ausgelagerte Formel Deltaregel]]

	Dabei ist ''∆w<sub>xy</sub>'' die Veränderung des Gewichts zwischen dem Inputknoten ''x'' und dem Outputknoten ''y''. Durch ''y<sub>korrekt</sub>'' wird der korrekte Output angegeben. Der Wert ''y<sub>beobachtet</sub>'' ist der tatsächliche Output des Knotens. Der Parameter ''α'' bezeichnet die Lernrate, die Werte zwischen 0 und 1 annimmt und die Geschwindigkeit des [[Lernen\|Lernens]] beeinflusst. Die Differenz zwischen gewünschtem und beobachtetem Output kann auch als ''∆y'' geschrieben werden, was die Namensherkunft der Deltaregel erklärt. Die verkürzte Formel sieht dann folgendermaßen aus:		Dabei ist ''∆w<sub>xy</sub>'' die Veränderung des Gewichts zwischen dem Inputknoten ''x'' und dem Outputknoten ''y''. Durch ''y<sub>korrekt</sub>'' wird der korrekte Output angegeben. Der Wert ''y<sub>beobachtet</sub>'' ist der tatsächliche Output des Knotens. Der Parameter ''α'' bezeichnet die Lernrate, die Werte zwischen 0 und 1 annimmt und die Geschwindigkeit des [[Lernen\|Lernens]] beeinflusst. Die Differenz zwischen gewünschtem und beobachtetem Output kann auch als ''∆y'' geschrieben werden, was die Namensherkunft der Deltaregel erklärt. Die verkürzte Formel sieht dann folgendermaßen aus: