Jak název napovídá, backpropagation je algoritmus že zpět šíří chyby z výstupních uzlů do vstupních uzlů. Proto se jednoduše označuje jako „zpětné šíření chyb“. Tento přístup byl vyvinut na základě analýzy lidského mozku. Rozpoznávání řeči, rozpoznávání znaků, ověřování podpisů, rozpoznávání lidské tváře jsou některé ze zajímavých aplikací neuronových sítí. Neuronové sítě procházejí supervizovaným učením, vstupní vektor procházející sítí vytváří výstupní vektor. Tento výstupní vektor je ověřen proti požadovanému výstupu. Pokud se výsledek neshoduje s výstupním vektorem, vygeneruje se chybová zpráva. Na základě chybové zprávy jsou váhy upraveny tak, aby získaly požadovaný výstup.

Co je to umělá neuronová síť?

An Umělá neuronová síť zaměstnává pravidlo pod dohledem, aby se stalo efektivním a výkonným. Informace v neuronových sítích proudí dvěma různými způsoby. Primárně, když se model trénuje nebo se učí a když model funguje normálně - buď pro testování, nebo pro provedení jakéhokoli úkolu. Informace v různých formách se do modelu přivádějí prostřednictvím vstupních neuronů, což spouští několik vrstev skrytých neuronů a dostává se k výstupním neuronům, které se označují jako síť dopředné vazby.

Protože se všechny neurony nespouštějí současně, jsou neurony, které přijímají vstupy zleva, vynásobeny vahami, které procházejí skrytými vrstvami. Nyní sečtěte všechny vstupy z každého neuronu a když součet překročí určitou prahovou úroveň, neurony, které zůstaly tiché, se spustí a připojí.

Způsob, jakým se umělá neuronová síť učí, je, že se učí z toho, co udělala špatně, a dělá to správné, což se nazývá zpětná vazba. Umělé neuronové sítě pomocí zpětné vazby poznávají, co je správné a co špatné.

Co je Backpropagation?

Definice: Backpropagation je základní mechanismus, kterým se nervové sítě procvičují. Jedná se o mechanismus používaný k vyladění vah neuronové sítě (v tomto článku se v tomto článku označuje jako model), pokud jde o chybovost produkovanou v předchozí iteraci. Je to podobné, jako když posel říká modelu, zda síť udělala chybu nebo ne, jakmile předpověděla.

backpropagation-neuronová síť

Zpětná propagace v neuronových sítích je o přenos informací a vztahující tyto informace k chybě generované modelem, když byl proveden odhad. Tato metoda se snaží snížit chybu, která se jinak označuje jako funkce ztráty.

Jak backpropagation funguje - jednoduchý algoritmus

Zpětná propagace v hlubokém učení je standardním přístupem k trénování umělých neuronových sítí. Funguje to tak, že - Zpočátku, když je navržena neurální síť, jsou náhodné hodnoty přiřazeny jako váhy. Uživatel si není jistý, zda jsou přiřazené hodnoty hmotnosti správné nebo zda odpovídají modelu. Výsledkem je, že model vydává hodnotu, která se liší od skutečného nebo očekávaného výstupu, což je chybová hodnota.

Chcete-li získat příslušný výstup s minimální chybou, model by měl být vyškolen na příslušné datové sadě nebo parametrech a sledovat jeho pokrok pokaždé, když předpovídá. Neuronová síť má vztah k chybě, takže kdykoli se změní parametry, změní se také chyba. Zpětná propagace používá ke změně parametrů v modelu techniku známou jako pravidlo delta nebo sestup gradientu.

Výše uvedený diagram ukazuje fungování zpětného šíření a jeho fungování je uvedeno níže.

„X“ na vstupech dosahuje z předem připojené cesty
„W“, skutečné váhy se používají k modelování vstupu. Hodnoty W jsou náhodně přiděleny
Výstup pro každý neuron se počítá pomocí šíření předávání - vstupní vrstva, skrytá vrstva a výstupní vrstva.
Chyba se vypočítá na výstupech pomocí rovnice Propagace zpět dozadu přes výstup a skryté vrstvy, váhy se upraví tak, aby se chyba snížila.

Znovu se šířte vpřed pro výpočet výstupu a chyby. Pokud je chyba minimalizována, tento proces končí, jinak se šíří dozadu a upravuje hodnoty hmotnosti.

Tento proces se opakuje, dokud se chyba nesníží na minimum a nedosáhne požadovaného výstupu.

Proč potřebujeme backpropagation?

Jedná se o mechanismus používaný k trénování neuronové sítě týkající se konkrétního souboru dat. Některé z výhody Backpropagation jsou

Je to jednoduché, rychlé a snadno programovatelné
Naladěna jsou pouze čísla vstupu, nikoli žádný jiný parametr
Není třeba mít předchozí znalosti o síti
Je flexibilní
Standardní přístup a funguje efektivně
Nevyžaduje, aby se uživatel naučil speciální funkce

Typy backpropagation sítě

Existují dva druhy backpropagation sítí. Je kategorizován níže:

Statická zpětná propagace

Statická zpětná propagace je jeden typ sítě, jehož cílem je vytvoření mapování statického vstupu pro statický výstup. Tyto druhy sítí jsou schopné vyřešit problémy se statickou klasifikací, jako je optické rozpoznávání znaků (OCR).

Opakovaná zpětná propagace

Opakovaná zpětná propagace je dalším typem sítě využívané při učení s pevným bodem. Aktivace v opakované zpětné šíření se přivádějí dopředu, dokud nedosáhne pevné hodnoty. Poté se vypočítá chyba a šíří se zpět. A software „NeuroSolutions má schopnost provádět opakovanou backpropagaci.

Klíčové rozdíly: Statická zpětná propagace nabízí okamžité mapování, zatímco mapování opakované zpětné propagace není okamžité.

Nevýhody zpětného šíření

Nevýhody backpropagation jsou:

Backpropagation může být citlivý na hlučná data a nepravidelnosti
Jeho výkon je vysoce závislý na vstupních datech
Vyžaduje nadměrný čas na trénink
Potřeba maticové metody zpětného šíření místo mini-dávky

Aplikace backpropagation

Aplikace jsou

Neuronová síť je trénována tak, aby vyslovovala každé písmeno slova a věty
Používá se v oblasti rozpoznávání řeči
Používá se v oblasti rozpoznávání znaků a tváře

Časté dotazy

1). Proč potřebujeme backpropagation v neuronových sítích?

Jedná se o mechanismus používaný k trénování neuronové sítě týkající se konkrétního souboru dat

2). Jaký je cíl algoritmu zpětného šíření?

Cílem tohoto algoritmu je vytvořit tréninkový mechanismus pro neuronové sítě, aby bylo zajištěno, že síť je trénována pro mapování vstupů na jejich příslušné výstupy.

3). Jaká je míra učení v neuronových sítích?

Rychlost učení je definována v kontextu optimalizace a minimalizace ztrátové funkce neuronové sítě. Odkazuje na rychlost, jakou se neurální síť může naučit nová data přepsáním starých dat.

“snellův zákon rovnice lomu ”

4). Je neurální síť algoritmus?

Ano. Neuronové sítě jsou řadou učebních algoritmů nebo pravidel určených k identifikaci vzorců.

5). Co je aktivační funkce v neuronové síti?

Aktivační funkce neurální sítě rozhoduje o tom, zda by měl být neuron aktivován / spuštěn nebo ne, na základě celkového součtu.

V tomto článku, koncept zpětného šíření neuronových sítí je vysvětlen pomocí jednoduchého jazyka, kterému čtenář porozumí. V této metodě jsou neuronové sítě trénovány z generovaných chyb, aby se staly soběstačnými a zvládly složité situace. Neuronové sítě mají schopnost učit se přesně na příkladu.