Som navnet antyder, er backpropagation en algoritme der udbreder fejlene fra outputknudepunkter til inputknudepunkterne. Derfor betegnes det simpelthen som 'bagud spredning af fejl'. Denne tilgang blev udviklet ud fra analysen af en menneskelig hjerne. Talegenkendelse, tegngenkendelse, verifikation af signaturer, genkendelse af menneskelige ansigter er nogle af de interessante anvendelser af neurale netværk. De neurale netværk gennemgår overvåget læring, inputvektoren, der passerer gennem netværket, producerer outputvektor. Denne outputvektor er verificeret mod den ønskede output. Hvis resultatet ikke stemmer overens med outputvektoren, genereres en fejlrapport. Baseret på fejlrapporten justeres vægten for at få det ønskede output.
Hvad er et kunstigt neuralt netværk?
En Kunstigt neuralt netværk anvender overvåget læringsregel for at blive effektiv og magtfuld. Oplysningerne i neurale netværk flyder på to forskellige måder. Primært når modellen trænes eller læres, og når modellen fungerer normalt - enten til test eller brugt til at udføre en hvilken som helst opgave. Information i forskellige former føres ind i modellen gennem inputneuroner, der udløser flere lag af skjulte neuroner og når outputneuronerne, som er kendt som et feedforward-netværk.
Da alle neuroner ikke udløses på samme tid, multipliceres de neuroner, der modtager input fra venstre med vægten, når de bevæger sig gennem skjulte lag. Tilføj nu alle input fra hver neuron, og når summen overstiger et bestemt tærskelniveau, udløses de neuroner, der var stille, og bliver forbundet.
Den måde, det kunstige neurale netværk lærer på, er, at det lærer af, hvad det havde gjort forkert og gør det rigtige, og dette kaldes feedback. Kunstige neurale netværk bruger feedback til at lære, hvad der er rigtigt og forkert.
Hvad er Backpropagation?
Definition: Backpropagation er en vigtig mekanisme, hvormed neurale netværk bliver trænet. Det er en mekanisme, der bruges til at finjustere vægten af et neuralt netværk (ellers omtalt som en model i denne artikel) med hensyn til den fejlprocent, der blev produceret i den tidligere iteration. Det ligner en messenger, der fortæller modellen, om nettet begik en fejl eller ej, så snart det forudsagde.
backpropagation-neuralt netværk
Backpropagation i neurale netværk handler om smitte af information og relaterer disse oplysninger til den fejl, der blev genereret af modellen, da et gæt blev foretaget. Denne metode søger at reducere fejlen, som ellers kaldes tabsfunktionen.
Sådan fungerer Backpropagation - Enkel algoritme
Backpropagation i dyb læring er en standard tilgang til træning af kunstige neurale netværk. Den måde, det fungerer på er, at - Oprindeligt når et neuralt netværk er designet, tildeles tilfældige værdier som vægte. Brugeren er ikke sikker på, om de tildelte vægtværdier er korrekte eller passer til modellen. Som et resultat udsender modellen den værdi, der er forskellig fra den faktiske eller forventede output, hvilket er en fejlværdi.
For at få den passende output med minimal fejl, skal modellen trænes i et relevant datasæt eller parametre og overvåge dets fremskridt, hver gang det forudsiger. Det neurale netværk har et forhold til fejlen, og når parametrene ændres, ændres også fejlen. Backpropagation bruger en teknik kendt som delta-reglen eller gradientnedstigning for at ændre parametrene i modellen.
Ovenstående diagram viser, hvordan backpropagation fungerer, og dets arbejde er angivet nedenfor.
- 'X' ved indgangene når fra den forbundne sti
- 'W', de rigtige vægte bruges til at modellere input. Værdierne for W tildeles tilfældigt
- Outputtet for hver neuron beregnes gennem spredning af udbredelse - inputlaget, skjult lag og outputlag.
- Fejlen beregnes ved output ved hjælp af ligningen Formerer sig bagud igen gennem output og skjulte lag, vægte justeres for at reducere fejlen.
Igen forplantes fremad for at beregne output og fejl. Hvis fejlen er minimeret, slutter denne proces, ellers formerer den sig bagud og justerer vægtværdierne.
Denne proces gentages, indtil fejlen reduceres til et minimum, og den ønskede output opnås.
Hvorfor har vi brug for backpropagation?
Dette er en mekanisme, der bruges til at træne det neurale netværk, der vedrører det bestemte datasæt. Nogle af fordelene ved Backpropagation er
- Det er enkelt, hurtigt og nemt at programmere
- Kun numrene på indgangen er tunet og ikke nogen anden parameter
- Ingen grund til at have forudgående viden om netværket
- Det er fleksibelt
- En standard tilgang og fungerer effektivt
- Det kræver ikke brugeren at lære specielle funktioner
Typer af Backpropagation Network
Der er to slags backpropagation-netværk. Det er kategoriseret som nedenfor:
Statisk backpropagation
Statisk backpropagation er en type netværk, der sigter mod at producere en kortlægning af en statisk input til statisk output. Disse slags netværk er i stand til at løse statiske klassificeringsproblemer som optisk tegngenkendelse (OCR).
Tilbagevendende Backpropagation
Den tilbagevendende backpropagation er en anden type netværk, der anvendes i fast-point læring. Aktiveringerne i tilbagevendende backpropagation føres fremad, indtil den når en fast værdi. Efter dette beregnes en fejl og udbredes baglæns. EN software , NeuroSolutions har evnen til at udføre den tilbagevendende backpropagation.
De vigtigste forskelle: Den statiske backpropagation tilbyder øjeblikkelig kortlægning, mens kortlægning af tilbagevendende backpropagation ikke er øjeblikkelig.
Ulemper ved Backpropagation
Ulemper ved backpropagation er:
- Backpropagation er muligvis følsom over for støjende data og uregelmæssigheder
- Udførelsen af dette er stærkt afhængig af inputdataene
- Brug for lang tid til træning
- Behovet for en matrixbaseret metode til backpropagation i stedet for mini-batch
Anvendelser af Backpropagation
Ansøgningerne er
- Det neurale netværk er uddannet til at udtale hvert bogstav i et ord og en sætning
- Det bruges inden for tale genkendelse
- Det bruges inden for karakter og ansigtsgenkendelse
Ofte stillede spørgsmål
1). Hvorfor har vi brug for backpropagation i neurale netværk?
Dette er en mekanisme, der bruges til at træne det neurale netværk, der vedrører det bestemte datasæt
2). Hvad er formålet med backpropagation-algoritmen?
Formålet med denne algoritme er at skabe en træningsmekanisme for neurale netværk for at sikre, at netværket er uddannet til at kortlægge input til deres passende output.
3). Hvad er læringsgraden i neurale netværk?
Læringsgraden er defineret i sammenhæng med optimering og minimering af tabsfunktionen i et neuralt netværk. Det refererer til den hastighed, hvormed et neuralt netværk kan lære nye data ved at tilsidesætte de gamle data.
4). Er det neurale netværk en algoritme?
Ja. Neurale netværk er en række indlæringsalgoritmer eller regler designet til at identificere mønstrene.
5). Hvad er aktiveringsfunktionen i et neuralt netværk?
Aktiveringsfunktionen i et neuralt netværk bestemmer, om neuronen skal aktiveres / udløses eller ikke baseret på den samlede sum.
I denne artikel, begrebet Backpropagation af neurale netværk forklares ved hjælp af et enkelt sprog, som en læser kan forstå. I denne metode trænes neurale netværk fra fejl genereret til at blive selvforsynende og håndtere komplekse situationer. Neurale netværk har evnen til at lære nøjagtigt med et eksempel.
