Avaa päävalikko
Kuva eteenpäin kytketystä 2x5 monikerrosverkosta

Neuroverkot ovat informaation käsittelyn, matematiikan tai laskennan malleja, jotka perustuvat yhdistävään laskentaan. Warren McCulloch ja Walter Pitts esittivät ensimmäisen ihmisaivojen toimintaa ja matemaattista logiikkaa yhdistelevän laskennan mallin vuonna 1943.

Neuroverkkojen perusajatus perustuu luonnollisiin hermoverkkoihin, mutta tarkkaan luonnollisten hermoverkkojen jäljittelyyn ei nykyisin yleensä pyritä, vaan neuroverkkotekniikoiden kehittäminen perustuu enemmän esimerkiksi tilastotieteeseen ja signaalinkäsittelyn teoriaan.

Siinä kun tavallisissa asiantuntijajärjestelmissä käytetään "jos-niin"-sääntöpareja (jos raidat, niin seepra; jos pitkät korvat, niin aasi), neuroverkkoa opetetaan esimerkkien avulla (nämä ovat eri-ikäisiä seeproja, nämä aaseja). Pyritään siihen että neuroverkko oppii muuttujien epälineaariset riippuvuussuhteet suoraan havaintoaineistosta (kavioeläinesimerkissämme oppii tarkastelemaan korvia ja värin kuvioita, ei esim. jalkojen pituutta). Muilta osin neuraalilaskenta muistuttaa tilastotieteessä käytettyjä yleistettyjä lineaarisia malleja (GLM).

NeuroniMuokkaa

Neuroverkot koostuvat joukosta (keinotekoisia) neuroneita. Neuronit ovat yksinkertaisia, toisiinsa kytkettyjä tiedonkäsittely-yksiköitä. Neuroni koostuu seuraavista osista:

  • synapseista
  • summaajasta
  • aktivaatiofunktiosta

Synapsi on kahden neuronin välinen kytkentä, jolle on määritelty kytkentäkohtainen paino. Käytännössä neuronin   neuronille   lähettämän signaalin arvo kerrotaan synaptisella painolla  .

Summaajan tehtävä on laskea kaikilta syötesynapseilta tulleiden signaalien summa. Neuronin   summain on

 

missä   ovat syötesignaaleita. Aktivaatiofunktio laskee summasta   epälineaarisen kuvauksen

 

missä   on ulostulosignaali ja   on vakiotermi (bias).

Epälineaarisuus mahdollistaa mielivaltaisen funktion approksimoimisen. Epälineaarinen aktivaatiofunktio voi olla esimerkiksi askelfunktio

 

tai logistinen (sigmoidi) funktio

 

Geometrisesti tulkittuna yksi rinnakkaisten neuroneiden muodostama kerros ilmaisee, kummalla puolella synaptisten painojen   määräämää tasoa syötevektorin osoittama piste   sijaitsee.

 

NeuroverkkorakenteetMuokkaa

Yleisin neuroverkkorakenne on eteenpäinsyöttävä verkko, jossa neuronit on jaettu kerroksiin ja kaikki edellisen kerroksen neuronit on kytketty kaikkiin seuraavan kerroksen neuroneihin.

OpetusMuokkaa

Neuroverkkojen opettamisessa kytkentöjen synaptiset painot optimoidaan siten, että opetusnäytteiden vasteiden ja haluttujen vasteiden ero minimoituu.

Opetusnopeutta voidaan parantaa nolla-keskiarvoistamalla opetusdata ja vähentämällä opetusnäytteen piirteiden keskinäistä riippuvuutta esimerkiksi pääkomponenttianalyysillä.

Vastavirta-algoritmiMuokkaa

Monikerroksisten perceptron-verkkojen opetuksessa käytetään vastavirta (backpropagation) -algoritmia.[1]

Neuroverkkojen erikoistyyppejäMuokkaa

Katso myösMuokkaa

LähteetMuokkaa

Haykin, Simon (1999). Neural networks - A comprehensive edition. 2.painos. Prentice Hall International. ISBN 0-13-908385-5.

  1. Orponen, Pekka: Neuroverkot users.ics.aalto.fi. Viitattu 28.04.2018.