Neuronske mreže-seminarski rad, Beleške' predlog Veštačka inteligencija i ekspertni sistemi. Univerzitet Singidunum
zoran-malic
zoran-malic

Neuronske mreže-seminarski rad, Beleške' predlog Veštačka inteligencija i ekspertni sistemi. Univerzitet Singidunum

13 str.
4broj preuzimanja
213broj poseta
Opis
Seminarski rad iz ekspertih sistema i vještačke inteligencije
20 poeni
poeni preuzimanja potrebni da se preuzme
ovaj dokument
preuzmi dokument
pregled3 str. / 13
ovo je samo pregled
3 prikazano na 13 str.
preuzmi dokument
ovo je samo pregled
3 prikazano na 13 str.
preuzmi dokument
ovo je samo pregled
3 prikazano na 13 str.
preuzmi dokument
ovo je samo pregled
3 prikazano na 13 str.
preuzmi dokument

Co nt en ts 1..U vod. 3

2..R azv oj neu ron ski h mre ža.4

3..B iolo ški neu ron. 5

4..V ješt ačk i neu ron. 6

5..O buč ava nje neu ron ski h mre ža.8

6.. I mpl

PREDMET

EKSPERTNI SISTEMI

TEMA:

„NEURONSKE MREŽE“

PROFESOR Prof. dr Branko Latinović

STUDENT:

Malić Zoran 120-13/VPI

Banja Luka, Jun, 2016

ementacija i primjena vještačkih neuronskih mreža..................................................................................................................................................... 10

7. Zaključak............................................................................................................................................ 12

8. Ilustracija............................................................................................................................................ 13

9. Literatura............................................................................................................................................ 13

1.

Neuronske mreže

2

Uvod

U ovom seminarskom radu pokušat ću objasniti vrlo složen princip neuronskih mreža. Umjetna inteligencija je oduvijek bila veliki izazov za ljudski rod, i sam njen razvij bio je veliki izazov. Razvoj informacionih tehnologija ide u pravcu razvoja vještačkih neuronskih mreža tj. da vještačke neuronske mreže zamijene biološke. Sve više naučnika i istraživača posvetili su su svoje radove razvoju vještačkih neuronskih mreža.

Glavna okupacija i krajnji cilj bio je da se stvori takav sistem koji će u potpunosti biti sposoban za obavljanje inteligentnih zadataka koji se nađu pred njim, a koje imaju sličnu funkciju kao ljudski mozak.

Fokusiranost razvoja usmjerena je na dvije perspektive, od kojih prva se tiče velikog razvoja savremenih računara a samim tim i neophodnih softverskih alata za jednostavan razvoj neuronskih mreža od strane pojedinaca ili određenih grupa. Druga perspektiva je uspješnost neuronskih mreža u oblastima gdje tradicionalni računarski sistemi imaju dosta propusta.

2. Razvoj neuronskih mreža

Neuronske mreže nisu toliko mlad koncept, jer je originalna ideja proizilazila iz niza pokušaja oblikovanja biofiziologije ljudskog mozga, s ciljem razumijevanja i shvatanja kako on funkcioniše. Ta ideja podrazumijeva kreiranje modela sposobnog da obradi informacije, slično kao aktivnosti mozga čovjeka. Iz tog razloga najveći broj ranih radova dolazi od naučnika, biofizičara, psihologa , dok se inžinjeri uključuju u razvoj malo kasnije. Neki od značajnih datuma u razvoju neuronskih mreža su:

• 1890 -William James-uspostavlja teoriju da je aktivnost bilo koje tačke ljudskog mozga predstavlja zbir težnji svih ostalih tačaka da se "isprazne" u nju. Te su tendencije proporcionalne broju tačaka koje djeluju na posmatranu tačku, jačini pobude, te nedostatku konkuretne tačke koja nije u finkcionalnoj vezi sa posmatranom tačkom. Ova teorija je poslužila za izgradnju osnovne strukture vještačkog neurona.

• 1943 -Warren McCullock i Walter Pitts- oni su prvi izveli tezu kojom pokazuju da je moguće konstruisati neuronsku mrežu koristeći samo matematiku i specifične algoritme. Modeli koje su razvijali bili su bazirani na njihovom poznavanju neurologije, mreže su im bile sastavljene od jednostavnih vještačkih neurona koje se i danas koriste kao osnova za izgradnju vješzačkih neuronskih mreža. Oni su i dokazali da neuroni mogu imati 2 stanja: Pobuđujeće i umirujuće, i da od njihove vrijednosti zavisila njihova aktivnost. Rezultati ovih mreža su osnovne logičke operacije kao što su "a i b", te "a ili b".

• 1949 -Hebb-je predložio pravilo kojim se opisuje proces učenja neuronskih mreža.

• 1956-Darthmouth Summer Conference- je konferencija na kojoj je Rochester sa kolegama predstavio prvu simulaciju Hebb-ovog modela, a koja se računa kao preteča neuronskih mreža.

• 1958 -Rosenblatt je razvio prvu neuronsku mrežu-perception, a to je dvoslojna mrežai kao takva ne može izvršavati probleme klasifikacije koji nisu linearno djeljivi.

• 1962- Rosenblatt je obrazložio novi način učenja neuronskih mreža, a to je da prilikom neispravnog rezultata koji mreža daje, on bi promijeniop težinu veza između neuroa

• 1974-je razvijena višeslojna perception mreža MLP koju je razvio Paul Werbos, a to je ujedno bila i preteča back-propagation mreže, a ona je nedostatak perceptona nadoknađivala učenjem u skrivenom sloju.

• 1986-back propagation mrežu usavršili su naučnici Hinton, Rumelhart i Wiliams, ona je omogućila aproksimiranje svih funkcija i rješavanje praktičnih problema.

Neuronske mreže

4

3. Biološki neuron

Ljudski mozak je najznačajnije dostignuće evolucije, i to je sistem sa raznim mogućnostima kao što su učenje, mišljenje, zaključivanje, klasifikacije... Sam princip načina rada krije se u neuronskim mrežama koje su osnova razvoja mozga.

U fizičkom smislu mozak se sastoji od nekoliko milijardi neurona koji su međusobno povezani, i gdje je svaki od njih povezan sa nekoilko hiljada susjednih neurona, a to omogućuje paralelnu obradu informacija.

Neuron je procesni član neuronskog sistema, a to je biološka ćelija za obradu informacija. Osnovni elementi neurona su tijelo, dendriti i aksoni. Dendriti su tzv. ulaz u tijelo i kroz njih dolazi električni signal koji dalje ide u jezgru koja ga faktički i obrađuje a izlazi na aksone. Signal prolazi između neurona, od jednog ka drugom a taj prostor između naziva se sinapsa. Sinapsa je ispunjena tečnošću koja ima za funkciju prenos signala ili neurotransmiteri, i njihova funkcija je da ubrzavaju ili usporavaju prenos signala.

Ilustracija 1-Biološki neuron

Posmatranje načina obrade informacija kao i ostvarivanje povezanosti između neurona koji se dešava u prirodnom neuronu dalo je osnovnu ideju kao i sam naziv grani vještačke inteligencije, "Vještačke neuronske mreže".

4. Vještački neuron

Vještačke neuronske mreže sastoje se od procesnih jedinica koje se zovu neuroni. Vještački neuron napravljen je tako da u potpunosti mjenja prirodni neuron, tj. da mjenja sve funkcije koju ima prirodni. Elemente prirodnog neurona mjenjaju sledeći elementi: tijelo neurona zamijenjeno je sumatorom, dendrite mijenjaju ulazi u sumator, akson mijenja izlaz iv vještačkog neurona, a ulogu praga osjetljivosti prirodnog neurona preslikava se na aktivacione funkcije.

Ilustracija 2-vještači neuron

Sinaptičke veze prirodnih neurona za vještački postaju težinski faktori, a on može biti pozitivan ili negativan broj, a kod savremenih neuronskih mreža može biti i neka od funkcija.Težinski faktori imaju istu funkciju kao i sunapse kod prirodnih neurona i njihova funkcija je da povezuju izlaze jednog neurona i sumatore susjednog neurona. Jačina veze zavisi o iznosu težinskog faktora, a karakter zavisi od predznaka. Izlazi sa sumatorapovezuju se na ulaze aktivacione funkcije, koja ima zadatak da na svom izlazu produkuje izlaz vještačkog neurona, a one mogu biti linearne i nelinearne. Linearne kao što samo ime kaže, izlaz ima vrijednost pomnoženu odgovarajućim faktorom, dok kod nelinearnih izlazi mogu biti raznih oblika.

Autori vještačkog neurona su McCulloh i Pitts, i često se vještački neoroni nazivaju po njima. Takav neuron je imao jednostavnu strukturu samim tim i za rezultate je imao jednostavne funkcije. Jednostavna njegova struktura zanemarila je mnoge od funkcija koje imaju prirodni neuroni.

Neuronske mreže

6

Ilustracija 3-Poređenje biološkog i vještačkog neurona

Perceptron je jednostavni model neurona, koji ima za funkciju da signale obrađuje kroz sinaptičke i somatske operacije.

Njegova sličnost sa prirodnim neuronom je velika, ali on je isuviše jednostavan da bi mogao da izvršava komplikovane zahtjeve. Jednu od značajnijih teorema perceptrona dokazao je Rosenblatt i ona glasi: Perceptron može naučiti sve što može predstaviti, a pri tome je predstavljanje sposobnost aproksimiranja određene funkcije, a obučavanje predstavlja postupak koji sistemskim podešavanjem parametara mreže postiže da ona bude zadovoljavajuća aproksimacija te funkcije.

5. Obučavanje neuronskih mreža

Većina mreža zahtijeva obuku, ili takozvanu primjenu primjenu algoritama koji za funkciju imaju podešavanje iznosa sinaptičkih težinskih koeficijanata. Ciljevi obuke zavise od njene same primjene, i samog odabir odgovarajućeg algoritma obuke.

Algoritme obuke možemo podijeliti na :

• algoritme koji su bazirani na grešci (Error-based algorhythms)

• algoritme koji bu bazirani na izlazu mreže (Output-based algorhythms)

Algoritmi koji su bazirani na grešci, često se nazivaju i algoritmi sa "Nadzorom" (supervised algorhythms), jer za njihovo funkcionisanje neophodan spoljašnji nadzor neuronske mreže, a koji ima za cilj da posmatra ponašanje mreže popravljajući istu dok se ne dobije traženo ponašanje neuronske mreže.

Ilustracija 4-Šematski prikaz obuke neuronske mreže primjenon algoritama temeljenih na grešci

Kd ovog načina obuke prvo se usvoji određena struktura mreže, a to se uglavnom radi preko generatora slučajnih brojeva. Potom se na ulaz dovode skup ulazznih promjenljivih, a mreža tada stvara odgovarajući skup izlaznih promjenljivih. Razlika na izlazu između stvarnog i željenog izlaza mreže pravi grešku mreže, koja se koristi za računanje novih parametara preko određenog algoritma. Čitav proces se ponavlja dok greškaa mreže ne bude manja od zadane vrijednosti, a pri tome se prema potrebi mijenja broj neurona, slojeva ili težina. Kada prođe proces obuke slijedi proces provjere, a to se izvodi putem novog skupa ulaza mreže koji nije bio u sastavu u ulaznom skupu za vreme trajanja obuke. Iznos greške u procesu provjere koristi se

Neuronske mreže

8

za provjeru sposobnosti neuronske mreže da daje odgovarajuće rezultate i za skupove za koje nije bila obučavana.

Algoritmi koji su bazirani na izlazu mreže (Unsupervised algorhythms) ne koriste spoljašnjog nadzora, jer se mreža kod ovog slučaja sama organizuje, i zbog toga se ove mreže često zovu samoorganizovane neuronske mreže.

Kod ovakvih mreža na ulaz mreže dovodi se skup promjenljivih po unapred definisanom algoritmu, pošto traženi izlaz neuronske mreže nije određen za vrijeme obuke tako da rezultat obuke nije unaprijed predvidljiv. Mreža koja je organizovana na ovakav način koristi se za prepoznavanje uzoraka. I u ovoj mreži posle ovog procesa prelazi se na proces provjere.

Od vještački neuronskih mreža može se zahtijevati da uče i nove fraze a isto tako da pamte već obučene. Kod konvecionalnih mreža taj problem nije uspješno riješen pošto one nisu sposobne da zadrže već obučeno, pošto zaboravljaju staro učeći nove pojmove. Da bi se prevazišli ovi problemi, razvijaju se adaptivni procesi obuke gdje se mreža prilagođava da može da prihvati nova saznanja zadržavajući već obučena. Jedna od takvih metoda je primjena teorije adaptivne frekvencije, a taj pristup se zasniva na klasifikaciji ulaznih vektorskih veličina u jednu od više kategorija koji su joj najbliži, a na osnovu koje je obučena.

6. Implementacija i primjena vještačkih neuronskih mreža

Mnogo je mogućnosti implementacije vještačkih neuronskih mreža, a neki od njih su putem analogne tehnike, digitalnih tehnologija, hibridnih tehnologija, tehnika impulsne modulacije, optoelektronike. Analogne tehnologije imaju prednost radi visokog stepena kompleksnosti i velike brzine rada, dok je mana što su manje tačni i mogućnost neželjene promjene parametara i problemima koji nastaju prilikom potrebne promjene parametara. Dok kod digitalnih imamo veliku preciznost i laku mogućnost promjene parametara, ali veličina digitalnih sklopova je mana. Analogne tehnike bolje su za povratne mreže, dok digitalne više odgovaraju naprednim mrežama. Kod optoelektronike najveći nedostatak je promjena optičkog signala.

Prilikom implementacije neuronskin mreža trebamo obratiti pažnju na sledeće karakteristike:

• Neuronske mreže su matematički vrlo zahtjevne

• Brzina računanja neuronske mreže određena je brojem matematičkih operacija za svaki neuron posebno

• Vještačke neuronske mreže zahtijevaju veliku memoriju.

U zadnje vrijeme razvijeno je mnogo programskih implementacija neuronskih mreža koje mogu da uspješno izvršavaju paralelnu strukturu neuronskih mreža. Ove implementacije uglavnom su postavljene na postojećim računarima, stoga malo je primjera superkompjutera koja su podešena za paralelan rad više računara a oni mogu biti programirani na takav način da simuliraju funkcije neuronskih mreža za razne primjere. Pošto je većina neuronskih mreža instalirana na klasičnim računarima, brzina izvođenja je osjetno niža u odnosu na sisteme gdje su implementirani na odvojene sklopove. Tako da pravi razvoj neuronskih mreža možemo očekivati tek kad razvoj sistema znatno uznapreduje u odnosu na trenutno stanje. Glavni istraživački razvoj na ovim područjima usmjeren je u razvoj specijanih električnih i optičkih implementacija. Elektronske se implementacije neuronskih mreža zasnivaju se na sabirnički orjentisanim procesorima, CCD - ovima(Charge Coupled Device tehnology) i VLSI (Very Large Scale Integrated sklopovima, a optoelektrične implementacije na optičkim ili kombinovanim optičkim i elektronskim komponentama.

Jedno od ograničenja elektronskih tehnologija je veliki broj potrebnih veza kojim se neuroni povezuju međusobno, a koje zauzimaju veliki prostor. S druge strane optičke tehnologije imaju prednost pošto se povezuju optičkim vezama koje mogu paralelno da prenose informacije i manje zauzimaju prostora.

Na slici ispod vidimo zatvoreni automatski sistem, gdje uglavnom neuronska mreža predstavlja regulator, a njen zadatak je da osigura da stvarno vladanje bude jednako željenom vladanju bez obzira na smetnje i prepreke koje se pojavljuju.

Neuronske mreže

10

Ilustracija 5-Prikaz zatvorenog automatskog sistema

Neki od primjera primjene neuronskih mreža su:

• optički čitač teksta koristi neuronski čip koji prepoznaje uzorak, a primjenjuje se kao čitač kreditnih kartica, razni POS terminali...

• u nekim postrojenjima koriste se neuronske mreže u kombinaciji sa upravljačkim sistemima za vođenje procesa u proizvodnji

• analiza čistoće hrane takođe koristi neuronske mreže, koje vrše klasifikaciju hrane i prepoznaju eventualne nečistoće

• neuronske mreže koristimo i u marketingu tj. u obrada i praćenje tržišta kako bi saznali potrebe kupaca

• uvođenjem neuronskih mreža, polako se izbacuju Faks aparati, a dolaze na tržište prijemno predajni terminali.

U početku neuronske mreže su posmatrane samostalno, da bi došli do rješenja koje je dovelo do stalnog usavršavanja i tehnološkog napretka, a to je kombinacija neuronskih mreža sa drugim modernim tehnologijama kao što su ekspertni sistemi.

Jedno od najvažnijih područja primjene vještačkih neuronskin mreža je robotika. Na savremene robote i zahtjeve koji dolaze pred njih teško bi bilo sprovesti putem klasičnih tehnologija, stoga na scenu dolaze vještake mreže, koje znatno ubrzavaju razvoj u robotici. Upravljanje robotima koji dobijaju sve komplikovanije kretnje i putanje, nije bilo moguće izvesti putem računarskih mreža, jedna od karakteristika koja puno znači u robotici je paralelno vođenje nekih procesa, i u skladu stim projektovanje izlaznog signala.

7. Zaključak

U budućnosti sve više naučnika i istraživačkih timova okreće se proučavanju neuronskih mreža, a samim tim i razvojem vještačke inteligencije kojoj je savremeni čovjek uvijek težio, a koje je bilo velika nepoznanica do pojave istraživanja neuronskih mreža.

Da bi se došlo da najboljih rezultata istraživanja u oblastima biofiziologije, psihičkih procesa koji se odvijaju u ljudskom mozgu, moraju se intzezivirati, i što više razvijati. Te rezuiltate obučavat ćemo neuronske mreže, i dobijati krajnji cilj, a to je vještačka inteligencija.

Vještačke neuronske mreže moraju sa sagledavati u kontekstu vještačke inteligencije kao jeda od elemenata za realizaciju iste, poput logike, ekspertnih sistema, zaključivanje, saznanja i na kraju odlučivanje. Najveće promjene trebali bi očekivati u primjeni standardnih računara koji će se razvijati, u skladu sa razvojem neuronskih mreža.

Najveći doprinos razvoju neuronskih mreža je robotika, a mnogo je primjena gdje vi se olakšale neki procesi u indutrijalizaciji i u svakodnevnom životu.

Neuronske mreže

12

8. Ilustracija Ilustracija 1-Biološki neuron.................................................................................................................... 5

Ilustracija 2-vještači neuron......................................................................................................................6

Ilustracija 3-Poređenje biološkog i vještačkog neurona........................................................................... 7

Ilustracija 4-Šematski prikaz obuke neuronske mreže primjenon algoritama temeljenih na grešci........ 8

Ilustracija 5-Prikaz zatvorenog automatskog sistema.............................................................................11

9. Literatura

"Ekspertni sistemi", prof dr Branko Latinović

"Umjetne neuronske mreže", Novaković Branko

nema postavljenih komentara
ovo je samo pregled
3 prikazano na 13 str.
preuzmi dokument