Kasutatud kirjandus närvivõrkude kohta

•	Marcus, G. F. (2001). The algebraic mind: integrating connectionism and cognitive science. Cambridge, Massachusetts: Bradford/MIT Press.
	Siit sain esimese sissejuhatava ülevaate mitmete võrkude tüüpide kohta. Raamat on mul praegu riiulis ning on olemas ka elektrooniline koopia.
•	Catterall, S., jt. (1998). Memory - the Hopfield Net. URL: http://suhep.phy.syr.edu/courses/modules/MM/n_net/memory.html [18.02.2005]. Mind-Machine Module (URL: http://suhep.phy.syr.edu/courses/modules/MM/). Syracuse, New York: Physics Department, Syracuse University.
•	Graham, B. (1998). The Associative Net. URL: http://www.cs.stir.ac.uk/~bpg/research/AM.html [18.02.2005].
•	Gurney, K. (1996). Associative memories - the Hopfield net. URL: http://www.shef.ac.uk/psychology/gurney/notes/l5/l5.html [18.02.2005]. Neural Nets. (URL: http://www.shef.ac.uk/psychology/gurney/notes/index.html). Sheffield, UK: Psychology Department, University of Sheffield.
•	Medler, D. A. (1998). Grossberg's Adaptive Resonance Theory. URL: http://neuron-ai.tuke.sk/NCS/VOL1/P3_html/vol1_3.html [18.02.2005]. A. Jagota (Ed.), Neural Computing Surveys 1. (URL: http://neuron-ai.tuke.sk/NCS/). 
•	Schmidhuber, J. (2004). Recurrent Neural Networks. URL: http://www.idsia.ch/~juergen/rnn.html [18.02.2005].
•	Ülejäänud võrkude kohta pole anda viiteid ning kindlasti ei saa ma väita, et tean ühtegi nendest läbi ja lõhki. Minu eesmärk tol ajal oli saada üldine idee tööpõhimõttest ja võimalustest, et teha oma valikud enne esimest ehitamist – kuna ise mõeldes 1) saan lõpuks asjadest palju parema ettekujutuse ning 2) käib see kiiremini kui ilma konkreetse sihita lugemine – uudset materjali loen aeglaselt, kuid toimivaid ja adekvaatseid ideid produtseerin suhteliselt kiiresti. 
Praegu tunnen huvi võrkude vastu kolmel põhjusel, olulisuse järjekorras: 
-	tutvuda võrkudega, mille kohta ma tol ajal ei lugenud;
-	põhjalikumalt tutvuda võrkudega, mis aitaksid lahendada mõnda tulevast probleemi;
-	põhjalikumalt tutvuda võrkudega, mille korrektne kasutamine või ideede osaline ülevõtmine võimaldab optimeerida senist lahendust.

Bakatööks plaanitav kirjandus
Boldiga on nimed, mida kindlasti tahan lugeda, ülejäänud loen sõltuvalt sellest, kuidas sisu kujuneb. Osa raamatuid olen juba lugenud ja järjehoidjatega märgistanud.
Jaotan kirjanduse kahte ossa: psühholoogia ja tehisintellekt.
Lisaks on mul märkmete programmis mitu lehekülge internetiviiteid, mida pole jõudnud veel sorteerida.

Psühholoogia
•	Skinner “Science and human behaviour”.
Kirjeldab operantset mõtlemist. Raamatu esimene pool on pigem põhibaas ja käib ka loomade kohta, teine pool on inimeste võimete ja tegevuse analüüs.
•	Tomasello & Call “Primate Cognition”
Hetkel mul seda raamatut pole, kuid on üks teine sama autori raamat, mis näib hea. Arvutuste järgi võtab antud raamat kokku kõik seni tehtud uuringud primaatide mõtlemise kohta. Laenan raamatu kas Aaro Toomelalt või tellin võimalusel Amazonist, sest järgikäimine ja paljundamine teeks välja samaväärse kulu.
•	Tomasello “The cultural origins of human cognition”
Kuigi see raamat pole otseselt töö põhiteema, pean oluliseks alati silmas pidada ka järgmisi samme. Raamat käsitleb muuhulgas jagatud tähelepanu.
•	Köhleri raamatud
Köhler uuris ahve, nende taipamisvõimeid. Lisaks tegeles tajuga (gestaltpsühholoogia). Tema taju uuringud on ka väga huvitavad, kuid mitte tingimata seotud puhta mõtlemisega, mind huvitavad praegu ta ahvidega tehtud katsed. Hetkel pole vastavat ahvide-raamatut käes, aga katsun kusagilt saada.
•	Toomela, Võgotski, Luria, Leontjev
Arengupsühholoogid. Toomela loengutes tutvusin Võgotski teooriatega, Toomela ise on kirjutanud artikleid mõtlemise arengust naturaalses ja kultuurilises mõtlemises. Neile kahele toetasin oluliselt oma seminaritöö. Bakatöös ei ole kesksed, kuid positsioneerimiseks olulised. Toomela kirjutab muu hulgas märgilise-kultuurilise mõtlemise tekkest. Luria on uurinud ka neuropsühholoogiat, kuid mina pole veel teda eriti lugenud. Leontjev oli kolmas Võgotski-Luria-Leontjevi kolmikust. Leontjevist on vaid üks populaarteaduslik raamat käes hetkel, kuid seal on huvitavad kirjeldused ahvide võimetest, mille modelleerimise üle olen mõelnud.
•	Faktoranalüüs
Osa võrgust tekitab andmeid, mis sarnanevad mõnes mõttes faktoranalüüsis arvutatavatele. Faktoranalüüsi statistiline meetod on laialt levinud sotsiaalteadustes. Tahan vaadata, kuivõrd analoogia põhjal võib faktoranalüüsi vallast leida mingeid potentsiaalseid vigade tegemise kohti, mida olen ehk ka oma mudelis teinud. Lisaks võib saada paremat aimu formaliseerimise kohta ning täpsustada osasid valemeid. 
Enamus valemeid olen kirjutanud mingi põhjendusega, kuid mõned piirkonnad osadest valemitest on puhtintuitiivselt valitud ning samas mul ei olnud selget kriteeriumit valides alternatiivide vahel. Võrgu praegustes katsetingimustes ei tule need võimalikud erinevused veel välja.
•	Luuk
Luuk on kirjutanud õpikuid ning käsitlenud loomade käitumist. 
•	Tulving
Tulving on mälu-uurija. Tema uuringutest võib leida huvitavat kajamälu ja ikoonilise mälu kohta, mille analoogid on mudelis kasutuses.
•	Tolman “Cognitive maps in rats and men”
Mentaalsed kaardid, vähemalt allotsentrilised, ei ole otseselt primaarsed, kuid on seonduv teema. Ma veel ei tea, millist liiki kaartidest Tolman kirjutas, ning kahjuks pole see raamat vist Eestis saadaval. Samuti võimalik, et sel teemal on uuemat / muud kirjandust, kuid tean et Tolman on vähemalt samaoluline tegelane kui Skinner.
Veel üks tuntud behaviorist on Clark Hull, kuid pean alles vaatama, mida ta pakub.

Tehisintellekt
•	Sutton & Barto “Reinforcement learning”.
Lugesin sellest esimest peatükki ja kavatsen kindlasti kogu raamatu lugeda. 
Kuigi seal on tõesti vist üks oluline asi lihtsustatud, pole sellest hullu, kuna Skinneri raamat on oluline täiendus reinforcement learningu ülesandepüstituses puudu olevale. Nimelt, reinforcement learningu ülesandepüstitus näib läbivalt olevat sarnane Thorndike teooriale, ning raamatu esimeses peatükis Thorndike’i ka tsiteeriti. Samas paraku ei olnud seal sõnagi Skinnerist. Thorndike tegutses eelmise sajandi algul, Skinner sajandi keskel ning muutis oluliselt operantse mõtlemise teooriat korrektsemaks. Nüüd, teades, mis antud raamatust või suunast võib olla puudu, ning olles ise mudeliga natuke tegelenud ning ka muus osas alustuseks leidnud, mis kindlasti minu arvates oluline tähele panna on, on selle raamatu lugemine nüüd kindlasti plaanis, sest see osa mis seal olemas on, on endiselt täieväärtuslik täiendus ja uute ideede allikas; ilma et peaksin muretsema mõtete segi minemise pärast. Seal on viidatud ka mitmetele teiste autorite uurimustele ja programmidele: üks näis isegi, et võib olla midagi sellist, milleni alles edaspidi jõuda plaanin. Nendega katsun ka võimaluse piires võimalikult palju tutvuda.
•	Agenditehnoloogia raamatud
Hetkel on mul käes 
Weiss “Multiagent Systems”
Woodbridge “Intelligent Agents”
D’Inverno & Luck “Understanding Agent Systems”.
Ma ei ole neid süvitsi lugenud, kuid suuna üldine lähenemine on huvitekitav.
•	Tehisintellekti õpikud
Russell & Norvig “Artificial Intelligence: Modern Approach”.
Winston “Artificial Intelligence”
Neid olen seni lugenud peamiselt planeerimise küsimustest aimu saamiseks. Kuid arvan siiski, et ei tea veel nende teemade praktikast eriti midagi sellist, et teha õigeid valikuid. Selles osas tahaksin kuulda teie nõuannet, eriti et olete sarnase asjaga vist tegelenud.
•	Närvivõrkude artiklid
- Kohoneni ja Grossbergi võrgud (sarnane idee on praegu kasutuses)
- Kahekihilised pertseptronid (sarnane idee on praegu kasutuses)
- Hopfieldi võrk (see oli see nimi, mis mul tookord meelde ei tulnud)
- Radiaal-baas võrgud (nimetasite seda tookord, nüüd tutvusin just, tundub huvitav)
- Funktsioonilähendajad üldiselt, kuid pole väga pakiline ega keskne, pigem mudeli ideaalseks viimistlemise teema.
- Lisaks uus asi, millest just lugesin SL4 IRC kanalist – Hierarchical Temporal Memory, artikkel avaldatud selle aasta mais. Lubab, et selle võimalused võivad tulevikus saada sama oluliseks, kui praegu programmeeritavad arvutid. Katsun kohe lähipäevil läbi lugeda. Hetkel kahtlustan, et on eesmärgilt, struktuurilt ja kasutamise omadustelt sarnane kogu mu klassikalise mõtlemise mudelile koos mustrite õppimise laiendusega, kuid ühtlasi viimistletum ja lisaks veel kuidagi üksjagu komplekssema struktuuriga, arvatavasti ka võimalustega. Muuhulgas näib, et ka seal on kasutusel kajarakud. Lisaks on seal juba olemas tähelepanu võimalus, millega ma oleksin alles hulga hiljem tegelenud. Põnev ja samas päris võistluslikkuse tunnet tekitav.
http://en.wikipedia.org/wiki/Hierarchical_Temporal_Memory
http://www.numenta.com/Numenta_HTM_Concepts.pdf
•	Muud asjad, mida soovitate ja millest mul vast aimugi pole
Analoogselt, nagu teen nüüd lähemat tutvust reinforcement learningu’ga ning radiaal-baas võrkudega. Hetkel kujutan ette, et tahaksin ise kindlasti tutvuda planeerimise-teema artiklite või raamatutega. Samuti mulle meeldiks, kui pakute mulle lugemiseks küsimusi, millega ise parajasti tegelete. Minu meelest oleks huvitav ja inspireeriv katsuda mudelit teie uurimustesse kohandada-rakendada.