Een interdisciplinair onderzoek naar de snelheid en nauwkeurigheid van het
classificeren van open sterrenclusters door deep learning methoden.
ABSTRACT: In dit onderzoek is gekeken naar de werking en mogelijkheden van kunstmatige neurale netwerken (artifical neural networks, ANNs) die gebruik maken van deep learning methoden. Er is onderzocht of ANNs in staat zijn om afbeeldingen van open sterrenclusters te classificeren. ANNs zijn gebaseerd op het menselijke brein. Er is ingegaan op de precieze werking van het brein bij beeldherkenning en hoe de ANNs hierop geïnspireerd zijn. Ook is er gekeken naar rol van predictive coding in het brein, en hoe deze strategie toegepast kan worden in deep learning. Ten slotte is een ontwerp voorgesteld van een convolutional deep learning netwerk om open sterrenclusters te classificeren. Het doel van dit ontwerp was het neerzetten van proof of concept.
Thirza Dado 10492682
Jier Nzuanzu 10223258
Floris Taminiau 10661301
Bsc Bèta-Gamma Thema III deel 2
Begeleiders: Evert Glebbeek & Lieke Mulder
Faculty of natural sciences, mathematics and computer science University of Amsterdam
1
InleidingSterrenclusters zijn interessant in de astronomie omdat ze relatief gemakkelijk geïdentificeerd kunnen worden: vrijwel alle sterren liggen op dezelfde afstand, hebben vrijwel dezelfde leeftijd en dezelfde chemische compositie. Met andere woorden: een cluster is een enorme concentratie van praktisch identieke sterren, afgezien van de massa. Hieruit kan informatie worden afgeleid over de evolutie en het leven van sterren. Doordat sterren in een cluster erg in grootte variëren kan gekeken worden naar het levensverloop van lichte en zware sterren die verder dezelfde chemische compositie hebben (Frommert, 2006).
Er bestaan twee soorten clusters: open- en bolvormige clusters. Dit onderzoek zal zich specifiek richten op open sterrenclusters aangezien er meer exemplaren van zijn in ons sterrenstelsel (Frommert, 2008). Een open cluster, ook wel een open sterrenhoop genoemd, is een verzameling van tientallen tot wel honderdduizenden sterren die gevormd zijn uit dezelfde gaswolk. De sterren zijn dus ongeveer even oud. Ze blijven grofweg bij elkaar hangen door onderlinge gravitationele aantrekking, en kunnen verstrooid raken door interactie met andere sterrenclusters of andere zware passerende objecten. Wanneer de cluster niet meer grotendeels samenhangend is, wordt de cluster als ‘overleden’ beschouwd. Open clusters kunnen een paar honderd miljoen jaar oud worden, met sommige uitschieters die al een paar miljard jaar bestaan (Frommert, 2006). Bolvormige clusters verschillen in een belangrijk aspect van open clusters, doordat zij uit veel meer sterren bestaan. Hierdoor hebben zij een sterkere onderlinge aantrekkingskracht dan open clusters en worden veel ouder. Er zijn echter een stuk minder bolvormige clusters bekend in ons melkwegstelsel dan open clusters. (Frommert, 2008)
Het vaststellen van het soort open cluster wordt classificeren genoemd. De classificatie van een open cluster is opgesteld door Trumpler in 1930 en gaat aan de hand van drie verschillende parameters: De
mate van concentratie, de spreiding in helderheid, en het aantal sterren (tabel 1).
Tabel 1: De drie parameters van classificatie (Trumpler, 1930)
Mate van concentratie Spreiding in helderheid Aantal sterren
I: Sterke centrale concentratie 1: Vrijwel alle sterren hebben dezelfde helderheid. p: <50 II: Zwakke centrale concentratie 2: Er is een mix van sterren met grofweg dezelfde
helderheid.
m: 50-100
III: Geen zichtbare centrale concentratie 3: De cluster bestaat uit hele heldere en hele zwakke sterren. r: >100 IV: Sterke decentrale concentratie.
2
Figuur 1: Enkele voorbeelden van open clusters met hun classificatie (Trumpler, 1930)
Het classificeren van open clusters gaat tot nu toe voornamelijk met de hand. Dit is niet erg ingewikkeld, maar aangezien er al meer dan 1.100 open clusters gevonden zijn in alleen ons sterrenstelsel (de melkweg) kan het lang duren om ze allemaal correct te benoemen. Geschat wordt dat er nog minstens 10.000 open clusters zijn binnen de melkweg die nog niet zijn gevonden. Ook zijn er nog miljarden anderen sterrenstelsels met elk hun eigen open clusters. Het zal dus lang duren om al deze clusters te classificeren wanneer wij in staat zijn om deze te vinden en af te beelden (Frommert, 2006). Het doel van dit onderzoek is om te kijken of het mogelijk is om dit proces te automatiseren aan de hand van
deep learning methoden in een kunstmatig netwerk. Kunstmatige systemen zijn snel, hebben een hoge
opslag capaciteit, en worden niet moe of verveeld waardoor ze fouten kunnen gaan maken.
Op basis van een interdisciplinair literatuuronderzoek zal in dit onderzoek achterhaald worden of deep learning methoden geschikt zijn om snel en accuraat open sterrenclusters te classificeren. Ten eerste zal
3
uiteengezet worden hoe visuele informatie in biologische neurale netwerken wordt verwerkt. Classificatie van open sterrenclusters gebeurt namelijk aan de hand van beelden. Ten tweede zal naar voren worden gebracht hoe kunstmatige deep learning methoden zich hebben laten inspireren door deze biologische informatieverwerking. Ten derde zal ingezoomd worden op informatieverwerking in de retina, en de rol van predictive coding als aannemelijke neurobiologische strategie in informatiecodering. Vervolgens zal gekeken worden naar de toepassing van predictive coding in deep learning. Op basis van deze neurobiologische kennis zal ten slotte een deep learning ontwerp voorgesteld worden om open sterrenclusters te classificeren. Het doel van dit ontwerp is het neerzetten van een proof of concept. De classificatie van Trumpler (1930) bevat slechts drie parameters, en zou in principe ook gemakkelijk door lineaire algoritmes opgelost kunnen worden. Op de WEBDA Open Cluster Database zijn afbeeldingen te vinden van meer dan 1.000 open clusters. Deze data moet geleverd, pre-processed en volledig begrepen worden om het uiteindelijk in het kunstmatige deep learning systeem te laden. Natuurkundige expertise is dus onmisbaar in dit onderzoek gezien de natuurkundige aard omtrent de inputdata. Als dit systeem succesvol deze taak uit zou kunnen voeren, kan het uitkomst bieden aan complexere classificaties in de astronomie. Het universum is oneindig groot (Gamow, 1956) en bevat oneindig veel data om mee te werken. Deep learning systemen kunnen goed omgaan met grote datasets en onderlinge variabelen, wat ze geschikt maakt voor het grootschalig en autonoom classificeren van hemellichamen. Dit zou een enorme bijdrage leveren aan de hedendaagse astronomie.Theoretisch kader
Het menselijk brein bevat ongeveer honderd miljard neuronen (figuur 2 en 3) die met elkaar communiceren door middel van elektrochemische signalering. Impulsen zijn een bepaalde hoeveelheid beweging in een bepaalde richting, en kunnen over celmembranen getransporteerd worden door middel van actiepotentialen (elektrische ontladingen). Communicatie tussen twee neuronen vindt plaats door een functioneel contact: een synaps. Er bestaan elektrische en chemische synapsen die verschillen in hun manier van informatieoverdracht. Elektrische synapsen geleiden de elektrische stroom door gespecialiseerde kanalen in de membraan ‘gap junctions’. Chemische synapsen zorgen voor communicatie via de afgifte van neurotransmitters (figuur 4).
4
Figuur 2: Een schematische weergave van een neuron. Een neuron (zenuwcel) bevat dezelfde componenten als andere cellen: een cellichaam (soma), nucleus, mitochondria, ribosomen, endoplasmatisch reticulum, en Golgi apparatus. Ook heeft een neuron uitlopers: dendrieten waar andere neuronen op kunnen projecteren met hun axonen, en één groot axon waarmee het zelf op andere neuronen kan projecteren.(Purves, D., Augustine, G. J., Fitzpatrick, D., Hall, W. C., LaMantia, A. S., & White, L. E. (2012). Neuroscience, 5th Edn.)
Figuur 3:Gevisualiseerde neuronen. (A) Neuronen in de cortex (hersenschors). (B) Purkinjecellen in het cerebellum (de kleine hersenen)
hebben veel vertakkingen van uitlopers. (C) Twee retinale neuronen die heel verschillend zijn in grootte en in de omvang van hun vertakkingen van uitlopers. (D) Neuronen in het autonome (onvrijwillige) zenuwstelsel. (F) Gelaagdheid of laminatie in de primaire visuele cortex (V1; deel van de hersenschors): cellichamen van neuronen zijn georganiseerd in lagen van verschillende dichtheden. Deze verschillende, laminaire dichtheden geven grenzen weer tussen corticale gebieden met verschillende functies. (G) Vergroting van de primaire visuele cortex. (H) Olfactoire bulb (voor reuk): karakteristieke verdeling van cellichamen.
5
Figuur 4:Sequentie van gebeurtenissen tijdens signaaloverdracht van een chemische synaps. Een synaps bestaat uit een presynaptischeterminal (einde van het eerste neuron), een synaptische spleet, en een postsynaptische terminal (begin van het tweede neuron). Een actiepotentiaal bereikt de presynaptische terminal en zorgt voor een verandering in de membraanpotentiaal. Calciumkanalen in de celmembraan reageren hierop, en laten calciumionen de cel instromen. Calciumionen zorgen voor afgifte van blaasjes met neurotransmitters in de synaptische spleet (exocytose). De neurotransmitters diffunderen door de synaptische spleet, en bereiken receptoren op de postsynaptische terminal. Dit leidt tot een conformatieverandering van de receptoren, waardoor een nieuwe actiepotentiaal ontstaat in het tweede neuron. Deze actieotentiaal kan vervolgens weer worden doorgegeven aan het volgende neuron.
(Purves, D., Augustine, G. J., Fitzpatrick, D., Hall, W. C., LaMantia, A. S., & White, L. E. (2012). Neuroscience, 5th Edn.)
Om een kunstmatig systeem in staat te stellen om sterren in sterrenhopen te classificeren op een menselijk kritische manier moet het functies leren die abstracties op hoog niveau, in dit geval zicht, representeren. Computers kunnen data inladen en daarmee rekenen, maar computer vision is bij lange na nog niet zo geavanceerd als biologische of menselijke vision. Het visuele systeem van het menselijk brein bestaat al vanaf de retina tot aan de cortex uit meerdere lagen van neuronen die op hiërarchische wijze met elkaar in verbinding staan (figuur 3, 5, en 6). Een voorbeeld van een onderdeel van het visuele systeem is de ventrale visuele cascade, waarbij neuronen in ‘vroege’ gebieden (relatief laag in de hiërarchie), zoals het V1 gebied, reageren op betrekkelijk simpele, ruimtelijk lokale kenmerken van de retinale afbeelding, zoals contrasten (figuur 7). Neuronen van ‘latere’ gebieden (relatief hoog in de hiërarchie), zoals het V4 gebied of de inferotemporale cortex (IT), reageren
6
daarentegen op steeds complexere visuele kenmerken over grotere regio’s van visuele ruimte, zoals kleuren (Cox & Dean, 2014). Naarmate retinale input via de ventrale visuele cascade in verdere visuele gebieden terechtkomt, staat het brein steeds meer open voor variatie met betrekking tot representatie van deze input. Dit duidt op een zekere flexibileit waarmee met data omgegaan wordt. Om deze reden kan een mens een object in verschillende staten herkennen: als het object bijvoorbeeld in ander licht staat, als alleen de achterzijde van het object zichtbaar is, of als het enigszins is vervormd (figuur 8). In de ventrale visuele cascade zou visuele input dus getransformeerd kunnen worden zodat het menselijk brein het kan herkennen en erover redeneren ondanks de subtiele verschillen (Cox & Dean, 2014).
Figuur 5: Multi-gelaagdheid van de retina. Fotonen reizen door het oog, en belanden op cellen in de retina. De retina bestaat uit vijf lagen van verschillende soorten cellen die informatie over licht aan elkaar doorgeven (zie: verschillende kleuren representeren de verschillende lagen). De visuele informatie wordt nu al verwerkt in de retina, doordat al deze neuronen met elkaar interacteren. Dit zou niet zo zijn als er maar één laag van neuronen de informatie direct zou doorgeven aan het brein.
7
Figuur 6: Multi-gelaagdheid van de primaire visuele cortex (V1). De primaire visuele cortex bestaat uit zes cellagen die verschillen in dichtheid, cellulaire morfologie en verbindingen. (A) Zes verschillende cellagen, waarbij laag 4 uit drie sub-delen bestaat (4A, 4B en 4C). (B) (Grote) pyramidaalcellen met prominente uitlopers zijn het meest aanwezig in de cortex. Ze komen voor in elke laag, behalve laag 4C. Laag 4C bevat ‘spiny stellate neuronen’ die niet naar andere lagen projecteren. (C) Laminaire organisatie van inputs vanuit de thalamus. De thalamus is een soort schakelstation, waar alle informatie samenkomt die het lichaam binnenkrijgt. Er wordt vooral geprojecteerd naar laag 4C en 4A, en in mindere mate naar laag 1, 2, 3 en 6. (D) Intracorticale connecties: laminaire organisatie van neuronen in lagen die projecteren naar neuronen in andere lagen. 4C projecteert vooral naar boven, laag 2 en 3 projecteren vooral naar laag 5, en laag 6 projecteert vooral naar laag 4C. (E) Neuronen in verschillende lagen projecteren naar verschillende non-corticale gebieden. Laag 2 en 3 projecteren vooral naar neuronen in de extrastriate cortex: ‘hogere’ visuele gebieden (V3, V4, V5/MT), laag 6 projecteert terug naar de thalamus, en laag 5 projecteert naar de superior colliculus (hersengebied voor oogbewegingen (saccades) maken).(Purves, D., Augustine, G. J., Fitzpatrick, D., Hall, W. C., LaMantia, A. S., & White, L. E. (2012). Neuroscience, 5th Edn.)
Figuur 7: Visuele systeem. Het visuele systeem bestaat uit de ventrale- en de dorsale visuele cascade, en zijn belangrijk voor de bewuste waarneming en herkenning van de wereld. De ventrale visuele cascade heeft een specifieke functie in objectherkenning op basis van specifieke kenmerken zoals kleur. Retinale informatie komt eerst binnen in de primaire visuele cortex (V1), waarna het verder loopt richting de ‘hogere’ gebieden V2, (V3,) V4, (en IT) in de temporale lobe (ventraal). De dorsale visuele cascade loopt van V1 verder naar ‘hogere’ gebieden die dorsaal gelegen zijn, zoals V2 en MT. De dorsale visuele cascade heeft specifiek een functie in het detecteren van beweging.
(Purves, D., Augustine, G. J., Fitzpatrick, D., Hall, W. C., LaMantia, A. S., & White, L. E. (2012). Neuroscience, 5th Edn.)
8
Figuur 8: Menselijke perceptie. (A) Het menselijk brein herkent objecten in verschillende omstandigheden zonder enige moeite. (B) Hetmenselijke brein kan goed omgaan met onduidelijkheden van 3D afbeeldingen die op de (ongeveer) 2D retina worden geprojecteerd. Complexe hersenprocessen leiden tot een juiste interpretatie van visuele input. (Cox & Dean, 2014).
De manier waarop het biologische zenuwstelsel informatie verwerkt en transformeert is een inspiratie geweest voor de kunstmatige intelligentie. Wetenschappers wilden kunstmatige systemen een soortgelijke strategie laten gebruiken, waarbij data zo zou worden getransformeerd dat de dynamische wereld om zich herkend zou worden: deep architectures werden ontwikkeld. Dit zijn de artificiële neurale netwerken (ANN’s) die bestaan uit meervoudige levels van non-lineaire operaties, zoals neurale netwerken met veel verborgen lagen of ingewikkelde propositionele formules die andere formules hergebruiken (Bengio, 2009).
Deep learning is een techniek binnen de kunstmatige intelligentie, waarbij wordt geprobeerd om
menselijke intelligentie zo goed mogelijk na te bootsen. Hierbij kan gedacht worden aan het herkennen van objecten en emoties, maar ook het maken van voorspellingen of het uitvoeren van taken. ANN’s zijn generalisaties van mathematische modellen van biologische zenuwstelsels. Het bestaat uit een aantal algoritmes die zo ontworpen zijn dat ze, in relatie tot ‘normale’ algoritmes, flexibel met data kunnen omgaan en patronen kunnen herkennen. Deze ‘flexibiliteit’ ontstaat doordat lagen met elkaar communiceren en de inputdata op een non-lineaire wijze verwerken. In een versimpelde versie van een ANN zouden effecten van biologische synapsen, die geassocieerde inputsignalen moduleren, vertegenwoordigd worden door (kunstmatige) verbindingsgewichten (of coëfficiënten), en non-lineaire karakteristieken, die biologische neuronen vertonen, worden gerepresenteerd door een (kunstmatige) transferfunctie (figuur 9). De uitkomst van de gewogen som van inputsignalen getransformeerd door de transferfunctie kan gezien worden als het equivalent van de biologische impuls (Goyal & Goyal, 2011). Een artificieel ‘neuron’ leert vervolgens door het aanpassen van de gewichten aan het leeralgoritme. Het doel van het ANN is om de inputdata zo te transformeren dat het herkend wordt, en een bepaald label opgeplakt krijgt. Zo wordt dus de data geclassificeerd.
9
Ten eerste wordt een leeralgoritme getraind om open clusters te classificeren door trainingsdata aan te bieden. In principe kan deze real-world data van alles zijn, zoals beelden, geluiden, tijdreeksen of tekst. Deze input wordt vertaald naar vectoren, die door het systeem worden gelabeld of geclusterd. In het voorstel voor een netwerkontwerp zal het systeem worden onderworpen aan afbeeldingen van open clusters waar het systeem een trend in zal kunnen ontdekken. De data wordt volgens bepaalde voorwaarden bij elkaar gegroepeerd door het netwerk leert dat er bepaalde patronen te herkennen zijn in alle data die hij tot zich krijgt (Domingos, 2012, Bengio en LeCun, 2007). Het deep learning netwerk krijgt pixels binnen als inputsignaal (x1, x2, …, xn) van de afbeeldingen uit de trainingsset (Bengio, 2009). Deze signalen worden waargenomen als een matrix van xn bij xn (figuur 9). x1 keer x1 representeert een bepaalde pixel van het (originele) beeld. Een complete afbeelding kan zo worden omgezet in een lijst van vectoren waar het systeem mee kan werken. Zie de inputdata als puzzels: elke afbeelding bestaat uit puzzelstukjes (pixels), die het netwerk in elkaar probeert te puzzelen. Tijdens training leert het netwerk hoe het per laag de inputdata moet transformeren, om het uiteindelijk in de laatste laag te integreren en het gewenste label te geven (output) (figuur 10). Om optimale output te kunnen genereren geldt als voorwaarde dat het systeem een enorme hoeveelheid inputdata tot zich krijgt (Krizhevsky et al., 2012).
Figuur 9: Schematische afbeelding van een neuron in een artificieel neuraal netwerk.
(http://biology.stackexchange.com/questions/38943/how-does-a-neuron-change-as-you-learn)
Figuur 10: Input, transformatie, labelling (output).
Inputdata (beeld) wordt getransformeerd in de lagen van het netwerk, waarna het een label krijgt. (Bengio, 2009).
10
Een deep neuraal netwerk bestaat uit meerdere knooppuntlagen waarover inputsignalen worden getransporteerd (figuur 11). Deze structuur is gebaseerd op de structuur van de menselijke neocortex, die zes lagen bevat. Een normaal neuraal netwerk bevat meestal maar één of twee hidden layers. Elke laag in dit multilayer systeem bestaat uit non-lineaire, kunstmatige ‘neuronen’: nodes.Bij elke node vindt een flexibele berekening plaats door gewichten. In de hidden layers vinden non-lineaire acties van neuronen plaats waarbij de inputdata wordt getransformeerd door gewichten, waarbij het signaal ofwel geamplificeerd ofwel geïnhibeerd wordt, en in die vorm doorgegeven aan de volgende laag in de hiërarchie. Amplificatie en inhibitie van het signaal is vergelijkbaar met laterale inhibitie in het biologische zenuwstelsel (Kuffler, 1953). De producten van transformatie worden gesommeerd, en deze som wordt doorgegeven aan de activatiefunctie van een node (figuur 11). Na training zal het getrainde netwerk zelfstandig nieuwe soortgelijke inputdata kunnen transformeren tot het gewenste label.
Figuur 11: Multilayer neuraal netwerk.
http://www.slideshare.net/hammawan/deep-neural-networks
11
De kunstmatige intelligentie heeft een belangrijke stap gezet met het ontwikkelen van deep learning systemen. Een recentere stap heeft te maken met de wijze waarop mensen informatie coderen, en hoe dit toe te passen is op kunstmatige netwerken. Om dit te begrijpen is eerst kennis nodig van de strategie die de retina gebruikt om informatie te verwerken.Visuele informatie processing in de retina
De retina is een laminaire structuur met vijf basisklassen van neuronen: fotoreceptoren, bipolaire cellen, ganglioncellen, horizontale cellen en amacriene cellen (figuur 12). De fotoreceptoren bestaan uit staafjes en kegeltjes die fotonen kunnen absorberen. De activiteit die daardoor wordt opgewekt wordt via bipolaire cellen doorgegeven aan de ganglioncellen, die het signaal vervolgens via de optische zenuw naar het brein sturen. Er zijn on-center- en off-center ganglioncellen, die reageren op stimulatie van een klein circulair gebied van de retina; een receptief veld met een center en surround (figuur 14) (Schiller, Sandell, & Maunsell, 1986). On-center ganglioncellen vuren als er fotonen in hun center vallen, terwijl off-center ganglioncellen juist vuren als er geen fotonen in hun center vallen. Stimulatie van de surround antagoniseert de respons van het center op licht (Kuffler, 1953). Bijvoorbeeld, als er licht valt op het
center van een on-center ganglioncel zal de vuursnelheid hoger zijn dan tijdens rust, als er licht valt op
de surround zal de vuursnelheid lager zijn dan tijdens rust, en als er licht buiten het receptieve veld valt zal de cel vuren volgens de rusttoestand (figuur 13). Horizontale cellen in de laminaire structuur zijn verantwoordelijk voor dit antagonisme doordat zij responsen van bipolaire cellen op licht kunnen aanpassen door laterale inhibitie (figuur 12). Zij ontvangen input van fotoreceptoren, en projecteren naar bipolaire cellen en andere fotoreceptoren. Door de tegengestelde reactie van de surrounds reageren ganglioncellen veel krachtiger op kleine hoeveelheden licht in het center, dan op grote hoeveelheden of uniforme verlichting van het hele receptieve veld. Daarbij worden neuronen die compleet verlicht of verdonkerd zijn minder beïnvloed dan neuronen op een grens van licht en donker (figuur 14). Receptieve velden overlappen waardoor verschillende soorten ganglioncellen samen elk punt op het retinale oppervlak analyseren. Ook is er snel sprake van adaptie aan veranderingen in licht: de ‘rust’ ontlading van ganglioncellen tijdens constante verlichting is relatief laag (Enroth‐ Cugell & Shapley, 1973). De informatie die vanuit de retina naar de cortex wordt getransporteerd voor verdere verwerking geeft dus niet hetzelfde gewicht aan alle regio’s waar verschillen in verlichting optreden. De vuursnelheid van een on-center ganglioncel representeert een verschil in achtergrondverlichting, in plaats van een absolute maat van lichtintensiteit. Door adaptatie is er steeds een grotere lichtintensiteit nodig om een neuron snel te laten vuren.
12
Figuur 12: Structuur van de retina. (A) Delaminaire structuur van de retina. (B) Diagram weergeeft het basiscircuit in de retina: de meeste directe route voor het transporteren van visuele informatie naar het brein is met een drie-neuron keten – fotoreceptor, bipolaire cel, en ganglioncel. Horizontale- en amacriene cellen zorgen voor laterale interacties, waarmee ze de uiteindelijke vuursnelheid van ganglioncellen kunnen reguleren.
(Purves, D., Augustine, G. J., Fitzpatrick, D., Hall, W. C., LaMantia, A. S., & White, L. E. (2012). Neuroscience, 5th Edn.)
Figuur 13: Circuit dat zorgt voor receptieve
veld-responsen van een on-ganglioncel in de retina.
(A) De fotoreceptor (staafje of kegeltje) is verbonden met het center van het receptieve veld. Een plus-teken betekent verhogende activiteit, en een min-teken verlagende activiteit. (B) Op t=1 worden fotonen aangeboden aan het center van het receptieve veld, waardoor de vuurfrequentie van de on-center ganglioncel toeneemt. Op t=2 worden aan het center en de surround fotonen aangeboden, waardoor de vuurfrequentie weer lager wordt door het antagonisme van de surround, ook al krijgt het center evenveel licht als op t=1. Wanneer licht op het center én de surround valt is de vuurfrequentie hoger dan wanneer er helemaal geen licht wordt geschenen, maar lager dan als er alleen licht op het center schijnt.
(Purves, D., Augustine, G. J., Fitzpatrick, D., Hall, W. C., LaMantia, A. S., & White, L. E. (2012). Neuroscience, 5th Edn.)
13
De antagonistische surrounds genereren voorspellingen over intensiteitssignalen in het center van het receptieve veld. Dit gebeurt op basis van gewogen signaalgemiddeldes van naburige receptoren in zowel ruimte als in tijd (voorafgaande signalen). Deze voorspelde waarde van lichtintensiteit wordt afgetrokken van het daadwerkelijke signaal, wat ervoor zorgt dat het dynamisch bereik van de output van de center geminimaliseerd wordt. Ganglioncellen signaleren dus niet het ruwe visuele beeld, maar afwijkingen van voorspelde structuren onder de aanname van ruimtelijke en temporele uniformiteit (Srinivasan, Laughlin, & Dubs, 1982; Hosoya, Baccus, & Meister, 2005). Dus zelfs in de vroegste stadia van visuele verwerking representeren neurale signalen dus geen absolute aantallen van opgevangen fotonen, maar relatieve intensiteiten van stimulatie. Dit kan beschouwd worden als een strategie van
predictive coding, waarbij de retina zich aanpast aan de gemiddelde beeldstatistieken van een omgeving.
Figuur 14: Figuur 10 Responsen (impulsen/sec) van on-center ganglioncellen onder verschillende licht-omstandigheden. (A) De
vuursnelheid van een on-center ganglioncel door een lichtspotje als functie van de afstand van het spotje van het center van het receptieve veld. Op x=0 valt het spotje in het center en is relatief het hoogste aantal impulsen per seconde waar te nemen. Op 5° van het center valt het spotje buiten het receptieve veld. (B) Responsen van een hypothetische populatie van on-center ganglioncellen. Het receptieve veld (A-E) ligt op een licht-donker rand. De cellen die het meeste reageren hebben receptieve velden die langs deze grens liggen.
(Purves, D., Augustine, G. J., Fitzpatrick, D., Hall, W. C., LaMantia, A. S., & White, L. E. (2012). Neuroscience, 5th Edn.)
14
Predictive coding in de retinaDe gemiddelde beeldstatistieken van verschillende omgevingen kunnen erg verschillend van elkaar zijn: zandoppervlakten bevatten fijnere, ruimtelijke variatie waarbij beelden alleen op korte schalen gecorreleerd zijn, en bossen en hoge grasvelden hebben voornamelijk veel verticale structuren waarbij twee beeldpunten verticaal sterk gecorreleerd zijn, maar niet horizontaal. Predictive coding werkt dus volgens andere regels in verschillende omgevingen waarvan de gemiddelde statistieken anders zijn. Ook zijn beeldstatistieken veranderlijk in tijd. Hosoya, Baccus, en Meister (2005) stelden dat het visuele systeem zich op efficiënte wijze aan dergelijke veranderingen kan aanpassen doordat receptieve velden dynamisch van vorm kunnen veranderen, afhankelijk van correlatiestructuur van de visuele omgeving. Voor de meeste retinale cellen neemt gevoeligheid voor een stimulus af door adaptatie, terwijl deze voor een nieuwe stimulus juist toeneemt. Deze aanpassing is langzaam ten opzichte van de respons van het neuron op licht, en kan beschouwd worden als een geleidelijke modulatie van de regels waarmee informatie door ruimte wordt gecombineerd. De onderzoekers zagen amacriene cellen (figuur 13) als waarschijnlijke ‘voorspellers’ van predictive coding, doordat de synapsen van deze cellen zich aanpasten als visuele statistieken veranderden. Wanneer een postsynaptische terminal depolariseert door toedoen van depolarisatie van een presynaptische terminal blijft een synaps immers in werking, terwijl het zal afsterven wanneer deze activiteit afneemt. Amacriene cellen ontvangen input van bipolaire cellen en projecteren naar ganglioncellen, bipolaire cellen, en andere amacriene cellen.
Uiteraard zijn beeldstatistieken van onze omgeving constant aan verandering onderhevig. Het doel van het visuele systeem is dan ook niet het intrinsiek reconstrueren van een waarheidsgetrouwe reproductie van het intensiteitspatroon op de retina. In plaats daarvan moet het de woeste aanval van ruwe, visuele informatie reduceren om vervolgens de paar stukjes informatie eruit te halen die relevant zijn voor gedrag (Hosoya, Baccus, & Meister, 2005).
Predictive coding in kunstmatige netwerken
Traditionele methoden van computer vision en machine learning wegen niet op tegen de menselijke prestaties van bijvoorbeeld het herkennen van handgeschreven cijfers, of het processen van complexe, natuurlijke afbeeldingen. Thorpe, Fize, & Marlot (1996) vonden dat mensen probleemloos en snel afbeeldingen van dieren versus geen-dieren in natuurlijke omgevingen konden identificeren, wat hen deed suggereren dat mensen een zekere wijze van codering bezitten waarbij spike timing belangrijker is dan de snelheid van het vuren. Ook zou informatie processing geheel feed-forward zijn. Hierbij wordt met een vooraf vastgestelde actie op veranderingen in de omgeving gereageerd om zo in een bepaalde toestand te blijven. Een feed-forward systeem kan sneller reageren op veranderingen dan een feedback systeem. Een feedback systeem kan echter reageren op alle soorten veranderingen die een systeem laten afwijken van de gewenste toestand. Een voorwaarde om (kunstmatige) feed-forward systemen goed te laten werken is dus dat het goed is ingesteld. Inmiddels is bekend dat relevante informatie efficiënt uit een afbeelding kan worden geëxtraheerd door de retina op basis van simpele statistieken. Dit kan met
15
hoge snelheid en relatief lage rekenkosten. Torralba & Olivia (2003) lieten zien hoe makkelijk beeldstatistieken op basis van het power spectrum gebruikt kunnen worden om aan- of afwezigheid van objecten te voorspellen in natuurlijke omgevingen. Het power spectrum van een bepaalde reeks beschrijft hoe de variantie van data is verdeeld over het frequentiedomein, en geeft daarbij de spectrale componenten weer. Door afbeeldingen van dezelfde semantische categorie te middelen, kunnen ‘gemiddelde beelden’ worden gemaakt (figuur 15). Mensen konden objecten in dergelijke afbeeldingen gemakkelijk herkennen aan de hand van herkenbare eigenschappen (spectrale componenten). Volgens Torralba & Olivia (2003) kan de relatieve hoeveelheid van high spatial-frequency energy in de verticale en horizontale oriëntaties worden gebruikt als voorspeller van af- of aanwezigheid van objecten in natuurlijke omgevingen.
Figuur 15: ’Gemiddelde beelden’ van objecten, omgevingen, en objecten in omgevingen. Per categorie zijn honderden afbeeldingen gemiddeld. Deze zijn gekozen aan de hand van eenzelfde basisniveau (bijv. stoel, auto) en gezichtspunt vanuit de waarnemer. In de laatste categorie ‘objecten in omgevingen’ zijn de objecten steeds in het midden van het beeld geplaatst, waarbij de omgeving de periferie inneemt.
16
Ciresan, Meier, & Schmidhuber (2012) waren de eerste onderzoekers die bijna-menselijke prestaties neerzetten tijdens het classificeren van verschillende soorten afbeeldingen met multi-column deep
neural networks. Hierbij maakten zij gebruik van convolutional neural networks. Dit zijn feed-forward
artificiële neurale netwerken waarbij individuele nodes (kunstmatige neuronen) reageren op overlappende regio’s in het visuele veld – receptieve velden. Het aantal lagen met non-lineaire neuronen kwam overeen met het aantal tussen de retina en visuele cortex van makaken: 6 lagen. Afhankelijk van de visuele input besloot een simpele max pooling techniek wat de winnende nodes in de eerste laag waren. Hierbij werd gekeken naar activiteit: de actiefste node werd gekozen per regio. De winnaars van een bepaalde laag representeerden dan een kleinere, down-sampled laag met lagere resolutie die vervolgens de volgende laag zou in de hiërarchie zou voeden. Dit is geïnspireerd op het concept van biologische oriëntatie-specifieke ‘simpele cellen’, en ‘complexe cellen’ die down-sampling-like prestaties neerzetten. Een (biologische) simpele cel krijgt input van verschillende ganglioncellen met verschillende receptieve velden. Hierdoor heeft het de grootste vuurrespons wanneer al deze ganglioncellen tegelijk vuren door lichtstimulatie. Bij een simpele cel moet een streepje licht zich in een vaste oriëntatie en op een vaste plek in het receptieve veld bevinden (figuur 16). Simpele cellen kunnen schakelen op een complexe cel die even krachtig reageert op alle visuele velden, waardoor er dus eigenlijk lichtlijntjes gekoppeld zijn (figuur 17).
Figuur 16: Het vuurpatroon van een simpele cel. Een simpele cel krijgt input van meerdere ganglioncellen met elk een receptief veld. De vuursnelheid van de bovenstaande simpele cel is het hoogst als een streepje licht precies in deze schuine oriëntatie wordt gehouden. Als alle ganglioncellen vuren, is de respons van de simpele cel immers groter dan als slecht één of twee ganglioncellen vuren.
17
Figuur 17: Het vuurpatroon van een complexe cel. Een complexe cel krijgt input van meerdere simpele cellen, en genereert daardoor dezelfde respons ongeacht de plek van het lichtstreepje in het receptieve veld. Dit in tegenstelling tot het receptieve veld van een simpele cel, waarbij het streepje zich op een vaste plek in het receptieve veld moet bevinden. De complexe cel reageert dus op het visuele veld van alle simpele cellen die erop zijn aangesloten, dus eigenlijk worden meerdere lichtlijntjes gekoppeld.18
Voorstel: ontwerp deep learning systeemOp basis van de besproken informatie stellen wij een ontwerp voor van een convolutional netwerk om open sterrenclusters te classificeren aan de hand van deep learning. In dit multigelaagde neurale netwerk leren nodes in knooppuntlagen op progressieve wijze van elkaar, waarbij elke laag meer kenmerken naar boven brengt van de inputdata (Bengio, 2009). Lagen zullen elkaar feedback geven met betrekking tot data die ze langs hebben zien komen (Krizhevsky et al., 2012). Voor elke open cluster die correct geclassificeerd is wordt feedback naar hidden layers gestuurd, die hiervan leren. Dit stelt het algoritme in staat om in het vervolg makkelijker en sneller nieuwe beelden van open clusters te classificeren.
Een netwerk met vijf hidden layers zal passend zijn voor classificatie: convolutional layer →
pooling layer → convolutional layer → pooling layer → fully connected layer → output (Bengio en
LeCun, 2007). Dit aantal komt overeen met het aantal lagen in de retina, en zal genoeg zijn om het gewenste label op de inputdata gedrukt te krijgen (Bengio, 2009). De convolutional layers bestaan uit collecties van neuronen die delen van de input afbeelding verwerken, deze collecties heten receptive
fields (Bengio & LeCun, 2007). Deze zijn overlappend neergelegd om een robuuster resultaat te krijgen
wanneer de afbeelding vervormd is. Zo zijn zij in staat om bijvoorbeeld een mok op zijn zijkant alsnog te identificeren als mok. De pooling layers combineren de output van deze receptive fields en maken hier één antwoord van (Bengio, 2009). Feitelijk nemen zij dus het gemiddelde van de input en geven deze door om verder te verwerken. Zoals eerder vermeld is dit ook hoe het menselijk brein grofweg werkt. Door meerdere convolutional en pooling layers achter elkaar te laten werken wordt het aantal vrije (en onbekende) parameters drastisch verlaagd en wordt de gehele afbeelding gegeneraliseerd. In figuur 14 is te zien hoe dit in zijn werkt gaat. Het gebruik van meerdere convolutional en pooling layers zorgt voor minder rekentijd en efficiëntere opslagruimte. Bij erg ingewikkelde data zijn veel meer dan vijf lagen nodig om tot een goede generalisatie te komen.
De convolutional layers zullen bestaan uit 16x16 neuronen, elk van deze lagen kan een set specifieke kenmerken leren. Des te meer specifieke kenmerken geleerd worden, des te groter de kans om het juiste onderliggende patroon te herkennen (Bengio & LeCun, 2007). Ook zal een deel van de inputdata willekeurig vergroot, gedraaid en gespiegeld worden door matrixoperaties uit te voeren. Door op een andere manier naar dezelfde afbeelding te kijken krijgt het netwerk meer informatie over de afbeelding (Dieleman et al., 2015).
Omdat convolutional layers zich beperken tot het begrijpen van een klein stukje van de originele input in een laag, is de fully connected layer nodig om alle informatie bij elkaar te zetten (Krizhevsky et al., 2012). In deze laag wordt uiteindelijk ook gekeken of de patronen die gevonden zijn overeenkomen met bepaalde labels die in de trainingsperiode zijn toegekend (Dielman et al.,2015).
19
De labels die bekend zijn uit de trainingsperiode zijn dus de classificaties van de clusters. Wanneer bij een nieuwe afbeelding in de fully connected layer wordt gevonden dat de informatie overeenkomt met de informatie die gevonden is bij een trainingsafbeelding, dan heeft de nieuwe afbeelding ook die classificatie. Zo zou een neuraal netwerk getraind kunnen worden om uiteindelijk autonoom sterrenclusters te classificeren.
De WEBDA Open Cluster Database bevat geschikte inputdata om aan te bieden aan het netwerk. Deze inputdata bestaat uit een selectie van honderd afbeeldingen van verschillende open clusters met een verhouding van 353x354 pixels in PNG-formaat. De selectie van afbeeldingen wordt gemaakt door te kijken of deze al in het artikel van Ruprecht (1966) door POSS I geclassificeerd zijn. De classificatie en de namen van de clusters op de foto’s zijn bekend. Hierbij wordt de aanname gemaakt dat deze classificatie correct is. De nauwkeurigheid van het deep learning systeem kan uiteindelijk gebaseerd worden op de overeenkomsten met Ruprecht (1966) van het deel van de afbeeldingen dat niet als training gebruikt is. Voor het analyseren van de beelden is slechts een laptop met een nvidia-videokaart nodig. Des te recenter de videokaart en laptop des te sneller het rekenen. Doordat een laptop volstaat is er nu een mogelijkheid om parallel te kunnen programmeren: een deel op de grafische kaart, NVIDIA-serie en een deel op CPU (Bengio & LeCun, 2007).
Figuur 18: Een convolutionale laag met een pooling layer. Elke eenheid in de convolutional layer is verbonden met de lokale buur in alle
feature maps van de voorgaande laag. De pooling layer zorgt dat de kenmerken van die convolutional layer worden vastgelegd door het gemiddelde te nemen (Dielman, et al., 2015).
20
Conclusie
Op basis van de kennis die is opgedaan uit het literatuuronderzoek kan geconcludeerd worden dat ANN’s die gebruik maken van deep learning gemakkelijk in staat moeten zijn om open sterrenclusters te classificeren. Het feit dat classificatie gebeurt aan de hand van drie parameters maakt dit een relatief simpele taak. Het bouwen van het systeem is echter niet gelukt.
Discussie
In dit onderzoek is oorspronkelijk gepoogd om zelf een algoritme te ontwikkelen dat gebruik maakt van
deep learning methoden en daarmee in staat is om open clusters te classificeren. Het bouwen hiervan is
uiteindelijk niet gelukt vanwege verscheidene redenen. Ten eerste is er erg veel data nodig voor het trainen van een robuust deep learning systeem (Krizhvesky et al, 2012). Onze dataset bevat slechts honderd afbeeldingen, omdat elke afbeelding in de WEBDA database moet voorkomen en ook in het artikel van Ruprecht (1966) reeds geclassificeerd moet zijn zodat deze als ‘correcte’ classificatie kan worden gebruikt. Dit bleek nog niet voldoende te zijn om een goed netwerk te ontwikkelen. Ten tweede zijn de afbeeldingen niet helemaal ‘schoon’. Er zijn bijvoorbeeld sterren en sterrenstelsels te zien die veel verder liggen dan de cluster van interesse, maar wel op de afbeelding staan. Het netwerk moet getraind worden met schone data zodat het voorbeelden leert van open sterrenclusters, om deze vervolgens te kunnen onderscheiden van niet-open sterrenclusters. Ook kunnen sterren door middel van gravitationele lenzing een vervormd beeld weergeven van de afzonderlijke sterren. Zo kunnen zij een klein beetje uitgerekt zijn waardoor het systeem denkt dat het twee sterren zijn die vlak naast elkaar liggen. Ook kunnen er andere artefacten te zien zijn waarmee het systeem helemaal geen raad weet, bijvoorbeeld stofwolken. Om dit te verhelpen zouden de beelden goed pre-processed moeten worden voordat ze in het netwerk geladen worden. Dezelfde open sterrenclusters zou vanaf meerdere hoeken gefotografeerd kunnen worden, om hier vervolgens een 3-dimensionale reconstructie van te maken om in het netwerk te laden. Dit is precies wat het brein doet wanneer het de 3-dimensionale wereld observeert. Het brein bestaat, naast het visuele systeem, uit meerdere geïntegreerde netwerken die op hun beurt gereguleerd worden door motorische activiteit en andere omgevingssignalen. Bovendien blijkt het visuele systeem gevoelig te zijn voor een temporele dimensie (Meyer & Olson, 2011; De Baene & Vogels, 2010). Soortgelijke mechanismes zouden in kunstmatige systemen moeten worden toegepast. Ondanks de technologische vooruitgangen is de kloof tussen prestaties van het menselijk brein en kunstmatige systemen nog enorm. Het lukt artificiële neurale netwerken vaak nog niet om verbanden te vinden tussen originele afbeeldingen en aangepaste versies ervan, terwijl mensen nauwelijks verschil opmerken.
In dit onderzoek is veel veel kennis opgedaan over de innerlijke werking van deep learning en de rol hiervan bij het bekijken en classificeren van afbeeldingen. Met deze nieuw verworven kennis is dit onderzoek omgezet tot een literatuuronderzoek dat de werking en de mogelijkheden van deep learning
21
uiteenzet en beschouwt. Door de capaciteiten van een kunstmatig neuraal netwerk te onderzoeken is er geconcludeerd dat een kunstmatig neuraal netwerk, dat gebruik maar van deep learning methoden, gemakkelijk in staat moet zijn om ‘schone’ beelden met sterrenclusters te classificeren, aangezien dit eigenlijk een relatief simpele taak is. Er zijn namelijk maar drie parameters. Om deze reden stellen wij voor dat vervolgonderzoek zal pogen deep learning methoden in te zetten voor complexere taken. Zo wilden Van Gerven, De Lange, & Heskes (2010) een systeem via deep learning in staat stellen om de aard van een bepaalde stimulus te reconstrueren op basis van beelden van hersenactiviteit door
functional magnetic resonance imaging (fMRI). Reconstructie is echter veel lastiger dan het simpelweg
classificeren of identificeren van een stimulus, doordat gevolgtrekking over de stimulusoorzaak noodzakelijk is. Voor classificatie en identificatie is daarentegen slechts sprake van selectie uit een beperkte set van mogelijke stimuli. Om een systeem te kunnen laten ‘zien’, om daar vervolgens conclusies uit te trekken zoals mensen dat doen, is begrip vereist van hoe dit bij het menselijk brein in zijn werking treedt. Om gevolgtrekkingen te maken over oorzaken van sensorische waarnemingen maakt het brein gebruik van een generatief model (Dayan, Hinton, Neal, & Zemel, 1995). Predictive
coding door de retina is hier een zeer aannemelijke, neurobiologische kandidaat voor (Hosoya, Baccus,
& Meister, 2005; Bastos, et al., 2012). Van Gerven, De Lange, & Heskes (2010) ontwikkelden een deep
belief network: een hiërarchisch generatief model dat was opgebouwd uit voorwaardelijk beperkte
Boltzmann machines. Dit netwerk was in staat om hiërarchische kenmerken van data te leren. Hierdoor kon het neurale codering nabootsen, en waargenomen stimuli reconstrueren op basis van hemodynamische responsen in de visuele cortex. Door de hiërarchisch generatieve aard van het model, was het in staat om zich aan te passen aan statistieken van nieuwe data, net zoals retinale ganglioncellen in het biologische oog dat kunnen.
Het universum is oneindig, en er is oneindig veel data in de astronomie. Telescopen worden steeds beter en er worden telkens nieuwe methoden ontdekt om zo ver mogelijk te kunnen zien. Om deze gigantische stroom van data bruikbaar te maken is correcte classificatie van het allergrootste belang. Classificeren van hemellichamen is veelal een visueel process, een van de dingen waar de artificiële wereld nog veel te leren heeft van de mens. Om verder te komen in de astronomie is dus een samenwerking met de kunsmatige intelligentie en de neurowetenschappen onmisbaar.
Dankwoord
Bij deze willen wij speciale dank uitbrengen aan de volgende personen:
Evert Glebbeek & Lieke Mulder voor de begeleiding en tips gedurende het onderzoek. De afgelopen maanden zijn we hierdoor verder gekomen met dit onderzoek dan we aanvankelijk hadden verwacht.
Dr. M. Keestra, dr. R.J.C. Spreeuw en dr. B. Kruithof voor het inzien van het paper, en voorzien van feedback. Prof. dr. T.M. Heskes voor het inzien van het onderzoeksvoorstel, en het confirmeren van
deep learning als bruikbare tool om open sterrenclusters te classificeren. Ook voor de doorverwijzing
22
opzet van het experimentele gedeelte van dit onderzoek. Hierdoor hebben wij het zelfvertrouwen gekregen om zelf een deep learning netwerk te bouwen dat open sterrenclusters zou kunnen classificeren. Dr. S.M. Bohte voor tips omtrent overlappingen van neurobiologie met kunstmatige intelligentie, zoals predictive coding als actuele toepassing in deep learning methoden.
Literatuur
Bastos, A. M., Usrey, W. M., Adams, R. A., Mangun, G. R., Fries, P., & Friston, K. J. (2012). Canonical microcircuits for predictive coding. Neuron, 76(4), 695-711.
Bengio, Y. (2009). Learning deep architectures for AI. Foundations and trends® in Machine
Learning, 2(1), 1-127.
Bengio, Y., & LeCun, Y. (2007). Scaling learning algorithms towards AI. Large-scale kernel
machines, 34(5).
Brodley, C. E., Rebbapragada, U., Small, K., & Wallace, B. (2012). Challenges and opportunities in applied machine learning. AI Magazine, 33(1), 11-24.
Ciresan, D., Meier, U., & Schmidhuber, J. (2012). Multi-column deep neural networks for image classification. Computer Vision and Pattern Recognition (CVPR), 3642-3649.
Cox, D. D., & Dean, T. (2014). Neural networks and neuroscience-inspired computer vision. Current
Biology, 24(18), R921-R929.
Dieleman, S., Willet, K.W., & Dambre, J. (2015). Rotation-invariant convolutional neural networks for galaxy morphology prediction . Monthly Notices of the Royal Astronomical Society,
450(2), 1441-1459.
Dayan, P., Hinton, G. E., Neal, R. M., & Zemel, R. S. (1995). The helmholtz machine. Neural
computation, 7(5), 889-904.
De Baene, W., & Vogels, R. (2010). Effects of adaptation on the stimulus selectivity of macaque inferior temporal spiking activity and local field potentials. Cerebral Cortex, 20(9), 2145-2165.
Domingos, P. (2012). A few Useful things to know about machine learning. Communication of the
ACM, 55(10), 78-87.
Enroth‐Cugell, C., & Shapley, R. M. (1973). Adaptation and dynamics of cat retinal ganglion cells.
The Journal of Physiology, 233(2), 271-309.
Friston, K., & Kiebel, S. (2009). Predictive coding under the free-energy principle. Philosophical
Transactions of the Royal Society B: Biological Sciences, 364(1521), 1211-1221.
Frommert, H. (2006). Open Star Clusters. Opgehaald van http://www.messier.obspm.fr/open.html
Frommert, H. (2008). Milky Way Globular Clusters. Opgehaald van http://spider.seds.org/spider/MWGC/mwgc.html
23
Gamow, G. (1956). The physics of the expanding universe. Vistas in Astronomy, 2, 1726-1732.Goyal, S., & Goyal, G. K. (2011). Advanced computing research on cascade single and double hidden layers for detecting shelf life of kalakand: An artificial neural network approach. International
Journal of Computer Science & Emerging Technologies, 2(5), 292-295.
Hosoya, T., Baccus, S. A., & Meister, M. (2005). Dynamic predictive coding by the retina. Nature,
436(7047), 71-77.
Kilner, J. M., Friston, K. J., & Frith, C. D. (2007). Predictive coding: an account of the mirror neuron system. Cognitive processing, 8(3), 159-166.
Kuffler, S. W. (1953). Discharge patterns and functional organization of mammalian retina. Journal of
neurophysiology, 16(1), 37-68.
Krizhevsky, A., Sutskever, I., & Hinton, E., G. (2012). ImageNet Classification with Deep
Convolutional Neural Networks. NIPS : Neural Information Processing Systems, Lake Tahoe,
Nevada
LeCun, Y., Bottou, l., Genevieve, B., O., & Müller, K-R. (1998). Efficient Backprop. Neural
Networks: tricks of the trade: first edition. Berlin, Heidelberg: Springer Berlin
Meyer, T., & Olson, C. R. (2011). Statistical learning of visual transitions in monkey inferotemporal cortex. Proceedings of the National Academy of Sciences, 108(48), 19401-19406.
Mjolsness, E., & DeCoste, D. (2001). Machine learning for science: state of the art and future prospects. Science, 293(5537), 2051-2055.
Purves, D., Augustine, G. J., Fitzpatrick, D., Hall, W. C., LaMantia, A. S., & White, L. E. (2012).
Neuroscience, 5th Edn.
Ruprecht, J. (1966). Classification of open star clusters. Bulletin of the Astronomical Institutes of
Czechoslovakia, 17, 33.
R. B. Fisher, K. Koryllos, (1998) “Interactive Textbooks; Embedding Image Processing Operator Demonstrations in Text”, Int. J. of Pattern Recognition and Artificial Intelligence, Vol 12, No 8, pp 1095-1123.
Schiller, P. H., Sandell, J. H., & Maunsell, J. H. (1986). Functions of the ON and OFF channels of the visual system. Nature 322, 824-825.
Srinivasan, M. V., Laughlin, S. B., & Dubs, A. (1982). Predictive coding: a fresh view of inhibition in the retina. Proceedings of the Royal Society of London B: Biological Sciences, 216(1205), 427-459.
Trumpler, R. J. (1930). Preliminary results on the distances, dimensions and space distribution of open star clusters. Lick Observatory Bulletin, 14, 154-188.
Van Gerven, M. A., De Lange, F. P., & Heskes, T. (2010). Neural decoding with hierarchical generative models. Neural computation, 22(12), 3127-3142.
