Utilizarea rețelelor neuronale pentru a recunoaște cifrele scrise de mână

Sistemul vizual uman este una dintre minunile lumii. Luați în considerare următoarea secvență de cifre scrise de mână:

Majoritatea oamenilor recunosc fără efort acele cifre ca 504192. Această ușurință este înșelătoare. În fiecare emisferă a creierului nostru, oamenii au un cortex vizual primar, cunoscut și sub numele de V1, care conține 140 de milioane de neuroni, cu zeci de miliarde de conexiuni între ei. Și totuși, viziunea umană implică nu doar V1, ci o serie întreagă de corteze vizuale – V2, V3, V4 și V5 – care efectuează procesări progresive mai complexe de imagine. Avem în cap un supercomputer, reglat de evoluția de-a lungul a sute de milioane de ani și adaptat superb pentru a înțelege lumea vizuală. Recunoașterea cifrelor scrise de mână nu este ușoară. Mai degrabă, noi, oamenii, suntem uimitor, uimitor de buni în a înțelege ceea ce ne arată ochii noștri. Dar aproape toată această muncă este făcută inconștient. Și astfel, de obicei, nu apreciem cât de dificilă este o problemă pe care o rezolvă sistemele noastre vizuale.

Dificultatea recunoașterii vizuale a modelelor devine evidentă dacă încercați să scrieți un program de calculator pentru a recunoaște cifre ca cele de mai sus. Ceea ce pare ușor când o facem singuri devine brusc extrem de dificil. Intuițiile simple despre cum recunoaștem formele – „un 9 are o buclă în partea de sus și o linie verticală în dreapta jos” – se dovedesc a nu fi atât de simplu de exprimat algoritmic. Când încerci să faci astfel de reguli precise, te pierzi rapid într-o grămadă de excepții, avertismente și cazuri speciale. Pare fără speranță.

Rețelele neuronale abordează problema într-un mod diferit. Ideea este de a lua un număr mare de cifre scrise de mână, cunoscute sub numele de exemple de antrenament, și apoi să se dezvolte un sistem care poate învăța din acele exemple de instruire. Cu alte cuvinte, rețeaua neuronală folosește exemplele pentru a deduce automat regulile de recunoaștere a cifrelor scrise de mână. În plus, prin creșterea numărului de exemple de instruire, rețeaua poate afla mai multe despre scrierea de mână și, astfel, își poate îmbunătăți acuratețea. Deci, deși am arătat mai sus doar 100 de cifre de antrenament, poate că am putea construi un dispozitiv de recunoaștere a scrisului de mână mai bun, folosind mii sau chiar milioane sau miliarde de exemple de antrenament.

În acest capitol vom scrie un program de calculator care implementează o rețea neuronală care învață să recunoască cifrele scrise de mână. Programul are doar 74 de linii și nu utilizează biblioteci speciale de rețele neuronale. Dar acest program scurt poate recunoaște cifrele cu o precizie de peste 96 la sută, fără intervenția umană. În plus, în capitolele ulterioare vom dezvolta idei care pot îmbunătăți acuratețea cu peste 99%. De fapt, cele mai bune rețele neuronale comerciale sunt acum atât de bune încât sunt folosite de bănci pentru a procesa cecuri și de oficiile poștale pentru a recunoaște adrese.

Ne concentrăm pe recunoașterea scrisului de mână, deoarece este o problemă prototip excelentă pentru a învăța despre rețelele neuronale în general. Ca prototip, atinge un punct favorabil: este o provocare – nu este o minune să recunoști cifrele scrise de mână – dar nu este atât de dificil încât să necesite o soluție extrem de complicată sau o putere de calcul extraordinară. În plus, este o modalitate excelentă de a dezvolta tehnici mai avansate, cum ar fi învățarea profundă. Și astfel, pe parcursul cărții, vom reveni în mod repetat la problema recunoașterii scrisului de mână. Mai târziu în carte, vom discuta despre modul în care aceste idei pot fi aplicate altor probleme din viziunea computerizată, precum și în vorbire, procesarea limbajului natural și alte domenii.

Desigur, dacă scopul capitolului ar fi doar să scrie un program de calculator care să recunoască cifrele scrise de mână, atunci capitolul ar fi mult mai scurt! Dar pe parcurs vom dezvolta multe idei cheie despre rețelele neuronale, inclusiv două tipuri importante de neuron artificial (percepția și neuronul sigmoid) și algoritmul standard de învățare pentru rețelele neuronale, cunoscut sub numele de coborâre a gradientului stocastic. De-a lungul timpului, mă concentrez pe explicarea de ce lucrurile sunt făcute așa cum sunt și pe construirea intuiției rețelelor neuronale. Asta necesită o discuție mai lungă decât dacă aș prezenta mecanica de bază a ceea ce se întâmplă, dar merită pentru înțelegerea mai profundă pe care o vei obține. Printre beneficii, până la sfârșitul capitolului vom fi în măsură să înțelegem ce este învățarea profundă și de ce contează.

Sursa: Michael Nielson (2024). Neural Networks and Deep Learning, LibreTexts, licența CC BY-NC 3.0. Traducerea și adaptarea Nicolae Sfetcu