Învățarea automată interactivă, învățarea profundă, învățarea profundă bayesiană și învățarea prin transfer profund

ML automată vs. ML interactivă

Scopul final al comunității ML la nivel mondial este de a dezvolta algoritmi/sisteme care pot învăța automat din date fără nicio intervenție umană [34]. Această învățare automată (aML) funcționează bine atunci când avem cantități mari de date de antrenament [35], prin urmare, „Big Data” este benefică pentru abordările automate. Cu toate acestea, uneori nu avem cantități mari de date și/sau ne confruntăm cu evenimente rare și/sau probleme dificile. Domeniul sănătății este un exemplu reprezentativ pentru un domeniu cu multe astfel de probleme complexe de date [24,36]. În astfel de domenii, aplicarea abordărilor complet automate de tip „cutie neagră” („apăsați butonul și așteptați rezultatele”) pare evazivă în viitorul apropiat. Din nou, un bun exemplu sunt procesele gaussiene, unde abordările aML (de exemplu, mașinile kernel [37]) se luptă cu problemele de extrapolare a funcțiilor, care sunt uimitor de triviale pentru cursanții umani [38]. Prin urmare, abordările interactive de învățare automată (iML), prin integrarea unui om în buclă (de exemplu, un kernel uman [33]), sau implicarea directă a unui om în algoritmul de învățare automată [39], utilizând astfel abilitățile cognitive umane, reprezintă o abordare promițătoare. Abordările iML pot fi de interes deosebit pentru rezolvarea problemelor în care ne lipsesc seturi mari de date, gestionarea datelor complexe și/sau a evenimentelor rare, în care algoritmii tradiționali de învățare suferă de eșantioane de antrenament insuficiente. În domeniul medical, un „doctor în buclă” poate ajuta cu expertiza sa în rezolvarea problemelor care altfel ar rămâne NP-hard. O lucrare experimentală recentă [40] demonstrează utilitatea Problemei Comisarului Voiajor (TSP), care apare într-o serie de probleme practice, de exemplu, conformația tridimensională nativă pliată a unei proteine în starea sa de energie liberă cea mai scăzută; sau ambele procese de pliere 2D și 3D, ca problemă de minimizare a energiei libere, aparțin unui set mare de probleme de calcul, presupuse a fi condiționat intratabile [41]. Întrucât TSP se referă la găsirea celei mai scurte căi printr-un set de puncte, este o problemă matematică intransigentă, pentru care în trecut au fost dezvoltate multe euristici pentru a găsi soluții aproximative [42]. Există dovezi că includerea unui om poate fi utilă în numeroase alte probleme din diferite domenii de aplicație, vezi, de exemplu, [43,44]. Cu toate acestea, pentru clarificare, iML înseamnă integrarea unui om în bucla algoritmică, adică deschiderea abordării de tip cutie neagră către o cutie de sticlă. Alte definiții vorbesc, de asemenea, despre un om în buclă, dar este ceea ce am numi abordări clasice supervizate [45] sau, într-un sens complet diferit, plasarea omului în bucle de feedback fizic [46].

Învățarea profundă

Nu în ultimul rând, abordările de învățare profundă (DL) ar trebui menționate pe scurt aici, deoarece acestea contribuie în prezent puternic la popularitatea ML în comunitatea mai largă în general și la succesul aplicațiilor industriale în special. Câteva propoziții mai sus am discutat importanța reprezentărilor învățării. Abordările de învățare profundă pot fi văzute ca metode de învățare a reprezentărilor cu niveluri multiple de reprezentări, constând dintr-un număr de niveluri unice neliniare simple, unde fiecare nivel transformă nivelul respectiv într-o reprezentare a unui nivel superior – mai abstract. Important aici este să subliniem faptul că caracteristicile nu sunt create manual, ci sunt învățate complet automat din date, strat cu strat, folosind o procedură de învățare cu scop general [4]. Valoarea practică a fost dovedită în diferite aplicații, de exemplu, în viziunea computerizată [47], înțelegerea limbajului natural [48], conectomică (studiul circuitelor cerebrale) [49], bioinformatică [50], informatica medicală [51,52,53] sau în fizică [54], pentru a indica doar câteva exemple. De asemenea, dezvoltarea inteligenței la nivel uman [55,56], contribuind astfel la științele cognitive. Pentru o prezentare generală excelentă și o explicație bună a istoriei învățării automate, consultați Schmidhuber (2015) [3]. În cele din urmă, trebuie menționat faptul că învățarea profundă, deși atinge performanțe atât de fantastice în anumite sarcini, are și limitări serioase: sunt abordări de tip „cutie neagră”, unde în prezent este dificil să se explice cum și de ce a fost obținut un rezultat, prin urmare, lipsesc transparența și încrederea, sunt predispuse la uitare catastrofală, necesită resurse computaționale uriașe și au nevoie de cantități enorme de date de antrenament (adesea milioane de eșantioane de antrenament), și mai ales sunt slabe în reprezentarea incertitudinilor.

Învățarea profundă bayesiană

Abordările rețelelor neuronale au obținut un succes surprinzător în anumite domenii de aplicare (de exemplu, viziunea artificială, citirea artificială, auzul artificial, pentru a menționa trei), însă simpla capacitate de a vedea, citi și a auzi este departe de a fi cu adevărat inteligentă, de a înțelege contextul. Un bun exemplu este luarea deciziilor medicale: profesionistul medical analizează simptomele vizibile (de exemplu, pe imaginile medicale), citește raportul corespunzător pe înregistrările pacientului și află afecțiunile acestuia. Acum, medicul trebuie să caute relații între diferite informații, să deducă etiologia și să facă predicții și, în final, să ia decizii. O persoană poate face față incertitudinilor datorate cunoștințelor și experienței sale anterioare într-un timp scurt [57,58]. Unul dintre pionierii în combinarea rețelelor bayesiene cu abordări probabilistice pentru a modela matematic cauzalitatea a fost Judea Pearl [2,59]. Această perspectivă necesită fuzionarea modelelor grafice probabilistice cu abordări de învățare profundă (vezi studiul realizat de Wang și Yeung (2016) [60]). Abordările rețelelor neuronale (aplicate, de exemplu, pentru regresie și clasificare) nu reprezintă bine incertitudinea, dar modelele bayesiene oferă un cadru fundamentat matematic pentru a raționa despre incertitudinea modelului. Recent, Yarin și Ghahramani (2016) [61] au dezvoltat un nou cadru teoretic care prezintă antrenamentul pentru abandon în rețelele neuronale profunde ca inferență bayesiană aproximativă în procesele gaussiene profunde, ceea ce oferă noi instrumente pentru a modela incertitudinea cu rețele neuronale pentru abandon, inspirând în consecință lucrările viitoare. Cu toate acestea, o problemă majoră rămasă a învățării profunde este uitarea catastrofală [62,63].

Învățarea prin transfer profund

O lucrare foarte recentă a lui Lee, Kim, Lee și Yoon (2017) [64] avansează în învățarea profundă pentru date structurate pe grafuri prin încorporarea unui alt concept cheie: învățarea prin transfer (mai multe detalii vezi în Secțiunea 4): Rețelele neuronale convoluționale (CNN) și rețelele neuronale recurente (RNN) extrag caracteristici bazate pe date din datele de intrare (de exemplu, date imagine, video și audio) structurate în grile regulate de obicei de dimensiuni reduse. Se presupune adesea că structurile de grilă au caracteristici statistice (de exemplu, staționare, localitate etc.) pentru a facilita procesul de modelare. Algoritmii de învățare pot profita de această presupunere și pot crește performanța prin simpla reducere a complexității parametrilor [65]. Prin depășirea presupunerii comune că datele de antrenament și de testare ar trebui să fie întotdeauna extrase din același spațiu și distribuție a caracteristicilor, învățarea prin transfer între diferite domenii de sarcini poate atenua povara colectării de noi date și noi modele de antrenament pentru o sarcină nouă. Având în vedere importanța caracteristicilor structurale în analiza grafurilor, este necesar să se transfere caracteristicile structurale bazate pe date, învățate de rețelele profunde, dintr-un domeniu sursă într-un domeniu țintă.

Referințe

3. Schmidhuber, J. Deep learning in neural networks: An overview. Neural Netw.2015, 61, 85–117. [Google Scholar] [CrossRef] [PubMed]
4. LeCun, Y.; Bengio, Y.; Hinton, G. Deep learning. Nature2015, 521, 436–444. [Google Scholar] [CrossRef] [PubMed]

 

24. Holzinger, A.; Dehmer, M.; Jurisica, I. Knowledge Discovery and interactive Data Mining in Bioinformatics—State-of-the-Art, future challenges and research directions. BMC Bioinform.2014, 15 (Suppl. 6), I1. [Google Scholar] [CrossRef] [PubMed]

 

34. Shahriari, B.; Swersky, K.; Wang, Z.; Adams, R.P.; de Freitas, N. Taking the human out of the loop: A review of Bayesian optimization.  IEEE2016, 104, 148–175. [Google Scholar] [CrossRef]
35. Sonnenburg, S.; Rätsch, G.; Schaefer, C.; Schoelkopf, B. Large scale multiple kernel learning.  Mach. Learn. Res.2006, 7, 1531–1565. [Google Scholar]
36. Holzinger, A. Biomedical Informatics: Computational Sciences Meets Life Sciences; BoD: Norderstedt, Germany, 2012; p. 368. [Google Scholar]
37. Hofmann, T.; Schoelkopf, B.; Smola, A.J. Kernel methods in machine learning.  Stat.2008, 36, 1171–1220. [Google Scholar] [CrossRef]
38. Griffiths, T.L.; Lucas, C.; Williams, J.; Kalish, M.L. Modeling human function learning with Gaussian processes. In Advances in Neural Information Processing Systems (NIPS 2008); Koller, D., Schuurmans, D., Bengio, Y., Bottou, L., Eds.; NIPS: San Diego, CA, USA, 2009; Volume 21, pp. 553–560. [Google Scholar]
39. Holzinger, A. Interactive Machine Learning for Health Informatics: When do we need the human-in-the-loop? Brain Inform.2016, 3, 119–131. [Google Scholar] [CrossRef] [PubMed]
40. Holzinger, A.; Plass, M.; Holzinger, K.; Crisan, G.C.; Pintea, C.M.; Palade, V. Towards interactive Machine Learning (iML): Applying Ant Colony Algorithms to solve the Traveling Salesman Problem with the Human-in-the-Loop approach. In Springer Lecture Notes in Computer Science LNCS 9817; Springer: Berlin/Heidelberg, Germany, 2016; pp. 81–95. [Google Scholar] [CrossRef]
41. Crescenzi, P.; Goldman, D.; Papadimitriou, C.; Piccolboni, A.; Yannakakis, M. On the complexity of protein folding.  Comput. Biol.1998, 5, 423–465. [Google Scholar] [CrossRef] [PubMed]
42. Macgregor, J.N.; Ormerod, T. Human performance on the traveling salesman problem.  Psychophys.1996, 58, 527–539. [Google Scholar] [CrossRef] [PubMed]
43. Napolitano, F.; Raiconi, G.; Tagliaferri, R.; Ciaramella, A.; Staiano, A.; Miele, G. Clustering and visualization approaches for human cell cycle gene expression data analysis.  J. Approx. Reason.2008, 47, 70–84. [Google Scholar] [CrossRef]
44. Amato, R.; Ciaramella, A.; Deniskina, N.; Del Mondo, C.; di Bernardo, D.; Donalek, C.; Longo, G.; Mangano, G.; Miele, G.; Raiconi, G.; et al. A multi-step approach to time series analysis and gene expression clustering. Bioinformatics2006, 22, 589–596. [Google Scholar] [CrossRef] [PubMed]
45. Shyu, C.R.; Brodley, C.E.; Kak, A.C.; Kosaka, A.; Aisen, A.M.; Broderick, L.S. ASSERT: A Physician-in-the-Loop Content-Based Retrieval System for HRCT Image Databases.  Vis. Image Underst.1999, 75, 111–132. [Google Scholar] [CrossRef]
46. Schirner, G.; Erdogmus, D.; Chowdhury, K.; Padir, T. The future of human-in-the-loop cyber-physical systems. Computer2013, 46, 36–45. [Google Scholar] [CrossRef]
47. Krizhevsky, A.; Sutskever, I.; Hinton, G.E. Imagenet classification with deep convolutional neural networks. In Advances in Neural Information Processing Systems (NIPS 2012); Pereira, F., Burges, C.J., Bottou, L., Weinberger, K.Q., Eds.; NIPS: San Diego, CA, USA, 2012; pp. 1097–1105. [Google Scholar]
48. Mikolov, T.; Deoras, A.; Povey, D.; Burget, L.; Cernocky, J. Strategies for training large scale neural network language models. In Proceedings of the IEEE Workshop on Automatic Speech Recognition and Understanding (ASRU 2011), Waikoloa, HI, USA, 11–15 December 2011; pp. 196–201. [Google Scholar] [CrossRef]
49. Helmstaedter, M.; Briggman, K.L.; Turaga, S.C.; Jain, V.; Seung, H.S.; Denk, W. Connectomic reconstruction of the inner plexiform layer in the mouse retina. Nature2013, 500, 168–174. [Google Scholar] [CrossRef] [PubMed]
50. Leung, M.K.; Xiong, H.Y.; Lee, L.J.; Frey, B.J. Deep learning of the tissue-regulated splicing code. Bioinformatics2014, 30, i121–i129. [Google Scholar] [CrossRef] [PubMed]
51. Bar, Y.; Diamant, I.; Wolf, L.; Greenspan, H. Deep learning with non-medical training used for chest pathology identification. In Proceedings of the Medical Imaging 2015: Computer-Aided Diagnosis, Orlando, FL, USA, 21–26 February 2015. [Google Scholar] [CrossRef]
52. Tajbakhsh, N.; Shin, J.Y.; Gurudu, S.R.; Hurst, R.T.; Kendall, C.B.; Gotway, M.B.; Liang, J. Convolutional Neural Networks for Medical Image Analysis: Full Training or Fine Tuning? IEEE Trans. Med. Imaging2016, 35, 1299–1312. [Google Scholar] [CrossRef] [PubMed]
53. Havaei, M.; Guizard, N.; Larochelle, H.; Jodoin, P.M. Deep learning trends for focal brain pathology segmentation in MRI. In Machine Learning for Health Informatics; Holzinger, A., Ed.; Springer: Cham, Switzerland, 2016; pp. 125–148. [Google Scholar] [CrossRef]
54. Carrasquilla, J.; Melko, R.G. Machine learning phases of matter.  Phys.2017, 13, 431–434. [Google Scholar] [CrossRef]
55. Mnih, V.; Kavukcuoglu, K.; Silver, D.; Rusu, A.A.; Veness, J.; Bellemare, M.G.; Graves, A.; Riedmiller, M.; Fidjeland, A.K.; Ostrovski, G.; et al. Human-level control through deep reinforcement learning. Nature2015, 518, 529–533. [Google Scholar] [CrossRef] [PubMed]
56. Silver, D.; Huang, A.; Maddison, C.J.; Guez, A.; Sifre, L.; van den Driessche, G.; Schrittwieser, J.; Antonoglou, I.; Panneershelvam, V.; Lanctot, M.; Dieleman, S.; Grewe, D.; Nham, J.; Kalchbrenner, N.; Sutskever, I.; Lillicrap, T.; Leach, M.; Kavukcuoglu, K.; Graepel, T.; Hassabis, D. Mastering the game of Go with deep neural networks and tree search. Nature2016, 529, 484–489. [Google Scholar] [CrossRef] [PubMed]
57. Gigerenzer, G.; Gaissmaier, W. Heuristic Decision Making.  Rev. Psychol.2011, 62, 451–482. [Google Scholar] [CrossRef] [PubMed]
58. Marewski, J.N.; Gigerenzer, G. Heuristic decision making in medicine. Dialogues Clin. Neurosci.2012, 14, 77–89. [Google Scholar]
59. Pearl, J. Causality: Models, Reasoning, and Inference, 2nd ed.; Cambridge University Press: Cambridge, UK, 2009. [Google Scholar] [CrossRef]
60. Wang, H.; Yeung, D.-Y. Bayesian deep learning: A framework and some existing methods. IEEE Trans Knowl. Data Eng.2016, 28, 3395–3408. [Google Scholar] [CrossRef]
61. Gal, Y.; Ghahramani, Z. Dropout as a Bayesian Approximation: Representing Model Uncertainty in Deep Learning. In Proceedings of the 33rd International Conference on Machine Learning (ICML), New York, NY, USA, 19–24 June 2016; pp. 1050–1059. [Google Scholar]
62. McCloskey, M.; Cohen, N.J. Catastrophic interference in connectionist networks: The sequential learning problem. In The Psychology of Learning and Motivation; Bower, G.H., Ed.; Academic Press: San Diego, CA, USA, 1989; Volume 24, pp. 106–165. [Google Scholar] [CrossRef]
63. Goodfellow, I.J.; Mirza, M.; Xiao, D.; Courville, A.; Bengio, Y. An empirical investigation of catastrophic forgeting in gradient-based neural networks. arXiv, 2015; arXiv:1312.6211. [Google Scholar]
64. Lee, J.; Kim, H.; Lee, J.; Yoon, S. Intrinsic Geometric Information Transfer Learning on Multiple Graph-Structured Datasets. arXiv, 2016; arXiv:1611.04687. [Google Scholar]
65. Henaff, M.; Bruna, J.; LeCun, Y. Deep convolutional networks on graph-structured data. arXiv, 2015; arXiv:1506.05163. [Google Scholar]

 

Sursa: Holzinger, A. Introduction to MAchine Learning & Knowledge Extraction (MAKE). Mach. Learn. Knowl. Extr. 2019, 1, 1-20. https://doi.org/10.3390/make1010001. Licența CC BY 4.0. Traducere și adaptare © 2026 Nicolae Sfetcu