Ce este învățarea automată (machine learning)
Așa cum am văzut pe pagina Ce este inteligența artificială, AI este un domeniu larg, care cuprinde reguli logice, algoritmi de căutare în spații de stări și metode statistice. Cele mai multe progrese din ultimii ani vin însă dintr-o singură ramură a domeniului, învățarea automată (machine learning).
Într-un program clasic, programatorul scrie explicit toate regulile. Învățarea automată întoarce lucrurile pe dos: sistemul primește exemple concrete și descoperă singur relațiile matematice din spatele exemplelor.
Definiție
Secțiune intitulată „Definiție”Diferența față de programarea tradițională se vede cel mai bine dacă punem cele două abordări una lângă alta.
- Programare tradițională: date + reguli răspunsuri. Programatorul scrie de mână toate cazurile și condițiile logice (
if / else). - Învățare automată: date + răspunsuri reguli (model). Algoritmul primește mii sau milioane de exemple și ajustează treptat o structură matematică (numită model) până când aceasta dă rezultatele așteptate.
În 1959, Arthur Samuel, unul dintre pionierii domeniului, definea învățarea automată astfel.
„Domeniul de studiu care oferă calculatoarelor capacitatea de a învăța fără a fi programate explicit.”
Definiția formală folosită și astăzi îi aparține lui Tom Mitchell (1997).
Un program de calculator învață dintr-o experiență , în raport cu o clasă de sarcini și o măsură a performanței , dacă performanța sa la sarcinile din , măsurată prin , se îmbunătățește odată cu acumularea experienței .
Să luăm ca exemplu filtrarea mesajelor nesolicitate (spam).
- Sarcina () este să decidem dacă un e-mail primit este legitim sau spam.
- Experiența () este formată din mesajele mai vechi, pe care utilizatorii le-au marcat deja.
- Performanța () este procentul de mesaje noi clasificate corect.
Cele trei tipuri de învățare
Secțiune intitulată „Cele trei tipuri de învățare”După tipul de semnal pe care îl primește algoritmul în timpul antrenării, învățarea automată se împarte în trei mari categorii.
1. Învățare supervizată (supervised learning)
Secțiune intitulată „1. Învățare supervizată (supervised learning)”În învățarea supervizată (supervised learning), datele de antrenare conțin atât intrările, numite caracteristici (features), cât și răspunsurile corecte, numite etichete (labels). Modelul învață o funcție care leagă intrările de etichete, .
Problemele supervizate sunt, în mare, de două feluri.
- Clasificarea: eticheta este o categorie dintr-o listă fixă. Așa funcționează detectarea bolilor pe o radiografie, recunoașterea cifrelor scrise de mână sau semnalarea tranzacțiilor bancare frauduloase.
- Regresia: eticheta este o valoare numerică continuă. Exemple tipice sunt prognoza temperaturii de mâine, estimarea prețului unei locuințe după suprafață și zonă sau estimarea duratei unei curse de taxi.
2. Învățare nesupervizată (unsupervised learning)
Secțiune intitulată „2. Învățare nesupervizată (unsupervised learning)”În învățarea nesupervizată (unsupervised learning), datele nu au etichete. Algoritmul explorează datele și caută singur tipare, structuri sau grupări care nu se văd la prima vedere.
Iată câteva exemple obișnuite.
- Gruparea (clustering): împarte datele în grupuri de elemente asemănătoare. De exemplu, un magazin își poate împărți clienții după felul în care cumpără, fără să stabilească dinainte categoriile.
- Reducerea dimensionalității: comprimă zeci de variabile în două sau trei dimensiuni, ca să putem vizualiza datele (de exemplu cu PCA sau t-SNE).
- Reprezentările vectoriale (embeddings): transformă obiecte complexe (cuvinte, imagini, utilizatori) în vectori de numere, astfel încât obiectele cu sens asemănător să ajungă aproape unele de altele.
3. Învățare prin consolidare (reinforcement learning)
Secțiune intitulată „3. Învățare prin consolidare (reinforcement learning)”În învățarea prin consolidare (reinforcement learning) nu există un set fix de date etichetate. Avem un agent care interacționează direct cu un mediu.
Agentul alege o acțiune, observă cum se schimbă starea mediului și primește o recompensă numerică (pozitivă sau negativă). Prin încercări și erori, își îmbunătățește strategia de decizie astfel încât să obțină o recompensă cumulată cât mai mare pe termen lung. Învățarea prin consolidare este folosită în jocuri (AlphaGo), pentru controlul roboților în simulări fizice și la alinierea modelelor de limbaj mari.
Cum învață un model
Secțiune intitulată „Cum învață un model”Antrenarea unui model are nevoie de trei lucruri: o formă pentru model, o măsură a erorii și o metodă prin care eroarea scade treptat.
-
Modelul este o familie de funcții care depind de niște parametri: ponderile () și un termen liber (bias, notat ). Cel mai simplu exemplu este o relație liniară, în care predicția se obține înmulțind intrarea cu ponderea și adunând termenul liber.
Pentru curioșiFormula modelului liniar
unde este intrarea, iar este predicția modelului.
-
Funcția de pierdere (loss function) măsoară cât de departe este predicția a modelului de valoarea reală . Pentru regresie se folosește adesea eroarea pătratică medie, adică media pătratelor diferențelor dintre predicții și valorile reale.
Pentru curioșiEroarea pătratică medie
unde este numărul de exemple, iar și sunt predicția și valoarea reală pentru exemplul .
-
Optimizarea pornește de la niște valori inițiale pentru și (de obicei aleatoare, uneori zero). Prin coborâre pe gradient, calculăm derivata pierderii în raport cu fiecare parametru și modificăm puțin ponderile în direcția în care pierderea scade. Mărimea acestor modificări este dată de rata de învățare (learning rate).
Pentru curioșiRegula de actualizare a ponderilor
unde este rata de învățare.
Generalizarea și prevenirea supraînvățării
Secțiune intitulată „Generalizarea și prevenirea supraînvățării”Un model nu trebuie să memoreze datele pe care a fost antrenat, ci să generalizeze, adică să dea rezultate bune și pe date noi, pe care nu le-a văzut.
- Subînvățare (underfitting): modelul este prea simplu ca să surprindă relația reală din date. De exemplu, încercăm să aproximăm o parabolă cu o dreaptă.
- Supraînvățare (overfitting): modelul este prea complex și învață pe de rost inclusiv zgomotul și detaliile întâmplătoare din datele de antrenare. Poate ajunge la eroare zero pe datele de antrenare, dar greșește mult pe date noi.
Exemplu interactiv în Python
Secțiune intitulată „Exemplu interactiv în Python”Exemplul de mai jos rulează direct în browser, prin WebAssembly, și arată mecanismul de bază al învățării automate. Un model liniar pornește de la și și, prin coborâre pe gradient, găsește singur panta () și ordonata la origine () a unei serii de observații.
import numpy as np
# Date reale: y = 2.5 * x + 1.0 (cu puțin zgomot adăugat)rng = np.random.default_rng(seed=42)x = np.linspace(-2, 2, 20)y_adevarat = 2.5 * x + 1.0 + rng.normal(0, 0.1, size=len(x))
# Pornim cu parametrii modelului la zerow = 0.0b = 0.0rata_invatare = 0.1
print(f"Valori țintă reale: w = 2.50, b = 1.00")print(f"Punct de plecare: w = {w:.2f}, b = {b:.2f}\n")
# Procesul de antrenare (100 de pași de gradient)for pas in range(1, 101): # Propagare directă: calculul predicției y_pred = w * x + b eroare = y_pred - y_adevarat pierdere = np.mean(eroare ** 2)
# Calculul analitic al gradienților grad_w = 2 * np.mean(eroare * x) grad_b = 2 * np.mean(eroare)
# Actualizarea ponderilor w -= rata_invatare * grad_w b -= rata_invatare * grad_b
if pas in (1, 10, 50, 100): print(f"Pasul {pas:>3}: pierdere = {pierdere:6.4f} | w = {w:5.2f}, b = {b:5.2f}")Codul poate fi modificat și rulat direct în browser (Ctrl + Enter).
Observăm că, după doar 100 de pași ghidați de eroare, și ajung foarte aproape de valorile folosite la generarea datelor ( și ).
De la învățarea clasică la învățarea profundă
Secțiune intitulată „De la învățarea clasică la învățarea profundă”Algoritmii clasici de învățare automată, precum regresia logistică, arborii de decizie sau mașinile cu vectori suport (SVM), au nevoie ca datele inițiale să fie transformate mai întâi, de mână, în caracteristici relevante. Această muncă de specialist se numește ingineria caracteristicilor (feature engineering).
Când datele sunt nestructurate (imagini, sunet sau texte lungi), abordarea clasică își atinge limitele. Aici intervine învățarea profundă (deep learning): folosim rețele neuronale artificiale cu zeci sau sute de straturi, așezate unul după altul.
Fiecare strat învață să extragă reprezentări tot mai abstracte direct din datele neprelucrate: de la muchii și texturi într-o imagine până la concepte și relații de sens în arhitecturile Transformer, pe care se bazează modelele de limbaj mari (LLM).
Bibliografie
Secțiune intitulată „Bibliografie”- Goodfellow, I., Bengio, Y. și Courville, A. (2016). Deep Learning. MIT Press.
- Hastie, T., Tibshirani, R. și Friedman, J. (2009). The Elements of Statistical Learning (ed. a 2-a). Springer.
- LeCun, Y., Bengio, Y. și Hinton, G. (2015). Deep learning. Nature, 521(7553), 436–444.
- Mitchell, T. M. (1997). Machine Learning. McGraw-Hill.
- Samuel, A. L. (1959). Some Studies in Machine Learning Using the Game of Checkers. IBM Journal of Research and Development, 3(3), 210–229.
- Silver, D. et al. (2016). Mastering the game of Go with deep neural networks and tree search. Nature, 529(7587), 484–489.
- Sutton, R. S. și Barto, A. G. (2018). Reinforcement Learning: An Introduction (ed. a 2-a). MIT Press.
Cookie-uri
Site-ul folosește Google Analytics pentru statistici de trafic. Cookie-urile de analiză se activează doar după acceptare. Detalii în politica de cookie-uri.