Salt la conținut

Ce este învățarea automată (machine learning)

ÎncepătorLectură: 6 min

Așa cum am văzut pe pagina Ce este inteligența artificială, AI este un domeniu larg, care cuprinde reguli logice, algoritmi de căutare în spații de stări și metode statistice. Cele mai multe progrese din ultimii ani vin însă dintr-o singură ramură a domeniului, învățarea automată (machine learning).

Într-un program clasic, programatorul scrie explicit toate regulile. Învățarea automată întoarce lucrurile pe dos: sistemul primește exemple concrete și descoperă singur relațiile matematice din spatele exemplelor.

Diferența față de programarea tradițională se vede cel mai bine dacă punem cele două abordări una lângă alta.

  • Programare tradițională: date + reguli →\to răspunsuri. Programatorul scrie de mână toate cazurile și condițiile logice (if / else).
  • Învățare automată: date + răspunsuri →\to reguli (model). Algoritmul primește mii sau milioane de exemple și ajustează treptat o structură matematică (numită model) până când aceasta dă rezultatele așteptate.

În 1959, Arthur Samuel, unul dintre pionierii domeniului, definea învățarea automată astfel.

„Domeniul de studiu care oferă calculatoarelor capacitatea de a învăța fără a fi programate explicit.”

Definiția formală folosită și astăzi îi aparține lui Tom Mitchell (1997).

Un program de calculator învață dintr-o experiență EE, în raport cu o clasă de sarcini TT și o măsură a performanței PP, dacă performanța sa la sarcinile din TT, măsurată prin PP, se îmbunătățește odată cu acumularea experienței EE.

Să luăm ca exemplu filtrarea mesajelor nesolicitate (spam).

  • Sarcina (TT) este să decidem dacă un e-mail primit este legitim sau spam.
  • Experiența (EE) este formată din mesajele mai vechi, pe care utilizatorii le-au marcat deja.
  • Performanța (PP) este procentul de mesaje noi clasificate corect.

După tipul de semnal pe care îl primește algoritmul în timpul antrenării, învățarea automată se împarte în trei mari categorii.

În învățarea supervizată (supervised learning), datele de antrenare conțin atât intrările, numite caracteristici (features), cât și răspunsurile corecte, numite etichete (labels). Modelul învață o funcție care leagă intrările de etichete, f(x)≈yf(x) \approx y.

Problemele supervizate sunt, în mare, de două feluri.

  • Clasificarea: eticheta este o categorie dintr-o listă fixă. Așa funcționează detectarea bolilor pe o radiografie, recunoașterea cifrelor scrise de mână sau semnalarea tranzacțiilor bancare frauduloase.
  • Regresia: eticheta este o valoare numerică continuă. Exemple tipice sunt prognoza temperaturii de mâine, estimarea prețului unei locuințe după suprafață și zonă sau estimarea duratei unei curse de taxi.

În învățarea nesupervizată (unsupervised learning), datele nu au etichete. Algoritmul explorează datele și caută singur tipare, structuri sau grupări care nu se văd la prima vedere.

Iată câteva exemple obișnuite.

  • Gruparea (clustering): împarte datele în grupuri de elemente asemănătoare. De exemplu, un magazin își poate împărți clienții după felul în care cumpără, fără să stabilească dinainte categoriile.
  • Reducerea dimensionalității: comprimă zeci de variabile în două sau trei dimensiuni, ca să putem vizualiza datele (de exemplu cu PCA sau t-SNE).
  • Reprezentările vectoriale (embeddings): transformă obiecte complexe (cuvinte, imagini, utilizatori) în vectori de numere, astfel încât obiectele cu sens asemănător să ajungă aproape unele de altele.

3. Învățare prin consolidare (reinforcement learning)

Secțiune intitulată „3. Învățare prin consolidare (reinforcement learning)”

În învățarea prin consolidare (reinforcement learning) nu există un set fix de date etichetate. Avem un agent care interacționează direct cu un mediu.

Agentul alege o acțiune, observă cum se schimbă starea mediului și primește o recompensă numerică (pozitivă sau negativă). Prin încercări și erori, își îmbunătățește strategia de decizie astfel încât să obțină o recompensă cumulată cât mai mare pe termen lung. Învățarea prin consolidare este folosită în jocuri (AlphaGo), pentru controlul roboților în simulări fizice și la alinierea modelelor de limbaj mari.

Antrenarea unui model are nevoie de trei lucruri: o formă pentru model, o măsură a erorii și o metodă prin care eroarea scade treptat.

  1. Modelul este o familie de funcții care depind de niște parametri: ponderile (ww) și un termen liber (bias, notat bb). Cel mai simplu exemplu este o relație liniară, în care predicția se obține înmulțind intrarea cu ponderea și adunând termenul liber.

    Pentru curioșiFormula modelului liniar
    y^=w⋅x+b\hat{y} = w \cdot x + b

    unde xx este intrarea, iar y^\hat{y} este predicția modelului.

  2. Funcția de pierdere (loss function) măsoară cât de departe este predicția y^\hat{y} a modelului de valoarea reală yy. Pentru regresie se folosește adesea eroarea pătratică medie, adică media pătratelor diferențelor dintre predicții și valorile reale.

    Pentru curioșiEroarea pătratică medie
    L=1N∑i=1N(y^i−yi)2L = \frac{1}{N} \sum_{i=1}^N (\hat{y}_i - y_i)^2

    unde NN este numărul de exemple, iar y^i\hat{y}_i și yiy_i sunt predicția și valoarea reală pentru exemplul ii.

  3. Optimizarea pornește de la niște valori inițiale pentru ww și bb (de obicei aleatoare, uneori zero). Prin coborâre pe gradient, calculăm derivata pierderii în raport cu fiecare parametru și modificăm puțin ponderile în direcția în care pierderea scade. Mărimea acestor modificări este dată de rata de învățare (learning rate).

    Pentru curioșiRegula de actualizare a ponderilor
    w←w−η∂L∂ww \leftarrow w - \eta \frac{\partial L}{\partial w}

    unde η\eta este rata de învățare.

Un model nu trebuie să memoreze datele pe care a fost antrenat, ci să generalizeze, adică să dea rezultate bune și pe date noi, pe care nu le-a văzut.

  • Subînvățare (underfitting): modelul este prea simplu ca să surprindă relația reală din date. De exemplu, încercăm să aproximăm o parabolă cu o dreaptă.
  • Supraînvățare (overfitting): modelul este prea complex și învață pe de rost inclusiv zgomotul și detaliile întâmplătoare din datele de antrenare. Poate ajunge la eroare zero pe datele de antrenare, dar greșește mult pe date noi.

Exemplul de mai jos rulează direct în browser, prin WebAssembly, și arată mecanismul de bază al învățării automate. Un model liniar pornește de la w=0w = 0 și b=0b = 0 și, prin coborâre pe gradient, găsește singur panta (ww) și ordonata la origine (bb) a unei serii de observații.

import numpy as np
# Date reale: y = 2.5 * x + 1.0 (cu puțin zgomot adăugat)
rng = np.random.default_rng(seed=42)
x = np.linspace(-2, 2, 20)
y_adevarat = 2.5 * x + 1.0 + rng.normal(0, 0.1, size=len(x))
# Pornim cu parametrii modelului la zero
w = 0.0
b = 0.0
rata_invatare = 0.1
print(f"Valori țintă reale: w = 2.50, b = 1.00")
print(f"Punct de plecare: w = {w:.2f}, b = {b:.2f}\n")
# Procesul de antrenare (100 de pași de gradient)
for pas in range(1, 101):
# Propagare directă: calculul predicției
y_pred = w * x + b
eroare = y_pred - y_adevarat
pierdere = np.mean(eroare ** 2)
# Calculul analitic al gradienților
grad_w = 2 * np.mean(eroare * x)
grad_b = 2 * np.mean(eroare)
# Actualizarea ponderilor
w -= rata_invatare * grad_w
b -= rata_invatare * grad_b
if pas in (1, 10, 50, 100):
print(f"Pasul {pas:>3}: pierdere = {pierdere:6.4f} | w = {w:5.2f}, b = {b:5.2f}")

Codul poate fi modificat și rulat direct în browser (Ctrl + Enter).

Observăm că, după doar 100 de pași ghidați de eroare, ww și bb ajung foarte aproape de valorile folosite la generarea datelor (2,52{,}5 și 1,01{,}0).

Algoritmii clasici de învățare automată, precum regresia logistică, arborii de decizie sau mașinile cu vectori suport (SVM), au nevoie ca datele inițiale să fie transformate mai întâi, de mână, în caracteristici relevante. Această muncă de specialist se numește ingineria caracteristicilor (feature engineering).

Când datele sunt nestructurate (imagini, sunet sau texte lungi), abordarea clasică își atinge limitele. Aici intervine învățarea profundă (deep learning): folosim rețele neuronale artificiale cu zeci sau sute de straturi, așezate unul după altul.

Fiecare strat învață să extragă reprezentări tot mai abstracte direct din datele neprelucrate: de la muchii și texturi într-o imagine până la concepte și relații de sens în arhitecturile Transformer, pe care se bazează modelele de limbaj mari (LLM).