Salt la conținut
Meniu
Traseul afișat pe hartă

De la învățarea automată la ce se află în spatele unui asistent conversațional: tokenuri, modele de limbaj mari, halucinații și raționament. Traseul se încheie cu un model de limbaj rulat pe propriul calculator.

Ce este inteligența artificială
  1. Ce este inteligența artificialăÎncepător
  2. Ce este învățarea automată (machine learning)Începător
  3. Rețele neuronaleÎncepător
  4. Modele de limbaj mari (LLM)Începător
  5. Tokenizare și reprezentări vectorialeÎncepător
  6. Ce sunt ChatGPT, Gemini, Claude, Grok și DeepSeek?Începător
  7. Halucinațiile în modelele de limbajIntermediar
  8. Raționamentul în modelele de limbajIntermediar
  9. Utilitatea plăcilor grafice (GPU)Începător
  10. Un model de limbaj local cu TransformersÎncepător · laborator

Ce se construiește în jurul unui model de limbaj ca să poată acționa: harnașamentul, apelul de instrumente, regăsirea documentelor, memoria și împărțirea sarcinilor între mai mulți agenți.

Ce este inteligența artificială
  1. Ce este inteligența artificialăÎncepător
  2. Ce este învățarea automată (machine learning)Începător
  3. Rețele neuronaleÎncepător
  4. Modele de limbaj mari (LLM)Începător
  5. Ce este comportamentul agenticÎncepător
  6. Harnașamentul (harness)Începător
  7. Apelul de instrumente (tool calls)Intermediar
  8. Generare augmentată prin regăsire (RAG) și apel de instrumenteIntermediar
  9. Memoria agențilorIntermediar
  10. Orchestrare și sisteme multi-agentIntermediar
  11. Provocări și bune practiciÎncepător
  12. Exemple de sisteme agenticeÎncepător

Retropropagarea, mecanismul de atenție și arhitectura Transformer, apoi un model de tip GPT scris și antrenat de la zero în laborator. Traseul se încheie cu învățarea prin consolidare aplicată LLM-urilor.

Ce este inteligența artificială
  1. Ce este inteligența artificialăÎncepător
  2. Ce este învățarea automată (machine learning)Începător
  3. Rețele neuronaleÎncepător
  4. Retropropagare (backpropagation)Intermediar
  5. Avem nevoie doar de atenție?Intermediar
  6. Arhitectura TransformerAvansat
  7. Un model de limbaj de la zeroIntermediar · laborator
  8. Învățare prin consolidare pentru LLM-uriAvansat

Învățarea din recompense, de la stări, acțiuni și strategii de decizie la gradientul strategiei, apoi un robot simulat în MuJoCo care învață să alerge cu PPO.

Ce este inteligența artificială
  1. Ce este inteligența artificialăÎncepător
  2. Ce este învățarea automată (machine learning)Începător
  3. Rețele neuronaleÎncepător
  4. Retropropagare (backpropagation)Intermediar
  5. Învățare prin consolidareIntermediar
  6. Gradientul strategiei și REINFORCEAvansat
  7. Control continuu cu PPO în MuJoCoAvansat · laborator

Cum creează un model de difuzie o imagine pornind de la zgomot, ce se află în spatele generatoarelor de imagini, voce și video, cum poate difuzia să scrie text și cum recunoaștem un conținut generat sau falsificat. Traseul se încheie cu imagini și sunete generate cu modele deschise.

Ce este inteligența artificială
  1. Ce este inteligența artificialăÎncepător
  2. Ce este învățarea automată (machine learning)Începător
  3. Rețele neuronaleÎncepător
  4. Ce sunt modelele de difuzieÎncepător
  5. Generarea imaginilorIntermediar
  6. Generarea vociiIntermediar
  7. Generarea videoIntermediar
  8. Generarea textului prin difuzieIntermediar
  9. Imagini și sunete cu modele de difuzieÎncepător · laborator
Harta traseelorInteligența artificială nu este o singură tehnologie, ci o familie de metode, de la modele mici antrenate pe date până la sisteme agentice construite pe modele de limbaj mari (LLM).Ce este inteligențaartificială✓Învățarea automată (machine learning) este ramura AI în care sistemele învață regulile direct din date. Pagina explică cele trei tipuri de învățare, cum se antrenează un model și include un exemplu care rulează în browser.Ce este învățarea automată✓O rețea neuronală trece datele prin mai multe straturi de neuroni, unul după altul. Explicăm ce calculează un neuron artificial, ce este propagarea directă și cum se ajustează ponderile prin coborâre pe gradient.Rețele neuronale✓Un model de limbaj mare (LLM) scrie text câte un token pe rând, pe baza probabilităților învățate din cantități uriașe de text.Modele de limbaj mari✓Cum transformăm text în numere, ce sunt vectorii de sens și cum se obțin din rețele neuronale. Explicăm tokenizarea, reprezentările dense și aplicații precum căutarea semantică.Tokenizare și reprezentărivectoriale✓ChatGPT, Gemini, Claude, Grok și DeepSeek sunt asistenți conversaționali construiți pe modele de limbaj mari. Pagina explică ce au în comun, cine îi dezvoltă și prin ce diferă.Ce sunt ChatGPT, Gemini,Claude, Grok și DeepSeek?✓De ce inventează modelele de limbaj mari fapte care nu există și le prezintă cu toată siguranța, ce tipuri de halucinații există, cum le măsurăm și cum le putem reduce.Halucinațiile în modelelede limbaj✓Cum ajung modelele de limbaj să pară că gândesc. Lanțul de gânduri, modelele de raționament antrenate cu GRPO, bugetul de gândire, raționamentul în pași agentici și ce știm despre fidelitatea acestor „gânduri”.Raționamentul în modelelede limbaj✓De ce antrenarea și rularea modelelor moderne de inteligență artificială depind de plăcile grafice, de la calculul paralel și înmulțirea matricelor până la memoria rapidă și clusterele de mii de plăci.Utilitatea plăcilorgrafice✓Laborator practic în care descărcăm de pe Hugging Face Hub un model de limbaj cu ponderi deschise și îl rulăm pe propriul calculator, în Python, cu librăriile Transformers și PyTorch.Un model de limbaj localcu Transformers✓Ce deosebește un sistem agentic de un asistent conversațional obișnuit și de ce un model de limbaj are nevoie de un sistem construit în jurul modelului, numit harnașament (harness), ca să poată acționa.Ce este comportamentulagentic✓Harnașamentul este sistemul software din jurul modelului. Construiește contextul, rulează acțiunile cerute de model și îi trimite înapoi rezultatele, până când sarcina este gata.Harnașamentul✓Cum descrie harnașamentul instrumentele prin scheme JSON, cum le apelează modelul și cum se corectează singur un agent pornind de la erorile reale pe care le primește înapoi.Apelul de instrumente✓Cum trec modelele de limbaj mari de limitele ponderilor statice? RAG le aduce date proaspete, iar apelul de instrumente (tool calling) le permite să acționeze în lumea reală.RAG și apel de instrumente✓Cum ține minte un agent ce a făcut și ce a aflat, de la fișierele Markdown, compactare și subagenți la depozite cheie-valoare, baze vectoriale, sisteme din cercetare și riscurile memoriei.Memoria agenților✓Cum împarte un sistem agentic o sarcină mare în sarcini mai mici, ce rulează în ordine și ce rulează în paralel, cum lucrează subagenții și ce rol au compactarea contextului și sarcinile asincrone.Orchestrare și sistememulti-agent✓Ce poate merge prost într-un sistem agentic și cum ne protejăm, prin izolarea mediului de execuție, bugete de pași și de costuri și un set mic de instrumente bine alese.Provocări și bune practici✓Cum folosesc Google Antigravity, Claude Code, asistenții OpenAI, Cursor și agenții autonomi de mentenanță aceeași arhitectură agentică și ce adaptează fiecare la mediul în care lucrează.Exemple de sistemeagentice✓Cum se calculează gradienții într-o rețea neuronală, pas cu pas, de la eroare la ajustarea ponderilor. Explicăm regula lanțului, derivatele funcțiilor de activare și cum se propagă gradienții înapoi prin straturi.Retropropagare✓Articolul „Attention Is All You Need” (2017) a introdus arhitectura Transformer. Explicăm pe rând mecanismul de atenție, interogările, cheile și valorile, atenția cu capete multiple (multi-head) și blocurile unui Transformer.Avem nevoie doar deatenție?✓Cum este construit, pas cu pas, un model de limbaj modern, de la tokenuri la scoruri și probabilități. Explicăm RMSNorm, RoPE, atenția cu interogări grupate (GQA), SwiGLU, KV cache și cum se numără parametrii.Arhitectura Transformer✓Construim și antrenăm de la zero un model de tip GPT cu 14,6 milioane de parametri, de la date și tokenizare, prin atenție, preantrenare și ajustare fină supervizată (SFT), până la alinierea cu DPO și cu GRPO.Un model de limbaj de lazero✓După preantrenare, modelele de limbaj mari sunt aliniate prin învățare prin consolidare (RL). Explicăm modelul de recompensă, algoritmii PPO și GRPO, recompensele verificabile și alternativa DPO.Învățare prin consolidarepentru LLM-uri✓În învățarea prin consolidare, un agent învață să ia decizii din recompensele primite de la mediu. Explicăm stările, acțiunile, strategia de decizie (policy), recompensa cumulată și funcțiile de valoare.Învățare prin consolidare✓REINFORCE, propus de Ronald Williams în 1992, ajustează direct parametrii unei strategii (policy) în direcția care crește recompensa așteptată. Explicăm formula gradientului și linia de bază, cu un exemplu care rulează în pagină.Gradientul strategiei șiREINFORCE✓Laborator practic în care antrenăm robotul HalfCheetah să alerge în simulatorul fizic MuJoCo, cu algoritmul PPO (Proximal Policy Optimization), implementat în PyTorch.Control continuu cu PPO înMuJoCo✓Cum generează un model de difuzie o imagine pornind de la zgomot pur, prin procesul direct care adaugă zgomot și rețeaua care învață să-l elimine. Pagina include un exemplu care rulează direct în browser.Ce sunt modelele dedifuzie✓Cum transformă un generator de imagini un text într-o imagine prin difuzie în spațiul latent, codificatorul de text, atenția încrucișată și ghidarea fără clasificator. Editarea imaginilor, limitele generatoarelor și semnele după care recunoaștem o imagine generată.Generarea imaginilor✓Cum produce un model o voce care sună omenesc, de la eșantioane, spectrograma mel și vocoder la sunetul împărțit în tokenuri și difuzia pentru vorbire. Clonarea vocii din câteva secunde de înregistrare și apelurile false cu voci clonate.Generarea vocii✓Cum generează un model un clip video pornind de la un text, prin coerența de la un cadru la altul, comprimarea în spațiu și timp și peticele de spațiu-timp procesate de un Transformer de difuzie. Sunetul generat odată cu imaginea și clipurile false cu persoane cunoscute.Generarea video✓Cum scrie un model de difuzie un text, pornind de la un răspuns ascuns în întregime sub măști și completând mai multe tokenuri la fiecare pas. Viteza, limitele și modele precum LLaDA, Mercury și DiffusionGemma.Generarea textului prindifuzie✓Laborator practic în care generăm imagini și sunete cu modele de difuzie cu ponderi deschise, în Python, cu librăriile Diffusers și Transformers, pe propriul calculator sau în Google Colab.Imagini și sunete cumodele de difuzie✓Harta traseelorInteligența artificială nu este o singură tehnologie, ci o familie de metode, de la modele mici antrenate pe date până la sisteme agentice construite pe modele de limbaj mari (LLM).Ce este inteligențaartificială✓Învățarea automată (machine learning) este ramura AI în care sistemele învață regulile direct din date. Pagina explică cele trei tipuri de învățare, cum se antrenează un model și include un exemplu care rulează în browser.Ce este învățarea automată✓O rețea neuronală trece datele prin mai multe straturi de neuroni, unul după altul. Explicăm ce calculează un neuron artificial, ce este propagarea directă și cum se ajustează ponderile prin coborâre pe gradient.Rețele neuronale✓Un model de limbaj mare (LLM) scrie text câte un token pe rând, pe baza probabilităților învățate din cantități uriașe de text.Modele de limbaj mari✓Cum transformăm text în numere, ce sunt vectorii de sens și cum se obțin din rețele neuronale. Explicăm tokenizarea, reprezentările dense și aplicații precum căutarea semantică.Tokenizare și reprezentărivectoriale✓ChatGPT, Gemini, Claude, Grok și DeepSeek sunt asistenți conversaționali construiți pe modele de limbaj mari. Pagina explică ce au în comun, cine îi dezvoltă și prin ce diferă.Ce sunt ChatGPT, Gemini,Claude, Grok și DeepSeek?✓De ce inventează modelele de limbaj mari fapte care nu există și le prezintă cu toată siguranța, ce tipuri de halucinații există, cum le măsurăm și cum le putem reduce.Halucinațiile în modelelede limbaj✓Cum ajung modelele de limbaj să pară că gândesc. Lanțul de gânduri, modelele de raționament antrenate cu GRPO, bugetul de gândire, raționamentul în pași agentici și ce știm despre fidelitatea acestor „gânduri”.Raționamentul în modelelede limbaj✓De ce antrenarea și rularea modelelor moderne de inteligență artificială depind de plăcile grafice, de la calculul paralel și înmulțirea matricelor până la memoria rapidă și clusterele de mii de plăci.Utilitatea plăcilorgrafice✓Laborator practic în care descărcăm de pe Hugging Face Hub un model de limbaj cu ponderi deschise și îl rulăm pe propriul calculator, în Python, cu librăriile Transformers și PyTorch.Un model de limbaj localcu Transformers✓Ce deosebește un sistem agentic de un asistent conversațional obișnuit și de ce un model de limbaj are nevoie de un sistem construit în jurul modelului, numit harnașament (harness), ca să poată acționa.Ce este comportamentulagentic✓Harnașamentul este sistemul software din jurul modelului. Construiește contextul, rulează acțiunile cerute de model și îi trimite înapoi rezultatele, până când sarcina este gata.Harnașamentul✓Cum descrie harnașamentul instrumentele prin scheme JSON, cum le apelează modelul și cum se corectează singur un agent pornind de la erorile reale pe care le primește înapoi.Apelul de instrumente✓Cum trec modelele de limbaj mari de limitele ponderilor statice? RAG le aduce date proaspete, iar apelul de instrumente (tool calling) le permite să acționeze în lumea reală.RAG și apel de instrumente✓Cum ține minte un agent ce a făcut și ce a aflat, de la fișierele Markdown, compactare și subagenți la depozite cheie-valoare, baze vectoriale, sisteme din cercetare și riscurile memoriei.Memoria agenților✓Cum împarte un sistem agentic o sarcină mare în sarcini mai mici, ce rulează în ordine și ce rulează în paralel, cum lucrează subagenții și ce rol au compactarea contextului și sarcinile asincrone.Orchestrare și sistememulti-agent✓Ce poate merge prost într-un sistem agentic și cum ne protejăm, prin izolarea mediului de execuție, bugete de pași și de costuri și un set mic de instrumente bine alese.Provocări și bune practici✓Cum folosesc Google Antigravity, Claude Code, asistenții OpenAI, Cursor și agenții autonomi de mentenanță aceeași arhitectură agentică și ce adaptează fiecare la mediul în care lucrează.Exemple de sistemeagentice✓Cum se calculează gradienții într-o rețea neuronală, pas cu pas, de la eroare la ajustarea ponderilor. Explicăm regula lanțului, derivatele funcțiilor de activare și cum se propagă gradienții înapoi prin straturi.Retropropagare✓Articolul „Attention Is All You Need” (2017) a introdus arhitectura Transformer. Explicăm pe rând mecanismul de atenție, interogările, cheile și valorile, atenția cu capete multiple (multi-head) și blocurile unui Transformer.Avem nevoie doar deatenție?✓Cum este construit, pas cu pas, un model de limbaj modern, de la tokenuri la scoruri și probabilități. Explicăm RMSNorm, RoPE, atenția cu interogări grupate (GQA), SwiGLU, KV cache și cum se numără parametrii.Arhitectura Transformer✓Construim și antrenăm de la zero un model de tip GPT cu 14,6 milioane de parametri, de la date și tokenizare, prin atenție, preantrenare și ajustare fină supervizată (SFT), până la alinierea cu DPO și cu GRPO.Un model de limbaj de lazero✓După preantrenare, modelele de limbaj mari sunt aliniate prin învățare prin consolidare (RL). Explicăm modelul de recompensă, algoritmii PPO și GRPO, recompensele verificabile și alternativa DPO.Învățare prin consolidarepentru LLM-uri✓În învățarea prin consolidare, un agent învață să ia decizii din recompensele primite de la mediu. Explicăm stările, acțiunile, strategia de decizie (policy), recompensa cumulată și funcțiile de valoare.Învățare prin consolidare✓REINFORCE, propus de Ronald Williams în 1992, ajustează direct parametrii unei strategii (policy) în direcția care crește recompensa așteptată. Explicăm formula gradientului și linia de bază, cu un exemplu care rulează în pagină.Gradientul strategiei șiREINFORCE✓Laborator practic în care antrenăm robotul HalfCheetah să alerge în simulatorul fizic MuJoCo, cu algoritmul PPO (Proximal Policy Optimization), implementat în PyTorch.Control continuu cu PPO înMuJoCo✓Cum generează un model de difuzie o imagine pornind de la zgomot pur, prin procesul direct care adaugă zgomot și rețeaua care învață să-l elimine. Pagina include un exemplu care rulează direct în browser.Ce sunt modelele dedifuzie✓Cum transformă un generator de imagini un text într-o imagine prin difuzie în spațiul latent, codificatorul de text, atenția încrucișată și ghidarea fără clasificator. Editarea imaginilor, limitele generatoarelor și semnele după care recunoaștem o imagine generată.Generarea imaginilor✓Cum produce un model o voce care sună omenesc, de la eșantioane, spectrograma mel și vocoder la sunetul împărțit în tokenuri și difuzia pentru vorbire. Clonarea vocii din câteva secunde de înregistrare și apelurile false cu voci clonate.Generarea vocii✓Cum generează un model un clip video pornind de la un text, prin coerența de la un cadru la altul, comprimarea în spațiu și timp și peticele de spațiu-timp procesate de un Transformer de difuzie. Sunetul generat odată cu imaginea și clipurile false cu persoane cunoscute.Generarea video✓Cum scrie un model de difuzie un text, pornind de la un răspuns ascuns în întregime sub măști și completând mai multe tokenuri la fiecare pas. Viteza, limitele și modele precum LLaDA, Mercury și DiffusionGemma.Generarea textului prindifuzie✓Laborator practic în care generăm imagini și sunete cu modele de difuzie cu ponderi deschise, în Python, cu librăriile Diffusers și Transformers, pe propriul calculator sau în Google Colab.Imagini și sunete cumodele de difuzie✓
  • Începător
  • Intermediar
  • Avansat
  • Laborator

Laboratoare cu sursă deschisă pe GitHub

Codul complet al laboratoarelor este public, în organizația proiectului de pe GitHub, și poate fi clonat și rulat pe propriul calculator.

Fiecare laborator are și un notebook Jupyter, cu tot codul laboratorului, care se deschide în Google Colab și rulează pe serverele Google, fără nicio instalare pe propriul calculator.

Toate laboratoarele

Un model de limbaj, direct în browser

Modelul din această conversație rulează pe propriul calculator, nu pe un server. SmolLM2 135M are de peste 1.000 de ori mai puțini parametri decât GPT-3, iar librăria Transformers.js îl rulează pe placa grafică (WebGPU) sau pe procesor (WebAssembly). Răspunsul apare token cu token, pe măsură ce este generat.

În laboratorul despre modelele de limbaj locale facem același lucru în Python, pe propriul calculator: descărcăm de pe Hugging Face Hub un model cu ponderi deschise, apoi refacem pas cu pas tokenizarea, șablonul de chat și generarea.

Un model de limbaj local cu Transformers

Conversație cu SmolLM2 135M

Modelul are aproximativ 135 de milioane de parametri și rulează integral în browser, fără server. Descărcarea are circa 170 MB, se face de pe acest site și doar la cerere. După prima încărcare, fișierele rămân salvate în browser, dacă acesta are spațiu suficient.

Modelul a fost antrenat pe texte în limba engleză și răspunde în engleză, chiar și la mesajele scrise în română. Un model atât de mic greșește des: inventează fapte, se repetă și pierde ușor firul. Răspunsurile nu sunt verificate și nu trebuie tratate ca informații corecte.

SmolLM2-135M-Instruct este un model publicat de Hugging Face sub licența Apache 2.0, distribuit aici în forma convertită de onnx-community.

Ultima actualizare: