Salt la conținut

Harnașamentul (harness)

ÎncepătorLectură: 2 min

Un model de limbaj nu poate acționa singur. Harnașamentul (harness sau scaffolding) este sistemul construit în jurul modelului, care controlează tot ciclul de viață al agentului: ține dialogul cu utilizatorul, construiește contextul pe care îl primește modelul, îi dă acces la instrumente și impune limitele de securitate.

Un sistem agentic: harnașamentul (harness), modelul și mediulUtilizatorul îi dă harnașamentului (harness) un obiectiv. Harnașamentul gestionează contextul și trimite instrucțiunile modelului de limbaj. Modelul decide ce instrumente apelează și emite apeluri structurate, harnașamentul le execută în mediu (terminal, fișiere, rețea), iar rezultatele revin în context până când sarcina este terminată.Utilizator(obiectiv)Harnașament (Harness)Fereastră de contextși istoricValidare și permisiuniModel de limbaj (LLM)Raționament(planificare)Apel de instrument(JSON)Mediu și instrumente externeTerminalși bashFișiere(citire/scriere)Web / APIsubagențicontext + instrumenteapel structuratexecuția comenziiieșire / eroare
La fiecare pas, harnașamentul (harness) îi trimite modelului starea curentă, preia apelul de instrument emis de model, execută acțiunea în mediu și adaugă rezultatul în context, până când sarcina este terminată.

Harnașamentul rulează un proces continuu, inspirat de abordarea ReAct (Reasoning + Acting), propusă de Yao și colaboratorii în 2022.

  1. Obiectivul inițial: utilizatorul formulează o cerință, de exemplu „Repară testul care eșuează în modulul de autentificare și verifică dacă proiectul se compilează în continuare”.
  2. Construirea contextului: harnașamentul adună istoricul conversației, instrucțiunile de sistem (system prompt), regulile specifice proiectului și descrierile instrumentelor disponibile, apoi le trimite modelului.
  3. Planificare și raționament (Thought): modelul analizează situația și își stabilește următorul pas, de exemplu „Mai întâi rulez testele, ca să văd mesajul exact de eroare”.
  4. Apel de instrument (Action / Tool Call): în loc să scrie un mesaj pentru utilizator, modelul produce un apel structurat, de regulă în format JSON, către un anumit instrument (de exemplu, comanda care rulează testele).
  5. Execuție în mediu: harnașamentul preia apelul, verifică permisiunile (sau îi cere utilizatorului confirmarea, dacă acțiunea este riscantă) și rulează comanda în sistemul de operare sau într-un container separat.
  6. Observație și feedback (Observation): harnașamentul colectează ce a produs comanda (textul din consolă, codurile de stare, erorile de compilare) și adaugă totul în contextul modelului, ca rezultat al apelului.
  7. Iterație sau finalizare: modelul citește rezultatul. Dacă a apărut o eroare, face un nou apel, ca să investigheze mai departe sau să modifice fișierul cu problema. Procesul se repetă până când sarcina este gata sau până când modelul are nevoie de o lămurire de la utilizator.

Pasul 4 este momentul în care modelul acționează, concret, asupra mediului. Pagina Apelul de instrumente explică cum sunt descrise instrumentele și cum arată un astfel de apel.

Pașii de mai sus sunt cei ai unui singur agent, care lucrează pe rând. Când o sarcină are părți care nu depind una de alta, harnașamentul le poate rula în paralel, cu mai multe instanțe ale modelului. Pagina Orchestrare și sisteme multi-agent arată cum se face împărțirea.