Salt la conținut

Provocări și bune practici

ÎncepătorLectură: 2 min

Construirea unor agenți stabili și utili ridică probleme serioase de inginerie. Cele mai importante țin de securitatea mediului în care lucrează agentul și de controlul asupra pașilor pe care îi face.

Limitele care protejează un sistem agenticModelul propune o acțiune. Harnașamentul verifică bugetul de pași și de costuri, permite doar un set mic de instrumente cu scheme stricte și cere confirmarea unui om, programatorul, pentru operațiile ireversibile. Abia apoi acțiunea rulează, într-un container izolat (sandbox) care conține terminalul, fișierele proiectului și comenzile de test și compilare, cu acces limitat la rețea și la datele sensibile.Modelulpropune oacțiuneProgramatorulHarnașamentBuget de pașiși de costuriInstrumente puține,cu scheme stricteConfirmare umană pentruoperațiile ireversibileContainer izolat (sandbox)TerminalFișiereleproiectuluiComenzi, teste, compilareAcces limitat la rețeași la datele sensibileaprobăpermisă
Fiecare acțiune propusă de model trece prin limitele harnașamentului: bugetul de pași și de costuri, un set mic de instrumente și confirmarea unui om pentru operațiile ireversibile. Comenzile rulează apoi doar într-un container izolat.

Comportamentul agentic nu înlocuiește judecata programatorului, ci îl ajută să facă mai mult. Omul stabilește specificațiile și criteriile de calitate și urmărește direcția generală, iar agentul preia munca repetitivă de căutare, editare, compilare și depanare.