Grafuri computaționale cu Graphviz
Pe pagina anterioară, fiecare obiect Value a ținut minte din ce valori a fost calculat. Aceste legături formează un graf, iar metoda backward() îl parcurge de la rezultat spre intrări. Pe această pagină îl desenăm, ca să vedem exact ce parcurge retropropagarea și cum apar gradienții pe nodurile grafului.
La redare, playerul se încarcă de pe YouTube (detalii).
Limbajul DOT
Secțiune intitulată „Limbajul DOT”Graphviz este un set de programe pentru desenarea grafurilor, dezvoltat inițial la AT&T Bell Labs. Graful se descrie ca text, în limbajul DOT: o listă de noduri, fiecare cu propriile atribute, și o listă de muchii, scrise cu săgeți. Programul dot așază singur nodurile, pe niveluri, și desenează muchiile.
digraph { rankdir=LR; a [shape=record, label="{ a | { data 2.0000 | grad 0.0000 } }"]; b [shape=record, label="{ b | { data -3.0000 | grad 0.0000 } }"]; mul [label="*"]; a -> mul; b -> mul;}digraph înseamnă graf orientat, cu săgeți. rankdir=LR așază graful de la stânga la dreapta. Forma record împarte un dreptunghi în câmpuri, cu bara verticală | între câmpuri, iar acoladele schimbă direcția în care sunt așezate câmpurile: numele valorii stă în stânga, iar valoarea și gradientul, unul sub altul, în dreapta.
De la valori la text DOT
Secțiune intitulată „De la valori la text DOT”Fișierul graph.py are trei funcții. Prima, trace, adună toate valorile și legăturile dintre valori, pornind de la rezultat, la fel ca funcția build din backward().
def trace(root): # Toate valorile din care a fost calculată rădăcina și legăturile dintre ele, pornind de la rădăcină. nodes, edges = [], [] seen = set()
def build(v): if v in seen: return seen.add(v) nodes.append(v) for child in v._prev: edges.append((child, v)) build(child)
build(root) return nodes, edges
def to_dot(root, rankdir="LR"): nodes, edges = trace(root) ids = {v: f"v{i}" for i, v in enumerate(nodes)} lines = [ "digraph {", f" rankdir={rankdir}; nodesep=0.15; ranksep=0.3;", # LR: de la stânga la dreapta, în ordinea calculului ' node [fontname="Helvetica", fontsize=11];', ] for v in nodes: # O valoare este un dreptunghi cu numele ei (dacă are unul) și, unul sub altul, valoarea și gradientul. name = f"{v.label} | " if v.label else "" fields = f"{{ data {v.data:.4f} | grad {v.grad:.4f} }}" lines.append(f' {ids[v]} [shape=record, label="{{ {name}{fields} }}"];') if v._op: # Operația care a produs valoarea este un nod separat, de formă ovală, legat de rezultat. lines.append(f' {ids[v]}_op [label="{v._op}", width=0.4, height=0.3];') lines.append(f" {ids[v]}_op -> {ids[v]};") for child, parent in edges: lines.append(f" {ids[child]} -> {ids[parent]}_op;") lines.append("}") return "\n".join(lines)Funcția to_dot scrie apoi graful în limbajul DOT. Fiecare valoare devine un dreptunghi, iar fiecare valoare care a rezultat dintr-o operație primește în plus un nod oval pentru operație. Muchiile merg de la operanzi spre operație și de la operație spre rezultat. Nodurile primesc nume scurte, v0, v1 și așa mai departe, în ordinea în care le-a găsit trace.
Funcția to_dot folosește doar Python, deci rulează și în browser. Exemplul de mai jos scrie textul DOT al expresiei de pe pagina anterioară, după retropropagare.
from engine import Valuefrom graph import to_dot
a = Value(2.0, label="a")b = Value(-3.0, label="b")c = Value(7.0, label="c")f = Value(-2.0, label="f")e = a * be.label = "e"d = e + cd.label = "d"L = d * fL.label = "L"L.backward()
print(to_dot(L))Codul poate fi modificat și rulat direct în browser (Ctrl + Enter).
Desenarea cu Graphviz
Secțiune intitulată „Desenarea cu Graphviz”A treia funcție, draw_graph, dă textul DOT pachetului Python graphviz, care apelează programul dot și primește înapoi imaginea. Cu un nume de fișier, imaginea este și salvată, în formatul dat de extensie (.svg, .png sau .pdf).
def draw_graph(root, path=None, rankdir="LR"): import graphviz
graph = graphviz.Source(to_dot(root, rankdir)) if path: # Formatul imaginii (svg, png, pdf) vine din extensia fișierului. graph.render(outfile=path, cleanup=True) return graphÎn Jupyter și în Google Colab, obiectul întors de draw_graph se afișează singur, ca imagine, dacă este ultimul rând al unei celule. Graphviz nu rulează în browser, așa că diagramele de mai jos au fost desenate local, de scriptul diagrams.py. Pentru expresie, scriptul desenează graful de două ori, înainte și după backward().
def draw_before_and_after(): # Același graf, desenat de două ori: imediat după calcul și după retropropagare. L = expression() draw_graph(L, f"{OUT}/expresie-inainte.svg") L.backward() draw_graph(L, f"{OUT}/expresie-dupa.svg") return LÎnainte și după backward()
Secțiune intitulată „Înainte și după backward()”Imediat după calculul expresiei, fiecare nod are valoarea calculată, dar toți gradienții sunt zero. Propagarea directă a calculat doar valorile.
După L.backward(), gradienții au fost completați de la dreapta la stânga. are gradientul 1, iar fiecare operație a trimis gradientul spre operanzi, după propria regulă.
Diagrama se citește de la dreapta la stânga. Înmulțirea finală, , dă fiecărui factor gradientul lui înmulțit cu celălalt factor: primește , iar primește . Adunarea trimite același ambilor termeni. În sfârșit, înmulțirea dă lui valoarea și lui valoarea .
Un neuron
Secțiune intitulată „Un neuron”Același mecanism funcționează pentru un neuron cu două intrări și activare tanh, cu intrările și , ponderile și și bias-ul .
Suma ponderată este , iar ieșirea este . Prin tanh, gradientul se înmulțește cu derivata lui tanh, . De aici, adunările îl trimit neschimbat spre bias și spre cele două produse, iar înmulțirile îl înmulțesc cu celălalt factor. Gradientul ponderii , de exemplu, este : dacă ar crește puțin, ieșirea ar scădea.
Pentru antrenare contează doar gradienții ponderilor și ai bias-ului, pentru că doar ponderile și bias-ul pot fi modificate. Gradienții intrărilor și sunt calculați la fel, dar nu sunt folosiți.
O rețea mică
Secțiune intitulată „O rețea mică”Graful crește repede. Rețeaua de mai jos are 2 intrări, un strat ascuns cu 2 neuroni cu activare ReLU și un neuron de ieșire, fără activare. Ponderile au fost alese de mână și au nume: leagă intrarea de neuronul ascuns , iar leagă neuronul ascuns de ieșire. Ultimele noduri calculează pierderea pentru un singur exemplu, , adică eroarea pătratică față de ținta 1. Pe ecranele înguste, diagrama se derulează orizontal.
Câteva lucruri se văd direct pe diagramă:
- Pierderea este , iar gradientul pierderii în raport cu este .
- Scăderea apare ca o adunare cu , pentru că așa este scrisă în
engine.py. La fel, constanta apare ca un nod separat, cu propriul gradient, pe care nu îl folosește nimeni. - Primul neuron ascuns are suma ponderată 0,85, deci ReLU îl lasă să treacă, iar ponderile neuronului primesc gradienți. Al doilea are suma , ReLU îl transformă în 0, iar gradientul se oprește aici: , și au gradientul 0 și nu se vor schimba la acest pas.
- Și ponderea are gradientul 0, pentru că înmulțește ieșirea 0 a neuronului inactiv.
Rețeaua are doar 9 parametri, iar graful are deja câteva zeci de noduri. O rețea pentru recunoașterea cifrelor, cu peste 100.000 de parametri, ar avea sute de mii de noduri pentru o singură imagine. Diagramele sunt utile pentru înțelegere, dar următoarele pagini lucrează doar cu numere.
Rularea locală
Secțiune intitulată „Rularea locală”Pe calculatorul local, după pregătirea mediului, diagramele de pe această pagină se obțin cu o singură comandă.
python diagrams.pyScriptul afișează câteva valori și salvează cele patru imagini în directorul imagini/.
Expresia L = (a * b + c) * f L = -2.0Neuronul: o = 0.6640Rețeaua mică: pierderea = 0.1024Diagramele au fost salvate în imaginiBibliografie
Secțiune intitulată „Bibliografie”- Ellson, J. et al. (2002). Graphviz: Open Source Graph Drawing Tools. Graph Drawing 2001, Lecture Notes in Computer Science 2265, 483–484.
- Gansner, E. R. et al. (1993). A technique for drawing directed graphs. IEEE Transactions on Software Engineering, 19(3), 214–230.
- Karpathy, A. (2020). micrograd. Cod sursă, GitHub.
Cookie-uri
Site-ul folosește Google Analytics pentru statistici de trafic. Cookie-urile de analiză se activează doar după acceptare. Detalii în politica de cookie-uri.