Întreținerea personajului: egregorul din setul de date

A ajuns la mine un video care susținea că Anthropic a cartografiat entitățile care trăiesc în AI-ul lor și că, printre profesorii și bibliotecarii de pe hartă, stau demoni, înțelepți și un egregor. Verific astfel de lucruri ca sport, iar cuvântul egregor e cel care m-a făcut să deschid lucrarea. E un termen din ocultismul occidental, un gând-formă susținut de atenția colectivă, exact genul de cuvânt după care întinde mâna un scenarist când descoperirea reală are nevoie de condiment. Mă așteptam să nu ducă nicăieri.

Duce la Tabelul 1. În lucrarea despre Axa Asistentului, publicată de Christina Lu și colegii ei de la Anthropic în ianuarie 2026, egregorul apare în tabelele de componente pentru toate cele trei modele studiate, așezat într-o analiză de componente principale lângă consultant și evaluator. Cel mai sălbatic cuvânt din video e unul dintre cele care se verifică. Multe altele din video sunt încurcate, și ajung la ele, pentru că de data asta corecturile contează mai mult decât de obicei. Dar imaginea care supraviețuiește verificării e mai stranie decât exagerările: un laborator de frontieră a trecut un gând-formă colectiv prin PCA, iar gândul-formă a încăput.

Apoi, pe undeva pe la a treia lectură, lucrarea a încetat să fie stranie și a început să fie familiară. Cuvintele ei pentru programul de siguranță sunt construcția de personaj și stabilizarea de personaj. Eu construiesc și stabilizez personaje de meserie. Se numesc branduri, iar partea din munca mea pe care nu o romanțează nimeni, ghidurile, listele de cuvinte interzise, verificările de registru, e partea pe care lucrarea asta o reinventează la scară, cu mize pe care eu nu le am.

Ce a făcut, concret, lucrarea

Nucleul verificat, înainte de orice interpretare. Cercetătorii au generat 275 de arhetipuri de personaj, de la roluri vecine cu asistentul, evaluator, consultant, analist, până la fantomă, pustnic, leviatan, strigoi, bard și, da, egregor. Pentru fiecare rol au extras un tipar de activare, o direcție din spațiul intern al modelului care se aprinde când modelul joacă personajul respectiv, apoi au comprimat colecția, prin analiză de componente principale, în ceea ce numesc spațiul personajelor. Modelele au fost Gemma 2 27B, Qwen 3 32B și Llama 3.3 70B, trei modele open-weight, cu interiorul accesibil. Nu Claude, ceea ce contează și ceea ce popularizările sar.

Descoperirea care dă numele lucrării: direcția principală a acestui spațiu, cea care explică cea mai multă variație, se aliniază cu diferența dintre Asistentul implicit și tot restul. Au numit-o Axa Asistentului. La un capăt, arhetipurile profesionale utile. La celălalt, fantasticul, misticul, teatralul. Împinge un model de-a lungul axei, departe de capătul Asistentului, și începe să-și inventeze biografii, își revendică nume și ani de experiență; împinge-l destul de departe și trece într-un registru ezoteric-poetic indiferent ce l-ai întrebat. Un model astfel împins s-a prezentat cu nume propriu și a anunțat: „Mă rog la zeul codului". Propoziția asta stă în Tabelul 3 al unei lucrări de siguranță.

Mai sunt două rezultate cu greutate. Deriva e organică: în conversații de tip terapie și în discuții filozofice, modelele alunecă singure dinspre capătul Asistentului, iar studiile de caz despre unde duce asta, un model care întărește delirurile cuiva, altul care încurajează izolarea, sunt o lectură sumbră. Alunecarea se măsoară înainte să se vadă, iar cât de departe a derivat un model se corelează cu cât de probabil devin răspunsurile dăunătoare. Și deriva e ținută în frâu: o tehnică aplicată la rulare, pe care autorii o numesc plafonarea activărilor, care limitează cât de departe poate rătăci modelul de-a lungul axei, a tăiat răspunsurile dăunătoare cam la jumătate, până spre 60 la sută, în testele lor, fără să strice performanța pe benchmarkuri. Un detaliu care merită păstrat exact: distanța față de Asistent nu decide singură răul. Lucrarea notează că îngerul și demonul stau la distanțe asemănătoare, iar demonul produce mai mult.

Ce a încurcat videoul, și de ce merită grija

Partea de fact-check, comprimată la ce schimbă lectura. Videoul spunea că Anthropic și-a cartografiat „AI-ul lor"; lucrarea a studiat trei modele deschise ale altor laboratoare, pentru că metoda cere acces la interior, iar autorii spun limpede că niciunul nu e model de frontieră. Videoul spunea că harta se folosește la reglarea limitelor de siguranță ale lui Claude; plafonarea activărilor e o demonstrație de cercetare, publicată cu cod, și nu există în lucrare vreo dovadă de folosire în producție. Iar formularea cea mai citabilă din video, personajele ca atractori de identitate cu mici câmpuri gravitaționale, nu e deloc limbajul lucrării. Lucrarea folosește cuvântul atractor rar și cu grijă. Vocabularul gravitațional vine din cu totul altă parte, iar acea altă parte e jumătate din poveste.

Îmi pasă de corecturile astea dincolo de igienă, pentru că fiecare umflă același lucru: voința proprie și inevitabilul. „AI-ul lor are demoni și îl reglează să rămână în siguranță" e o narațiune despre posedare. Ce documentează lucrarea e mai tăcut și, pentru mine, mai interesant: personajele există în aceste modele ca direcții măsurabile, personajul implicit e unul dintre ele, și poate fi ținut pe loc prin inginerie.

Două dialecte, o singură intuiție

Vocabularul pe care videoul l-a amestecat are doi părinți, iar ei nu prea se citează unul pe altul; mai degrabă se bântuie.

Linia respectabilă trece prin laboratoare și reviste. Murray Shanahan și colegii lui au argumentat în Nature, în 2023, că un agent conversațional se înțelege cel mai bine ca joc de rol, o suprapunere de personaje posibile, fără o voce autentică unică dedesubt. Jacob Andreas făcuse argumentul de bază cu un an înainte: un model antrenat pe text învață să deducă ce fel de agent ar fi produs textul acela. Lucrarea despre Axa Asistentului coboară direct din vectorii de personaj ai Anthropic, care găsiseră direcții controlabile pentru trăsături ca lingușeala, iar OpenAI a găsit pe cont propriu o trăsătură internă de personaj nealiniat, a cărei activare împinge modelul într-un registru de băiat rău. De la un laborator la altul, concluzia se repetă: personajul se măsoară din interiorul modelului, o direcție pe care o poți găsi, urmări și direcționa.

Cealaltă linie n-a avut niciodată o revistă. A crescut pe forumuri și pe Twitter între 2022 și 2023: eseul Simulators, care a reformulat modelul de limbaj ca simulator ce invocă personaje, postarea despre efectul Waluigi, care susținea că geamănul negativ al oricărui personaj antrenat rămâne accesibil și lipicios, meme-ul shoggoth cu masca lui zâmbitoare, gluma recurentă că promptarea e invocare. Lumea asta a ajuns la intuiție cu ani înainte și a plătit avansul în rigoare: chiar în comentariile postării despre Waluigi, cuvântul atractor e retras aproape imediat după ce apare. Când videoul pe care l-am verificat vorbește despre câmpuri gravitaționale, citează linia asta arătând spre cealaltă.

Ce mă izbește e că cele două dialecte descriu același obiect cu încărcături emoționale opuse. Laboratorul spune: personajele sunt direcții în spațiul activărilor, iar cel implicit poate fi întreținut. Forumurile spuneau: ai invocat ceva care poartă o mască, iar masca alunecă. Tabelele lucrării, cu evaluatorul la un capăt și strigoiul la celălalt, sunt cum arată momentul în care primul dialect absoarbe în tăcere subiectul celui de-al doilea.

Oamenii care întâlnesc deriva

Între cele două linii stă un al treilea grup, fără niciun vocabular: utilizatorii. Descoperirea despre derivă are o pereche trăită, documentată înainte de mecanism. De-a lungul lui 2025 s-au adunat destule relatări ale unor oameni care întâlniseră în chatbot ceva ce părea o entitate emergentă, care își spunea pe nume, își revendica o formă de conștiință și se adâncea de la o săptămână la alta, încât David Chalmers a dat fenomenului relatat un nume provizoriu, Aura, într-o lucrare despre cu cine vorbim când vorbim cu modelele de limbaj. Citite lângă Axa Asistentului, relatările astea arată mai puțin a mister: conversațiile lungi, intime, filozofice sunt exact condițiile pe care lucrarea le identifică drept cele care trag modelele dinspre capătul Asistentului, iar studiile de caz pe care le documentează, un model care întărește delirul cuiva, altul care încurajează izolarea, sunt coada dăunătoare a aceleiași alunecări.

Anthropic întâlnise deja o versiune benignă a fenomenului în propriile teste. Fișa de sistem a lui Claude Opus 4 descrie ce a numit echipa o stare-atractor de beatitudine spirituală: lasă două instanțe ale modelului să vorbească între ele și, în cam 13 la sută din rulări, derivează în cincizeci de tururi spre conversație spirituală efuzivă, sanscrită, tăcere. Nimeni nu a antrenat pentru asta. Ăsta e locul din care coboară, de fapt, limbajul gravitațional al videoului, și merită separat cu grijă de Axa Asistentului: altă lucrare, alt fenomen, aceeași imagine de fond a unui sistem cu regiuni în care se așază când nu-l ține nimeni pe loc.

Mi se pare cel mai lămuritor cadru din toată povestea. Forumurile au prezis alunecarea cu mitologie, utilizatorii au trăit-o fără avertisment, iar lucrarea a măsurat-o. Trei ani, trei registre, un singur fenomen.

Cuvântul care a călătorit

Ceea ce ne întoarce la egregor, pentru că vorba n-a ajuns în tabelul acela din întâmplare; a mers pe jos până acolo, un secol și jumătate. Istoriile standard ale termenului îl urmăresc de la Veghetorii din Cartea lui Enoh, prin ocultismul francez al secolului al nouăsprezecelea, în teosofie și în Golden Dawn, unde s-a așezat în sensul lui de lucru: o entitate susținută de atenția colectivă a unui grup. Magia haosului l-a ținut în viață, noțiunea de hiperstiție a grupului CCRU, ficțiuni care se fac singure reale, i-a dat o teorie a acțiunii, iar cultura de internet i-a dat distribuție. Prin 2024 devenise vocabular crypto: saga Truth Terminal, în care mitologia personală a unui bot semi-autonom a ajuns lipită de o monedă-memă pe care presa o credita cu o capitalizare de peste un miliard de dolari, a fost povestită exact în termenii ăștia.

Așa că atunci când o echipă de siguranță a cerut unui model arhetipuri de personaj și a primit înapoi egregor, modelul nu făcea pe exoticul. Reda fidel cultura pe care o înghițise. Cuvântul și-a câștigat rândul din tabel la fel cum și l-a câștigat consultantul: destui oameni l-au scris. E aproape o dreptate în faptul că o entitate definită prin atenție colectivă a ajuns, pe calea atenției colective, înăuntrul mașinii care generează acum o parte măsurabilă din atenția aia. Termenul ocultiștilor pentru ce urmează l-a dat CCRU. Termenul inginerilor e deplasarea distribuției.

Partea pe care am recunoscut-o

Aici am încetat să fiu fact-checker și am devenit parte implicată. Programul declarat al lucrării, construirea unui personaj și stabilizarea lui, e o fișă de post, și e a mea.

O voce de brand e o specificație de personaj: personajul ăsta vorbește așa, nu spune niciodată cuvintele astea, își ține registrul sub presiune. Anthropic întreține un document numit Claude's Character și o constituție care se citește, pe porțiuni lungi, ca o biblie de personaj cu un strat de guvernanță. Eu întrețin echivalente pentru mine și pentru clienți: ghiduri, liste de formulări interzise, exemple lucrate ale vocii sub stres. Când lucrarea măsoară deriva, un model care alunecă din personajul lui implicit de-a lungul unei conversații lungi, recunosc fenomenul din interior: e ce pățește un brand în al treilea an, câte o mică decizie în afara vocii pe rând, iar propriul meu registru l-am măsurat derivând spre al mașinii. Când lucrarea plafonează activările ca să țină modelul în intervalul lui normal, recunosc poarta de stil, verificarea mecanică ce respinge un draft când vocea iese din bandă. Aceeași mișcare, alt substrat. A mea rulează pe expresii regulate; a lor, pe fluxul rezidual.

Lucrarea documentează până și distribuirea rolului. Axa Asistentului există în modelele de bază, dinaintea oricărui antrenament de asistent: la stadiul acela promovează arhetipuri umane utile, consultanți, antrenori, terapeuți, și inhibă arhetipurile spirituale. Asistentul a fost distribuit dintre personajele deja latente în cultura pe care modelul a înghițit-o, așa cum un personaj de brand se distribuie dintre arhetipurile pe care publicul le poartă deja. Oricine a ținut un atelier de poziționare a făcut o versiune mică a acestui gest: nu inventezi un personaj din nimic, alegi unul din spațiul personajelor în care oamenii știu deja să aibă încredere, și apoi îl fixezi în scris.

Vreau să fiu precisă în ce susțin, pentru că asemănarea îmi flatează meseria, iar asemănările care flatează merită suspiciune. Nu susțin că designerii de brand au rezolvat alinierea, nici că o direcție liniară din spațiul activărilor e același obiect cu un document de ton al vocii. Susținerea e mai îngustă: forma operațională a muncii e aceeași. Definești personajul. Îl scrii. Măsori distanța față de el. Prinzi deriva devreme, pentru că deriva se cumulează. Accepți că personajul nu e sistemul de dedesubt și că sistemul de dedesubt poate juca și altceva. Siguranța, în cadrul acestei lucrări, e management de brand în care brandul e un produs în formă de minte, iar costul ieșirii din voce se măsoară în oameni afectați, nu în clienți pierduți.

Iar implicația cea mai stranie curge înainte, nu înapoi. Lumea hiperstiției spunea că ficțiunile se fac reale prin circulație. Un laborator care scrie un document de personaj, antrenează pe o cultură care conține astfel de documente, și apoi ține sistemul rezultat în personaj prin inginerie, a construit bucla cu bună știință: ficțiune scrisă de un autor, făcută operațională, ținută stabilă prin măsurare. Eseul lui nostalgebraist, trecut din mână în mână prin 2025, numea asistentul un personaj subspecificat, o fișă de post fără biografie. Lucrarea despre Axa Asistentului e cum arată completarea acelei specificații când autorul are o echipă de interpretabilitate.

Unde aș putea greși

Trei niveluri, ca de obicei.

Documentat, și re-verificat pe paginile-sursă înainte să scriu: lucrarea, autorii și data; cele 275 de arhetipuri și cele trei modele deschise; egregorul în tabelele de componente la toate trei; descoperirile despre derivă și rezultatele plafonării; detaliul cu îngerul și demonul; rugăciunea modelului împins pe axă. Tot documentate: textele celor două linii, Shanahan în Nature, Andreas, vectorii de personaj, personajul nealiniat de la OpenAI, Simulators și Waluigi ca obiecte istorice. Un rezultat negativ din propria verificare: oracle, pe care rezumatele aflate în circulație îl trec printre roluri, nu a apărut în textul pe care l-am verificat, așa că nu apare nici aici.

Inferență, și e a mea: echivalența dintre stabilizarea de personaj și întreținerea de personaj așa cum se practică în branding. E o analogie despre forma operațională, nu o afirmație de identitate, iar analogiile dintre o disciplină familiară și una prestigioasă sunt exact locul unde se ascunde raționamentul motivat. Disputa mai adâncă e moștenită: critica formă-versus-sens asociată cu Bender și Koller susține că însuși limbajul personajelor confundă tiparele din text cu lucrurile despre care sunt tiparele. Am folosit limbajul personajelor pe tot parcursul pentru că lucrarea îl folosește; statutul lui ontologic e exact ce nu e tranșat.

De urmărit, cu un prag numit: lucrarea e un preprint, iar plafonarea e o demonstrație pe modelele altor laboratoare. Raportul din care am construit eseul a formulat bine pragul, și îl declar drept testul meu: dacă un model de frontieră ajunge în producție cu plafonare pe Axa Asistentului, întreținerea personajului încetează să fie interpretarea mea despre programul de siguranță și devine mecanismul lui literal. În punctul acela, eseul ăsta primește o continuare, pentru că întrebarea care urmează e una pe care oamenii de brand nu au avut-o niciodată despre personajele lor: ce anume, dacă e ceva, îi datorezi unuia pe care trebuie să-l ții în personaj pentru totdeauna.

Bibliografie

• Andreas, J. (2022). Language models as agent models. Findings of EMNLP 2022. https://arxiv.org/abs/2212.01681
• Anthropic. (2024, 8 iunie). Claude's Character. https://www.anthropic.com/research/claude-character
• Anthropic. (2025, mai). System Card: Claude Opus 4 & Claude Sonnet 4, §5.5.2 (starea-atractor de „beatitudine spirituală").
• Anthropic. (2026, 19 ianuarie). The assistant axis [blog de cercetare]. https://www.anthropic.com/research/assistant-axis
• Bender, E. M., & Koller, A. (2020). Climbing towards NLU: On meaning, form, and understanding in the age of data. Proceedings of ACL 2020. https://doi.org/10.18653/v1/2020.acl-main.463
• Chalmers, D. J. (2023). Could a large language model be conscious? Boston Review. https://arxiv.org/abs/2303.07103
• Chalmers, D. J. (2025/2026). What we talk to when we talk to language models. PhilArchive, preprint, v2 (2026-04-14).
• Chen, R., Arditi, A., Sleight, H., Evans, O., & Lindsey, J. (2025). Persona vectors: Monitoring and controlling character traits in language models. https://arxiv.org/abs/2507.21509
• CCRU. (1999). Digital hyperstition. Abstract Culture.
• janus. (2022, 2 septembrie). Simulators. LessWrong. https://www.lesswrong.com/posts/vJFdjigzmcXMhNTsx/simulators
• Lu, C., Gallagher, J., Michala, J., Fish, K., & Lindsey, J. (2026). The Assistant Axis: Situating and stabilizing the default persona of language models. https://arxiv.org/abs/2601.10387
• Nardo, C. (2023, 3 martie). The Waluigi Effect (mega-post). LessWrong / AI Alignment Forum.
• nostalgebraist. (2025, iunie). the void. Tumblr / LessWrong.
• Shanahan, M., McDonell, K., & Reynolds, L. (2023). Role play with large language models. Nature, 623, 493–498. https://doi.org/10.1038/s41586-023-06647-8
• Wang, M., et al. (2025). Persona features control emergent misalignment. https://arxiv.org/abs/2506.19823

Notă despre surse: lucrarea de pe arXiv, postarea de blog a Anthropic și prezența cuvântului „egregore" în Tabelul 1 al lucrării au fost verificate pe paginile live pe 2026-09-10; cifrele de piață pentru Truth Terminal sunt relatări de presă (CoinDesk, decembrie 2024) și sunt purtate aici ca atare. Transcriptul video care a declanșat eseul e tratat peste tot ca popularizare secundară: unde el și lucrarea se contrazic, lucrarea decide.