moderátor

Keď počujeme slovo moderátor, väčšina ľudí si predstaví človeka, ktorý číta nahlásené komentáre a rozhoduje, či ostanú na webe. V produkčných systémoch sme však zistili, že moderný moderátor je oveľa viac: je to vrstvená softvérová architektúra, ktorá kombinuje strojové učenie, fronty správ, pravidlové jadrá a audit logy.

Moderátor nie je len človek, ktorý číta nahlásené príspevky - je to distribuovaný softvérový systém s vlastnou latenciou, kalibráciou a audit trailom.

V tomto článku sa pozrieme na to, ako navrhnúť a prevádzkovať takýto systém. Nebudeme hovoriť o tom, čo je „dobré" alebo „zlé" správanie, ale o tom, ako technicky zabezpečiť, aby rozhodnutia moderátora boli konzistentné, vysvetliteľné a škálovateľné. Dotkneme sa aj miest, kde naivné riešenia zlyhávajú v reálnej prevádzke.

Prečo moderátor nie je len rola, ale softvérová architektúra

Keď spustíte prvú verziu moderácie, zvyčajne ide o jednoduchý admin panel. Operátor - moderátor - dostane zoznam nahláseného obsahu a tlačidlá „schváliť" alebo „zamietnuť". Tento model funguje pri stovkách hlásení denne. Pri miliónoch správ za hodinu sa rozpadne na latenciu, nekonzistenciu a únavu ľudských rozhodnutí.

Preto sa moderátor v technickom zmysle stáva systémom, ktorý rozhoduje v niekoľkých vrstvách. Prvá vrstva je deterministická - pravidlá, regulárne výrazy, zoznamy zakázaných domén. Druhá vrstva je štatistická - modely strojového učenia odhadujú pravdepodobnosť porušenia pravidiel. Tretia vrstva je ľudská - človek rozhoduje len o sporných prípadoch, ktoré model označil ako neisté. Táto kaskáda je architektonický vzor, nie len organizačný proces.

Architektúra moderátorského systému od ingestion po appeal

Vstupný bod moderátorského systému je vždy rovnaký: udalosť. Môže to byť nová správa, nahlásenie používateľom alebo zmena pravidiel. V produkčnom prostredí tieto udalosti posielame cez Apache Kafka, pretože potrebujeme oddeliť príjem od spracovania a prežiť krátke výpadky downstream služieb. Každá udalosť dostane trace ID cez OpenTelemetry, aby sme vedeli vysledovať celý reť