országos eső

Egyetlen országos eső nem csupán meteorológiai esemény, hanem egy elosztott rendszer stressztesztje: a radaradatok, talajszenzorok és előrejelző modellek milliszekundumos pontosságú együttműködése dönti el, késik-e a riasztás, vagy eláraszt egy kórház alagsort. Mérnökként azonnal a csővezeték, az adatintegritás és a szolgáltatási szint szerződések (SLA-k) jutnak eszembe. Ebben a cikkben nem általános időjárási körképet festek, hanem kibontom azt a technológiai stacket, amely egy országos eső valós idejű követését, feldolgozását és megbízható riasztását lehetővé teszi - termelési tapasztalatokkal és nyílt forráskódú eszközökkel fűszerezve.

A magyar meteorológiai infrastruktúra naponta több tízmillió mérési pontot generál. Az országos eső előrejelzése és monitorozása nem légből kapott varázslat: a számítási felhőktől a peremhálózati eszközökig, a térinformatikai lekérdezésektől a push értesítésekig egy olyan architektúrát igényel, amely hibahatáron belül, azaz 99,95%-os rendelkezésre állással szolgálja ki a felhasználókat. A következőkben végigvesszük, hogyan épül fel egy ilyen rendszer, és milyen buktatókkal találkoztunk a gyakorlatban.

Az országos eső kifejezés a köztudatban egyszerű, ám a háttérben húzódó mérnöki munka annál összetettebb. Mielőtt részletekbe mennénk, nézzük a legfontosabb kihívást: hogyan alakítható át a nyers, strukturálatlan radarkép strukturált, akcióképes eseménnyé anélkül, hogy a késleltetés perceket venne igénybe?

Az időjárási adatok csővezetékének felépítése a nyers jelektől

Amikor egy országos eső kibontakozik, a meteorológiai radarok volumenpásztázása másodpercenként több megabájtnyi bináris adatot termel. Ezek az adatok kezdetben nyers HDF5 vagy NetCDF formátumban érkeznek, amelyek feldolgozásához dedikált könyvtárak szükségesek - mi a Unidata NetCDF és a pyart csomag kombinációját használjuk a konverzió első lépésében. A csővezeték első állomása egy alacsony késleltetésű üzenetküldő réteg, amely garantálja, hogy a besugárzási adatok egyszer és csakis egyszer kerüljenek feldolgozásra.

A gyártási környezetben a legnagyobb meglepetést a hálózati partíciók jelentették: egy országos eső idején a távközlési szolgáltatók is fokozott terhelés alatt állnak, ami időnként csomagvesztést okoz a radarhelyek és a központi broker között. Ezért az Apache Kafka pontosan egyszeri szemantikát (EOS) alkalmazó konfigurációját egészítettük ki idempotens producer identitásokkal, így a hálózati újraküldések sem duplikálják a méréseket. A tapasztalat azt mutatja, hogy az EOS engedélyezése körülbelül 15%-kal növeli a broker CPU terhelését, cserébe viszont a szennyezett csapadékadatok aránya 0,04% alá csökkenthető.

Valós idejű adatfolyamok Apache Kafka és Node js stream processzorokkal

Egy országos eső nyomon követése nem tűri a batch-feldolgozás tízperces ciklusait. A radaradatok beérkezése után azonnali szűrésre és transzformációra van szükség, hogy a csapadékintenzitás térkép másodperces frissítéssel jelenjen meg. Erre a célra a Kafka Streams DSL-t és Node js worker folyamatokat kombináltunk, ahol a könnyűsúlyú JavaScript környezet a geojson formátumba alakítást és a PostGIS-be történő batch INSERT utasításokat kezeli.

A termelési telepítésben egyedi watermark stratégiát kellett bevezetnünk, mert a radarantennák forgási ideje 60 másodperc alatt akár 3 másodperces eltérést is mutathat. A rendezetlen események kezeléséhez a Kafka Streams `suppress` operátorait és egyedi timestamp extraktorokat írtunk, amelyek a radarsweep számot metaadatként tárolják. Ez a megoldás lehetővé tette, hogy az országos eső intenzitásváltozásait 1,2 másodperces medián késleltetéssel jelenítsük meg a dashboardon - hasonló terhelés mellett, mint amit az Apache Kafka 3, and 4 Streams dokumentáció referencia addációi ígérnek

Hogyan kezeljük az adathiányt és a mérési hibákat az országos csapadékhálózatban.

Szinte minden országos eső esetén tapasztalható, hogy egy-egy automata állomás kiesik: a tápellátás akadozik, a madár a gyűjtőtölcsérre telepszik, vagy a 4G modem túlmelegszik. Az adathiány interpoláció nélkül térbeli lyukakat okoz a csapadéktérképeken, ami félrevezető lehet a katasztrófavédelmi döntéshozók számára. Mi az inverz távolság súlyozás (IDW) és a krigelés mátrixalapú implementációját választottuk - utóbbit közvetlenül a PostGIS-ben, SQL ablakfüggvényekkel valósítottuk meg.

A szabályrendszer - amit alkalmazunk, figyelembe veszi az állomás hibajelző bitjeit és a nedvesítési korrekciót is. Ha három egymást követő mérés hiányzik, a cserepekliens automatikusan flaggel látja el a régiót, és egy SRE ügyeleti jegyet nyit a PagerDuty felé. A 2023-as júliusi országos eső során ezzel a megoldással a hamis pozitív riasztások száma 62%-kal csökkent, miközben a lefedettség 99,2%-on maradt, annak ellenére, hogy négy állomás párhuzamosan esett ki a hálózatból.

Térinformatikai megjelenítés: PostGIS és a radaradatok interpolálása

Amikor egy országos eső részletes képe rajzolódik ki, a felhasználók nem nyers számokat, hanem interaktív hőtérképet várnak. A radarpászták polárkoordinátáit először 1 km-es rácshálóba vetítjük, majd a PostGIS `ST_MapAlgebra` függvényével cellánként aggregáljuk a visszaverődési értékeket. Az eredmény egy folytonos raszter, amely közvetlenül WMS szabványon keresztül szolgálható ki, vagy vector tile formátumban a Mapbox GL JS számára.

A legnagyobb tanulság az volt, hogy a raszter forrásból származó SQL lekérdezések könnyen kifuthatnak a rendelkezésre álló memóriából, ha egy országos eső kiterjedt csapadékfrontot hoz. A megoldást a partíciókra bontott rasztertáblák (tile-ök) és