Data engineer DevOps real-time

Data engineer DevOps real-time

Werk mee aan een veiliger, beter bereikbaar en duurzamer Nederland door het bouwen van betrouwbare real-time dataproducten. Bij het Nationaal Dataportaal Wegverkeer (NDW) verwerken we elke minuut grote hoeveelheden real-time verkeersdata. Deze data gebruiken we voor verkeersmanagement, beleidsinformatie en datadiensten richting publieke en private partijen. Als data engineer in ons DevOps-team ben jij medeverantwoordelijk voor het bouwen, beheren en verbeteren van de datastromen en kwaliteitscontroles die de ruggengraat vormen van ons dataplatform. Interesse gewekt? Lees dan snel verder!

Hoe jij bijdraagt in je rol

Als data engineer ben je (mede-)verantwoordelijk voor het ontwerpen, beheren en optimaliseren van real-time datastromen en de datakwaliteit van onze producten. Je werkt aan dataverwerking in verschillende formats en protocollen, en zorgt ervoor dat onze data compleet, actueel en betrouwbaar is. Dit doe je zowel voor externe afnemers als voor interne teams die historische en analytische toepassingen bouwen.

Je dagelijkse werk omvat onder andere

• het testen en beheren van dataverbindingen: het uitvoeren van aansluittesten en valideren van de integratie van externe verkeersdataleveranciers met onze systemen
• het automatiseren van datakwaliteitscontroles: volledigheid, trendbreukdetectie, plausibiliteitschecks en latency-monitoring
• het ontwikkelen van Python-scripts en SQL-queries voor transformaties, validaties en analyses
• het monitoren en verbeteren van dataproducten, met gebruik van observability tools zoals Prometheus, Grafana en Loki
• het doen van incidentanalyses en herstel van datasets, inclusief replay- en herstelstrategieën
• het samenwerken met andere ontwikkelteams, onder meer teams die historische aggregaties en kaartvisualisaties bouwen
• het aanspreekpunt zijn voor binnenkomende meldingen over datastromen en die omzetten in acties of verbeteringen

Dit is waar jij voldoening uit haalt

• werken met hoogfrequente real-time verkeersdata waarbij de maatschappelijke impact direct voelbaar is
• zowel bouwen als bewaken van dataproducten waarbij je meewerkt aan datakwaliteit én productieomgevingen
• samenwerken in een DevOps-team dat end-to-end verantwoordelijk is voor de volledige dataketen van binnenkomst tot publicatie
• het combineren van data engineering met moderne manieren van meten en sturen op betrouwbaarheid en prestaties
• de kans krijgen om te leren en te experimenteren met technologieën als Apache Kafka, Avro en Kubernetes, waardoor je je technische vakmanschap verder verdiept

Vacaturenummer: 1223986