Mission · 2025
Éditeur et organisme de formation : pipelines ELT multi-sources
- Secteur
- Édition juridique et formation
- Rôle
- Analytics Engineer
- Année
- 2025
- Employeur
- Hanalytics
- Thèmes
- Analytics engineering
Automatisation de l'ingestion multi-sources d'un éditeur et organisme de formation, jusqu'aux fondations data.
Réalisations
- Processus manuels identifiés à partir des besoins, puis automatisés.
- Extraction multi-sources : Funnel, Google Sheets, fichiers plats, API.
- Standard dbt et outillage associé (SQL, Python) livrés.
- Pipelines ELT entièrement automatisés.
- Data foundations en place sur dbt et BigQuery.
Stack
Repères : DataOps, data product, dbt, ELT, Medallion, ODCS, RLS
- DataOps
- Pratiques d’ingénierie (versionnement, tests, CI/CD, monitoring) appliquées aux pipelines de données.
- Data product
- Jeu de données géré comme un produit : propriétaire identifié, contrat, qualité surveillée et documentation.
- dbt
- Outil de transformation en SQL, versionné et testé, qui construit les tables d’analyse dans l’entrepôt de données.
- ELT
- Charger d’abord les données brutes, puis les transformer dans l’entrepôt, avec la puissance de calcul du cloud.
- Medallion (Bronze, Silver, Gold)
- Organisation des données en couches : brutes (Bronze), nettoyées et historisées (Silver), prêtes pour le métier (Gold).
- ODCS (Open Data Contract Standard)
- Format ouvert qui décrit un jeu de données : champs, types, sensibilité, règles de qualité.
- RLS (Row-Level Security)
- Droits d’accès par ligne : chaque utilisateur ne voit que les données qui le concernent.