Mission · 2023
My Job Glasses : data marts multi-secteurs
- Secteur
- EdTech et secteur public
- Rôle
- Analytics Engineer (stage)
- Année
- 2023
- Employeur
- My Job Glasses
- Thèmes
- Analytics engineering
Création de data marts multi-secteurs pour le secteur public, le secteur privé et des établissements scolaires.
Réalisations
- Refactoring et création de data marts multi-secteurs sur Snowflake avec dbt pour le secteur public, le secteur privé et des établissements scolaires.
- Recueil et analyse des besoins auprès des équipes clientes de chaque secteur.
- Dashboards Metabase mis à disposition des clients.
Stack
Repères : DataOps, data product, dbt, ELT, Medallion, ODCS, RLS
- DataOps
- Pratiques d’ingénierie (versionnement, tests, CI/CD, monitoring) appliquées aux pipelines de données.
- Data product
- Jeu de données géré comme un produit : propriétaire identifié, contrat, qualité surveillée et documentation.
- dbt
- Outil de transformation en SQL, versionné et testé, qui construit les tables d’analyse dans l’entrepôt de données.
- ELT
- Charger d’abord les données brutes, puis les transformer dans l’entrepôt, avec la puissance de calcul du cloud.
- Medallion (Bronze, Silver, Gold)
- Organisation des données en couches : brutes (Bronze), nettoyées et historisées (Silver), prêtes pour le métier (Gold).
- ODCS (Open Data Contract Standard)
- Format ouvert qui décrit un jeu de données : champs, types, sensibilité, règles de qualité.
- RLS (Row-Level Security)
- Droits d’accès par ligne : chaque utilisateur ne voit que les données qui le concernent.