Data Engineer (21)Descriptif du poste
La Direction Technique du Numérique d'une grande entreprise de médias mène des projets transverses en étroite collaboration avec les autres directions, notamment la direction Data. La Direction Data, au sein de la Direction du Numérique, a été créée avec la volonté de faire de la Data un levier de croissance des offres numériques.
La Direction Data a 3 grandes activités : maximiser la collecte de données tout en respectant les réglementations en vigueur, développer la connaissance et l'expérience utilisateurs et mettre à disposition auprès des équipes internes des outils de pilotage et d'aide à la décision.
Au sein de l'équipe Bronze, la prestation se déroulera en collaboration avec les autres équipes de la Data, au coeur de la plateforme Data. Cette équipe est composée d'un product owner, d'un data steward et de deux autres data ingénieurs.
Notre stack technique est principalement constitué de Python, Spark, SQL pour les traitements de données, Airflow pour l'orchestration et Cloud Storage et Delta lake pour le stockage. La stack inclut aussi les services BigQuery, Dataproc, PubSub et Cloud Storage de la Google Cloud Platform et Terraform et Terragrunt pour la gestion de l'infrastructure.
Prestations attendues
Prestation de cette équipe
Collecter et centraliser les différentes sources de données non homogènes
Assurer la conformité et la sécurité des données
Participer aux initiatives de gouvernance des données
Prestation en data engineering
En interaction avec les membres de l'équipe, la prestation consiste à :
Participer activement aux différentes phases de conception, de planification et de réalisation des tâches avec l'équipe
Construire et maintenir de pipelines data robustes et scalables
Accompagner les membres de l'équipe dans l'exploitation et le requêtage des données
Organiser et structurer le stockage des données
Mettre en place et maintenir des infrastructures scalables capable de répondre aux besoins et à l'accroissement rapide du volume de données
Construire et maintenir les workflows de la CI/CD
Partager avec les autres data ingénieurs pour appliquer les bonnes pratiques en vigueur
Assurer l'évolutivité, la sécurité, la stabilité des environnements
Participer aux différentes instances de data engineering
Contribuer et veiller à la mise à jour de la documentation
Faire de la veille technologique active dans le domaine
Expertises demandées
Au moins 3 ans d'expérience en Data engineering dans un environnement data
Compétences solides en data : structures de données, code, architecture
Expériences dans la conception et la réalisation de pipelines data
Expériences dans un environnement du cloud Google (GCP)
Expériences intégrant BigQuery et Dataplex Universal Catalog
Expériences intégrant les langages Python et SQL
Expériences intégrant Spark
Expériences intégrant delta lake
Expériences intégrant Terraform et Terragrunt
Expériences intégrant Gitlab et Gitlab CI/CD
Expériences intégrant les méthodologies Agile : Scrum ou Kanban
Capacité à vulgariser et à communiquer sur des aspects purement techniques
VISIAN est une société de conseil spécialisée autour de l'innovation, la conception produit, le développement et la data.
Dans le cadre de nos projets clients, nous recherchons un Data Engineer
VISIAN, filiale d'un grand groupe technologique de plus de 6500 personnes, est une société de conseil spécialisée dans l'innovation, la conception de produits et la data. Ses consultants technophiles allient compréhension des enjeux digitaux et vision produit. De la structuration des DSI à la conception de produits digitaux en passant par la valorisation de la data, VISIAN concrétise les objectifs de ses clients en faisant converger ambition et faisabilité. Fondée par des consultants, VISIAN connait une croissance rapide pour atteindre 14 millions de CA cette année et renforce ses partenariats avec de nombreux clients grands-comptes sur Paris et Marseille.