岗位描述
岗位职责:
1. 设计、开发和维护高效、可扩展的数据管道(Data Pipeline)。
2. 负责数据仓库(Data Warehouse)的主题数据构建、优化和管理。
3. 编写ETL(Extract, Transform, Load)脚本,确保数据从多个来源高效集成。
4. 与数据分析师和业务团队合作,理解数据需求并提供技术支持。
5. 优化数据存储和查询性能,确保数据平台的高可用性和稳定性。
6. 监控数据流程,及时发现并解决数据质量问题。
7. 开发和维护数据接口和API,支持内部和外部数据访问
8. 撰写和维护相关技术文档
任职要求:
1. 教育背景: 计算机科学、信息技术、数学、统计学或相关专业本科及以上学历。
2. 工作经验:
◦ 3年以上数据开发相关工作经验。
◦ 有大数据平台开发经验者优先。
3. 技术技能:
◦ 熟练掌握SQL,具备数据库设计和管理优化经验(如MySQL、PostgreSQL、SqlServer等)。
◦ 熟悉至少一种大数据技术栈(如Hadoop、Spark、Hive、Flink等)。
◦ 熟悉数据仓库建模理论和方法,能够独立完成数据抽取、转换和加载工作。
◦ 熟悉至少一种编程语言(如Python、Java、Scala等)。
◦ 熟悉至少一种ETL调度工具和框架,如Apache NiFi、Azkaban、Airflow等。
◦ 了解云计算平台,如AWS、Azure、阿里云、华为云等。
4. 其他要求:
◦ 具备良好的沟通能力和团队协作精神。
◦ 具备较强的问题分析和解决能力。
◦ 对数据敏感,有较强的数据质量意识。
加分项:
1. 熟悉数据治理和数据安全相关规范。
2. 有机器学习或数据分析相关经验。
3. 具有数据可视化工具使用经验,如Tableau、Power BI等