岗位描述
岗位职责
1、使用ETL(DataStage)对第三方信息系统数据进行提取、清洗、转换和整合;
2、负责ETL流程优化,关键问题解决、团队技术分享
3、参与ODS及数据仓库数据模型设计,进行数据质量监测、校验和提升;
4、基于Flink/SparkStreamming技术进行实时数据处理、特征引擎的开发;
5、大数据方向则负责参与大数据应用需求分析、功能模块详细设计和相关文档的交付;
6、领导交办的其他开发工作
岗位要求
1、计算机相关专业本科及以上学历,学信网可查,实际工作经验2年及以上,有银行或金融业务数据类项目开发经验者
2、熟练掌握Oracle、MySQL、DB2等至少两种主流数据库的使用;
3、熟练使用SQL、存储过程、函数的使用,具备编写、优化复杂SQL的能力;
4、熟练使用Linux相关命令,熟悉shell常用命令,可以编写shell脚本,了解调度系统原理;
5、熟悉BI工作流程,参与过ODS及DW应用项目开发者优先;
6、熟悉Hadoop,Spark,HDFS,kafka,Redis,Hive,Hbase,druid等分布式系统框架和工作原理;
7、熟悉Sparkstreaming,SparkSql,Flink,ApacheBeam等组件,熟悉HiveSql等语言,并且能够性能调优;
8、熟悉数据挖掘算法、模型的优先;
9、沟通顺畅,态度积极,具备一定思考钻研能力