1.熟练mysql关系型数据库,熟练掌握 mysql的各种常用函数; 2.熟练掌握ETL工具,使用Kettle对不同数据库平台数据进行数据的抽取,清洗,转化等调度; 3.熟练SQL 的性能调优,能够对 SQL 进行多方面的优化,实现数据同步; 4.熟悉Linux的基本常用命令、vi文本编辑器,shell脚本编程; 5.熟悉FineReport 进行普通报表、聚合报表、决策报表的开发; 6.熟练编写对数据进行查询、统计等数据操作; 7.了解hadoop生态框架,mr原理,hdfs读写机制,yarn的资源调度机制;
个人介绍
项目经验
众安保险项目-车险可视化平台 etl工程师 项目介绍:车险市场关乎于公司在市场的经营状况,本着不断做大原则,公司目标对产品市场通过统计车险各种数据,分析数据,辅助决策,制定相应的策略,推出满足市场需要的产品,抢占市场份额。 开发工具: hadoop+hive+Oracle+kettle+sqoop+finereport等 岗位职责: 1.确定和分析业务需求,客户的分类,会员和非会员;客户的来源,线上,线下等。客户的支付方式:付现,刷卡,积分,优惠券等,客户的支付渠道:微信支付,支付宝支付,银行卡支付,信用卡支付等,并将其编写成文档。 2.确定数据的来源,流向,设计表及其属性,设计存储过程等编写成文档。 3.使用Sqoop和Kettle完成数据的导出导入工作,写存储过程实现数据的抽取,加载,转换。 4.完成业务报表的开发工作,实现业务销量明细、存销比数据、销量库存数据、价格及地区月度数据等需求的数据。 1)数据表进行优化语句,查询速率整体优化了20% 2)ODS层:使用kettle工具连接生产Oracle数据库进行抽取 3)DW层:使用kettle工具,对元数据进行清洗,做去除脏数据、转换无效字符、值映射等操作后,把数据存入hive数据库中 4)根据需求,通过FineReport报表工具进行可视化展示
接单发单客服

添加客服微信,接单发单快人一步!
相关程序员推荐
杭州紫冰科技有限公司 AI、前后端开发 4年经验
我们是一支来自阿里、美团由软件高级工程师、算法工程师组成的高端软件研发团队。团队小而精,自2022年成立以来,为客户提供十几个软件解决方案。设计领域为门户网站、CRM系统、智能化系统、AI大模型、计算机视觉领域。已经有大量的项目开发经验。
王于辰 全栈开发工程师 3年经验
擅长写vue springboot 项目以及微信小程序 uniapp
leon 5年经验
本人擅长Python、Golang等后端Wev开发;擅长多种数据库操作;擅长小程序、网络、算法相关的项目开发;并且有一群靠谱且技术过硬的小伙伴;本人崇尚合作精神,是一个遵守规则的人。
dqzboy 高级运维工程师 7年经验
我是一名拥有超过7年运维经验的工程师,专注于容器技术、K8s集群管理以及DevOps流程。在互联网企业中,我负责过多个项目的方案规划和搭建维护,具备丰富的技术敏感度和故障排查经验。我熟悉阿里云、腾讯云、AWS等主流云服务平台,并对新兴技术保持浓厚兴趣,成功在多个项目中实现技术落地。