标题 | 大数据架构师工作的岗位职责 |
范文 | 大数据架构师工作的岗位职责(精选27篇) 大数据架构师工作的岗位职责 篇1职责 1、负责大数据架构设计,包括定义数据的存储、集成(ETL)、应用,支撑业务运营和数据分析类需求实现; 2、制定数据治理领域的数据体系化管理措施,包括元数据设计、数据标准、数据质量、数据处理、数据安全等工作,确保数据可信与安全; 3、基于行业数据积累,满足业务的数据挖掘需求,实现从数据到资产的转变,根据目标行业建立具有前瞻性的数据模型; 4、对各产品的数据安全负责,主导制定和实施数据库系统安全策略,保证整体方案数据安全; 岗位要求 业务技能要求: 1、深入理解云化、数据仓库,在参与过的系统设计中,必须涉及这两项关键技术; n2、精通或者熟悉Hadoop体系架构,以及HDFS/HBase/Hive/MapReduce/Spark等技术,了解体系架构各组件的优缺点,有直接的产品设计与开发、部署、调优的经验; 3、精通或熟悉常见RDBMS(Oracle / PostgreSQL / MySql)、NoSQL(Redis / Memcached/ MongoDB)、全文搜索引擎(Solr/ElasticSearch)的使用及开发,了解各数据库优缺点, 熟悉与架构设计相关的数据存储、性能调优等相关领域知识,有相关项目经验尤佳; 4、熟悉业界常用的数据采集、集成、数据存储、计算、数据模型、数据分析的技术方案,具有数据分析或数据挖掘相关经验者优先; n5、熟悉数据治理相关流程,包括数据接入、数据处理、数据治理、数据组织、数据服务等。 专业知识要求: 1、具备数据治理的知识与体系方案,包含政策、组织、角色、流程、规范等,以及规划相应的支撑方案。了解业界的数据管理方法论; 2、具备数据用例设计和开发能力。能够基于业务相关数据进行业务需求分析和痛点识别,将业务需求转化为数据的需求,完成数据用例的设计和开发; 3、精通海量数据(日增量百亿)级别数据仓库、数据集市的构建流程。熟悉公安、政务、工业、交通、医疗等多行业业务者优先。 大数据架构师工作的岗位职责 篇2职责: 1、负责大数据平台技术框架的技术选型和搭建; 2、负责核心技术问题公关,建设高可靠性,扩展性及高性能大数据/数据应用平台; 3、负责规划数据挖掘的整体流程,负责大数据开发团队业务需求开发; 4、与其他团队密切配合,寻求数据层面的业务价值,利用数据分析结论推动产品优化; 5、研究和分享大数据架构领域新技术。 任职要求: 1、计算机相关专业全日制统招本科及以上; 2、5年以上工作经验,至少3年以上大数据项目相关工作经验,能够设计大型大数据系统的架构和技术方案; 3、精通Hadoop/Spark/Hbase/Hive等大数据技术,精通ETL技术; 4、熟悉数据挖掘,了解典型大数据算法和策略; 5、熟悉主流Java技术框架,精通关系型数据库及SQL语言,熟悉NoSQL/JSON/XML; 6、有较强的学习能力和问题解决能力,逻辑严密、思路清晰; 7、有数据仓库经验者优先,有金融行业项目经验者优先。 大数据架构师工作的岗位职责 篇3职责: 1. 负责大数据平台的基础技术规划,编制相关规范文档。 2. 负责大数据平台的数据采集,处理,存储以及挖掘分析的架构实现。 3. 负责大数据平台的实际规划建设,包括环境和框架的规划搭建以及部分核心编码工作。 4. 负责大数据相关技术发展方向的预研。 5. 参与业务需求调研,根据需求及行业特点设计大数据解决方案并跟进具体实施项目。 6. 制定大数据平台中数据质量,业务质量监控及管理办法。 岗位要求: 1. 全日制本科及以上学历,5年以上工作经验,4年及以上大数据架构设计经验,熟悉大数据解决方案,包括Hadoop平台、Spark、storm、机器学习、深度学习等大数据解决方案。 2. 深刻理解大数据处理(流计算、分布式计算、分布式文件系统、分布式存储等相关技术)实现方法。有架构和设计实践经验。 3. 精通大型数据库Oracle、SqlServer等的开发。 4. 精通java,Python中的一种或多种语言。 5. 熟悉容器、虚拟化、微服务框架等相关技术。 6. 对数据敏感,有严谨的工作思路,良好的沟通能力和团队合作精神。 7. 熟悉R,Python,SAS、SPSS等数据挖掘经验者优先。 8. 高宽展性,高性能,和分布式系统的实践及运维经验者优先。 9. 有大型数据仓库实施、大数据平台数据开发经验,熟悉运营商业务者优先。 大数据架构师工作的岗位职责 篇4职责: 1、负责spark, hadoop, flink等开发和优化。 2、参与前期需求沟通和分析,以产品化开发的思维,完成需求分解和数据架构设计。 3、与研发和数据科学家合作保证产品定义清晰,按时完成产品上线。 4、能够洞察市场状况,与各部门合作转化为基于大数据挖掘的新策略或方案. 5、主动创造和发掘新的基于大数据挖掘产品商业模式. 任职要求: 1、全日制本科及以上学历,计算机软件相关专业,5年以上开发经验,3年以上架构经验 2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分布式数据存储和分布式计算平台原理,流式计算开发,有开源二次开发经验者优先。 3、精通大数据挖掘、机器学习.熟练掌握Java/Perl/Python至少一种编程语言。 4、具有数据挖掘和分析、机器学习等项目实施相关经验者优先; 5、良好的跨部门沟通合作能力,解决不同观点能力并取得结果。具备敏锐的互联网产品理解力,学习能力和逻辑思维能力强; 6、较强的自我驱动力、推动和协调能力,强烈的责任心和团队合作精神; 大数据架构师工作的岗位职责 篇5职责: 1、负责DMP技术架构设计与构建,根据业务规划及技术规划制定应用架构方案; 2、负责设计构建DMP数据采集、存储及分析框架,设计数据处理的技术流程和规范; 3、负责核心功能的架构与代码模板编写,开发与维护系统公用核心模块; 4、负责基于大数据技术的海量数据的自动化分析处理和统计工作。 岗位要求: 1、计算机或相关专业本科以上学历,三年以上的开发经验,二年以上大数据相关软件架构的实际经验; 2、精通大数据处理技术,熟悉Hadoop/Storm技术体系,有Hadoop、Hive、Hbase项目经验; 3、具有较强的架构能力,具有分布式计算、实时计算、数据仓库、数据挖掘系统的架构经历优先; 4、对数据敏感,洞察力强,了解国内外广告发展趋势; 5.、擅长系统分析与设计,精通常用的设计模式,擅长性能调优; 6、熟悉DMP/RTB技术原理,了解用户的行为分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等广告行业从业经历。 大数据架构师工作的岗位职责 篇6职责: 1. 负责大数据基础和应用平台的整体规划和架构设计,参与需求分析,架构设计,详细设计以及技术选型决策 2. 参与数据挖掘和建模相关核心算法的代码实现 3. 负责大数据算法平台的技术把关,性能调优,控制架构质量,解决项目技术难题;对研发项目和任务需求进行评估和方案设计、拆分任务并指导工程师完成开发 4. 带领团队提供并实现大数据算法平台上各项数据接入、数据挖掘分析及数据可视化的架构设计与能力,支持解决方案实施 5. 负责数据库设计、应用架构设计、核心技术选型等工作 6. 协调解决开发中的技术问题、设计和监控运营指标,保障系统稳定运行 7. 培养,指导有能力的员工,指导工程师进行技术验证实现,核心技术攻关,解决开发过程中的技术难题 任职要求: 1. 熟悉大数据和数据仓库的系统架构设计方法 2. 熟练使用并理解HadoopSpark架构及生态。(Hadoop,Hive,Hbase,Elasticsearch,Kafka,SparkFlink等) 3. 熟悉分布式系统架构,有分布式实时、离线和机器学习平台的架构和开发经验,具备海量数据清洗、分析处理及存储的实践经验 4. 熟练使用JAVA,具有大规模分布式系统调优经验 5. 熟悉AI相关算法,熟悉机器学习、深度学习。熟悉AI学习开源框架(Tensorflow、PyTorch等)者优先; 6. 具备良好的团队合作精神,对工作充满激情。 7. 熟悉FusionInsight平台开发经验者优先 大数据架构师工作的岗位职责 篇7职责: 1、负责企业大数据平台的基础建设、管理及制定拓展规划; 2、负责大数据平台相关自动化服务工具的设计、开发; 3、参与Hadoop、Hbase、Spark等核心平台组件的开发、优化; 4、对平台特殊场景化的数据应用制定相关实践方案; 5、大数据团队的搭建。 任职资格: 1、统招本科以上学历,计算机等相关专业,5年以上工作经验; 2、具有Hadoop等大规模集群管理经验、海量(PB)数据处理经验; 3、精通Hadoop、Hive、Hbase等离线平台相关组件的原理机制; 4、了解或熟悉Storm/Spark/Redis/Kafka/MongoDB等分布式系统; 5、熟悉高并发、分布式开发等相关知识,具有后端服务优化相关经验; 6、熟悉爬虫常用框架以及反爬技术; 7、具有良好的沟通能力、分析问题与攻关问题的能力; 8、有责任心,工作积极,对新领域新技术有热情。 大数据架构师工作的岗位职责 篇8职责: 1.负责数据仓库建设,基于数据驱动构建企业级数据模型,根据架构设计进行各层数据模型开发。 2.面向PB级别超大规模数据处理和查询需求,设计适合业务变化的合理的多维数据分析系统架构,满足多样性需求。 3.构建设计良好的数据流、调度系统、查询引擎、监控系统,保证系统稳定高效运行,以实现数据的最大价值。 4.指导团队成员开展数据仓库建设。 5.参与重点项目的评审,参与企业数据管理体系建设。 任职要求: 1.统招本科及以上学历。 2.从事数据仓库领域至少5年以上,熟悉数据仓库模型设计与ETL开发经验 ,掌握Kimball的维度建模设计方法,具备海量数据加工处理(ETL)相关经验 。 3.具有一定数据模型和数据架构基础,熟悉hadoop\hive和常用数据库。 4. 精通SQL,有一定的SQL性能调优经验,熟悉hive sql的开发。 5.具有管理团队开发经验,具备良好的组织能力、协调能力及项目管理能力。 6.具有较好的文字功底及语言表达能力,能够快速、准确地理解需求。 7.具有专研、快速学习和创新精神,具备独立分析问题和解决问题的能力。 8.具有责任心,时间观念强,工作独立性强,有良好的团队合作精神。 9.全日制普通本科毕业。 大数据架构师工作的岗位职责 篇9职责: 1、 基于公司大数据基础和数据资产积累,负责大数据应用整体技术架构的设计、优化,建设大数据能力开放平台;负责大数据应用产品的架构设计、技术把控工作。 2、 负责制定大数据应用系统的数据安全管控体系和数据使用规范。 3、 作为大数据技术方案到产品实现的技术负责人,负责关键技术点攻坚工作,负责内部技术推广、培训及知识转移工作。 4、 负责大数据系统研发项目任务规划、整体进度、风险把控,有效协同团队成员并组织跨团队技术协作,保证项目质量与进度。 5、 负责提升产品技术团队的技术影响力,针对新人、普通开发人员进行有效辅导,帮助其快速成长。 任职资格: 1、 计算机、数学或相关专业本科以上学历,5-20xx年工作经验,具有大型系统的技术架构\应用架构\数据架构相关的实践工作经验。 2、 有分布式系统分析及架构设计经验,熟悉基于计算集群的软件系统架构和实施经验。 3、 掌握Hadoop/Spark/Storm生态圈的主流技术及产品,深入了解Hadoop/Spark/Storm生态圈产品的工作原理及应用场景。 4、 掌握Mysql/Oracle等常用关系型数据库,能够对SQL进行优化。 5、 熟悉分布式系统基础设施中常用的技术,如缓存(Varnish、Memcache、Redis)、消息中间件(Rabbit MQ、Active MQ、Kafka、NSQ)等;有实践经验者优先。 6、 熟悉Linux,Java基础扎实,至少3-5年以上Java应用开发经验,熟悉常用的设计模式和开源框架。 大数据架构师工作的岗位职责 篇10职责: 1.负责公司大数据底层框架的整体架构设计,结合公司实际业务情况进行技术选型及大数据战略规划; 2.负责统一数据平台项目的整体评估、设计、架构及关键模块的开发,不断提升系统的稳定性和效率; 3.负责架构优化及系统关键模块的设计开发,协助团队解决开发过程中的技术难题; 4.建立良好的公司内外的业界技术影响力;有效辅导团队,提升数据研发能力; 任职要求: 1.从事大数据项目相关开发和设计2年以上经验;有作为技术负责人系统化解决问题的成功案例;有海量数据实践经验优先; 2.拥有一定的算法和数据结构基础;有很强的数据设计抽象能力,善于从复杂的数据问题中找到关键路径; 3.熟悉目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于:hadoop、storm、spark、等; 4. 良好的逻辑思维能力,良好的业务解读能力,懂电力或通信业务优先; 5.具有钻研精神,乐于接受挑战; 大数据架构师工作的岗位职责 篇11职责: 1、负责公司的大数据平台的数仓架构、系统架构设计; 2、负责带领团队完成舆情分析相关的挖掘方案设计; 3、负责大数据研发组团队管理; 4、负责带领团队完成舆情平台的方案文档撰写、迭代开发; 5、负责研发规范制定,研究行业前沿技术; 6、参与产品规划及设计讨论。 任职要求: 1、本科五年工作经验及以上,有至少五年的大数据技术实践经验,有NLP或AI相关经验; 2、有很强的架构设计能力和良好的表达能力; 3、有一定的项目管理及团队管理能力; 4、精通Hadoop、Spark生态圈中的常用组件原理及应用; 6、理解媒体业务,精通数据仓库的规划和设计; 5、精通掌握Java或Python编程,有性能调优能力; 4、熟悉NLP算法原理及应用; 6、对新生事物或者新技术有浓厚兴趣,学习能力强。 大数据架构师工作的岗位职责 篇12职责: 1、负责公司大数据平台架构的技术选型和技术难点攻关工作; 2、依据行业数据现状和客户需求,完成行业大数据的特定技术方案设计与撰写; 3、负责研究跟进大数据架构领域新兴技术并在公司内部进行分享; 4、参与公司大数据项目的技术交流、解决方案定制以及项目的招投标工作; 5、参与公司大数据项目前期的架构设计工作; 任职要求: 1、计算机及相关专业本科以上,5年以上数据类项目(数据仓库、商务智能)实施经验,至少2年以上大数据架构设计和开发经验,至少主导过一个大数据平台项目架构设计; 2、精通大数据生态圈的技术,包括但不限于MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive,具备数据统计查询性能优化能力。熟悉星环大数据产品线及有过产品项目实施经验者优先; 3、优秀的方案撰写能力,思路清晰,逻辑思维强,能够根据业务需求设计合理的解决方案; 4、精通ORACLE、DB2、mySql等主流关系型数据库,熟悉数据仓库建设思路和数据分层架构思想; 5. 熟练掌握java、R、python等1-2门数据挖掘开发语言; 6. 熟悉云服务平台及微服务相关架构思想和技术路线,熟悉阿里云或腾讯云产品者优先; 7、有烟草或制造行业大数据解决方案售前经验者优先; 8、能适应售前支持和项目实施需要的短期出差; 大数据架构师工作的岗位职责 篇13职责: 1.负责公司新业务方向平台大数据基础架构的搭建及后期数据处理体系的升级和优化,不断提升系统的稳定性和效率。为公司未来方向性产品提供大数据底层平台的支持和保证。 2.负责制定大数据平台调用约束和规范; 3.负责大数据方向技术难题的解决,以及代码质量的把控; 4.作为大数据开发团队的leader,负责大数据系统平台开发团队建设与人才梯队培养,分享技术经验,撰写相关技术文档指导和培训工程师。 任职要求: 1.热衷于大数据技术,并能平衡大数据性能、稳定性、扩展性多重要素进行设计和优化; 2.熟悉服务器基本知识,能够评估系统硬件性能瓶颈; 3.掌握Linux操作系统的配置,管理及优化,能够独立排查及解决操作系统层的各类问题,并能提供解决问题的理论依据; 4.精通Java服务器编程,熟悉JVM原理,对数据结构和算法设计有较为深刻的理解; 5.精通elasticsearch、Redis、hadoop、Kafka、Zookeeper、Yarn、Hbase、Spark底层架构,熟悉原理、源码、集群部署,包括参数优化、Bug修复,贡献过代码或提交过bug者优先 6.具备数据中心资源管理、监控、调度等系统研发经验者优先,具备分布式系统研发经验者优先; 7.具有应用大数据技术处理的项目开发、维护超过两年的经验者优先; 8.具有良好的文档编写能力,可进行方案设计、架构设计。 大数据架构师工作的岗位职责 篇14职责: 负责大数据平台的规划和搭建、完成大数据平台的日常运营工作,为数据分析和展现提供支持; 对系统框架相关技术和业务进行培训,并负责核心代码编写,指导团队开发及解决出现的系统问题; 参与基于大数据平台的创新业务场景进行数据产品的架构设计,负责数据产品的研发交付; 负责处理大数据平台的疑难问题,为数据团队提供可靠的技术支持; 负责数据质量、稳定性等数据管理,数据内部共享融通的数据平台,让数据标准更规范、数据获取更高效; 及时跟进大数据领域新技术并分享,提升团队技术能力。 任职要求: 本科或以上学历,5年以上数据系统建设经验,3年以上大数据架构设计经验; 精通 java,python,scala 等一种大数据开发语言,熟悉Hadoop生态圈,包括但不限于hdfs,hive,spark, 有丰富的大数据项目的实践经验; 具备创新精神,条理清晰,沟通表达和逻辑思维能力强; 熟悉数据仓库的设计和开发,对数据架构有深入的了解和具备相关的项目实践经验优先; 对SQL on Hadoop 的开源查询引擎(如Presto、 Apache Drill ) 原理有深入研究优先; 有敏捷大数据和数据可视化实践经验优先。 大数据架构师工作的岗位职责 篇15职责: 1、 负责大数据仓库、数据集市的规划及实现,负责大数据中台的设计和核心开发工作; 2、 负责数据基础架构和数据处理体系的升级和优化,不断提升系统的稳定性和效率,为公司的业务提供大数据底层平台的支持和保证; 3、 大数据平台的数据采集、处理、存储以及挖掘分析的架构实现; 4、 研究未来数据模型和计算框架的创新与落地,包括但不限于以下领域:大规模数据实时化、研发模式敏捷化、数据计算框架轻量化、数据模型组织方式业务化等方面,参与制定并实践团队的技术发展路线 任职资格: 1、 精通数据建模、数据标准管理、元数据管理、数据质量管理; 2、 有作为技术负责人系统化解决问题的成功案例;有海量数据实践经验优先; 3、 熟悉目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于:hadoop、flink、spark等; 4、 性格积极乐观,诚信,能自我驱动,有较强的语言表达能力;具备强烈的进取心、求知欲及团队合作精神;具有良好的沟通、团队协作、计划和创新的能力; 在数据业界有一定的影响力优先,具有风控经验背景的人优先; 5、 具备独立的深度思考能力,给出结合实际情况的较为理想的技术解决方案。 大数据架构师工作的岗位职责 篇161. 负责数澜大数据平台的架构设计和研发,建立数据生态服务,解决海量数据面临的挑战; 2. 管理和优化Hadoop、Spark等集群,计算作业的调优,保证集群和平台的高效和稳定; 3. 负责Hadoop、Spark、Flink的功能、性能和扩展,解决并实现业务需求; 4. 负责大数据产品的自动化、离线与实时计算、即席计算、数据质量、数据安全、机器学习等平台的设计和开发; 5. 调研和把握当前的最新技术,将其中的先进技术引入到自己的平台中,改善产品,提升竞争力; 大数据架构师工作的岗位职责 篇17职责 1、负责企业级大数据平台、数据云服务的设计与开发; 2、基于大数据生态圈,支持智慧交通等大数据场景应用实现; 3、负责公司大数据产品的设计、封装与落地; 4、负责学习大数据相关算法研究、实现与应用 任职要求 1、统招本科及以上学历;2年以上智慧城市建设或交通行业信息化相关工作经验,3年以上大数据架构设计、开发经验; 2、精通大数据生态圈的技术,包括但不限于MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive,具备源码级问题解决和集群优化改造能力; 3、熟悉常用编程语言,包括Java、Python、Scala等; 4、具有很强的技术研发和创新能力,能有效把握技术发展方向,有较强的执行能力、学习能力、沟通能力、适应能力,责任心强; 大数据架构师工作的岗位职责 篇18职责: 1、负责大数据平台的技术选型,基于Spark、Hadoop大数据平台建设和开发; 2、完成包括数据模型设计、数据采集、数据存储等方面的大数据系统架构的设计和数据层架构设计; 3、构建数据中台,为多种行业应用提供主数据(画像标签/关系图谱)、数据模型、人工智能业务算法及数据服务。 4、对海量数据处理的业务需求进行评估和方案设计、拆分任务并指导工程师完成开发; 5、带领大数据技术团队提供并实现大数据平台上各项数据分析和数据可视化的架构设计,支撑解决方案实施。 任职要求: 1、本科及以上学历,具有5年及以上大数据架构设计和开发经验;2年及以上带领团队经验;沟通能力强。在大型互联网企业从事大数据架构设计者优先考虑;有分布式大型商业软件系统设计经验、主导过大型商业软件的架构设计并取得过市场商业成功者优先考虑; 2、熟悉整个大数据的完整处理流程,包括数据的采集、清洗、预处理、存储、分析挖据、机器学习和数据可视化; 3、精通Oracle/MySQL/PostgreSQL/Greenplum/MongoDB等其中至少一种主流数据库的使用,并能进行性能调优; 4、具备优秀的团队意识和沟通能力,学习能力和主动性强,具有钻研精神,充满激情,乐于接受挑战。 大数据架构师工作的岗位职责 篇19职责: 1、大数据平台的规划、设计、实施,并优化数据库; 2、对数据库进行管理,负责数据库应用系统的运营及监控; 3、对数据库性能分析与调优,排错,保证数据正确率; 4、配合其他部门进行的数据处理、查询,统计和分析工作; 5、完成公司下达的项目开发任务。 任职要求: 1、计算机及相关专业本科以上学历,5年以上软件开发从业经验,其中包括至少2年以上的大数据开发工作经验; 2、熟悉hive,hadoop/spark,hbase等大数据相关技术架构,有管理或优化大型分布式集群经验; 3、熟悉linux基本命令,精通SQL脚本的编写,有丰富的数据库管理、运维调优经验; 4、熟悉C++、Java、C#等开发语言; 5、有互联网电商行业大数据分析处理和大型数据仓库的设计和实施经验; 6、有分布式系统分析及架构设计经验和大型计算集群的基础设施开发维护经验; 7、快速处理系统突发事件的能力,较强的学习和创新能力; 8、良好的沟通能力和团队合作精神。 大数据架构师工作的岗位职责 篇20职责: 1)负责大数据平台系统架构设计、核心开发工作(Hadoop&Spark技术方向),基于业务场景设计最优的系统解决方案。 2)构架支持大数量级的数据的大数据平台系统,及相关监控,拓展系统设计及实现。 3)利用Hadoop、Spark等大数据技术对海量数据进行处理,支持BI和数据科学(建模)的应用实现。 4)对现有系统的进行架构深入分析及系统优化,进一步提升系统的性能及数据处理能力。 任职资格 1)统招本科或以上学历,计算机相关专业, 5年以上软件开发经验、3年以上大数据项目经验。 2)具备较丰富的大数据平台相关构建,维护及调优经验,有大数据量级下的大数据集市相关经验。 3)具备较丰富的基于Hadoop或Hive或Spark等大数据处理项目经验,具备一定的数据挖掘经验。 4) 具有阿里云的EMR(emapreduce)的经验者优先考虑。 5)具有良好的业务理解、沟通和协作能力,具有较强的学习和总结能力。 6)优秀的团队合作精神、诚实、勤奋、严谨,敢于接受挑战。 7)机器学习技术、数据挖掘经验丰富者优先考虑。 大数据架构师工作的岗位职责 篇21职责: 1.能够带领技术人员基于hadoop平台进行海量数据应用系统开发; 2.负责结构化和非结构化数据的解析和清洗,海量数据查询和报表展现; 3.负责超大规模数据平台的搭建、维护和优化; 4.负责大数据采集、存储框架研究,参与在线或离线数据存储模型设计; 5.负责大数据平台新技术的开发使用和性能优化,测试。 任职资格: 1.计算机相关专业本科及以上学历; 2. 熟悉hadoop相关各种开源项目,比如HDFS/Hive/Hbase等有实际应用。(5年以上开发经验者优先); 3.两年以上熟练编写mapreduce代码经验,有三年以上网络日志分析、ETL经验。熟悉日志分析框架chukwa,flume,scribe者优先; 4.两年以上海量数据存储的安装部署、优化、二次开发经验,对大规模数据存储、传输、处理等有丰富的经验; 5.在数据挖掘、数据密集型处理、分布式计算、网格计算领域有深入理论基础; 6.具有较强的文档撰写能力,较强的团队精神和合作精神,对工作有热情,能承受压力。 大数据架构师工作的岗位职责 篇22职责: 1. 负责设计企业级大数据平台的整体架构,从技术层面制定清晰的大数据产品与系统技术架构,并负责实现关键技术和产品。 2. 负责设计具有创新价值的大数据底层平台、大数据上层应用系统等,带领团队完成有质变的技术解决方案。 3. 负责组织同事研究行内最前沿的技术发展方向,突破现有的技术难题。 4. 负责研究院对外项目合作协调与支持,编写项目建设方案及后期项目建设支持。 任职要求: 1. 硕士及以上学历,计算机相关专业。 2. JAVA基础扎实,不少于8年的一线开发经验,精通Spring boot/MyBatis/Restful API的开发与管理. 熟悉ReactJS/Angular/Vue之一前端开发技术,熟悉Maven或Ant.,熟悉Python语言开发加分。 3. 不少于4年大数据的直接研发经验,精通Hadoop/Spark系统,有hands-on的架构设计、性能调优、开发经验。有MongoDB、Kafka、Hbase/Cassandra/Storm/Hive 等系统的开发经验。 4. 掌握分布式系统原理,对分布式存储、流式计算、消息队列中的一项或多项有深入的理解和认识。 5. 熟悉分布式系统的监控、运维、故障恢复,高可用原理和设计理念。 6. 算法基础扎实,熟悉常见的数据结构,掌握大规模高并发访问、大数据开发等处理经验;熟练的Linux系统, 网络, 内存和存储等方面知识。 7. 必须要有千万级别的项目管理经验,包括但不限于前期需求沟通,建设方案编写,中期项目实施,进度汇报,后期项目维护。 大数据架构师工作的岗位职责 篇23职责: 1、搭建基于Hadoop/Spark的数据挖掘体系和大数据分析系统架构; 2、研究大数据领域前沿数据挖掘技术,并引入相应技术在数据中心的使用; 3、进行大数据系统框架设计、模型算法开发; 4、负责大型数据挖掘项目方案制定、项目实施落地及优化等 ; 5、开展数据爬取、聚类分析、舆情分析、鱼骨图分析、定价策略等领域数据挖掘工作; 任职资格: 1、本科以上学历(持有学士学位)(985,211优先),计算机相关专业,五年工作经验; 2、二年以上数据挖掘项目经验,完整参与过数据挖掘大数据平台的架构开发过程,具备互联网行业背景优先; 3、精通分布式计算框架(hadoop、spark、Storm等)及相关经验,熟练掌握Hive/SQL,Python,熟悉Python、R相关数值科学计算库(NumPy,SciPy等); 4、了解传统的BI/DW 理论,能结合传统BI实践设计大数据平台; 5、熟悉常用机器学习算法(如分类、回归、聚类、关联规则等)及其原理,具备应用场景经验,如用户画像、商品关联度分析、舆情分析; 6、熟悉主数据、元数据、数据质量、和数据建模等数据治理相关的体系和方法; 7、具备较强的逻辑思维能力、数据敏感度,擅于利用数据发现问题及解决问题; 大数据架构师工作的岗位职责 篇24职责: 1、对业务需求深入分析,从而进行大数据平台核心应用的架构设计、开发和技术支持; 2、规划业务应用系统和基础平台的技术架构,参与需求分析、建模、架构设计、技术决策以及详细设计; 3、把握复杂系统的设计,确保系统的架构质量,编写核心部分代码; 4、带领团队攻克例如大数据量、高并发、高稳定性等带来的各种挑战及技术难关; 5、在大数据平台建设路线图指导下,进行架构实施和交付物投递,同时确保研发质量和方向的准确性; 6、进行团队技术的培训和梯队建设岗位要求; 任职条件: 1、本科或以上学历,计算机相关专业,8年以上研发经验,3年以上大数据平台相关工作经验; 2、精通Java开发技术,熟悉Shell、Scala语言和PYTHON优先; 3、编程基础扎实,熟悉I/O、多线程、集群等基础框架和原理,熟悉分布式、缓存、消息等机制; 4、熟悉常用设计模式,代码评审规则,单元测试,持续集成; 5、熟悉AWS云服务或阿里云服务; 6、熟悉容器技术原理、生态系统,熟悉Docker、Mesos、Kubernetes等容器系统、大规模容器资源调度系统、分布式应用生命周期。 大数据架构师工作的岗位职责 篇25职责: 1、负责规划大数据平台及应用产品的需求和技术方案设计; 2、负责数据对接和对外服务设计、开发和维护,并能保证质量和性能; 3、负责基于大数据平台的应用设计、开发和维护; 4、能从系统全局和各子系统的角度思考可能存在的问题,并提出改进方案建议; 任职要求: 1、大学本科6年以上工作经验,计算机相关专业。 2、至少4年以上的Java开发经验,3年以上大数据应用系统的开发和设计经验。 3、熟悉Hadoop生态圈技术体系, 对离线计算、内存计算和流式计算均有深刻理解, 如Hadoop、Storm、Spark三个中的任意二个, 能进行平台和组件优化。 4、精通Hive、HBase仓库设计,深刻理解MR运行原理和机制,能进行以提供高任务执行效率的优化。 5、精通Java开发,熟悉JVM调优, 对GC有深刻理解。 6、熟悉Linux、Shell、Kafka、Oracle、Mysql、Redis等相关技术, 能进行hbase可靠性诊断和维护。 7、快速研究和学习技术能力。 大数据架构师工作的岗位职责 篇26职责: 负责公司大数据产品架构的设计与实现; 配合大数据产品经理完成产品的快速研发与交付; 负责大数据产品架构的持续优化设计; 负责大数据产品核心组件设计; 负责大数据相关数据架构规划、数据建模、数据库设计以及大数据产品研发工作; 为应用开发团队提供技术支撑。 任职要求: 本科及以上学历,3年以上的大数据开发经验、 2年以上大数据架构设计经验; 丰富的JAVA研发经验,精通JAVA,熟悉Python Scala等编程语言;具备深厚的分布式系统或数据库系统的理论基础,熟悉分布式计算系统的工作机制,具有分布式文件系统、分布式数据库系统、集群存储系统等架构设计经验; 熟悉整个大数据的完整处理流程(数据的采集、清洗、预处理、存储、分析挖掘、机器学习和数据可视化); 精通各种大数据相关技术体系:Hadoop、Spark、Storm、ElasticSearch、Kafka; 有数据挖掘、机器学习相关应用或研究背景; 沟通能力较好,积极主动意识较强,责任心较强。 大数据架构师工作的岗位职责 篇27职责: 1、负责大数据项目技术架构评估与设计; 2、负责关键功能的开发,技术难题的解决,以及输出代码的关键把控; 3、负责对使用关键技术的预研和选型,完成PoC; 4、指导工程师完成开发工作,并能分享技术经验。 任职要求: 1、3年以上相关工作经验,其中具有1年以上架构设计经验 2、熟悉商业智能系统相关技术,如 ETL、数据仓库、OLAP开发; 3、精通设计模式,熟悉面向服务架构(SOA)以及其它常用软件架构思想,有SOA方案设计、开发实施的实际经验,要具备实际的服务规划、服务粒度划分经验;并且要善于设计可重用组件和可定制化产品。 4、相关技术栈:Java /Scala/Flume/Hive/Kafka/HBase/ Spark/Storm/Redis; 5、有扎实的计算机基础,熟悉Java等编程语言; |
随便看 |
|
范文大全网提供教案、简历、作文、工作总结等各类优秀范文及写作素材,是综合性免费范文平台。