网站首页  词典首页

请输入您要查询的范文:

 

标题 大数据架构师的职责
范文

大数据架构师的职责(精选31篇)

大数据架构师的职责 篇1

  职责:

  1、负责规划科技大数据平台及科技数据入库自动化的方案设计;

  2、负责大数据平台的开发和维护,以及对外服务接口的开发;

  3、负责大数据平台的优化和改进工作。

  任职要求

  1、计算机相关专业本科及以上学历,5年以上开发经验,其中3年以上为互联网、大数据相关的开发经验;

  2、熟知Hadoop生态圈体系,精通Hadoop/Spark/Storm/Kafka中的一项或几项,深刻理解MapReduce的运行原理和机制,有MPI经验者尚佳;

  3、熟悉Elasticsearch、Redis、Hbased等相关数据库的构建和操作,尤其是数据库集群的构建和操作,熟悉Neo4j者尚佳;

  4、具有机器学习相关项目经验者优先。

大数据架构师的职责 篇2

  职责:

  1、负责大数据基础平台、海量数据存储处理分布式平台、数据分析系统架构设计和研发;

  2、负责实时计算平台基础架构设计、部署、监控、优化升级;

  3、制定项目数据仓库设计及实现规范,指导设计研发和部署;

  4、协助策略和算法团队工作,保障数据挖掘建模和工程化;

  5、深入研究大数据相关技术和产品,跟进业界先进技术。

  任职要求:

  1、3年以上大数据系统架构经验;

  2、精通Hadoop HBase Hive Spark Flink Kafka Redis技术及其生态圈;

  3、具备Java Scala Python等开发经验,熟悉数据挖掘和分析的策略与算法;

  4、精通数据抽取,海量数据传输,数据清洗的常用方法和工具。

  5、具备良好的系统分析能力、故障诊断能力;

  6、有大数据策略、算法、可视化经验优先;

  7、有在华为云存储产品和大数据产品的开发使用经验优先。

大数据架构师的职责 篇3

  职责:

  1、负责公司的大数据平台的数仓架构、系统架构设计;

  2、负责带领团队完成舆情分析相关的挖掘方案设计;

  3、负责大数据研发组团队管理;

  4、负责带领团队完成舆情平台的方案文档撰写、迭代开发;

  5、负责研发规范制定,研究行业前沿技术;

  6、参与产品规划及设计讨论。

  任职要求:

  1、本科五年工作经验及以上,有至少五年的大数据技术实践经验,有NLP或AI相关经验;

  2、有很强的架构设计能力和良好的表达能力;

  3、有一定的项目管理及团队管理能力;

  4、精通Hadoop、Spark生态圈中的常用组件原理及应用;

  6、理解媒体业务,精通数据仓库的规划和设计;

  5、精通掌握Java或Python编程,有性能调优能力;

  4、熟悉NLP算法原理及应用;

  6、对新生事物或者新技术有浓厚兴趣,学习能力强。

大数据架构师的职责 篇4

  职责

  1、负责公司大数据平台的整体架构设计,包含数据收集、数据存储、数据挖掘、数据输出;

  2、负责规划从数据源到数据应用的整体流程,并参与用户产品和数据产品的决策;

  3、负责海量数据分析、用户行为分析,构建用户数据模型;

  4、负责解决核心技术问题,对技术方案进行决策;

  5、技术团队管理。

  6、熟悉手机IOS、安卓系统APP开发

  任职资格

  1、计算机相关专业毕业,本科以上学历;

  2、5年以上相关工作经验,具备软件产品架构设计经验,熟练掌握高性能、高扩展性架构设计方法;

  3、熟练掌握java或c++任意一门语言、熟悉linux操作系统;

  4、熟悉Hadoop/MR/Hbase/Mahout/Spark等大数据技术,并能够基于上述项目开发大数据相关应用;

  5、熟悉基本数据挖掘方法和技术;

  6、强烈的敬业精神,良好的沟通与协调能力,能有效组织协调团队完成各类开发工作;

  7、热爱技术,相信数据的价值,对大数据有深刻的理解。

大数据架构师的职责 篇5

  职责

  1、参与打造数据中内容的规划、设计、开发和优化工作,实现高质量数据的互通与共享;

  2、参与数据模型体系构建及数据主题设计和开发,搭建离线、实时数据公共层;

  3、参与数据产品与应用的数据研发,发掘数据商业价值,打造极致体验的数据产品;

  4、深入理解数据产品的使用场景,为业务方在可用性、成本上做更好的设计做参考;

  5、团队成员的搭建与培养,任务划分,进度监控,代码规范,质量保证。

  任职要求

  1、熟悉数据仓库建模理论,3年以上相关领域实践经验;

  2、Hadoop、Hive、Hbase、Storm、Spark等技术框架;

  3、精通Java、Python、Scala、go等开发语言中的1到2种;

  4、熟练使用Python/Java/scala或其他语言进行复杂业务逻辑的数据处理工作,具备海量数据处理以及性能优化的能力;

  5、对MySQL、Redis、HBase等数据库有一定的了解和使用经验;

  6、对olap,多维分析及kylin熟悉的更好;

  7、思路清晰,具备良好的沟通能力和理解能力,较强的学习能力以及快速解决问题的能力;

  8、对新技术,新事物有很好的探索和求知欲;

  9、熟悉常规的机器学习算法:降维(PCA、SVD)、SVM、逻辑回归(LogisticsRegression)、决策树(GBDT、RandomForest)、关联规则(Apriori、FP-Growth)、聚类(K-Means)等优先。

大数据架构师的职责 篇6

  职责:

  1、负责面向政府信领域的企业(不限于)大数据平台、大数据应用等系统的架构设计、技术规划、技术选型

  2、跟进业界大数据技术发展动态,匹配行业应用诉求,制定大数据策略,提前识别关键技术并完成技术验证;

  3、支撑售前完成项目解决方案技术架构的设计及重要客户的交流;

  4、负责指导研发完成大数据产品的开发

  5、带领团队进行产品核心技术的创新和积累

  岗位要求:

  1、熟悉BI和大数据领域的解决方案,具备该领域全面的技术积累,包括报表平台,OLAP引擎和DB,ETL,数据仓库建模和设计,海量分布式数据处理分析架构;

  2、在大数据处理和分析领域具有3年或者以上的技术规划、架构设计经验,并有成功的项目实践;

  3、4年以上Hadoop实战经验,熟悉Hadoop底层文件系统及分布式计算框架,具备传统数据仓库、MPP、Hadoop等混搭平台架构的设计能力和数据建模能力,对大规模数据并行计算、传输、处理等有丰富的经验;

  4、有实际应用storm、spark、flume、kafka等项目经验优先;

  5、卓越的技术领导力,善于沟通、发现和解决产品需求阶段、开发阶段和测试阶段的问题,并能提供合理解决方案,有大中型互联网企业工作背景优先。

大数据架构师的职责 篇7

  1、负责公司大数据处理框架研发工作,设计与开发分布式存储、数据处理与分析架构。

  2、负责大数据平台与产品和相关技术的追踪及研究。

  3、负责大数据的处理工作,以及业务数据提取、加载、转换处理流程的开发和优化。

  4、利用大数据平台工具对数据维护。

  5、负责相关项目的技术支持和服务。

  6、持续对系统的技术架构进行改进和优化。

大数据架构师的职责 篇8

  1、建设大数据平台,主要技术为k8s, docker;

  2、跟进开源社区的更新,阅读文档,验证feature;

  3、阅读容器生态圈各组件的开源项目代码,开发新功能;

  4、持续提升平台的性能和稳定性。

大数据架构师的职责 篇9

  1、负责大数据平台的架构设计、核心代码开发等任务;根据项目要求编写相关技术文档;

  2、负责大数据平台的架构评审,代码评审,上线评审;参与数据应用需求、设计、审核和评审;

  3、负责核心模块研发,负责大数据平台的搭建,完成系统调试、集成与实施;

  4、负责建立和维护大数据平台技术标准规范,指导开发人员编写代码;

大数据架构师的职责 篇10

  职责:

  1. 负责大数据平台的基础技术规划,编制相关规范文档。

  2. 负责大数据平台的数据采集,处理,存储以及挖掘分析的架构实现。

  3. 负责大数据平台的实际规划建设,包括环境和框架的规划搭建以及部分核心编码工作。

  4. 负责大数据相关技术发展方向的预研。

  5. 参与业务需求调研,根据需求及行业特点设计大数据解决方案并跟进具体实施项目。

  6. 制定大数据平台中数据质量,业务质量监控及管理办法。

  岗位要求:

  1. 全日制本科及以上学历,5年以上工作经验,4年及以上大数据架构设计经验,熟悉大数据解决方案,包括Hadoop平台、Spark、storm、机器学习、深度学习等大数据解决方案。

  2. 深刻理解大数据处理(流计算、分布式计算、分布式文件系统、分布式存储等相关技术)实现方法。有架构和设计实践经验。

  3. 精通大型数据库Oracle、SqlServer等的开发。

  4. 精通java,Python中的一种或多种语言。

  5. 熟悉容器、虚拟化、微服务框架等相关技术。

  6. 对数据敏感,有严谨的工作思路,良好的沟通能力和团队合作精神。

  7. 熟悉R,Python,SAS、SPSS等数据挖掘经验者优先。

  8. 高宽展性,高性能,和分布式系统的实践及运维经验者优先。

  9. 有大型数据仓库实施、大数据平台数据开发经验,熟悉运营商业务者优先。

大数据架构师的职责 篇11

  职责:

  1、 基于公司大数据基础和数据资产积累,负责大数据应用整体技术架构的设计、优化,建设大数据能力开放平台;负责大数据应用产品的架构设计、技术把控工作。

  2、 负责制定大数据应用系统的数据安全管控体系和数据使用规范。

  3、 作为大数据技术方案到产品实现的技术负责人,负责关键技术点攻坚工作,负责内部技术推广、培训及知识转移工作。

  4、 负责大数据系统研发项目任务规划、整体进度、风险把控,有效协同团队成员并组织跨团队技术协作,保证项目质量与进度。

  5、 负责提升产品技术团队的技术影响力,针对新人、普通开发人员进行有效辅导,帮助其快速成长。

  任职资格:

  1、 计算机、数学或相关专业本科以上学历,5-20xx年工作经验,具有大型系统的技术架构\应用架构\数据架构相关的实践工作经验。

  2、 有分布式系统分析及架构设计经验,熟悉基于计算集群的软件系统架构和实施经验。

  3、 掌握Hadoop/Spark/Storm生态圈的主流技术及产品,深入了解Hadoop/Spark/Storm生态圈产品的工作原理及应用场景。

  4、 掌握Mysql/Oracle等常用关系型数据库,能够对SQL进行优化。

  5、 熟悉分布式系统基础设施中常用的技术,如缓存(Varnish、Memcache、Redis)、消息中间件(Rabbit MQ、Active MQ、Kafka、NSQ)等;有实践经验者优先。

  6、 熟悉Linux,Java基础扎实,至少3-5年以上Java应用开发经验,熟悉常用的设计模式和开源框架。

大数据架构师的职责 篇12

  1. 负责大数据项目整体架构规划,包括应用架构、技术架构、物理架构和数据架构等;

  2. 负责指导工程师进行技术验证与实现,核心技术问题的攻关,解决项目开发过程中的技术难题;

  3. 负责项目对外技术沟通,具有较强的沟通,表达和文档撰写能力;

  4. 根据公司项目和业务发展特点,负责研究相关大数据前沿技术;

  5. 推动技术能力的沉淀。

大数据架构师的职责 篇13

  职责:

  1、负责大数据项目或产品中架构设计、数据仓库公共层与应用层建模;

  2、负责大数据项目或产品中业务需求的需求理解、数据指标维度需求梳理、数据探查和分析,指导技术团队进行工作;

  3、负责大数据项目中的具体技术管理工作,完成验收目标。

  4、发现并解决数据质量问题,推动整体数据质量提升。

  任职要求:

  1、计算机相关专业,3年以上数据研发与数据仓库相关开发经验;

  2、熟练掌握维度建模方法,有大型数仓构建经验优先;

  3、精通Oracle/DB2/Teradata等主流数据库编程,有较好的SQL性能调优经验;

  4、扎实的编程基础和动手能力,精通至少一门编程语言,有大数据、分布式开发经验尤佳;

  5、有良好沟通协调能力,有带领小团队或项目管理工作经验;

  6、具备很强的责任心,做事细致、严谨,同时需要具备较强的沟通和学习能力,能快速理解行业的需求,对农业等行业数据应用有经验者优先;

  7、能够接受出差。

大数据架构师的职责 篇14

  职责

  1、负责企业级大数据平台、数据云服务的设计与开发;

  2、基于大数据生态圈,支持智慧交通等大数据场景应用实现;

  3、负责公司大数据产品的设计、封装与落地;

  4、负责学习大数据相关算法研究、实现与应用

  任职要求

  1、统招本科及以上学历;2年以上智慧城市建设或交通行业信息化相关工作经验,3年以上大数据架构设计、开发经验;

  2、精通大数据生态圈的技术,包括但不限于MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive,具备源码级问题解决和集群优化改造能力;

  3、熟悉常用编程语言,包括Java、Python、Scala等;

  4、具有很强的技术研发和创新能力,能有效把握技术发展方向,有较强的执行能力、学习能力、沟通能力、适应能力,责任心强;

大数据架构师的职责 篇15

  职责:

  1.负责整个大数据平台架构的设计和构建;

  2.负责构建大数据平台的数据交换、任务调度等通用平台;

  3.制定开发、测试、实施、维护的标准和规范,指导和培训工程师,不断提升团队能力。

  4.参与系统需求分析、架构设计、技术选型、应用设计与开发以及测试与部署,负责编写核心部分代码。

  5.持续挑战新的技术方向,攻克大数据量、高并发、高可用、可扩展等技术难点。

  任职要求:

  1.3年以上大数据架构经验,丰富的数据仓库、数据挖掘、机器学习项目经验

  2.大规模数据处理的架构和设计实战经验

  3.精通Spark、MR,熟练HDFS、Yarn、Hbase、Hive、MongoDB,熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、GraphDB(NEO4J或其他)等,并具有丰富的大型数据平台工程经验

  4.深刻理解大数据处理(流计算,分布式计算,分布式文件系统,分布式存储等)相关技术和实现方法

  5.熟悉主数据、元数据、数据质量等企业数据管理相关的体系和方法,熟练Linux/Unix平台上的开发环境

  6.本科或以上学历,计算机软件或相关专业,丰富的java开发经验和互联网背景优先。

  7.具有比较强的问题分析和处理能力,有比较优秀的动手能力,热衷技术,精益求精

大数据架构师的职责 篇16

  职责:

  负责大数据平台的规划和搭建、完成大数据平台的日常运营工作,为数据分析和展现提供支持;

  对系统框架相关技术和业务进行培训,并负责核心代码编写,指导团队开发及解决出现的系统问题;

  参与基于大数据平台的创新业务场景进行数据产品的架构设计,负责数据产品的研发交付;

  负责处理大数据平台的疑难问题,为数据团队提供可靠的技术支持;

  负责数据质量、稳定性等数据管理,数据内部共享融通的数据平台,让数据标准更规范、数据获取更高效;

  及时跟进大数据领域新技术并分享,提升团队技术能力。

  任职要求:

  本科或以上学历,5年以上数据系统建设经验,3年以上大数据架构设计经验;

  精通 java,python,scala 等一种大数据开发语言,熟悉Hadoop生态圈,包括但不限于hdfs,hive,spark, 有丰富的大数据项目的实践经验;

  具备创新精神,条理清晰,沟通表达和逻辑思维能力强;

  熟悉数据仓库的设计和开发,对数据架构有深入的了解和具备相关的项目实践经验优先;

  对SQL on Hadoop 的开源查询引擎(如Presto、 Apache Drill ) 原理有深入研究优先;

  有敏捷大数据和数据可视化实践经验优先。

大数据架构师的职责 篇17

  职责:

  1.负责公司新业务方向平台大数据基础架构的搭建及后期数据处理体系的升级和优化,不断提升系统的稳定性和效率。为公司未来方向性产品提供大数据底层平台的支持和保证。

  2.负责制定大数据平台调用约束和规范;

  3.负责大数据方向技术难题的解决,以及代码质量的把控;

  4.作为大数据开发团队的leader,负责大数据系统平台开发团队建设与人才梯队培养,分享技术经验,撰写相关技术文档指导和培训工程师。

  任职要求:

  1.热衷于大数据技术,并能平衡大数据性能、稳定性、扩展性多重要素进行设计和优化;

  2.熟悉服务器基本知识,能够评估系统硬件性能瓶颈;

  3.掌握Linux操作系统的配置,管理及优化,能够独立排查及解决操作系统层的各类问题,并能提供解决问题的理论依据;

  4.精通Java服务器编程,熟悉JVM原理,对数据结构和算法设计有较为深刻的理解;

  5.精通elasticsearch、Redis、hadoop、Kafka、Zookeeper、Yarn、Hbase、Spark底层架构,熟悉原理、源码、集群部署,包括参数优化、Bug修复,贡献过代码或提交过bug者优先

  6.具备数据中心资源管理、监控、调度等系统研发经验者优先,具备分布式系统研发经验者优先;

  7.具有应用大数据技术处理的项目开发、维护超过两年的经验者优先;

  8.具有良好的文档编写能力,可进行方案设计、架构设计。

大数据架构师的职责 篇18

  职责:

  1. 负责大数据基础平台、海量数据存储/处理分布式平台、数据分析系统架构设计和研发;

  2. 负责实时计算平台基础架构设计、部署、监控、优化升级;

  3. 制定项目/数据仓库设计及实现规范,指导设计研发和部署;

  4. 协助策略和算法团队工作,保障数据挖掘建模和工程化;

  5. 深入研究大数据相关技术和产品,跟进业界先进技术;

  任职要求:

  1. 全日制本科及以上学历,5年以上软件和分布式系统研发经验,3年以上大数据系统架构经验;

  2. 精通Hadoop/HBase/Spark/Storm/Redis技术及其生态圈;

  3. 具备良好的系统分析能力、故障诊断能力;

  4 有大数据策略、算法、可视化经验优先。

大数据架构师的职责 篇19

  职责:

  1、对业务需求深入分析,从而进行大数据平台核心应用的架构设计、开发和技术支持;

  2、规划业务应用系统和基础平台的技术架构,参与需求分析、建模、架构设计、技术决策以及详细设计;

  3、把握复杂系统的设计,确保系统的架构质量,编写核心部分代码;

  4、带领团队攻克例如大数据量、高并发、高稳定性等带来的各种挑战及技术难关;

  5、在大数据平台建设路线图指导下,进行架构实施和交付物投递,同时确保研发质量和方向的准确性;

  6、进行团队技术的培训和梯队建设岗位要求;

  任职条件:

  1、本科或以上学历,计算机相关专业,8年以上研发经验,3年以上大数据平台相关工作经验;

  2、精通Java开发技术,熟悉Shell、Scala语言和PYTHON优先;

  3、编程基础扎实,熟悉I/O、多线程、集群等基础框架和原理,熟悉分布式、缓存、消息等机制;

  4、熟悉常用设计模式,代码评审规则,单元测试,持续集成;

  5、熟悉AWS云服务或阿里云服务;

  6、熟悉容器技术原理、生态系统,熟悉Docker、Mesos、Kubernetes等容器系统、大规模容器资源调度系统、分布式应用生命周期。

大数据架构师的职责 篇20

  职责:

  1、负责企业大数据平台的基础建设、管理及制定拓展规划;

  2、负责大数据平台相关自动化服务工具的设计、开发;

  3、参与Hadoop、Hbase、Spark等核心平台组件的开发、优化;

  4、对平台特殊场景化的数据应用制定相关实践方案;

  5、大数据团队的搭建。

  任职资格:

  1、统招本科以上学历,计算机等相关专业,5年以上工作经验;

  2、具有Hadoop等大规模集群管理经验、海量(PB)数据处理经验;

  3、精通Hadoop、Hive、Hbase等离线平台相关组件的原理机制;

  4、了解或熟悉Storm/Spark/Redis/Kafka/MongoDB等分布式系统;

  5、熟悉高并发、分布式开发等相关知识,具有后端服务优化相关经验;

  6、熟悉爬虫常用框架以及反爬技术;

  7、具有良好的沟通能力、分析问题与攻关问题的能力;

  8、有责任心,工作积极,对新领域新技术有热情。

大数据架构师的职责 篇21

  1.负责公司大数据底层框架的整体架构设计,结合公司实际业务情况进行技术选型及大数据战略规划;

  2.负责统一数据平台项目的整体评估、设计、架构及关键模块的开发,不断提升系统的稳定性和效率;

  3.负责架构优化及系统关键模块的设计开发,协助团队解决开发过程中的技术难题;

  4.建立良好的公司内外的业界技术影响力;有效辅导团队,提升数据研发能力;

大数据架构师的职责 篇22

  职责

  1、负责大数据架构设计,包括定义数据的存储、集成(ETL)、应用,支撑业务运营和数据分析类需求实现;

  2、制定数据治理领域的数据体系化管理措施,包括元数据设计、数据标准、数据质量、数据处理、数据安全等工作,确保数据可信与安全;

  3、基于行业数据积累,满足业务的数据挖掘需求,实现从数据到资产的转变,根据目标行业建立具有前瞻性的数据模型;

  4、对各产品的数据安全负责,主导制定和实施数据库系统安全策略,保证整体方案数据安全;

  岗位要求

  业务技能要求:

  1、深入理解云化、数据仓库,在参与过的系统设计中,必须涉及这两项关键技术;

  n2、精通或者熟悉Hadoop体系架构,以及HDFS/HBase/Hive/MapReduce/Spark等技术,了解体系架构各组件的优缺点,有直接的产品设计与开发、部署、调优的经验;

  3、精通或熟悉常见RDBMS(Oracle / PostgreSQL / MySql)、NoSQL(Redis / Memcached/ MongoDB)、全文搜索引擎(Solr/ElasticSearch)的使用及开发,了解各数据库优缺点, 熟悉与架构设计相关的数据存储、性能调优等相关领域知识,有相关项目经验尤佳;

  4、熟悉业界常用的数据采集、集成、数据存储、计算、数据模型、数据分析的技术方案,具有数据分析或数据挖掘相关经验者优先;

  n5、熟悉数据治理相关流程,包括数据接入、数据处理、数据治理、数据组织、数据服务等。

  专业知识要求:

  1、具备数据治理的知识与体系方案,包含政策、组织、角色、流程、规范等,以及规划相应的支撑方案。了解业界的数据管理方法论;

  2、具备数据用例设计和开发能力。能够基于业务相关数据进行业务需求分析和痛点识别,将业务需求转化为数据的需求,完成数据用例的设计和开发;

  3、精通海量数据(日增量百亿)级别数据仓库、数据集市的构建流程。熟悉公安、政务、工业、交通、医疗等多行业业务者优先。

大数据架构师的职责 篇23

  职责:

  负责大数据平台架构的规划和设计,主导系统的架构设计和核心模块开发,确保项目质量和关键性能指标达成;

  负责大数据平台技术框架的选型与技术难点攻关,指导开发大数据平台的开发,保证大数据产品的上线运行;

  负责深入理解业务需求,对业务建模,设计系统架构,满足业务需求;

  负责协助策略和算法工作,保障数据挖掘建模和工程化;

  负责根据业务需求整合优化数据架构,保证产品的可靠性、稳定性;

  负责指导开发人员完成数据模型规划建设、分析模型构建及分析呈现;

  负责研发技术发展方向,新技术领域的探索,将新技术应用到公司大数据平台,提升公司效能

  任职要求:

  本科及以上学历,拥有5年以上大数据平台产品或分布式系统设计经验,6年以上的开发经验;

  精通Hadoop,熟悉大数据生态技术,如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Yarn、Sqoop、CDH、Solr 、Kylin、Impala、Hive、Hbase、Kerberos、Sentry等,有大规模集群架构、开发及运维经验;

  熟练掌握java/Scala语言,实现面向对象开发思想OOA,OOD,OOP;

  熟悉linux操作系统,熟练掌握脚本言语Shell/Perl/Python等编码语言;

  熟练掌握数据仓库设计,开发工作。能够根据业务设计并开发数据仓。

  具备源码级问题解决和集群优化改造能力者优先;

  能快速的学习新的开源框架和知识体系,并应用到现有架构体系中;

  逻辑清晰,快速的学习能力,良好的沟通能力、团队协调能力。

  具备良好的团队合作精神,较强的沟通交流能力,具备良好的技术领导能力;

  具备良好的文档撰写能力和技术团队管理能力

大数据架构师的职责 篇24

  职责:

  1、负责大数据基础平台的整体规划和架构设计,参与需求分析、技术决策以及详细设计;

  2、为现有大数据集群Hadoop、hive平台提供性能调优、架构优化重组,解决系统中的关键问题和技术难题;

  3、把握基础业务复杂系统的设计,确保系统的架构质量,编写核心部分代码;

  4、持续挑战新的技术方向,攻克大数据量,高并发,稳定性等各种技术难点。

  任职资格:

  1、计算机或相关专业本科及以上学历;

  2、5年以上hadoop的应用开发经验,5年以上数据仓库开发实践经验,至少一个企业级数据仓库项目开发经验或者大数据处理项目经验;

  3、良好的编程开发能力,精通PHP及其他开发语言;

  4、熟悉mysql等数据库经验,具备优秀的SQL编写、调优能力;

  5、熟练掌握Linux常规命令与工具,精通shell, perl, python等脚本语言至少一种;

  6、软件基础理论知识扎实,具有良好的数据结构、算法功底;

  7、对新技术敏感,学习能力强,乐于接受挑战,具有良好的团队合作精神;

大数据架构师的职责 篇25

  职责:

  1、负责大数据平台及BI系统框架设计、规划、技术选型,架构设计并完成系统基础服务的开发;

  2、负责海量埋点规则、SDK标准化、埋点数据采集、处理及存储,业务数据分布存储、流式/实时计算等应用层架构搭建及核心代码实现;

  3、开发大数据平台的核心代码,项目敏捷开发流程管理,完成系统调试、集成与实施,对每个项目周期技术难题的解决,保证大数据产品的上线运行;

  4、负责大数据平台的架构优化,代码评审,并根据业务需求持续优化数据架构,保证产品的可靠性、稳定性;

  5、指导开发人员完成数据模型规划建设,分析模型构建及分析呈现,分享技术经验;

  6、有效制定各种突发性研发技术故障的应对预案,有清晰的隐患意识;

  7、深入研究大数据相关技术和产品,跟进业界先进技术;

  【任职要求】

  1、统计学、应用数学或计算机相关专业大学本科以上学历;

  2、熟悉互联网移动端埋点方法(点击和浏览等行为埋点),无埋点方案等,有埋点SDK独立开发经验者优选;

  3、熟悉Hadoop,MR/MapReduce,Hdfs,Hbase,Redis,Storm,Python,zookeeper,kafka,flinkHadoop,hive,mahout,flume,ElasticSearch,KafkaPython等,具备实际项目设计及开发经验;

  4、熟悉数据采集、数据清洗、分析和建模工作相关技术细节及流程

  5、熟悉Liunx/Unix操作系统,能熟练使用shell/perl等脚本语言,熟练掌握java/python/go/C++中一种或多种编程语言

  6、具备一定的算法能力,了解机器学习/深度学习算法工具使用,有主流大数据计算组件开发和使用经验者优先

  7、熟悉大数据可视化工具Tableau/echarts

  8、具有较强的执行力,高度的责任感、很强的学习、沟通能力,能够在高压下高效工作;

大数据架构师的职责 篇26

  1、负责面向政府信领域的企业(不限于)大数据平台、大数据应用等系统的架构设计、技术规划、技术选型

  2、跟进业界大数据技术发展动态,匹配行业应用诉求,制定大数据策略,提前识别关键技术并完成技术验证;

  3、支撑售前完成项目解决方案技术架构的设计及重要客户的交流;

  4、负责指导研发完成大数据产品的开发

  5、带领团队进行产品核心技术的创新和积累

大数据架构师的职责 篇27

  职责:

  1、负责公司大数据底层框架的整体架构设计,结合公司实际业务情况进行技术选型及大数据战略规划;

  2、负责公司项目的整体评估、设计、架构及关键模块的开发;

  3、负责架构优化,协助团队解决开发过程中遇到的技术难题;

  4、负责新技术的调研和大数据相关开源组件的研究,并能在团队进行推广应用;

  5、参与数据分析、数据建模、项目核心模块及核心框架的开发;

  6、负责大数据平台的性能条有和问题诊断。

  任职要求:

  1、计算机相关专业,本科及以上学历,3-5年以上工作经验,2-3年大数据相关经验;

  2、具有扎实的大数据和数据仓库理论功底,负责过大数据平台或数据仓库设计;

  3、对基于Hadoop的大数据体系有深入的认识,具备相关产品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)项目应用研发经验,有Hadoop集群搭建和管理经验,度过Hadoop和Spark源码;

  4、熟悉Linux和Python语言,了解Scala原理和底层技术;

  5、熟悉分布式系统的架构及对其进行设计和优化,对海量数据的清晰、分析处理及存储有相关的实战经验;

  6、算法基础扎实,熟悉常见的数据结构,深入理解分布式算法和以上提到的分布式系统,

  7、必须有一线coding的能力;

  8、有统计学、数学知识,海量数据处理、分析和挖掘,大型互联网公司从业经历着优先。

大数据架构师的职责 篇28

  1、基于公司大数据基础和数据资产积累,负责大数据应用整体技术架构的设计、优化,建设大数据能力开放平台;负责大数据应用产品的架构设计、技术把控工作。

  2、负责制定大数据应用系统的数据安全管控体系和数据使用规范。

  3、作为大数据技术方案到产品实现的技术负责人,负责关键技术点攻坚工作,负责内部技术推广、培训及知识转移工作。

  4、负责大数据系统研发项目任务规划、整体进度、风险把控,有效协同团队成员并组织跨团队技术协作,保证项目质量与进度。

  5、负责提升产品技术团队的技术影响力,针对新人、普通开发人员进行有效辅导,帮助其快速成长。

大数据架构师的职责 篇29

  职责:

  1. 深刻理解政府行业业务模式,构建政府行业的数据模型,制定公司大数据技术发展路线;

  2. 对接业务研究和技术部门,主动搜集和转化需求,组织数据中心业务开发,进行数据相关产品需求分析和设计;

  3. 搭建数据仓库,研发数据库管理系统,搜集、提取、处理业务积累的海量数据,开展数据分析和挖掘;

  4. 根据公司战略和发展需要,规划数据中心重点工作和任务;落实部门人员、事务管理,开展跨部门、跨地区协作,协助对外交流与合作。

  职位要求:

  1. 5年以上相关工作经验,有团队管理和项目管理经验者优先;

  2.了解政府运作机制,掌握财政行业知识,有电子政务行业经验者优先;

  3. 熟练掌握使用Java或Python,精通数据库查询语言如SQL,Oracle等,在机器学习模型和算法方向有应用经验者优先;

  4. 具备数据中心产品策划整体思维,有大数据处理、分析、挖掘经验者优先;

  5. 逻辑思维严密,具备业务抽象、分解和标准化的能力,口头和书面表达优秀;

  6. 有较强的大局意识和良好的团队合作意识,富有领导力,具备优秀的人际交往和沟通能力。

大数据架构师的职责 篇30

  职责:

  1、负责规划大数据平台及应用产品的需求和技术方案设计;

  2、负责数据对接和对外服务设计、开发和维护,并能保证质量和性能;

  3、负责基于大数据平台的应用设计、开发和维护;

  4、能从系统全局和各子系统的角度思考可能存在的问题,并提出改进方案建议;

  任职要求:

  1、大学本科6年以上工作经验,计算机相关专业。

  2、至少4年以上的Java开发经验,3年以上大数据应用系统的开发和设计经验。

  3、熟悉Hadoop生态圈技术体系, 对离线计算、内存计算和流式计算均有深刻理解, 如Hadoop、Storm、Spark三个中的任意二个, 能进行平台和组件优化。

  4、精通Hive、HBase仓库设计,深刻理解MR运行原理和机制,能进行以提供高任务执行效率的优化。

  5、精通Java开发,熟悉JVM调优, 对GC有深刻理解。

  6、熟悉Linux、Shell、Kafka、Oracle、Mysql、Redis等相关技术, 能进行hbase可靠性诊断和维护。

  7、快速研究和学习技术能力。

大数据架构师的职责 篇31

  职责:

  1. 负责设计企业级大数据平台的整体架构,从技术层面制定清晰的大数据产品与系统技术架构,并负责实现关键技术和产品。

  2. 负责设计具有创新价值的大数据底层平台、大数据上层应用系统等,带领团队完成有质变的技术解决方案。

  3. 负责组织同事研究行内最前沿的技术发展方向,突破现有的技术难题。

  4. 负责研究院对外项目合作协调与支持,编写项目建设方案及后期项目建设支持。

  任职要求:

  1. 硕士及以上学历,计算机相关专业。

  2. JAVA基础扎实,不少于8年的一线开发经验,精通Spring boot/MyBatis/Restful API的开发与管理. 熟悉ReactJS/Angular/Vue之一前端开发技术,熟悉Maven或Ant.,熟悉Python语言开发加分。

  3. 不少于4年大数据的直接研发经验,精通Hadoop/Spark系统,有hands-on的架构设计、性能调优、开发经验。有MongoDB、Kafka、Hbase/Cassandra/Storm/Hive 等系统的开发经验。

  4. 掌握分布式系统原理,对分布式存储、流式计算、消息队列中的一项或多项有深入的理解和认识。

  5. 熟悉分布式系统的监控、运维、故障恢复,高可用原理和设计理念。

  6. 算法基础扎实,熟悉常见的数据结构,掌握大规模高并发访问、大数据开发等处理经验;熟练的Linux系统, 网络, 内存和存储等方面知识。

  7. 必须要有千万级别的项目管理经验,包括但不限于前期需求沟通,建设方案编写,中期项目实施,进度汇报,后期项目维护。

随便看

 

范文大全网提供教案、简历、作文、工作总结等各类优秀范文及写作素材,是综合性免费范文平台。

 

Copyright © 2004-2023 triyia.com All Rights Reserved
更新时间:2025/2/6 12:49:17