網站首頁 實用文 書信 面試 實習 實習報告 職場 職責 勵志 名言 熱點

Hadoop研發工程師崗位職責

欄目: 工程師職責 / 發佈於: / 人氣:2.76W
Hadoop研發工程師崗位職責
Hadoop研發工程師是做什麼的?本文提供Hadoop研發工程師的崗位職責例子,包括詳細的工作內容及任職要求。崗位職責
1、負責數據倉庫架構設計與研發;
2、負責大數據產品的數據研發;
3、助力數據化運營業務,與算法同學配合構建豐富多樣的BI應用。

任職要求:
1、有從事分佈式數據存儲與計算平台應用開發經驗,熟悉Hadoop生態相關技術並有相關開發經驗,有Spark/Flink的開發經驗尤佳;
2、較為豐富的數據倉庫及數據平台的架構經驗,精通數據倉庫建模及ETL設計開發;有較為系統的海量數據性能處理經驗;在大數據資產管理與治理有一定成功產品化經驗;
3、具備一定的JAVA、Python語言的開發能力,具備機器學習算法能力尤佳;
4、 良好的思維邏輯性、語言表達能力;有較好英語口語能力,將安排海外崗位。崗位職責:
1. 基於Hadoop、Spark、Hive、kettle等大數據計算平台的架構構建,數據平台架構設計、開發分佈式計算業務,專注於實時計算、即時計算、流式計算,大數據應用、數據挖掘、分析建模等技術;
2. 參與分析可視化、數據可視化、數據展現工具、創新數據業務等技術的研發;
3. 對Hadoop、Spark、Hive、Impala、Hue、Hbase、Map/Reduce相關產品進行預研、開發;
4. 攻克各種分佈式、高併發、大容量、數據隔離、系統解耦等方面的技術難關;
5. Hadoop相關業務腳本的性能優化與提升,不斷提高系統運行效率,確保大數據計算平台的性能和穩定性 ;
任職要求:
1. 精通Hadoop、Spark、Hive、Sqoop、Map/Reduce;
2. 熟悉Hbase Impala、Hue 等相關技術;
3. 熟練使用Python、Shell、kettle語言及開發工具;
4. 熟練使用MSSQL,Oracle,MySQL;
5. 三年以上工作經驗;
6. 對大數據分析有自己的獨到見解,具備大數據分析的思路;職位描述:
崗位職責:
1、負責hadoop平台上的數據存儲,數據維護和優化;
2、參與大規模數據系統的架構設計和開發;
3、大規模數據挖掘和機器學習算法的實現和維護;
4、在線和離線海量數據分析平台的開發。

崗位要求:
1、計算機及相關專業統招本科及以上學歷;
2、2年以上hadoop的應用開發經驗,至少一個企業級數據倉庫項目開發經驗或大數據處理項目經驗;
3、優秀的編程開發能力,精通Java,並熟悉python、shell、perl中的一種;
4、對數據結構、算法有深刻理解,有預測模型,行為分析模型,推薦模型具體實施經驗者優先;
5、熟悉hadoop生態圈中的hive、impala、kafka、flume等,對hive、impala開發有實際經驗者優先;
6.、對新技術敏感,有一定獨立分析,技術研究能力,樂於接受挑戰,具有良好的團隊合作精神。崗位職責:
1、負責Hadoop、Spark、Storm、Kafka等開源大數據產品組件的二次開發;
2、負責Hadoop等大數據產品與神通MPP集羣大數據產品的集成。
3、跟蹤大數據應用動向和主流開源產品新特徵,創新產品應用;
職位要求:
1、計算機相關專業、研究生及以上學歷。
2、熟悉Java或Scala開發語言
3、研究過Hadoop、Spark、Hive、Storm、ES等任意一種大數據開源系統是一個很好的加分項。
4、至少熟練使用Shell、Perl、Python等一種腳本語言。