前言 在當今每日信息量巨大的社會中,源源不斷的數據需要被安全的存儲.等到數據的規模越來越大的時候,也許瓶頸就來了,沒有存儲空間了.這時候怎么辦,你也許會說,加機器解決,顯然這是一個很簡單直接但是又顯得有些欠缺思考的辦法.無謂的加機器只會帶來無限上升的成本消耗,更好的辦法應該是做到更加精細化的數據 ...
HDFS集群PB級數據遷移方案 DistCp生產環境實操篇 作者:尹正傑 版權聲明:原創作品,謝絕轉載 否則將追究法律責任。 用了接近 個星期的時間,終於把公司的需要的大數據組建部署完畢了,當然,在部署的過程中踩了不少坑,自己也對系統,網絡,各個大數據生態圈常用軟件進行了調優操作,后期等我整理好筆記后會分享給大家參考的。集群是部署好了,但是沒有數據的話也沒有人會去用。因此我們需要把舊集群的數據遷 ...
2018-10-29 18:25 0 3874 推薦指數:
前言 在當今每日信息量巨大的社會中,源源不斷的數據需要被安全的存儲.等到數據的規模越來越大的時候,也許瓶頸就來了,沒有存儲空間了.這時候怎么辦,你也許會說,加機器解決,顯然這是一個很簡單直接但是又顯得有些欠缺思考的辦法.無謂的加機器只會帶來無限上升的成本消耗,更好的辦法應該是做到更加精細化的數據 ...
某天,在生產環節中,發現一個定時任務表,由於每次服務區查詢這個表就會造成慢查詢,給mysql服務器帶來不少壓力,經過分析,該表中絕對部分數據是垃圾數據 需要刪除,約1050萬行,由於缺乏處理大數據的額經驗,開始直接使用delete搭配where條件進行清理,最后執行了1個小時也沒有完成 ...
前言 最近公司在使用 ABP 重構之前的老項目,數據庫也由 SQL SERVER 切換到了 MySql。吐槽一下,之前的產品使用的是 Windows Server 2008 , SqlServer 2008R2, .Net Framework 4.5,現在開始擁抱 .net core。回到正題 ...
CDH構建大數據平台-HDFS高可用案例實操 作者:尹正傑 版權聲明:原創作品,謝絕轉載!否則將追究法律責任。 一.禁用HDFS的HA模式 1>.通過CM的主 ...
前言 加入新公司的第二個星期的星期二 遇到另一個項目需要技術性支持:驗證es多集群的數據備份方案,需要我參與驗證,在這個項目中需要關注到兩個集群的互通性。es集群是部署在不同的k8s環境中,K8s環境未必可以互相通信。在這個過程中也遇到很多問題,關關難過關關過。 因為是新入職的公司的第一個完成 ...
前言 目標快速模擬數據一億條, 存儲過程效率太低, 找到個load data的方法, 從本地文件讀數據插入到庫表中, 正文如下 正文 切換引擎 查詢引擎類型 查詢結果 將InnoDB切換為 查看切換結果 xxx操作 ...
Kafka集群優化篇-調整broker的堆內存(heap)案例實操 作者:尹正傑 版權聲明:原創作品,謝絕轉載!否則將追究法律責任。 一.查看 ...