91av免费观看_日韩视频在线免费看_日本xxxx色视频在线观看免费_伊人222综合网图片_国产二区三区在线_91麻豆麻豆

IT之道-艾銻知道

您當前位置: 主頁 > 資訊動態 > IT知識庫 >

it運維中如何用2個Unix命令給MariaDB SQL


2020-04-13 14:15 作者:艾銻無限 瀏覽量:


如何用2個Unix命令給MariaDB SQL


提速的方法
 
1
2
3
4
5
6
select distinct
project_commits.project_id,
date_format(created_at, ‘%x%v1') as week_commit
from project_commits
left join commits
on project_commits.commit_id = commits.id;

兩個連接字段都有索引。不過,MariaDB 是通過對 project_commits 進行全表掃描和對 commits 進行索引查找來實現連接的。這可以從 EXPLAIN 的輸出看出來。

這兩個表中的記錄比較多:project_commits 有 50 億行記錄,commits 有 8.47 億行記錄。服務器的內存比較小,只有 16GB。所以很可能是因為內存放不下那么大的索引,需要讀取磁盤,因此嚴重影響到了性能。從 pmonitor 對臨時表的分析結果來看,這個查詢已經運行半天了,還需要 373 個小時才能運行完。
/home/mysql/ghtorrent/project_commits#P#p0.MYD 6.68% ETA 373:38:11

在我看來,這個太過分了,因為排序合并連接(sort-merge join)所需的 I/O 時間應該要比預計的執行時間要低一個數量級。我在 dba.stackexchange.com 上尋求幫助,有人給出了一些建議讓我嘗試,但我沒有信心它們能夠解決我的問題。我嘗試了第一個建議,結果并不樂觀。嘗試每個建議都需要至少半天的時間,后來,我決定采用一種我認為可以有效解決這個問題的辦法。

我將這兩個表導出到文件中,使用 Unix 的 join 命令將它們連接在一起,將結果傳給 uniq,把重復的行移除掉,然后將結果導回到數據庫。導入過程(包括重建索引)從 20:41 開始,到第二天的 9:53 結束。以下是具體操作步驟。

艾銻無限科技專業:IT外包、企業外包、北京IT外包、桌面運維、弱電工程、網站開發、wifi覆蓋方案,網絡外包,網絡管理服務,網管外包,綜合布線,服務器運維服務,中小企業it外包服務,服務器維保公司,硬件運維,網站運維服務

1. 將數據庫表導出為文本文件

我先導出連接兩個表需要用到的字段,并按照連接字段進行排序。為了確保排序順序與 Unix 工具的排序順序兼容,我將字段轉換為字符類型。

我將以下 SQL 查詢的輸出保存到文件 commits_week.txt 中。


1
2
3
4
select cast(id as char) as cid,
date_format(created_at, ‘%x%v1') as week_commit
from commits
order by cid;


然后將以下 SQL 查詢的輸出保存到 project_commits.txt 文件中:


1
2
3
select cast(commit_id as char) as cid, project_id
from project_commits
order by cid;


這樣就生成了以下兩個文件。   弱電系統集成

-rw-r–r– 1 dds dds 15G Aug 4 21:09 commits_week.txt

-rw-r–r– 1 dds dds 93G Aug 5 00:36 project_commits.txt

為了避免內存不足,我使用 –quick 選項來運行 mysql 客戶端,否則客戶端會在輸出結果之前嘗試收集所有的記錄。

2. 使用 Unix 命令行工具處理文件

接下來,我使用 Unix 的 join 命令來連接這兩個文本文件。這個命令線性掃描兩個文件,并將第一個字段相同的記錄組合在一起。由于文件中的記錄已經排好序,因此整個過程完成得很快,幾乎就是 I/O 的速度。我還將連接的結果傳給 uniq,用以消除重復記錄,這就解決了原始查詢中的 distinct 問題。同樣,在已經排好序的輸出結果上,可以通過簡單的線性掃描完成去重。

這是我運行的 Unix 命令。

join commits_week.txt project_commits.txt | uniq >joined_commits.txt
 
經過一個小時的處理,我得到了想要的結果。

-rw-r–r– 1 dds dds 133G Aug 5 01:40 joined_commits.txt

3. 將文本文件導回數據庫

最后,我將文本文件導回數據庫。


1
2
3
4
5
6
create table half_life.week_commits_all (
project_id INT(11) not null,
week_commit CHAR(7)) ENGINE=MyISAM;
load data local infile ‘joined_commits.txt'
into table half_life.week_commits_all
fields terminated by ‘ ‘;


以上文章由北京艾銻無限科技發展有限公司整理

相關文章

IT外包服務
二維碼 關閉
主站蜘蛛池模板: 亚洲午夜精品久久久久久人妖 | 一区二区三区精品视频免费播放 | 秋霞影院18禁止进入免费 | 久久久久无码国产精品不卡 | 人妻暴雨中被强制侵犯在线 | 日日骚网 | 中文人妻精品一区在线 | 四虎国产精品永久在线国在线 | 日韩高清在线一区二区三区 | 亚洲色无码A片一区二区情欲 | 国产wwwxxxx | 狠狠色噜噜狠狠狠狠888米奇 | 国产精品18久久久久久欧美网址 | av一本久道久久综合久久鬼色 | 樱桃视频大全免费高清版 | 噜噜噜亚洲色成人网站 | 日本熟日本熟妇中文在线观看 | 欧美天堂一区二区 | 精品国产福利一区二区 | 性深夜免费福利视频 | 毛片一区二区三区四区 | 国产精品高潮呻吟av | 亚洲欧美黑人猛交群 | www.av天堂com| 亚洲自偷自偷在线成人网址 | 国产白嫩漂亮美女在线观看 | 熟妇人妻无码中文字幕 | 国产AV剧情MD精品麻豆 | 精品人妻午夜一区二区三区四区 | 国内极度色诱视频网站 | 久久人搡人人玩人妻精品 | 国产免费无遮挡吸乳视频在线观看 | 欧美大屁股熟妇bbbbbb | 天天摸夜夜添久久精品 | 欧美成人免费专区精品高清 | 中文字幕免费不卡二区 | 精品国产福利一区二区三区 | 人妻中文字幕无码专区 | 国产精品无码a片福利院网站 | 久久嫩草影院免费看 | 无码人妻丰满熟妇区10P |