自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

我用Python處理3萬(wàn)多條數(shù)據(jù),只要幾秒鐘……

開(kāi)發(fā) 后端 MySQL
本文以17個(gè) txt 文本,3萬(wàn)多條數(shù)據(jù)為例,使用 Python 連接 MySQL 數(shù)據(jù)庫(kù),實(shí)現(xiàn)快速操作。

應(yīng)用場(chǎng)景:工作中經(jīng)常遇到大量的數(shù)據(jù)需要整合、去重、按照特定格式導(dǎo)出等情況。如果用 Excel 操作,不僅費(fèi)時(shí)費(fèi)力,還不準(zhǔn)確,有么有更高效的解決方案呢?

本文以17個(gè) txt 文本,3萬(wàn)多條數(shù)據(jù)為例,使用 Python 連接 MySQL 數(shù)據(jù)庫(kù),實(shí)現(xiàn)快速操作。

別人加班干的活,我的 Python 小助手幾秒鐘就搞定了!

本文主要包括以下三方面內(nèi)容:

  •  數(shù)據(jù)寫(xiě)入
  •  數(shù)據(jù)去重
  •  數(shù)據(jù)導(dǎo)出

將數(shù)據(jù)寫(xiě)入 MySQL 數(shù)據(jù)庫(kù)

下圖所示文件是本文的數(shù)據(jù)源:

我們的設(shè)想是:編寫(xiě)一個(gè)小程序,扔在這個(gè)文件夾里,雙擊后就可以自動(dòng)讀取每個(gè) txt 文檔中的數(shù)據(jù),并寫(xiě)入數(shù)據(jù)庫(kù)。

代碼如下: 

  1. import pymysql  
  2. import os  
  3. conn = pymysql.connect(host='localhost'user='root'password='123456'db='qq'charset='utf8' 
  4. cur = conn.cursor()  
  5. cur.execute("CREATE TABLE qq ( id int(5) NOT NULL auto_increment, qq varchar(20)NOT NULL, PRIMARY KEY  (id));")  
  6. conn.commit()  
  7. path = os.getcwd()  
  8. files = os.listdir(path)  
  9. i = 0  
  10. for file in files:  
  11.     f = open(file,'r',encoding = 'UTF-8' 
  12.     next(f)  
  13.     for line in f:  
  14.         i += 1  
  15.         #print(line)  
  16.         sql = "insert into qq(qq) values(%s);"  
  17.         cur.execute(sql,line)  
  18.         print("插入第", i, "條數(shù)據(jù)!")  
  19.         conn.commit()  
  20.     f.close()  
  21. cur.close()  
  22. conn.close() 

運(yùn)行效果:

重點(diǎn)代碼解釋?zhuān)?/strong>

這段代碼用到了 pymysql 和 os 兩個(gè)庫(kù)。

  •  pymysql:用來(lái)操作 MySQL 數(shù)據(jù)庫(kù);
  •  os:用來(lái)遍歷所在文件夾下的所有文件。

現(xiàn)將主要代碼解釋如下:

1、遍歷任意文件夾下所有文件名稱(chēng)

程序?qū)懞煤?,使?pyinstaller 打包成 exe 程序,并放在要操作的文件夾下面。

通過(guò) path = os.getcwd()命令,獲取該 exe 文件所在目錄。

通過(guò) files = os.listdir(path)命令,獲取 exe 文件所在目錄下的所有文件名稱(chēng),并存入 files 列表中。

這樣我們就獲得了所有的 txt 文件名稱(chēng),你可以任意命名你的 txt 文件名,程序都能讀出來(lái)。

2、將數(shù)據(jù)寫(xiě)入數(shù)據(jù)庫(kù)

(1)連接數(shù)據(jù)庫(kù),并在數(shù)據(jù)庫(kù)中創(chuàng)建新表

A. 連接到我的 qq 數(shù)據(jù)庫(kù)

conn = pymysql.connect(host='localhost', user='root', password='123456', db='qq', charset='utf8')

B. 創(chuàng)建新表 qq

在 qq 數(shù)據(jù)庫(kù)中創(chuàng)建新表,表名稱(chēng)為 qq ,包含 2 個(gè)字段:id 字段為主鍵、自動(dòng)遞增;qq 字段為字符型,用于存儲(chǔ)數(shù)據(jù)。

cur.execute("CREATE TABLE qq ( id int(5) NOT NULL auto_increment, qq varchar(20)NOT NULL, PRIMARY KEY (id))")

(2)將數(shù)據(jù)寫(xiě)入數(shù)據(jù)庫(kù)

這里使用了兩層循環(huán): 

  1. for file in files:  
  2.     f = open(file,'r',encoding = 'UTF-8' 
  3.     next(f)  
  4.     for line in f:  
  5.         i += 1  
  6.         #print(line)  
  7.         sql = "insert into qq(qq) values(%s);"  
  8.         cur.execute(sql,line)  
  9.         print("插入第", i, "條數(shù)據(jù)!")  
  10.         conn.commit()  
  11.     f.close() 

第一層循環(huán)是用來(lái)依次打開(kāi)上述 17 個(gè) txt 文件。

第二層循環(huán)是依次讀取每個(gè) txt 文件的每一行,并將改行數(shù)據(jù)插入數(shù)據(jù)庫(kù)表 qq 的 qq字段。

至此就完成了數(shù)據(jù)的導(dǎo)入,總共32073條數(shù)據(jù)。

數(shù)據(jù)清洗

這里以去除重復(fù)值為例,簡(jiǎn)單介紹一下數(shù)據(jù)清洗。

1、創(chuàng)建一個(gè)新表,用來(lái)存儲(chǔ)清洗后的數(shù)據(jù)

可以在 cmd 窗口下登陸 MySQL,打開(kāi) qq 數(shù)據(jù)庫(kù),執(zhí)行下列操作:

CREATE TABLE qq_dist ( id int(5) NOT NULL auto_increment, qq varchar(20)NOT NULL, PRIMARY KEY (id));

這樣就創(chuàng)建了新表 qq_dist ,用來(lái)存儲(chǔ)清洗后的數(shù)據(jù),便于后期調(diào)用。

2、清洗數(shù)據(jù)

登陸 MySQL 后,執(zhí)行下列操作:

insert into qq_dis(qq) select distinct qq from qq;

將從 qq 表中查找出的不重復(fù)的 qq 字段內(nèi)容,插入到 qq_dist 表中的 qq 字段。

將數(shù)據(jù)按照特定格式導(dǎo)出

案例:將清洗后的數(shù)據(jù)的第101-200行導(dǎo)出到新的 txt 文本中。

代碼如下: 

  1. import pymysql  
  2. conn = pymysql.connect(host='localhost'user='root'password='123456'db='wxid'charset='utf8' 
  3. print("寫(xiě)入中,請(qǐng)等待……")  
  4. cur = conn.cursor()  
  5. sql = "select wxid from wd_dis limit 100,100;"  
  6. cur.execute(sql)  
  7. conn.commit()  
  8. alldata = cur.fetchall()  
  9. f = open('data101-200.txt','a')  
  10. i = 0  
  11. for data in alldata:  
  12.     i += 1  
  13.     f.write(data[0])  
  14.     f.flush()  
  15. f.close  
  16. cur.close()  
  17. conn.close()  
  18. print("寫(xiě)入完成,共寫(xiě)入{}條數(shù)據(jù)!".format(i)) 

重點(diǎn)代碼解釋?zhuān)?/strong>

1、 limit

MySQL 中 limit m,n 函數(shù)的含義是:從第 m+1 行開(kāi)始讀取 n 行。

所以,本案例中讀取第101-200行,就是 limit 100,100

2、flush()

flush()函數(shù)一定要加上,它可以將緩沖區(qū)的數(shù)據(jù)寫(xiě)入文件中。否則就會(huì)出現(xiàn)生成的 txt 文檔為空白的錯(cuò)誤。 

 

責(zé)任編輯:龐桂玉 來(lái)源: Python編程
相關(guān)推薦

2010-01-05 10:51:01

交換機(jī)端口綁定mac

2021-04-12 15:06:10

AI 數(shù)據(jù)人工智能

2018-04-03 14:17:11

區(qū)塊鏈物聯(lián)網(wǎng)交通事故

2022-08-09 12:43:10

OpenAIAI

2022-05-25 23:18:52

微軟開(kāi)發(fā)者黑科技

2022-03-22 14:09:34

汽車(chē)量子充電

2014-07-16 09:30:25

項(xiàng)目需求

2017-12-13 13:23:39

數(shù)據(jù)庫(kù)MySQL優(yōu)化

2015-06-25 09:13:44

2012-06-08 09:30:51

Access

2010-01-29 09:07:07

Windows 7假死

2024-12-25 15:42:39

視頻數(shù)據(jù)實(shí)時(shí)直播

2010-01-12 09:25:17

Windows 7死機(jī)系統(tǒng)特效

2025-04-30 08:30:48

2023-10-16 16:56:37

2024-01-18 15:19:23

模型數(shù)據(jù)

2023-07-17 09:28:52

2024-02-23 18:22:32

2023-03-20 16:15:20

模型數(shù)字

2010-03-05 09:10:54

網(wǎng)頁(yè)實(shí)時(shí)索引系統(tǒng)
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)