如何用python實(shí)現(xiàn)兩個(gè)文件重復(fù)數(shù)據(jù)篩選并統(tǒng)計(jì)

本文實(shí)例展示了Python統(tǒng)計(jì)列表中的重復(fù)項(xiàng)出現(xiàn)的次數(shù)的方法，是一個(gè)很實(shí)用的功能，適合Python初學(xué)者學(xué)習(xí)借鑒。具體方法如下：

專注于為中小企業(yè)提供網(wǎng)站制作、做網(wǎng)站服務(wù),電腦端+手機(jī)端+微信端的三站合一,更高效的管理,為中小企業(yè)陽明免費(fèi)做網(wǎng)站提供優(yōu)質(zhì)的服務(wù)。我們立足成都，凝聚了一批互聯(lián)網(wǎng)行業(yè)人才，有力地推動(dòng)了超過千家企業(yè)的穩(wěn)健成長，幫助中小企業(yè)通過網(wǎng)站建設(shè)實(shí)現(xiàn)規(guī)模擴(kuò)充和轉(zhuǎn)變。

對(duì)一個(gè)列表，比如[1,2,2,2,2,3,3,3,4,4,4,4]，現(xiàn)在我們需要統(tǒng)計(jì)這個(gè)列表里的重復(fù)項(xiàng)，并且重復(fù)了幾次也要統(tǒng)計(jì)出來。

方法1：

?

1234

mylist = [1,2,2,2,2,3,3,3,4,4,4,4]myset = set(mylist) #myset是另外一個(gè)列表，里面的內(nèi)容是mylist里面的無重復(fù) 項(xiàng)for item in myset: print("the %d has found %d" %(item,mylist.count(item)))

方法2:

?

123456

List=[1,2,2,2,2,3,3,3,4,4,4,4]a = {}for i in List: if List.count(i)1: a[i] = List.count(i)print (a)

利用字典的特性來實(shí)現(xiàn)。

方法3：

?

123

from collections import Counter Counter([1,2,2,2,2,3,3,3,4,4,4,4])Counter({1: 5, 2: 3, 3: 2})

這里再增補(bǔ)一個(gè)只用列表實(shí)現(xiàn)的方法：

?

12345678910

l=[1,4,2,4,2,2,5,2,6,3,3,6,3,6,6,3,3,3,7,8,9,8,7,0,7,1,2,4,7,8,9] count_times = []for i in l : count_times.append(l.count(i)) m = max(count_times)n = l.index(m) print (l[n])

其實(shí)現(xiàn)原理就是把列表中的每一個(gè)數(shù)出現(xiàn)的次數(shù)在其對(duì)應(yīng)的位置記錄下來，然后用max求出出現(xiàn)次數(shù)最多的位置。

只用這段代碼的話，有一個(gè)缺點(diǎn)，如果有多個(gè)結(jié)果，最后的現(xiàn)實(shí)的結(jié)果只是出現(xiàn)在最左邊的那一個(gè)，不過解決方法也很簡單

Python數(shù)據(jù)處理：篩選、統(tǒng)計(jì)、連表、拼接、拆分、缺失值處理

file1_path ='E:/Users/lenovo/Desktop/中視/622召回.csv' # 源數(shù)據(jù)

格式：file1=pd.read_csv(file1_path)

pd.read_csv(file1_path,encoding='gbk')

pd.read_csv(file1_path,encoding='gbk',skiprows=[2,3])

pd.read_csv(file1_path,encoding='gbk',skiprows=lambda x:x%2==1)

pd.read_csv(file1_path,encoding='gbk',keep_default_na=False)

new=pd.DataFrame()

new.new[[0,1,2]]

new.new[0:2]

查詢結(jié)果同上

new.loc[new['激活數(shù)']1000]

loc和iloc的區(qū)別：

loc：純標(biāo)簽篩選

iloc：純數(shù)字篩選

#篩選出new的某兩列

new=new.loc[:,['phone','收件人姓名']]

#篩選new的第0，1列

new.iloc[:,[0,1]]

使用‘==’篩選-篩查“崔旭”的人（只能篩查指定明確的）

#new=file1.loc[(file1['收件人姓名']=='崔旭')|(file1['收件人姓名']=='崔霞')]

#print(new)

#使用loc函數(shù)篩選-str.contains函數(shù)-篩查名字中包含'亮'和'海'的人

#new=file1.loc[file1['收件人姓名'].str.contains('亮|海')]

#print(new)

#使用loc函數(shù)篩選-str.contains函數(shù)-篩查'崔'姓的人

#new=file1.loc[file1['收件人姓名'].str.startswitch('崔')]

#print(new)

df = df[(df['DEPOSIT_PAY_TIME_x'] .notnull() ) (df['DEPOSIT_PAY_TIME_x'] != "" )]

print("during_time(number)=0的個(gè)數(shù)：",newdata[newdata['during_time(number)'] ==0].count()['during_time(number)'])

print("during_time(number)=1,2,3的個(gè)數(shù)：",newdata[(newdata['during_time(number)'] 0) (newdata['during_time(number)'] 4)].count()['during_time(number)'])

print(newdata[newdata['during_time(number)'] ==0])

newdata[newdata['Team']. isin (['England','Italy','Russia'])][['Team','Shooting Accuracy']]

df.年齡.value_counts()

1.修改指定位置數(shù)據(jù)的值（修改第0行，’創(chuàng)建訂單數(shù)‘列的值為3836）

new.loc[0,'創(chuàng)建訂單數(shù)']=3836

2.替換‘小明’-‘xiaoming’

df.replace({'name':{'小明':'xiaoming'}})

3.批量替換某一列的值（把‘性別’列里的男-male，女-felmale）

方法一：df['性別']=df['性別'].map({'男':'male','女':'female'})

方法二：df['性別'].replace('female','女',inplace=True)

? ? ? ? ? ?或df['性別']=df['性別'].replace('female','女')? ? ? ? ? ? ? ? 這就是inplace的作用

? ? ? ? ? ? +df['性別'].replace('male','男',inplace=True)

4.替換列索引

df.columns=['sex','name','height','age']

或者：df.rename(columns={'性別':'sex','姓名':'name','身高':'height','年齡':'age'})

5.刪除某一列

del df['player']

6. 刪除某一列（方法二），刪除某一行（默認(rèn)axis=0刪除行，為1則刪除列）

刪除某一列（方法二）

df.drop('性別',axis=1)

刪除某一行

df.drop(1,axis=0)

file1=pd.read_csv(file1_path)

file2=pd.read_csv(file2_path)

new1=pd.DataFrame()

new1['phone']=file1['phone']

new1['contact_time']=file1['contact_time']

new2=pd.DataFrame()

new2['phone']=file2['phone']

new2['submission_audit_time']=file2['提交審核時(shí)間']

newdata=pd.merge(new1,new2,on='phone',how='left')

df=pd.concat([df1,df2],axis=0)

4.2.2 橫向表連接

df=pd.concat([df1,df2],axis=1)

df1['地區(qū)'].str.split('·',3,expand=True)

df1:

df1[['城市', '城區(qū)','地址']] = df1['地區(qū)'].str.split('·', 3, expand = True)

5.1 缺失值刪除

data.dropna(axis=0,subset = ["Age", "Sex"]) ? # 丟棄‘Age’和‘Sex’這兩列中有缺失值的行

data.dropna(how = 'all') ? ?# 傳入這個(gè)參數(shù)后將只丟棄全為缺失值的那些行

data.dropna(axis = 1) ? ? ? # 丟棄有缺失值的列（一般不會(huì)這么做，這樣會(huì)刪掉一個(gè)特征）

data.dropna(axis=1,how="all") ? # 丟棄全為缺失值的那些列

5.2 缺失值填充：pandas.DataFrame.fillna()函數(shù)

DataFrame.fillna(value=None, method=None, axis=None, inplace=False, limit=None, downcast=None, **kwargs)

功能：使用指定方法填充NA/NaN值

其中inplace=True就是直接在原有基礎(chǔ)上填滿

5.3 缺失值查詢：

缺失值數(shù)量查詢：df.isnull().sum()

缺失值行查詢：df[df.isnull().T.any()]

newdata['during_time']=pd.to_datetime(newdata['submission_audit_time'])-pd.to_datetime(newdata['contact_time'])

newdata['during_time(number)']=(pd.to_datetime(newdata['submission_audit_time'])-pd.to_datetime(newdata['contact_time'])).apply(lambda x: x.days)

new=pd.DataFrame()

new=newdata[newdata['during_time(number)'] ==0]

new.to_csv(save_path,encoding='utf-8-sig')

將數(shù)據(jù)按行拆分并存儲(chǔ)到不同的csv文件中：

path='C:/Users/EDZ/Desktop/工作/2021.08.19/'

for i in range(0,30):

df.loc[[i]].to_csv(path+str(i)+'.csv',encoding='gbk')

df = df[['購藥日期', '星期','社保卡號(hào)','商品編碼', '商品名稱', '銷售數(shù)量', '應(yīng)收金額', '實(shí)收金額' ]]

python 中用filter求素?cái)?shù)的時(shí)候，這里的篩選函數(shù)是什么意思

首先定義一個(gè)函數(shù)判斷是否為素?cái)?shù)，如果這個(gè)數(shù)能被2~它的平方根中的任一數(shù)整除的話它就不是素?cái)?shù)，否則就是素?cái)?shù)。用flag為0或1標(biāo)記，利用filter()篩掉flag為0的非素?cái)?shù)。

#!/usr/bin/env?python

#coding:utf-8

import?math

def?filter_prime(n):????#定義filter_prime函數(shù)

flag?=?1????#設(shè)置flag,初始化為1

for?i?in?range(2,?int(math.sqrt(n)+1)):?????#取2至平方根的數(shù)

if?n%i?==?0:????#判斷是否是素?cái)?shù)

flag?=?0?????#如果不是，flag設(shè)為0

if?flag?==?1:????????#退出循環(huán)后判斷flag，若為1（素?cái)?shù)），則返回

return?n

print?filter(filter_prime,?range(1,101))????#filter?1-100里的非素?cái)?shù)