从 pandas 数据框中删除包含空列表的行
Remove rows with empty lists from pandas data frame
我有一个数据框,其中一些列带有空列表,而另一些列带有字符串列表:
donation_orgs donation_context
0 [] []
1 [the research of Dr. ...] [In lieu of flowers , memorial donations ...]
我正在尝试 return 一个没有任何行的数据集,其中有空列表。
我试过只检查空值:
dfnotnull = df[df.donation_orgs != []]
dfnotnull
和
dfnotnull = df[df.notnull().any(axis=1)]
pd.options.display.max_rows=500
dfnotnull
而且我已经尝试遍历并检查存在的值,但我认为列表并不像我认为的那样 returning Null 或 None:
dfnotnull = pd.DataFrame(columns=('donation_orgs', 'donation_context'))
for i in range(0,len(df)):
if df['donation_orgs'].iloc(i):
dfnotnull.loc[i] = df.iloc[i]
上述所有三种方法只是 return 原始数据框中的每一行。=
您可以尝试像数据框是字符串而不是列表一样进行切片:
import pandas as pd
df = pd.DataFrame({
'donation_orgs' : [[], ['the research of Dr.']],
'donation_context': [[], ['In lieu of flowers , memorial donations']]})
df[df.astype(str)['donation_orgs'] != '[]']
Out[9]:
donation_context donation_orgs
1 [In lieu of flowers , memorial donations] [the research of Dr.]
您可以使用以下一行:
df[(df['donation_orgs'].str.len() != 0) | (df['donation_context'].str.len() != 0)]
要避免转换为 str
并实际使用 list
,您可以这样做:
df[df['donation_orgs'].map(lambda d: len(d)) > 0]
它将 donation_orgs
列映射到每行列表的 长度 并且只保留具有 至少一个元素的列表 =26=],过滤掉空列表。
它returns
Out[1]:
donation_context donation_orgs
1 [In lieu of flowers , memorial donations] [the research of Dr.]
符合预期。
假设您从 CSV 文件中读取数据,另一种可能的解决方案可能是:
import pandas as pd
df = pd.read_csv('data.csv', na_filter=True, na_values='[]')
df.dropna()
na_filter
定义附加字符串以识别为 NaN。我在 pandas-0.24.2
.
上测试了这个
我有一个数据框,其中一些列带有空列表,而另一些列带有字符串列表:
donation_orgs donation_context
0 [] []
1 [the research of Dr. ...] [In lieu of flowers , memorial donations ...]
我正在尝试 return 一个没有任何行的数据集,其中有空列表。
我试过只检查空值:
dfnotnull = df[df.donation_orgs != []]
dfnotnull
和
dfnotnull = df[df.notnull().any(axis=1)]
pd.options.display.max_rows=500
dfnotnull
而且我已经尝试遍历并检查存在的值,但我认为列表并不像我认为的那样 returning Null 或 None:
dfnotnull = pd.DataFrame(columns=('donation_orgs', 'donation_context'))
for i in range(0,len(df)):
if df['donation_orgs'].iloc(i):
dfnotnull.loc[i] = df.iloc[i]
上述所有三种方法只是 return 原始数据框中的每一行。=
您可以尝试像数据框是字符串而不是列表一样进行切片:
import pandas as pd
df = pd.DataFrame({
'donation_orgs' : [[], ['the research of Dr.']],
'donation_context': [[], ['In lieu of flowers , memorial donations']]})
df[df.astype(str)['donation_orgs'] != '[]']
Out[9]:
donation_context donation_orgs
1 [In lieu of flowers , memorial donations] [the research of Dr.]
您可以使用以下一行:
df[(df['donation_orgs'].str.len() != 0) | (df['donation_context'].str.len() != 0)]
要避免转换为 str
并实际使用 list
,您可以这样做:
df[df['donation_orgs'].map(lambda d: len(d)) > 0]
它将 donation_orgs
列映射到每行列表的 长度 并且只保留具有 至少一个元素的列表 =26=],过滤掉空列表。
它returns
Out[1]:
donation_context donation_orgs
1 [In lieu of flowers , memorial donations] [the research of Dr.]
符合预期。
假设您从 CSV 文件中读取数据,另一种可能的解决方案可能是:
import pandas as pd
df = pd.read_csv('data.csv', na_filter=True, na_values='[]')
df.dropna()
na_filter
定义附加字符串以识别为 NaN。我在 pandas-0.24.2
.