我在尝试检查DataFrame是否具有超过特定日期的值时偶然发现了这种奇怪的行为,而该DataFrame也可能包含pd.NaT
值比较的行为符合预期:
import pandas as pd
pd.NaT > pd.to_datetime('2018-10-15')
# False
与系列的比较也表现出预期的效果:
s = pd.Series([pd.NaT, pd.to_datetime('2018-10-16')])
s > pd.to_datetime('2018-10-15')
#0 False
#1 True
#dtype: bool
但是,DataFrame比较是不正确的:
s.to_frame() > pd.to_datetime('2018-10-15')
# 0
#0 True
#1 True
在我看来,问题在于比较最初返回NaN,该NaN在某些情况下(在某些时候)被强制为True:
df = pd.DataFrame([[pd.NaT, pd.to_datetime('2018-10-16')],
[pd.to_datetime('2018-10-16'), pd.NaT]])
df >= pd.to_datetime('2018-10-15')
# 0 1
#0 True True
#1 True True
df.ge(pd.to_datetime('2018-10-15'))
# 0 1
#0 NaN 1.0
#1 1.0 NaN
因此,我们真的可以不使用>吗? < > =< =运算符在比较DataFrame时是否需要依赖.lt .gt .le .ge,后跟.fillna(0)?
df.ge(pd.to_datetime('2018-10-15')).fillna(0)
# 0 1
#0 0.0 1.0
#1 1.0 0.0
解决方法:
In [1]: import pandas as pd; pd.__version__
Out[1]: '0.24.0.dev0+1504.g9642fea9c'
In [2]: s = pd.Series([pd.NaT, pd.to_datetime('2018-10-16')])
In [3]: s > pd.to_datetime('2018-10-15')
Out[3]:
0 False
1 True
dtype: bool
In [4]: s.to_frame() > pd.to_datetime('2018-10-15')
Out[4]:
0
0 False
1 True
In [5]: df = pd.DataFrame([[pd.NaT, pd.to_datetime('2018-10-16')],
...: [pd.to_datetime('2018-10-16'), pd.NaT]])
...:
In [6]: df >= pd.to_datetime('2018-10-15')
Out[6]:
0 1
0 False True
1 True False
In [7]: df.ge(pd.to_datetime('2018-10-15'))
Out[7]:
0 1
0 False True
1 True False
有关相应的GitHub问题,请参阅:https://github.com/pandas-dev/pandas/issues/22242