基于数据帧中数字连续出现的条件概率计算

问题描述

我有一个数据框，它有一个多索引(股票代码和日期)，其中有一列对每只股票进行计数，在每一行中，1或0在"Dummy&Quot；"列中出现了多少次。我有一个下面的示例。

df = pd.DataFrame(  {
'stock': ['AAPL', 'AAPL', 'AAPL','AAPL', 'MSFT', 'MSFT','MSFT', 'MSFT'], 
'datetime': ['2015-01-02', '2015-01-03', '2015-01-04', '2015-01-05', '2015-01-02', '2015-01-03', '2015-01-04', '2015-01-05'],
'Dummy': [0, 0, 1, 1, 1,1, 0, 1],
'Counter': [-1, -2, 1, 2, 1, 2, -1, 1]})
df['datetime'] = pd.to_datetime(df['datetime'])
df.set_index(['stock', 'datetime'], inplace =True)

我想计算一个条件概率(对于每个数字)，它回答了这个问题：

假设我在计数器列中观察到一行带有1，那么它后面跟着2的次数是多少，后面跟-1的次数是多少。

在上面的示例中，有3个1的实例。最后一个后面没有任何内容，所以应该忽略它，所以从技术上讲只有2个实例。这两个参数后面都跟有2，因此1的输出应该如下所示：

result = pd.DataFrame(  {
'cond prob': ['1', '2', '-1','-2'],
'1': [0, 2, 0,0],
'2': [0, 0, 1,0],
'-1': [1, 0, 0, 1],
'-2': [1, 0, 0, 0]})

 result.set_index(['cond prob',], inplace =True)

基本上，我想知道每个号码有多少次 后跟任何其他数字(按库存分组)。

此问题是与此帖子相关的后续问题：

Counting the number of consecutive occurences of numbers in dataframe with multi index daily data

---

解决方案

我们可以groupby和shiftCounter列，然后使用crosstab创建频率表来统计某个数字后面紧跟其他数字的次数

table = pd.crosstab(df['Counter'], df.groupby(level=0)['Counter'].shift(-1))

---

>>> table

Counter  -2.0  -1.0   1.0   2.0
Counter                        
-2          0     0     1     0
-1          1     0     1     0
 1          0     0     0     2
 2          0     1     0     0

如果您还需要计算概率，我们可以先使用values_counts计算总的可能结果，然后将有利结果除以所有可能的结果

probs = table.div(df['Counter'].value_counts(), axis=0)

---

>>> probs

Counter  -2.0  -1.0   1.0       2.0
-2        0.0   0.0   1.0  0.000000
-1        0.5   0.0   0.5  0.000000
 1        0.0   0.0   0.0  0.666667
 2        0.0   0.5   0.0  0.000000