在Python中实现广义生日悖论

Question

我的问题是关于我在实现概率函数时遇到的数值问题，而不是它背后的概率/数学。我还知道我下面的代码可能没有很好地优化（例如，如果我在comb中使用exact=False，我可以将第一个函数矢量化）。所以我对优化建议持开放态度，但这并不是我现在最关心的问题。在

我试图从数值上验证给定的公式here，即“选择n次时从[0，k）得到m个唯一值的概率”。在

为此，在python3.6.5中，我使用numpy.ramdom.choice(k, n, replace=True)来获得一个multiset，然后计算multiset中的惟一值，保存这个数字。然后重复。在

对于k和n的较小值，模拟和公式之间的一致性很好，所以我很高兴它或多或少是正确的。但是，当k和n稍大时，我从公式中得到负值。我怀疑这是因为它包含了很小的分数和非常大的阶乘的乘积，所以在这些阶段的某些阶段，精度可能会降低。在

为了解决这个问题，我实现了相同的公式，但在最终求幂之前，我尽可能地使用日志。令人恼火的是，它并没有真正起到帮助作用，从下面给出的代码输出中可以看出。在

因此，我的问题是，对于n和k的较大值，有人建议我如何继续实现这个公式？我认为这是由大数和小数的乘积引入的数字怪诞，对吗？在

我的代码：

import numpy as np
import numpy.random as npr
from scipy.special import comb, gammaln
import matplotlib.pyplot as plt

def p_unique_birthdays(m, k, n):
    """PMF for obtaining m unique elements when selecting from [0,k) n times.

    I wanted to use exact=True to see if that helped, hence why this is not
    vectorised.
    """
    total = 0
    for i in range(m):
        total += (-1)**i * comb(m, i, exact=True) * ((m-i)/k)**n
    return comb(k, m, exact=True) * total

def p_unique_birthdays_logs(m, k, n):
    """PMF for obtaining m unique elements when selecting from [0,k) n times.

    I use logs to try and deal with some of the numerical craziness that seems
    to arise.
    """
    total = 0
    for i in range(m):
        log_mCi = gammaln(m+1) - gammaln(i+1) - gammaln(m-i+1)
        log_exp_bit = n * (np.log(m-i) - np.log(k))
        total += (-1)**i * np.exp(log_mCi + log_exp_bit)
    return comb(k, m, exact=True) * total

def do_stuff(k, n, pmf):
    n_samples = 50000
    p_ms = np.zeros(n)
    for i in range(n):
        temp_p = pmf(i+1, k, n)
        p_ms[i] = temp_p
    print("Sum of probabilities:", p_ms.sum())

    samples = np.zeros(n_samples)
    for i in range(n_samples):
        samples[i] = np.unique(npr.choice(k, n, replace=True)).size

    # So that the histogram is centered on the correct integers.
    d = np.diff(np.unique(samples)).min()
    left_of_first_bin = samples.min() - float(d)/2
    right_of_last_bin = samples.max() + float(d)/2
    fig = plt.figure(figsize=(8,5))
    ax = fig.add_subplot(111)
    ax.grid()
    ax.bar(range(1, n+1), p_ms, color="C0",
            label=labels[j])
    ax.hist(samples, np.arange(left_of_first_bin, right_of_last_bin + d, d),
            alpha=0.5, color="C1", density=True, label="Samples")
    ax.legend()
    ax.set_xlabel("Unique birthdays")
    ax.set_ylabel("Normalised frequency")
    ax.set_title(f"k = {k}, n = {n}")
    #fig.savefig(f"k{k}_n{n}_{labels[j]}.png")
    plt.show()

random_seed = 1234
npr.seed(random_seed)

labels = ["PMF", "PMF (logs)"]
pmfs = [p_unique_birthdays, p_unique_birthdays_logs]
for j in range(2):
    for k, n in [(30, 20), (60, 40)]:
        do_stuff(k, n, pmfs[j])

输出的数字：

谢谢你的任何想法/建议/建议。在

Answer 1

你是对的，这是一些奇怪的数字原因。在

更改此行：

total += (-1)**i * comb(m, i, exact=True) * ((m-i)/k)**n

为此：

total += (-1)**i * comb(m, i, exact=True) * ((m-i)**n)/(k**n)

出于某种原因，如果你强制执行不同的操作顺序，事情就会很顺利地解决。在

您可能需要花更多的时间来弄清楚如何修改您的“日志”版本，但是考虑到上面的更改修复了一些问题，您可能只想完全放弃“日志”版本。在

希望有帮助！在

Answer 2

您可以使用内置的decimal模块来提高精度。在

from decimal import *

getcontext().prec = 10000

def factorial(n):
    res = Decimal(1)
    for i in range(int(n)):
        res = res * Decimal(i + 1)
    return res

def binomial_coefficient(n, k):
    return factorial(n) / factorial(k) / factorial(n - k)

def p_unique_birthdays(m, k, n):
    m = Decimal(m)
    k = Decimal(k)
    n = Decimal(n)
    total = Decimal(0)
    for i in range(int(m) + 1):
        total += Decimal((-1) ** i) * binomial_coefficient(m, i) * binomial_coefficient(k, m) * ((m - i) / k) ** n
    return total

print(p_unique_birthdays(49, 365, 50))

上面的代码打印0.11484925，与http://www.wolframalpha.com/input/?i=sum+combination(49,x)combination(365,49)++(((49-x)%2F365)%5E50)+*+(-1)%5Ex,+x%3D0+to+49相同