improved binom_conf_interval
[p2pool.git] / p2pool / util / math.py
1 from __future__ import absolute_import, division
2
3 import __builtin__
4 import math
5 import random
6
7 def median(x, use_float=True):
8     # there exist better algorithms...
9     y = sorted(x)
10     if not y:
11         raise ValueError('empty sequence!')
12     left = (len(y) - 1)//2
13     right = len(y)//2
14     sum = y[left] + y[right]
15     if use_float:
16         return sum/2
17     else:
18         return sum//2
19
20 def mean(x):
21     total = 0
22     count = 0
23     for y in x:
24         total += y
25         count += 1
26     return total/count
27
28 def shuffled(x):
29     x = list(x)
30     random.shuffle(x)
31     return x
32
33 def shift_left(n, m):
34     # python: :(
35     if m >= 0:
36         return n << m
37     return n >> -m
38
39 def clip(x, (low, high)):
40     if x < low:
41         return low
42     elif x > high:
43         return high
44     else:
45         return x
46
47 def nth(i, n=0):
48     i = iter(i)
49     for _ in xrange(n):
50         i.next()
51     return i.next()
52
53 def geometric(p):
54     if p <= 0 or p > 1:
55         raise ValueError('p must be in the interval (0.0, 1.0]')
56     if p == 1:
57         return 1
58     return int(math.log1p(-random.random()) / math.log1p(-p)) + 1
59
60 def add_dicts(*dicts):
61     res = {}
62     for d in dicts:
63         for k, v in d.iteritems():
64             res[k] = res.get(k, 0) + v
65     return dict((k, v) for k, v in res.iteritems() if v)
66
67 def format(x):
68     prefixes = 'kMGTPEZY'
69     count = 0
70     while x >= 100000 and count < len(prefixes) - 2:
71         x = x//1000
72         count += 1
73     s = '' if count == 0 else prefixes[count - 1]
74     return '%i' % (x,) + s
75
76 perfect_round = lambda x: int(x + random.random())
77
78 def erf(x):
79     # save the sign of x
80     sign = 1
81     if x < 0:
82         sign = -1
83     x = abs(x)
84     
85     # constants
86     a1 =  0.254829592
87     a2 = -0.284496736
88     a3 =  1.421413741
89     a4 = -1.453152027
90     a5 =  1.061405429
91     p  =  0.3275911
92     
93     # A&S formula 7.1.26
94     t = 1.0/(1.0 + p*x)
95     y = 1.0 - (((((a5*t + a4)*t) + a3)*t + a2)*t + a1)*t*math.exp(-x*x)
96     return sign*y # erf(-x) = -erf(x)
97
98 def find_root(y_over_dy, start, steps=10, bounds=(None, None)):
99     guess = start
100     for i in xrange(steps):
101         guess = guess - y_over_dy(guess)
102         if bounds[0] is not None and guess < bounds[0]: guess = bounds[0]
103         if bounds[1] is not None and guess > bounds[1]: guess = bounds[1]
104     return guess
105
106 def ierf(z):
107     return find_root(lambda x: (erf(x) - z)/(2*math.e**(-x**2)/math.sqrt(math.pi)), 0)
108
109 try:
110     from scipy import special
111 except ImportError:
112     print 'Install SciPy for more accurate confidence intervals!'
113     def binomial_conf_interval(x, n, conf=0.95):
114         if n == 0:
115             return (1-conf)/2, 1-(1-conf)/2
116         # approximate - Wilson score interval
117         z = math.sqrt(2)*ierf(conf)
118         p = x/n
119         topa = p + z**2/2/n
120         topb = z * math.sqrt(p*(1-p)/n + z**2/4/n**2)
121         bottom = 1 + z**2/n
122         return (topa - topb)/bottom, (topa + topb)/bottom
123 else:
124     def binomial_conf_interval(x, n, conf=0.95):
125         if n == 0:
126             left = random.random()*(1 - conf)
127             return left, left + conf
128         b = special.beta(x+1, n-x+1)
129         def f(left_a):
130             left, right = max(1e-8, special.betaincinv(x+1, n-x+1, left_a)), min(1-1e-8, special.betaincinv(x+1, n-x+1, left_a + conf))
131             top = right**(x+1) * (1-right)**(n-x+1) * left*(1-left) - left**(x+1) * (1-left)**(n-x+1) * right * (1-right)
132             bottom = (x - n*right)*left*(1-left) - (x - n*left)*right*(1-right)
133             return top/bottom/b
134         left_a = find_root(f, (1-conf)/2, 12, (0, 1-conf))
135         return special.betaincinv(x+1, n-x+1, left_a), special.betaincinv(x+1, n-x+1, left_a + conf)
136
137 def binomial_conf_center_radius(x, n, conf=0.95):
138     left, right = binomial_conf_interval(x, n, conf)
139     if n == 0:
140         return (left+right)/2, (right-left)/2
141     p = x/n
142     return p, max(p - left, right - p)
143
144 def reversed(x):
145     try:
146         return __builtin__.reversed(x)
147     except TypeError:
148         return reversed(list(x))
149
150 class Object(object):
151     def __init__(self, **kwargs):
152         for k, v in kwargs.iteritems():
153             setattr(self, k, v)
154
155 def add_tuples(res, *tuples):
156     for t in tuples:
157         if len(t) != len(res):
158             raise ValueError('tuples must all be the same length')
159         res = tuple(a + b for a, b in zip(res, t))
160     return res
161
162 def flatten_linked_list(x):
163     while x is not None:
164         x, cur = x
165         yield cur
166
167 def weighted_choice(choices):
168     choices = list((item, weight) for item, weight in choices)
169     target = random.randrange(sum(weight for item, weight in choices))
170     for item, weight in choices:
171         if weight > target:
172             return item
173         target -= weight
174     raise AssertionError()
175
176 if __name__ == '__main__':
177     import random
178     a = 1
179     while True:
180         print a, format(a) + 'H/s'
181         a = a * random.randrange(2, 5)