lib/network.py

   1 import threading, time, Queue, os, sys, shutil, random
   2 from util import user_dir, appdata_dir, print_error, print_msg
   3 from bitcoin import *
   4 import interface
   5 from blockchain import Blockchain
   6
   7 DEFAULT_PORTS = {'t':'50001', 's':'50002', 'h':'8081', 'g':'8082'}
   8
   9 DEFAULT_SERVERS = {
  10     'electrum.coinwallet.me': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  11     'electrum.hachre.de': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  12     'electrum.novit.ro': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  13     'electrum.stepkrav.pw': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  14     #'ecdsa.org': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  15     'electrum.no-ip.org': {'h': '80', 's': '50002', 't': '50001', 'g': '443'},
  16     'electrum.drollette.com': {'h': '5000', 's': '50002', 't': '50001', 'g': '8082'},
  17     'btc.it-zone.org': {'h': '80', 's': '110', 't': '50001', 'g': '443'},
  18     'btc.medoix.com': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  19     'spv.nybex.com': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  20     'electrum.pdmc.net': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  21     'electrum.be': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'}
  22 }
  23
  24
  25 NUM_SERVERS = 8
  26
  27
  28 def filter_protocol(servers, p):
  29     l = []
  30     for k, protocols in servers.items():
  31         if p in protocols:
  32             l.append( ':'.join([k, protocols[p], p]) )
  33     return l
  34
  35
  36 def pick_random_server(p='s'):
  37     return random.choice( filter_protocol(DEFAULT_SERVERS,p) )
  38
  39 from simple_config import SimpleConfig
  40
  41 class Network(threading.Thread):
  42
  43     def __init__(self, config = {}):
  44         threading.Thread.__init__(self)
  45         self.daemon = True
  46         self.config = SimpleConfig(config) if type(config) == type({}) else config
  47         self.lock = threading.Lock()
  48         self.blockchain = Blockchain(self.config, self)
  49         self.interfaces = {}
  50         self.queue = Queue.Queue()
  51         self.callbacks = {}
  52         self.protocol = self.config.get('protocol','s')
  53
  54         # Server for addresses and transactions
  55         self.default_server = self.config.get('server')
  56         if not self.default_server:
  57             self.default_server = pick_random_server(self.protocol)
  58
  59         self.irc_servers = [] # returned by interface (list from irc)
  60         self.disconnected_servers = []
  61         self.recent_servers = self.config.get('recent_servers',[]) # successful connections
  62
  63         self.banner = ''
  64         self.interface = None
  65         self.proxy = self.config.get('proxy')
  66         self.heights = {}
  67         self.server_lag = 0
  68
  69         dir_path = os.path.join( self.config.path, 'certs')
  70         if not os.path.exists(dir_path):
  71             os.mkdir(dir_path)
  72
  73         # default subscriptions
  74         self.subscriptions = {}
  75         self.subscriptions[self.on_banner] = [('server.banner',[])]
  76         self.subscriptions[self.on_peers] = [('server.peers.subscribe',[])]
  77
  78
  79     def is_connected(self):
  80         return self.interface and self.interface.is_connected
  81
  82
  83     def send_subscriptions(self):
  84         for cb, sub in self.subscriptions.items():
  85             self.interface.send(sub, cb)
  86
  87
  88     def subscribe(self, messages, callback):
  89         with self.lock:
  90             if self.subscriptions.get(callback) is None:
  91                 self.subscriptions[callback] = []
  92             for message in messages:
  93                 if message not in self.subscriptions[callback]:
  94                     self.subscriptions[callback].append(message)
  95
  96         if self.interface and self.interface.is_connected:
  97             self.interface.send( messages, callback )
  98
  99
 100     def register_callback(self, event, callback):
 101         with self.lock:
 102             if not self.callbacks.get(event):
 103                 self.callbacks[event] = []
 104             self.callbacks[event].append(callback)
 105
 106
 107     def trigger_callback(self, event):
 108         with self.lock:
 109             callbacks = self.callbacks.get(event,[])[:]
 110         if callbacks:
 111             [callback() for callback in callbacks]
 112
 113
 114     def random_server(self):
 115         choice_list = []
 116         l = filter_protocol(self.get_servers(), self.protocol)
 117         for s in l:
 118             if s in self.disconnected_servers or s in self.interfaces.keys():
 119                 continue
 120             else:
 121                 choice_list.append(s)
 122
 123         if not choice_list:
 124             if not self.interfaces:
 125                 # we are probably offline, retry later
 126                 self.disconnected_servers = []
 127             return
 128
 129         server = random.choice( choice_list )
 130         return server
 131
 132
 133     def get_servers(self):
 134         out = self.irc_servers if self.irc_servers else DEFAULT_SERVERS
 135         for s in self.recent_servers:
 136             host, port, protocol = s.split(':')
 137             if host not in out:
 138                 out[host] = { protocol:port }
 139         return out
 140
 141     def start_interface(self, server):
 142         if server in self.interfaces.keys():
 143             return
 144         i = interface.Interface(server, self.config)
 145         self.interfaces[server] = i
 146         i.start(self.queue)
 147
 148     def start_random_interface(self):
 149         server = self.random_server()
 150         if server:
 151             self.start_interface(server)
 152
 153     def start_interfaces(self):
 154         self.start_interface(self.default_server)
 155         self.interface = self.interfaces[self.default_server]
 156
 157         for i in range(NUM_SERVERS):
 158             self.start_random_interface()
 159
 160         if not self.interface:
 161             self.interface = self.interfaces.values()[0]
 162
 163
 164     def start(self, wait=False):
 165         self.start_interfaces()
 166         threading.Thread.start(self)
 167         if wait:
 168             self.interface.connect_event.wait()
 169             return self.interface.is_connected
 170
 171
 172     def wait_until_connected(self):
 173         while not self.interface:
 174             time.sleep(1)
 175         self.interface.connect_event.wait()
 176
 177
 178     def set_parameters(self, host, port, protocol, proxy, auto_connect):
 179
 180         self.config.set_key('auto_cycle', auto_connect, True)
 181         self.config.set_key("proxy", proxy, True)
 182         self.config.set_key("protocol", protocol, True)
 183         server = ':'.join([ host, port, protocol ])
 184         self.config.set_key("server", server, True)
 185
 186         if self.proxy != proxy or self.protocol != protocol:
 187             self.proxy = proxy
 188             self.protocol = protocol
 189             for i in self.interfaces.values(): i.stop()
 190             if auto_connect:
 191                 self.interface = None
 192                 return
 193
 194         if auto_connect:
 195             if not self.interface:
 196                 self.switch_to_random_interface()
 197             else:
 198                 if self.server_lag > 0:
 199                     self.stop_interface()
 200         else:
 201             self.set_server(server)
 202
 203
 204     def switch_to_random_interface(self):
 205         if self.interfaces:
 206             self.switch_to_interface(random.choice(self.interfaces.values()))
 207
 208     def switch_to_interface(self, interface):
 209         assert self.interface is None
 210         server = interface.server
 211         print_error("switching to", server)
 212         self.interface = interface
 213         h =  self.heights.get(server)
 214         if h:
 215             self.server_lag = self.blockchain.height() - h
 216         self.config.set_key('server', server, False)
 217         self.default_server = server
 218         self.send_subscriptions()
 219         self.trigger_callback('connected')
 220
 221
 222     def stop_interface(self):
 223         self.interface.stop()
 224         self.interface = None
 225
 226     def set_server(self, server):
 227         if self.default_server == server and self.interface:
 228             return
 229
 230         if self.protocol != server.split(':')[2]:
 231             return
 232
 233         # stop the interface in order to terminate subscriptions
 234         if self.interface:
 235             self.stop_interface()
 236
 237         # notify gui
 238         self.trigger_callback('disconnecting')
 239         # start interface
 240         self.default_server = server
 241         self.config.set_key("server", server, True)
 242
 243         if server in self.interfaces.keys():
 244             self.switch_to_interface( self.interfaces[server] )
 245         else:
 246             self.start_interface(server)
 247             self.interface = self.interfaces[server]
 248
 249
 250     def add_recent_server(self, i):
 251         # list is ordered
 252         s = i.server
 253         if s in self.recent_servers:
 254             self.recent_servers.remove(s)
 255         self.recent_servers.insert(0,s)
 256         self.recent_servers = self.recent_servers[0:20]
 257         self.config.set_key('recent_servers', self.recent_servers)
 258
 259
 260     def new_blockchain_height(self, blockchain_height, i):
 261         print_error('new_blockchain_height')
 262         if self.is_connected():
 263             h = self.heights.get(self.interface.server)
 264             if h:
 265                 self.server_lag = blockchain_height - h
 266                 if self.server_lag > 1:
 267                     print_error( "Server is lagging", blockchain_height, h)
 268                     if self.config.get('auto_cycle'):
 269                         self.set_server(i.server)
 270             else:
 271                 print_error('no height for main interface')
 272
 273         self.trigger_callback('updated')
 274
 275
 276     def run(self):
 277         self.blockchain.start()
 278
 279         with self.lock:
 280             self.running = True
 281
 282         while self.is_running():
 283             try:
 284                 i = self.queue.get(timeout = 30 if self.interfaces else 3)
 285             except Queue.Empty:
 286                 if len(self.interfaces) < NUM_SERVERS:
 287                     self.start_random_interface()
 288                 continue
 289
 290             if i.is_connected:
 291                 self.add_recent_server(i)
 292                 i.send([ ('blockchain.headers.subscribe',[])], self.on_header)
 293                 if i == self.interface:
 294                     print_error('sending subscriptions to', self.interface.server)
 295                     self.send_subscriptions()
 296                     self.trigger_callback('connected')
 297             else:
 298                 self.disconnected_servers.append(i.server)
 299                 self.interfaces.pop(i.server)
 300                 if i.server in self.heights:
 301                     self.heights.pop(i.server)
 302                 if i == self.interface:
 303                     self.interface = None
 304                     self.trigger_callback('disconnected')
 305
 306             if self.interface is None and self.config.get('auto_cycle'):
 307                 self.switch_to_random_interface()
 308
 309
 310     def on_header(self, i, r):
 311         result = r.get('result')
 312         if not result: return
 313         height = result.get('block_height')
 314         self.heights[i.server] = height
 315         # notify blockchain about the new height
 316         self.blockchain.queue.put((i,result))
 317
 318         if i == self.interface:
 319             self.server_lag = self.blockchain.height() - height
 320             if self.server_lag > 1 and self.config.get('auto_cycle'):
 321                 print_error( "Server lagging, stopping interface")
 322                 self.stop_interface()
 323
 324             self.trigger_callback('updated')
 325
 326
 327     def on_peers(self, i, r):
 328         if not r: return
 329         self.irc_servers = self.parse_servers(r.get('result'))
 330         self.trigger_callback('peers')
 331
 332     def on_banner(self, i, r):
 333         self.banner = r.get('result')
 334         self.trigger_callback('banner')
 335
 336     def stop(self):
 337         with self.lock: self.running = False
 338
 339     def is_running(self):
 340         with self.lock: return self.running
 341
 342
 343     def synchronous_get(self, requests, timeout=100000000):
 344         queue = Queue.Queue()
 345         ids = self.interface.send(requests, lambda i,r: queue.put(r))
 346         id2 = ids[:]
 347         res = {}
 348         while ids:
 349             r = queue.get(True, timeout)
 350             _id = r.get('id')
 351             if _id in ids:
 352                 ids.remove(_id)
 353                 res[_id] = r.get('result')
 354         out = []
 355         for _id in id2:
 356             out.append(res[_id])
 357         return out
 358
 359
 360     def retrieve_transaction(self, tx_hash, tx_height=0):
 361         import transaction
 362         r = self.synchronous_get([ ('blockchain.transaction.get',[tx_hash, tx_height]) ])[0]
 363         if r:
 364             return transaction.Transaction(r)
 365
 366
 367     def parse_servers(self, result):
 368         """ parse servers list into dict format"""
 369         from version import PROTOCOL_VERSION
 370         servers = {}
 371         for item in result:
 372             host = item[1]
 373             out = {}
 374             version = None
 375             pruning_level = '-'
 376             if len(item) > 2:
 377                 for v in item[2]:
 378                     if re.match("[stgh]\d*", v):
 379                         protocol, port = v[0], v[1:]
 380                         if port == '': port = DEFAULT_PORTS[protocol]
 381                         out[protocol] = port
 382                     elif re.match("v(.?)+", v):
 383                         version = v[1:]
 384                     elif re.match("p\d*", v):
 385                         pruning_level = v[1:]
 386                     if pruning_level == '': pruning_level = '0'
 387             try:
 388                 is_recent = float(version)>=float(PROTOCOL_VERSION)
 389             except:
 390                 is_recent = False
 391
 392             if out and is_recent:
 393                 out['pruning'] = pruning_level
 394                 servers[host] = out
 395
 396         return servers
 397
 398
 399
 400
 401 if __name__ == "__main__":
 402     import simple_config
 403     config = simple_config.SimpleConfig({'verbose':True, 'server':'ecdsa.org:50002:s'})
 404     network = Network(config)
 405     network.start()
 406
 407     while 1:
 408         time.sleep(1)
 409
 410
 411