lib/network.py

   1 import threading, time, Queue, os, sys, shutil, random
   2 from util import user_dir, appdata_dir, print_error, print_msg
   3 from bitcoin import *
   4 import interface
   5 from blockchain import Blockchain
   6
   7 DEFAULT_PORTS = {'t':'50001', 's':'50002', 'h':'8081', 'g':'8082'}
   8
   9 DEFAULT_SERVERS = {
  10     #'the9ull.homelinux.org': {'h': '8082', 't': '50001'},
  11     'electrum.coinwallet.me': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  12     'electrum.hachre.de': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  13     #'electrum.koh.ms': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  14     'electrum.novit.ro': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  15     'electrum.stepkrav.pw': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  16     #'ecdsa.org': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  17     #'electrum.mooo.com': {'h': '8081', 't': '50001'},
  18     #'electrum.bitcoins.sk': {'h': '8081', 's': '50002', 't': '50001', 'g': '8'},
  19     'electrum.no-ip.org': {'h': '80', 's': '50002', 't': '50001', 'g': '443'},
  20     'electrum.drollette.com': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  21     'btc.it-zone.org': {'h': '80', 's': '110', 't': '50001', 'g': '443'},
  22     #'electrum.yacoin.com': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  23     'electrum.be': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'}
  24 }
  25
  26
  27 NUM_SERVERS = 8
  28
  29
  30 def filter_protocol(servers, p):
  31     l = []
  32     for k, protocols in servers.items():
  33         if p in protocols:
  34             l.append( ':'.join([k, protocols[p], p]) )
  35     return l
  36
  37
  38 #def pick_random_server():
  39 #    return random.choice( filter_protocol(DEFAULT_SERVERS,'s') )
  40
  41
  42 class Network(threading.Thread):
  43
  44     def __init__(self, config):
  45         threading.Thread.__init__(self)
  46         self.daemon = True
  47         self.config = config
  48         self.lock = threading.Lock()
  49         self.blockchain = Blockchain(config, self)
  50         self.interfaces = {}
  51         self.queue = Queue.Queue()
  52         self.default_server = self.config.get('server')
  53         self.callbacks = {}
  54
  55         self.protocol = self.config.get('protocol','s')
  56         self.irc_servers = []                                      # returned by interface (list from irc)
  57         self.disconnected_servers = []
  58         self.recent_servers = self.config.get('recent_servers',[]) # successful connections
  59
  60         self.banner = ''
  61         self.interface = None
  62         self.proxy = self.config.get('proxy')
  63         self.heights = {}
  64         self.server_lag = 0
  65
  66         dir_path = os.path.join( self.config.path, 'certs')
  67         if not os.path.exists(dir_path):
  68             os.mkdir(dir_path)
  69
  70         # default subscriptions
  71         self.subscriptions = {}
  72         self.subscriptions[self.on_banner] = [('server.banner',[])]
  73         self.subscriptions[self.on_peers] = [('server.peers.subscribe',[])]
  74
  75
  76     def is_connected(self):
  77         return self.interface and self.interface.is_connected
  78
  79
  80     def send_subscriptions(self):
  81         for cb, sub in self.subscriptions.items():
  82             self.interface.send(sub, cb)
  83
  84
  85     def subscribe(self, messages, callback):
  86         with self.lock:
  87             if self.subscriptions.get(callback) is None:
  88                 self.subscriptions[callback] = []
  89             for message in messages:
  90                 if message not in self.subscriptions[callback]:
  91                     self.subscriptions[callback].append(message)
  92
  93         if self.interface and self.interface.is_connected:
  94             self.interface.send( messages, callback )
  95
  96
  97     def register_callback(self, event, callback):
  98         with self.lock:
  99             if not self.callbacks.get(event):
 100                 self.callbacks[event] = []
 101             self.callbacks[event].append(callback)
 102
 103
 104     def trigger_callback(self, event):
 105         with self.lock:
 106             callbacks = self.callbacks.get(event,[])[:]
 107         if callbacks:
 108             [callback() for callback in callbacks]
 109
 110
 111     def random_server(self):
 112         choice_list = []
 113         l = filter_protocol(self.get_servers(), self.protocol)
 114         for s in l:
 115             if s in self.disconnected_servers or s in self.interfaces.keys():
 116                 continue
 117             else:
 118                 choice_list.append(s)
 119
 120         if not choice_list:
 121             if not self.interfaces:
 122                 # we are probably offline, retry later
 123                 self.disconnected_servers = []
 124             return
 125
 126         server = random.choice( choice_list )
 127         return server
 128
 129
 130     def get_servers(self):
 131         out = self.irc_servers if self.irc_servers else DEFAULT_SERVERS
 132         for s in self.recent_servers:
 133             host, port, protocol = s.split(':')
 134             if host not in out:
 135                 out[host] = { protocol:port }
 136         return out
 137
 138     def start_interface(self, server):
 139         if server in self.interfaces.keys():
 140             return
 141         i = interface.Interface({'server':server, 'path':self.config.path, 'proxy':self.proxy})
 142         self.interfaces[server] = i
 143         i.start(self.queue)
 144
 145     def start_random_interface(self):
 146         server = self.random_server()
 147         if server:
 148             self.start_interface(server)
 149
 150     def start_interfaces(self):
 151         if self.default_server:
 152             self.start_interface(self.default_server)
 153             self.interface = self.interfaces[self.default_server]
 154
 155         for i in range(NUM_SERVERS):
 156             self.start_random_interface()
 157
 158         if not self.interface:
 159             self.interface = self.interfaces.values()[0]
 160
 161
 162     def start(self, wait=False):
 163         self.start_interfaces()
 164         threading.Thread.start(self)
 165         if wait:
 166             self.interface.connect_event.wait()
 167             return self.interface.is_connected
 168
 169
 170     def wait_until_connected(self):
 171         while not self.interface:
 172             time.sleep(1)
 173         self.interface.connect_event.wait()
 174
 175
 176     def set_parameters(self, host, port, protocol, proxy, auto_connect):
 177
 178         self.config.set_key('auto_cycle', auto_connect, True)
 179         self.config.set_key("proxy", proxy, True)
 180         self.config.set_key("protocol", protocol, True)
 181         server = ':'.join([ host, port, protocol ])
 182         self.config.set_key("server", server, True)
 183
 184         if self.proxy != proxy or self.protocol != protocol:
 185             self.proxy = proxy
 186             self.protocol = protocol
 187             for i in self.interfaces.values(): i.stop()
 188             if auto_connect:
 189                 self.interface = None
 190                 self.default_server = None
 191                 return
 192
 193         if auto_connect:
 194             if not self.interface:
 195                 self.switch_to_random_interface()
 196             else:
 197                 if self.server_lag > 0:
 198                     self.interface.stop()
 199         else:
 200             self.set_server(server)
 201
 202
 203     def switch_to_random_interface(self):
 204         if self.interfaces:
 205             self.switch_to_interface(random.choice(self.interfaces.values()))
 206
 207     def switch_to_interface(self, interface):
 208         server = interface.server
 209         print_error("switching to", server)
 210         self.interface = interface
 211         h =  self.heights.get(server)
 212         if h:
 213             self.server_lag = self.blockchain.height - h
 214         self.config.set_key('server', server, False)
 215         self.default_server = server
 216         self.send_subscriptions()
 217         self.trigger_callback('connected')
 218
 219
 220     def set_server(self, server):
 221         if self.default_server == server and self.interface:
 222             return
 223
 224         if self.protocol != server.split(':')[2]:
 225             return
 226
 227         # stop the interface in order to terminate subscriptions
 228         if self.interface:
 229             self.interface.stop()
 230
 231         # notify gui
 232         self.trigger_callback('disconnecting')
 233         # start interface
 234         self.default_server = server
 235         self.config.set_key("server", server, True)
 236
 237         if server in self.interfaces.keys():
 238             self.switch_to_interface( self.interfaces[server] )
 239         else:
 240             self.start_interface(server)
 241             self.interface = self.interfaces[server]
 242
 243
 244     def add_recent_server(self, i):
 245         # list is ordered
 246         s = i.server
 247         if s in self.recent_servers:
 248             self.recent_servers.remove(s)
 249         self.recent_servers.insert(0,s)
 250         self.recent_servers = self.recent_servers[0:20]
 251         self.config.set_key('recent_servers', self.recent_servers)
 252
 253
 254     def new_blockchain_height(self, blockchain_height, i):
 255         if self.is_connected():
 256             h = self.heights.get(self.interface.server)
 257             if h:
 258                 self.server_lag = blockchain_height - h
 259                 if self.server_lag > 1:
 260                     print_error( "Server is lagging", blockchain_height, h)
 261                     if self.config.get('auto_cycle'):
 262                         self.set_server(i.server)
 263
 264         self.trigger_callback('updated')
 265
 266
 267     def run(self):
 268         self.blockchain.start()
 269
 270         with self.lock:
 271             self.running = True
 272
 273         while self.is_running():
 274             try:
 275                 i = self.queue.get(timeout = 30 if self.interfaces else 3)
 276             except Queue.Empty:
 277                 if len(self.interfaces) < NUM_SERVERS:
 278                     self.start_random_interface()
 279                 continue
 280
 281             if i.is_connected:
 282                 self.add_recent_server(i)
 283                 i.send([ ('blockchain.headers.subscribe',[])], self.on_header)
 284                 if i == self.interface:
 285                     print_error('sending subscriptions to', self.interface.server)
 286                     self.send_subscriptions()
 287                     self.trigger_callback('connected')
 288             else:
 289                 self.disconnected_servers.append(i.server)
 290                 self.interfaces.pop(i.server)
 291                 if i.server in self.heights:
 292                     self.heights.pop(i.server)
 293                 if i == self.interface:
 294                     self.interface = None
 295                     self.trigger_callback('disconnected')
 296
 297             if self.interface is None and self.config.get('auto_cycle'):
 298                 self.switch_to_random_interface()
 299
 300
 301     def on_header(self, i, r):
 302         result = r.get('result')
 303         if not result: return
 304         self.heights[i.server] = result.get('block_height')
 305         self.blockchain.queue.put((i,result))
 306
 307         if i == self.interface:
 308             self.server_lag = self.blockchain.height - self.heights[i.server]
 309             self.trigger_callback('updated')
 310
 311
 312     def on_peers(self, i, r):
 313         if not r: return
 314         self.irc_servers = self.parse_servers(r.get('result'))
 315         self.trigger_callback('peers')
 316
 317     def on_banner(self, i, r):
 318         self.banner = r.get('result')
 319         self.trigger_callback('banner')
 320
 321     def stop(self):
 322         with self.lock: self.running = False
 323
 324     def is_running(self):
 325         with self.lock: return self.running
 326
 327
 328     def synchronous_get(self, requests, timeout=100000000):
 329         queue = Queue.Queue()
 330         ids = self.interface.send(requests, lambda i,r: queue.put(r))
 331         id2 = ids[:]
 332         res = {}
 333         while ids:
 334             r = queue.get(True, timeout)
 335             _id = r.get('id')
 336             if _id in ids:
 337                 ids.remove(_id)
 338                 res[_id] = r.get('result')
 339         out = []
 340         for _id in id2:
 341             out.append(res[_id])
 342         return out
 343
 344
 345     def retrieve_transaction(self, tx_hash, tx_height=0):
 346         import transaction
 347         r = self.synchronous_get([ ('blockchain.transaction.get',[tx_hash, tx_height]) ])[0]
 348         if r:
 349             return transaction.Transaction(r)
 350
 351
 352     def parse_servers(self, result):
 353         """ parse servers list into dict format"""
 354         from version import PROTOCOL_VERSION
 355         servers = {}
 356         for item in result:
 357             host = item[1]
 358             out = {}
 359             version = None
 360             pruning_level = '-'
 361             if len(item) > 2:
 362                 for v in item[2]:
 363                     if re.match("[stgh]\d*", v):
 364                         protocol, port = v[0], v[1:]
 365                         if port == '': port = DEFAULT_PORTS[protocol]
 366                         out[protocol] = port
 367                     elif re.match("v(.?)+", v):
 368                         version = v[1:]
 369                     elif re.match("p\d*", v):
 370                         pruning_level = v[1:]
 371                     if pruning_level == '': pruning_level = '0'
 372             try:
 373                 is_recent = float(version)>=float(PROTOCOL_VERSION)
 374             except:
 375                 is_recent = False
 376
 377             if out and is_recent:
 378                 out['pruning'] = pruning_level
 379                 servers[host] = out
 380
 381         return servers
 382
 383
 384
 385
 386 if __name__ == "__main__":
 387     import simple_config
 388     config = simple_config.SimpleConfig({'verbose':True, 'server':'ecdsa.org:50002:s'})
 389     network = Network(config)
 390     network.start()
 391
 392     while 1:
 393         time.sleep(1)
 394
 395
 396