lib/network.py

   1 import threading, time, Queue, os, sys, shutil, random
   2 from util import user_dir, appdata_dir, print_error, print_msg
   3 from bitcoin import *
   4 import interface
   5 from blockchain import Blockchain
   6
   7 DEFAULT_PORTS = {'t':'50001', 's':'50002', 'h':'8081', 'g':'8082'}
   8
   9 DEFAULT_SERVERS = {
  10     #'the9ull.homelinux.org': {'h': '8082', 't': '50001'},
  11     'electrum.coinwallet.me': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  12     'electrum.hachre.de': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  13     #'electrum.koh.ms': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  14     'electrum.novit.ro': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  15     'electrum.stepkrav.pw': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  16     #'ecdsa.org': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  17     #'electrum.mooo.com': {'h': '8081', 't': '50001'},
  18     #'electrum.bitcoins.sk': {'h': '8081', 's': '50002', 't': '50001', 'g': '8'},
  19     'electrum.no-ip.org': {'h': '80', 's': '50002', 't': '50001', 'g': '443'},
  20     'electrum.drollette.com': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  21     'btc.it-zone.org': {'h': '80', 's': '110', 't': '50001', 'g': '443'},
  22     #'electrum.yacoin.com': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'},
  23     'electrum.be': {'h': '8081', 's': '50002', 't': '50001', 'g': '8082'}
  24 }
  25
  26
  27 NUM_SERVERS = 8
  28
  29
  30 def filter_protocol(servers, p):
  31     l = []
  32     for k, protocols in servers.items():
  33         if p in protocols:
  34             l.append( ':'.join([k, protocols[p], p]) )
  35     return l
  36
  37
  38 def pick_random_server():
  39     return random.choice( filter_protocol(DEFAULT_SERVERS,'s') )
  40
  41
  42 class Network(threading.Thread):
  43
  44     def __init__(self, config):
  45         threading.Thread.__init__(self)
  46         self.daemon = True
  47         self.config = config
  48         self.lock = threading.Lock()
  49         self.blockchain = Blockchain(config, self)
  50         self.interfaces = {}
  51         self.queue = Queue.Queue()
  52         self.default_server = self.config.get('server')
  53         self.callbacks = {}
  54
  55         self.protocol = 's'
  56         self.irc_servers = []                                      # returned by interface (list from irc)
  57         self.disconnected_servers = []
  58         self.recent_servers = self.config.get('recent_servers',[]) # successful connections
  59
  60         self.banner = ''
  61         self.interface = None
  62         self.proxy = self.config.get('proxy')
  63         self.heights = {}
  64
  65         dir_path = os.path.join( self.config.path, 'certs')
  66         if not os.path.exists(dir_path):
  67             os.mkdir(dir_path)
  68
  69         # default subscriptions
  70         self.subscriptions = {}
  71         self.subscriptions[self.on_banner] = [('server.banner',[])]
  72         self.subscriptions[self.on_peers] = [('server.peers.subscribe',[])]
  73
  74
  75     def is_connected(self):
  76         return self.interface and self.interface.is_connected
  77
  78
  79     def send_subscriptions(self):
  80         for cb, sub in self.subscriptions.items():
  81             self.interface.send(sub, cb)
  82
  83
  84     def subscribe(self, messages, callback):
  85         with self.lock:
  86             if self.subscriptions.get(callback) is None:
  87                 self.subscriptions[callback] = []
  88             for message in messages:
  89                 if message not in self.subscriptions[callback]:
  90                     self.subscriptions[callback].append(message)
  91
  92         if self.interface and self.interface.is_connected:
  93             self.interface.send( messages, callback )
  94
  95
  96     def register_callback(self, event, callback):
  97         with self.lock:
  98             if not self.callbacks.get(event):
  99                 self.callbacks[event] = []
 100             self.callbacks[event].append(callback)
 101
 102
 103     def trigger_callback(self, event):
 104         with self.lock:
 105             callbacks = self.callbacks.get(event,[])[:]
 106         if callbacks:
 107             [callback() for callback in callbacks]
 108
 109
 110     def random_server(self):
 111         choice_list = []
 112         l = filter_protocol(self.get_servers(), self.protocol)
 113         for s in l:
 114             if s in self.disconnected_servers or s in self.interfaces.keys():
 115                 continue
 116             else:
 117                 choice_list.append(s)
 118
 119         if not choice_list:
 120             if not self.interfaces:
 121                 # we are probably offline, retry later
 122                 self.disconnected_servers = []
 123             return
 124
 125         server = random.choice( choice_list )
 126         return server
 127
 128
 129     def get_servers(self):
 130         out = self.irc_servers if self.irc_servers else DEFAULT_SERVERS
 131         for s in self.recent_servers:
 132             host, port, protocol = s.split(':')
 133             if host not in out:
 134                 out[host] = { protocol:port }
 135         return out
 136
 137     def start_interface(self, server):
 138         if server in self.interfaces.keys():
 139             return
 140         i = interface.Interface({'server':server, 'path':self.config.path, 'proxy':self.proxy})
 141         self.interfaces[server] = i
 142         i.start(self.queue)
 143
 144     def start_random_interface(self):
 145         server = self.random_server()
 146         if server:
 147             self.start_interface(server)
 148
 149     def start_interfaces(self):
 150         if self.default_server:
 151             self.start_interface(self.default_server)
 152             self.interface = self.interfaces[self.default_server]
 153
 154         for i in range(NUM_SERVERS):
 155             self.start_random_interface()
 156
 157         if not self.interface:
 158             self.interface = self.interfaces.values()[0]
 159
 160
 161     def start(self, wait=False):
 162         self.start_interfaces()
 163         threading.Thread.start(self)
 164         if wait:
 165             self.interface.connect_event.wait()
 166             return self.interface.is_connected
 167
 168
 169     def set_proxy(self, proxy):
 170         self.proxy = proxy
 171
 172
 173     def set_server(self, server):
 174         if self.default_server == server:
 175             return
 176
 177         # stop the interface in order to terminate subscriptions
 178         self.interface.stop()
 179         # notify gui
 180         self.trigger_callback('disconnecting')
 181         # start interface
 182         self.default_server = server
 183
 184         if server in self.interfaces.keys():
 185             self.interface = self.interfaces[server]
 186             self.send_subscriptions()
 187         else:
 188             self.start_interface(server)
 189             self.interface = self.interfaces[server]
 190
 191
 192     def add_recent_server(self, i):
 193         # list is ordered
 194         s = i.server
 195         if s in self.recent_servers:
 196             self.recent_servers.remove(s)
 197         self.recent_servers.insert(0,s)
 198         self.recent_servers = self.recent_servers[0:20]
 199         self.config.set_key('recent_servers', self.recent_servers)
 200
 201
 202
 203     def run(self):
 204         self.blockchain.start()
 205
 206         with self.lock:
 207             self.running = True
 208
 209         while self.is_running():
 210             try:
 211                 i = self.queue.get(timeout = 30)
 212             except Queue.Empty:
 213                 if len(self.interfaces) < NUM_SERVERS:
 214                     self.start_random_interface()
 215                 continue
 216
 217             if i.is_connected:
 218                 self.add_recent_server(i)
 219                 i.send([ ('blockchain.headers.subscribe',[])], self.on_header)
 220                 if i == self.interface:
 221                     print_error('sending subscriptions to', self.interface.server)
 222                     self.send_subscriptions()
 223                     self.trigger_callback('connected')
 224             else:
 225                 self.disconnected_servers.append(i.server)
 226                 self.interfaces.pop(i.server)
 227                 if i == self.interface:
 228                     self.interface = None
 229                     self.trigger_callback('disconnected')
 230
 231             if self.interface is None and self.config.get('auto_cycle') and self.interfaces:
 232                 self.interface = random.choice(self.interfaces.values())
 233                 self.config.set_key('server', self.interface.server, False)
 234                 print_error("resending subscriptions after disconnect")
 235                 self.send_subscriptions()
 236                 self.trigger_callback('connected')
 237
 238
 239     def on_header(self, i, r):
 240         result = r.get('result')
 241         if not result: return
 242         self.heights[i.server] = result.get('block_height')
 243         self.blockchain.queue.put((i,result))
 244
 245     def on_peers(self, i, r):
 246         if not r: return
 247         self.irc_servers = self.parse_servers(r.get('result'))
 248         self.trigger_callback('peers')
 249
 250     def on_banner(self, i, r):
 251         self.banner = r.get('result')
 252         self.trigger_callback('banner')
 253
 254     def stop(self):
 255         with self.lock: self.running = False
 256
 257     def is_running(self):
 258         with self.lock: return self.running
 259
 260
 261     def synchronous_get(self, requests, timeout=100000000):
 262         queue = Queue.Queue()
 263         ids = self.interface.send(requests, lambda i,r: queue.put(r))
 264         id2 = ids[:]
 265         res = {}
 266         while ids:
 267             r = queue.get(True, timeout)
 268             _id = r.get('id')
 269             if _id in ids:
 270                 ids.remove(_id)
 271                 res[_id] = r.get('result')
 272         out = []
 273         for _id in id2:
 274             out.append(res[_id])
 275         return out
 276
 277
 278     def retrieve_transaction(self, tx_hash, tx_height=0):
 279         import transaction
 280         r = self.synchronous_get([ ('blockchain.transaction.get',[tx_hash, tx_height]) ])[0]
 281         if r:
 282             return transaction.Transaction(r)
 283
 284
 285     def parse_servers(self, result):
 286         """ parse servers list into dict format"""
 287         from version import PROTOCOL_VERSION
 288         servers = {}
 289         for item in result:
 290             host = item[1]
 291             out = {}
 292             version = None
 293             pruning_level = '-'
 294             if len(item) > 2:
 295                 for v in item[2]:
 296                     if re.match("[stgh]\d*", v):
 297                         protocol, port = v[0], v[1:]
 298                         if port == '': port = DEFAULT_PORTS[protocol]
 299                         out[protocol] = port
 300                     elif re.match("v(.?)+", v):
 301                         version = v[1:]
 302                     elif re.match("p\d*", v):
 303                         pruning_level = v[1:]
 304                     if pruning_level == '': pruning_level = '0'
 305             try:
 306                 is_recent = float(version)>=float(PROTOCOL_VERSION)
 307             except:
 308                 is_recent = False
 309
 310             if out and is_recent:
 311                 out['pruning'] = pruning_level
 312                 servers[host] = out
 313
 314         return servers
 315
 316
 317
 318
 319 if __name__ == "__main__":
 320     import simple_config
 321     config = simple_config.SimpleConfig({'verbose':True, 'server':'ecdsa.org:50002:s'})
 322     network = Network(config)
 323     network.start()
 324
 325     while 1:
 326         time.sleep(1)
 327
 328
 329