src/db.cpp

   1 // Copyright (c) 2009-2010 Satoshi Nakamoto
   2 // Distributed under the MIT/X11 software license, see the accompanying
   3 // file license.txt or http://www.opensource.org/licenses/mit-license.php.
   4
   5 #include "headers.h"
   6 #include "db.h"
   7 #include "net.h"
   8 #include <boost/filesystem/fstream.hpp>
   9
  10 using namespace std;
  11 using namespace boost;
  12
  13 void ThreadFlushWalletDB(void* parg);
  14
  15
  16 unsigned int nWalletDBUpdated;
  17 uint64 nAccountingEntryNumber = 0;
  18
  19
  20
  21 //
  22 // CDB
  23 //
  24
  25 static CCriticalSection cs_db;
  26 static bool fDbEnvInit = false;
  27 DbEnv dbenv(0);
  28 static map<string, int> mapFileUseCount;
  29 static map<string, Db*> mapDb;
  30
  31 class CDBInit
  32 {
  33 public:
  34     CDBInit()
  35     {
  36     }
  37     ~CDBInit()
  38     {
  39         if (fDbEnvInit)
  40         {
  41             dbenv.close(0);
  42             fDbEnvInit = false;
  43         }
  44     }
  45 }
  46 instance_of_cdbinit;
  47
  48
  49 CDB::CDB(const char* pszFile, const char* pszMode) : pdb(NULL)
  50 {
  51     int ret;
  52     if (pszFile == NULL)
  53         return;
  54
  55     fReadOnly = (!strchr(pszMode, '+') && !strchr(pszMode, 'w'));
  56     bool fCreate = strchr(pszMode, 'c');
  57     unsigned int nFlags = DB_THREAD;
  58     if (fCreate)
  59         nFlags |= DB_CREATE;
  60
  61     CRITICAL_BLOCK(cs_db)
  62     {
  63         if (!fDbEnvInit)
  64         {
  65             if (fShutdown)
  66                 return;
  67             string strDataDir = GetDataDir();
  68             string strLogDir = strDataDir + "/database";
  69             filesystem::create_directory(strLogDir.c_str());
  70             string strErrorFile = strDataDir + "/db.log";
  71             printf("dbenv.open strLogDir=%s strErrorFile=%s\n", strLogDir.c_str(), strErrorFile.c_str());
  72
  73             dbenv.set_lg_dir(strLogDir.c_str());
  74             dbenv.set_lg_max(10000000);
  75             dbenv.set_lk_max_locks(10000);
  76             dbenv.set_lk_max_objects(10000);
  77             dbenv.set_errfile(fopen(strErrorFile.c_str(), "a")); /// debug
  78             dbenv.set_flags(DB_AUTO_COMMIT, 1);
  79             ret = dbenv.open(strDataDir.c_str(),
  80                              DB_CREATE     |
  81                              DB_INIT_LOCK  |
  82                              DB_INIT_LOG   |
  83                              DB_INIT_MPOOL |
  84                              DB_INIT_TXN   |
  85                              DB_THREAD     |
  86                              DB_RECOVER,
  87                              S_IRUSR | S_IWUSR);
  88             if (ret > 0)
  89                 throw runtime_error(strprintf("CDB() : error %d opening database environment", ret));
  90             fDbEnvInit = true;
  91         }
  92
  93         strFile = pszFile;
  94         ++mapFileUseCount[strFile];
  95         pdb = mapDb[strFile];
  96         if (pdb == NULL)
  97         {
  98             pdb = new Db(&dbenv, 0);
  99
 100             ret = pdb->open(NULL,      // Txn pointer
 101                             pszFile,   // Filename
 102                             "main",    // Logical db name
 103                             DB_BTREE,  // Database type
 104                             nFlags,    // Flags
 105                             0);
 106
 107             if (ret > 0)
 108             {
 109                 delete pdb;
 110                 pdb = NULL;
 111                 CRITICAL_BLOCK(cs_db)
 112                     --mapFileUseCount[strFile];
 113                 strFile = "";
 114                 throw runtime_error(strprintf("CDB() : can't open database file %s, error %d", pszFile, ret));
 115             }
 116
 117             if (fCreate && !Exists(string("version")))
 118             {
 119                 bool fTmp = fReadOnly;
 120                 fReadOnly = false;
 121                 WriteVersion(VERSION);
 122                 fReadOnly = fTmp;
 123             }
 124
 125             mapDb[strFile] = pdb;
 126         }
 127     }
 128 }
 129
 130 void CDB::Close()
 131 {
 132     if (!pdb)
 133         return;
 134     if (!vTxn.empty())
 135         vTxn.front()->abort();
 136     vTxn.clear();
 137     pdb = NULL;
 138
 139     // Flush database activity from memory pool to disk log
 140     unsigned int nMinutes = 0;
 141     if (fReadOnly)
 142         nMinutes = 1;
 143     if (strFile == "addr.dat")
 144         nMinutes = 2;
 145     if (strFile == "blkindex.dat" && IsInitialBlockDownload() && nBestHeight % 500 != 0)
 146         nMinutes = 1;
 147     dbenv.txn_checkpoint(0, nMinutes, 0);
 148
 149     CRITICAL_BLOCK(cs_db)
 150         --mapFileUseCount[strFile];
 151 }
 152
 153 void CloseDb(const string& strFile)
 154 {
 155     CRITICAL_BLOCK(cs_db)
 156     {
 157         if (mapDb[strFile] != NULL)
 158         {
 159             // Close the database handle
 160             Db* pdb = mapDb[strFile];
 161             pdb->close(0);
 162             delete pdb;
 163             mapDb[strFile] = NULL;
 164         }
 165     }
 166 }
 167
 168 void DBFlush(bool fShutdown)
 169 {
 170     // Flush log data to the actual data file
 171     //  on all files that are not in use
 172     printf("DBFlush(%s)%s\n", fShutdown ? "true" : "false", fDbEnvInit ? "" : " db not started");
 173     if (!fDbEnvInit)
 174         return;
 175     CRITICAL_BLOCK(cs_db)
 176     {
 177         map<string, int>::iterator mi = mapFileUseCount.begin();
 178         while (mi != mapFileUseCount.end())
 179         {
 180             string strFile = (*mi).first;
 181             int nRefCount = (*mi).second;
 182             printf("%s refcount=%d\n", strFile.c_str(), nRefCount);
 183             if (nRefCount == 0)
 184             {
 185                 // Move log data to the dat file
 186                 CloseDb(strFile);
 187                 dbenv.txn_checkpoint(0, 0, 0);
 188                 printf("%s flush\n", strFile.c_str());
 189                 dbenv.lsn_reset(strFile.c_str(), 0);
 190                 mapFileUseCount.erase(mi++);
 191             }
 192             else
 193                 mi++;
 194         }
 195         if (fShutdown)
 196         {
 197             char** listp;
 198             if (mapFileUseCount.empty())
 199                 dbenv.log_archive(&listp, DB_ARCH_REMOVE);
 200             dbenv.close(0);
 201             fDbEnvInit = false;
 202         }
 203     }
 204 }
 205
 206
 207
 208
 209
 210
 211 //
 212 // CTxDB
 213 //
 214
 215 bool CTxDB::ReadTxIndex(uint256 hash, CTxIndex& txindex)
 216 {
 217     assert(!fClient);
 218     txindex.SetNull();
 219     return Read(make_pair(string("tx"), hash), txindex);
 220 }
 221
 222 bool CTxDB::UpdateTxIndex(uint256 hash, const CTxIndex& txindex)
 223 {
 224     assert(!fClient);
 225     return Write(make_pair(string("tx"), hash), txindex);
 226 }
 227
 228 bool CTxDB::AddTxIndex(const CTransaction& tx, const CDiskTxPos& pos, int nHeight)
 229 {
 230     assert(!fClient);
 231
 232     // Add to tx index
 233     uint256 hash = tx.GetHash();
 234     CTxIndex txindex(pos, tx.vout.size());
 235     return Write(make_pair(string("tx"), hash), txindex);
 236 }
 237
 238 bool CTxDB::EraseTxIndex(const CTransaction& tx)
 239 {
 240     assert(!fClient);
 241     uint256 hash = tx.GetHash();
 242
 243     return Erase(make_pair(string("tx"), hash));
 244 }
 245
 246 bool CTxDB::ContainsTx(uint256 hash)
 247 {
 248     assert(!fClient);
 249     return Exists(make_pair(string("tx"), hash));
 250 }
 251
 252 bool CTxDB::ReadOwnerTxes(uint160 hash160, int nMinHeight, vector<CTransaction>& vtx)
 253 {
 254     assert(!fClient);
 255     vtx.clear();
 256
 257     // Get cursor
 258     Dbc* pcursor = GetCursor();
 259     if (!pcursor)
 260         return false;
 261
 262     unsigned int fFlags = DB_SET_RANGE;
 263     loop
 264     {
 265         // Read next record
 266         CDataStream ssKey;
 267         if (fFlags == DB_SET_RANGE)
 268             ssKey << string("owner") << hash160 << CDiskTxPos(0, 0, 0);
 269         CDataStream ssValue;
 270         int ret = ReadAtCursor(pcursor, ssKey, ssValue, fFlags);
 271         fFlags = DB_NEXT;
 272         if (ret == DB_NOTFOUND)
 273             break;
 274         else if (ret != 0)
 275         {
 276             pcursor->close();
 277             return false;
 278         }
 279
 280         // Unserialize
 281         string strType;
 282         uint160 hashItem;
 283         CDiskTxPos pos;
 284         ssKey >> strType >> hashItem >> pos;
 285         int nItemHeight;
 286         ssValue >> nItemHeight;
 287
 288         // Read transaction
 289         if (strType != "owner" || hashItem != hash160)
 290             break;
 291         if (nItemHeight >= nMinHeight)
 292         {
 293             vtx.resize(vtx.size()+1);
 294             if (!vtx.back().ReadFromDisk(pos))
 295             {
 296                 pcursor->close();
 297                 return false;
 298             }
 299         }
 300     }
 301
 302     pcursor->close();
 303     return true;
 304 }
 305
 306 bool CTxDB::ReadDiskTx(uint256 hash, CTransaction& tx, CTxIndex& txindex)
 307 {
 308     assert(!fClient);
 309     tx.SetNull();
 310     if (!ReadTxIndex(hash, txindex))
 311         return false;
 312     return (tx.ReadFromDisk(txindex.pos));
 313 }
 314
 315 bool CTxDB::ReadDiskTx(uint256 hash, CTransaction& tx)
 316 {
 317     CTxIndex txindex;
 318     return ReadDiskTx(hash, tx, txindex);
 319 }
 320
 321 bool CTxDB::ReadDiskTx(COutPoint outpoint, CTransaction& tx, CTxIndex& txindex)
 322 {
 323     return ReadDiskTx(outpoint.hash, tx, txindex);
 324 }
 325
 326 bool CTxDB::ReadDiskTx(COutPoint outpoint, CTransaction& tx)
 327 {
 328     CTxIndex txindex;
 329     return ReadDiskTx(outpoint.hash, tx, txindex);
 330 }
 331
 332 bool CTxDB::WriteBlockIndex(const CDiskBlockIndex& blockindex)
 333 {
 334     return Write(make_pair(string("blockindex"), blockindex.GetBlockHash()), blockindex);
 335 }
 336
 337 bool CTxDB::EraseBlockIndex(uint256 hash)
 338 {
 339     return Erase(make_pair(string("blockindex"), hash));
 340 }
 341
 342 bool CTxDB::ReadHashBestChain(uint256& hashBestChain)
 343 {
 344     return Read(string("hashBestChain"), hashBestChain);
 345 }
 346
 347 bool CTxDB::WriteHashBestChain(uint256 hashBestChain)
 348 {
 349     return Write(string("hashBestChain"), hashBestChain);
 350 }
 351
 352 bool CTxDB::ReadBestInvalidWork(CBigNum& bnBestInvalidWork)
 353 {
 354     return Read(string("bnBestInvalidWork"), bnBestInvalidWork);
 355 }
 356
 357 bool CTxDB::WriteBestInvalidWork(CBigNum bnBestInvalidWork)
 358 {
 359     return Write(string("bnBestInvalidWork"), bnBestInvalidWork);
 360 }
 361
 362 CBlockIndex* InsertBlockIndex(uint256 hash)
 363 {
 364     if (hash == 0)
 365         return NULL;
 366
 367     // Return existing
 368     map<uint256, CBlockIndex*>::iterator mi = mapBlockIndex.find(hash);
 369     if (mi != mapBlockIndex.end())
 370         return (*mi).second;
 371
 372     // Create new
 373     CBlockIndex* pindexNew = new CBlockIndex();
 374     if (!pindexNew)
 375         throw runtime_error("LoadBlockIndex() : new CBlockIndex failed");
 376     mi = mapBlockIndex.insert(make_pair(hash, pindexNew)).first;
 377     pindexNew->phashBlock = &((*mi).first);
 378
 379     return pindexNew;
 380 }
 381
 382 bool CTxDB::LoadBlockIndex()
 383 {
 384     // Get database cursor
 385     Dbc* pcursor = GetCursor();
 386     if (!pcursor)
 387         return false;
 388
 389     // Load mapBlockIndex
 390     unsigned int fFlags = DB_SET_RANGE;
 391     loop
 392     {
 393         // Read next record
 394         CDataStream ssKey;
 395         if (fFlags == DB_SET_RANGE)
 396             ssKey << make_pair(string("blockindex"), uint256(0));
 397         CDataStream ssValue;
 398         int ret = ReadAtCursor(pcursor, ssKey, ssValue, fFlags);
 399         fFlags = DB_NEXT;
 400         if (ret == DB_NOTFOUND)
 401             break;
 402         else if (ret != 0)
 403             return false;
 404
 405         // Unserialize
 406         string strType;
 407         ssKey >> strType;
 408         if (strType == "blockindex")
 409         {
 410             CDiskBlockIndex diskindex;
 411             ssValue >> diskindex;
 412
 413             // Construct block index object
 414             CBlockIndex* pindexNew = InsertBlockIndex(diskindex.GetBlockHash());
 415             pindexNew->pprev          = InsertBlockIndex(diskindex.hashPrev);
 416             pindexNew->pnext          = InsertBlockIndex(diskindex.hashNext);
 417             pindexNew->nFile          = diskindex.nFile;
 418             pindexNew->nBlockPos      = diskindex.nBlockPos;
 419             pindexNew->nHeight        = diskindex.nHeight;
 420             pindexNew->nVersion       = diskindex.nVersion;
 421             pindexNew->hashMerkleRoot = diskindex.hashMerkleRoot;
 422             pindexNew->nTime          = diskindex.nTime;
 423             pindexNew->nBits          = diskindex.nBits;
 424             pindexNew->nNonce         = diskindex.nNonce;
 425
 426             // Watch for genesis block
 427             if (pindexGenesisBlock == NULL && diskindex.GetBlockHash() == hashGenesisBlock)
 428                 pindexGenesisBlock = pindexNew;
 429
 430             if (!pindexNew->CheckIndex())
 431                 return error("LoadBlockIndex() : CheckIndex failed at %d", pindexNew->nHeight);
 432         }
 433         else
 434         {
 435             break;
 436         }
 437     }
 438     pcursor->close();
 439
 440     // Calculate bnChainWork
 441     vector<pair<int, CBlockIndex*> > vSortedByHeight;
 442     vSortedByHeight.reserve(mapBlockIndex.size());
 443     BOOST_FOREACH(const PAIRTYPE(uint256, CBlockIndex*)& item, mapBlockIndex)
 444     {
 445         CBlockIndex* pindex = item.second;
 446         vSortedByHeight.push_back(make_pair(pindex->nHeight, pindex));
 447     }
 448     sort(vSortedByHeight.begin(), vSortedByHeight.end());
 449     BOOST_FOREACH(const PAIRTYPE(int, CBlockIndex*)& item, vSortedByHeight)
 450     {
 451         CBlockIndex* pindex = item.second;
 452         pindex->bnChainWork = (pindex->pprev ? pindex->pprev->bnChainWork : 0) + pindex->GetBlockWork();
 453     }
 454
 455     // Load hashBestChain pointer to end of best chain
 456     if (!ReadHashBestChain(hashBestChain))
 457     {
 458         if (pindexGenesisBlock == NULL)
 459             return true;
 460         return error("CTxDB::LoadBlockIndex() : hashBestChain not loaded");
 461     }
 462     if (!mapBlockIndex.count(hashBestChain))
 463         return error("CTxDB::LoadBlockIndex() : hashBestChain not found in the block index");
 464     pindexBest = mapBlockIndex[hashBestChain];
 465     nBestHeight = pindexBest->nHeight;
 466     bnBestChainWork = pindexBest->bnChainWork;
 467     printf("LoadBlockIndex(): hashBestChain=%s  height=%d\n", hashBestChain.ToString().substr(0,20).c_str(), nBestHeight);
 468
 469     // Load bnBestInvalidWork, OK if it doesn't exist
 470     ReadBestInvalidWork(bnBestInvalidWork);
 471
 472     // Verify blocks in the best chain
 473     CBlockIndex* pindexFork = NULL;
 474     for (CBlockIndex* pindex = pindexBest; pindex && pindex->pprev; pindex = pindex->pprev)
 475     {
 476         if (pindex->nHeight < nBestHeight-2500 && !mapArgs.count("-checkblocks"))
 477             break;
 478         CBlock block;
 479         if (!block.ReadFromDisk(pindex))
 480             return error("LoadBlockIndex() : block.ReadFromDisk failed");
 481         if (!block.CheckBlock())
 482         {
 483             printf("LoadBlockIndex() : *** found bad block at %d, hash=%s\n", pindex->nHeight, pindex->GetBlockHash().ToString().c_str());
 484             pindexFork = pindex->pprev;
 485         }
 486     }
 487     if (pindexFork)
 488     {
 489         // Reorg back to the fork
 490         printf("LoadBlockIndex() : *** moving best chain pointer back to block %d\n", pindexFork->nHeight);
 491         CBlock block;
 492         if (!block.ReadFromDisk(pindexFork))
 493             return error("LoadBlockIndex() : block.ReadFromDisk failed");
 494         CTxDB txdb;
 495         block.SetBestChain(txdb, pindexFork);
 496     }
 497
 498     return true;
 499 }
 500
 501
 502
 503
 504
 505 //
 506 // CAddrDB
 507 //
 508
 509 bool CAddrDB::WriteAddress(const CAddress& addr)
 510 {
 511     return Write(make_pair(string("addr"), addr.GetKey()), addr);
 512 }
 513
 514 bool CAddrDB::EraseAddress(const CAddress& addr)
 515 {
 516     return Erase(make_pair(string("addr"), addr.GetKey()));
 517 }
 518
 519 bool CAddrDB::LoadAddresses()
 520 {
 521     CRITICAL_BLOCK(cs_mapAddresses)
 522     {
 523         // Load user provided addresses
 524         CAutoFile filein = fopen((GetDataDir() + "/addr.txt").c_str(), "rt");
 525         if (filein)
 526         {
 527             try
 528             {
 529                 char psz[1000];
 530                 while (fgets(psz, sizeof(psz), filein))
 531                 {
 532                     CAddress addr(psz, NODE_NETWORK);
 533                     addr.nTime = 0; // so it won't relay unless successfully connected
 534                     if (addr.IsValid())
 535                         AddAddress(addr);
 536                 }
 537             }
 538             catch (...) { }
 539         }
 540
 541         // Get cursor
 542         Dbc* pcursor = GetCursor();
 543         if (!pcursor)
 544             return false;
 545
 546         loop
 547         {
 548             // Read next record
 549             CDataStream ssKey;
 550             CDataStream ssValue;
 551             int ret = ReadAtCursor(pcursor, ssKey, ssValue);
 552             if (ret == DB_NOTFOUND)
 553                 break;
 554             else if (ret != 0)
 555                 return false;
 556
 557             // Unserialize
 558             string strType;
 559             ssKey >> strType;
 560             if (strType == "addr")
 561             {
 562                 CAddress addr;
 563                 ssValue >> addr;
 564                 mapAddresses.insert(make_pair(addr.GetKey(), addr));
 565             }
 566         }
 567         pcursor->close();
 568
 569         printf("Loaded %d addresses\n", mapAddresses.size());
 570     }
 571
 572     return true;
 573 }
 574
 575 bool LoadAddresses()
 576 {
 577     return CAddrDB("cr+").LoadAddresses();
 578 }
 579
 580
 581
 582
 583 //
 584 // CWalletDB
 585 //
 586
 587 static set<int64> setKeyPool;
 588 static CCriticalSection cs_setKeyPool;
 589
 590 bool CWalletDB::ReadAccount(const string& strAccount, CAccount& account)
 591 {
 592     account.SetNull();
 593     return Read(make_pair(string("acc"), strAccount), account);
 594 }
 595
 596 bool CWalletDB::WriteAccount(const string& strAccount, const CAccount& account)
 597 {
 598     return Write(make_pair(string("acc"), strAccount), account);
 599 }
 600
 601 bool CWalletDB::WriteAccountingEntry(const CAccountingEntry& acentry)
 602 {
 603     return Write(make_tuple(string("acentry"), acentry.strAccount, ++nAccountingEntryNumber), acentry);
 604 }
 605
 606 int64 CWalletDB::GetAccountCreditDebit(const string& strAccount)
 607 {
 608     list<CAccountingEntry> entries;
 609     ListAccountCreditDebit(strAccount, entries);
 610
 611     int64 nCreditDebit = 0;
 612     BOOST_FOREACH (const CAccountingEntry& entry, entries)
 613         nCreditDebit += entry.nCreditDebit;
 614
 615     return nCreditDebit;
 616 }
 617
 618 void CWalletDB::ListAccountCreditDebit(const string& strAccount, list<CAccountingEntry>& entries)
 619 {
 620     int64 nCreditDebit = 0;
 621
 622     bool fAllAccounts = (strAccount == "*");
 623
 624     Dbc* pcursor = GetCursor();
 625     if (!pcursor)
 626         throw runtime_error("CWalletDB::ListAccountCreditDebit() : cannot create DB cursor");
 627     unsigned int fFlags = DB_SET_RANGE;
 628     loop
 629     {
 630         // Read next record
 631         CDataStream ssKey;
 632         if (fFlags == DB_SET_RANGE)
 633             ssKey << make_tuple(string("acentry"), (fAllAccounts? string("") : strAccount), uint64(0));
 634         CDataStream ssValue;
 635         int ret = ReadAtCursor(pcursor, ssKey, ssValue, fFlags);
 636         fFlags = DB_NEXT;
 637         if (ret == DB_NOTFOUND)
 638             break;
 639         else if (ret != 0)
 640         {
 641             pcursor->close();
 642             throw runtime_error("CWalletDB::ListAccountCreditDebit() : error scanning DB");
 643         }
 644
 645         // Unserialize
 646         string strType;
 647         ssKey >> strType;
 648         if (strType != "acentry")
 649             break;
 650         CAccountingEntry acentry;
 651         ssKey >> acentry.strAccount;
 652         if (!fAllAccounts && acentry.strAccount != strAccount)
 653             break;
 654
 655         ssValue >> acentry;
 656         entries.push_back(acentry);
 657     }
 658
 659     pcursor->close();
 660 }
 661
 662
 663 bool CWalletDB::LoadWallet()
 664 {
 665     vchDefaultKey.clear();
 666     int nFileVersion = 0;
 667     vector<uint256> vWalletUpgrade;
 668
 669     // Modify defaults
 670 #ifndef __WXMSW__
 671     // Tray icon sometimes disappears on 9.10 karmic koala 64-bit, leaving no way to access the program
 672     fMinimizeToTray = false;
 673     fMinimizeOnClose = false;
 674 #endif
 675
 676     //// todo: shouldn't we catch exceptions and try to recover and continue?
 677     CRITICAL_BLOCK(cs_mapWallet)
 678     CRITICAL_BLOCK(cs_mapKeys)
 679     {
 680         // Get cursor
 681         Dbc* pcursor = GetCursor();
 682         if (!pcursor)
 683             return false;
 684
 685         loop
 686         {
 687             // Read next record
 688             CDataStream ssKey;
 689             CDataStream ssValue;
 690             int ret = ReadAtCursor(pcursor, ssKey, ssValue);
 691             if (ret == DB_NOTFOUND)
 692                 break;
 693             else if (ret != 0)
 694                 return false;
 695
 696             // Unserialize
 697             // Taking advantage of the fact that pair serialization
 698             // is just the two items serialized one after the other
 699             string strType;
 700             ssKey >> strType;
 701             if (strType == "name")
 702             {
 703                 string strAddress;
 704                 ssKey >> strAddress;
 705                 ssValue >> mapAddressBook[strAddress];
 706             }
 707             else if (strType == "tx")
 708             {
 709                 uint256 hash;
 710                 ssKey >> hash;
 711                 CWalletTx& wtx = mapWallet[hash];
 712                 ssValue >> wtx;
 713
 714                 if (wtx.GetHash() != hash)
 715                     printf("Error in wallet.dat, hash mismatch\n");
 716
 717                 // Undo serialize changes in 31600
 718                 if (31404 <= wtx.fTimeReceivedIsTxTime && wtx.fTimeReceivedIsTxTime <= 31703)
 719                 {
 720                     if (!ssValue.empty())
 721                     {
 722                         char fTmp;
 723                         char fUnused;
 724                         ssValue >> fTmp >> fUnused >> wtx.strFromAccount;
 725                         printf("LoadWallet() upgrading tx ver=%d %d '%s' %s\n", wtx.fTimeReceivedIsTxTime, fTmp, wtx.strFromAccount.c_str(), hash.ToString().c_str());
 726                         wtx.fTimeReceivedIsTxTime = fTmp;
 727                     }
 728                     else
 729                     {
 730                         printf("LoadWallet() repairing tx ver=%d %s\n", wtx.fTimeReceivedIsTxTime, hash.ToString().c_str());
 731                         wtx.fTimeReceivedIsTxTime = 0;
 732                     }
 733                     vWalletUpgrade.push_back(hash);
 734                 }
 735
 736                 //// debug print
 737                 //printf("LoadWallet  %s\n", wtx.GetHash().ToString().c_str());
 738                 //printf(" %12I64d  %s  %s  %s\n",
 739                 //    wtx.vout[0].nValue,
 740                 //    DateTimeStrFormat("%x %H:%M:%S", wtx.GetBlockTime()).c_str(),
 741                 //    wtx.hashBlock.ToString().substr(0,20).c_str(),
 742                 //    wtx.mapValue["message"].c_str());
 743             }
 744             else if (strType == "acentry")
 745             {
 746                 string strAccount;
 747                 ssKey >> strAccount;
 748                 uint64 nNumber;
 749                 ssKey >> nNumber;
 750                 if (nNumber > nAccountingEntryNumber)
 751                     nAccountingEntryNumber = nNumber;
 752             }
 753             else if (strType == "key" || strType == "wkey")
 754             {
 755                 vector<unsigned char> vchPubKey;
 756                 ssKey >> vchPubKey;
 757                 CWalletKey wkey;
 758                 if (strType == "key")
 759                     ssValue >> wkey.vchPrivKey;
 760                 else
 761                     ssValue >> wkey;
 762
 763                 mapKeys[vchPubKey] = wkey.vchPrivKey;
 764                 mapPubKeys[Hash160(vchPubKey)] = vchPubKey;
 765             }
 766             else if (strType == "defaultkey")
 767             {
 768                 ssValue >> vchDefaultKey;
 769             }
 770             else if (strType == "pool")
 771             {
 772                 int64 nIndex;
 773                 ssKey >> nIndex;
 774                 setKeyPool.insert(nIndex);
 775             }
 776             else if (strType == "version")
 777             {
 778                 ssValue >> nFileVersion;
 779                 if (nFileVersion == 10300)
 780                     nFileVersion = 300;
 781             }
 782             else if (strType == "setting")
 783             {
 784                 string strKey;
 785                 ssKey >> strKey;
 786
 787                 // Options
 788 #ifndef GUI
 789                 if (strKey == "fGenerateBitcoins")  ssValue >> fGenerateBitcoins;
 790 #endif
 791                 if (strKey == "nTransactionFee")    ssValue >> nTransactionFee;
 792                 if (strKey == "addrIncoming")       ssValue >> addrIncoming;
 793                 if (strKey == "fLimitProcessors")   ssValue >> fLimitProcessors;
 794                 if (strKey == "nLimitProcessors")   ssValue >> nLimitProcessors;
 795                 if (strKey == "fMinimizeToTray")    ssValue >> fMinimizeToTray;
 796                 if (strKey == "fMinimizeOnClose")   ssValue >> fMinimizeOnClose;
 797                 if (strKey == "fUseProxy")          ssValue >> fUseProxy;
 798                 if (strKey == "addrProxy")          ssValue >> addrProxy;
 799                 if (fHaveUPnP && strKey == "fUseUPnP")           ssValue >> fUseUPnP;
 800             }
 801         }
 802         pcursor->close();
 803     }
 804
 805     BOOST_FOREACH(uint256 hash, vWalletUpgrade)
 806         WriteTx(hash, mapWallet[hash]);
 807
 808     printf("nFileVersion = %d\n", nFileVersion);
 809     printf("fGenerateBitcoins = %d\n", fGenerateBitcoins);
 810     printf("nTransactionFee = %"PRI64d"\n", nTransactionFee);
 811     printf("addrIncoming = %s\n", addrIncoming.ToString().c_str());
 812     printf("fMinimizeToTray = %d\n", fMinimizeToTray);
 813     printf("fMinimizeOnClose = %d\n", fMinimizeOnClose);
 814     printf("fUseProxy = %d\n", fUseProxy);
 815     printf("addrProxy = %s\n", addrProxy.ToString().c_str());
 816     if (fHaveUPnP)
 817         printf("fUseUPnP = %d\n", fUseUPnP);
 818
 819
 820     // Upgrade
 821     if (nFileVersion < VERSION)
 822     {
 823         // Get rid of old debug.log file in current directory
 824         if (nFileVersion <= 105 && !pszSetDataDir[0])
 825             unlink("debug.log");
 826
 827         WriteVersion(VERSION);
 828     }
 829
 830
 831     return true;
 832 }
 833
 834 bool LoadWallet(bool& fFirstRunRet)
 835 {
 836     fFirstRunRet = false;
 837     if (!CWalletDB("cr+").LoadWallet())
 838         return false;
 839     fFirstRunRet = vchDefaultKey.empty();
 840
 841     if (mapKeys.count(vchDefaultKey))
 842     {
 843         // Set keyUser
 844         keyUser.SetPubKey(vchDefaultKey);
 845         keyUser.SetPrivKey(mapKeys[vchDefaultKey]);
 846     }
 847     else
 848     {
 849         // Create new keyUser and set as default key
 850         RandAddSeedPerfmon();
 851
 852         CWalletDB walletdb;
 853         vchDefaultKey = GetKeyFromKeyPool();
 854         walletdb.WriteDefaultKey(vchDefaultKey);
 855         walletdb.WriteName(PubKeyToAddress(vchDefaultKey), "");
 856     }
 857
 858     CreateThread(ThreadFlushWalletDB, NULL);
 859     return true;
 860 }
 861
 862 void ThreadFlushWalletDB(void* parg)
 863 {
 864     static bool fOneThread;
 865     if (fOneThread)
 866         return;
 867     fOneThread = true;
 868     if (mapArgs.count("-noflushwallet"))
 869         return;
 870
 871     unsigned int nLastSeen = nWalletDBUpdated;
 872     unsigned int nLastFlushed = nWalletDBUpdated;
 873     int64 nLastWalletUpdate = GetTime();
 874     while (!fShutdown)
 875     {
 876         Sleep(500);
 877
 878         if (nLastSeen != nWalletDBUpdated)
 879         {
 880             nLastSeen = nWalletDBUpdated;
 881             nLastWalletUpdate = GetTime();
 882         }
 883
 884         if (nLastFlushed != nWalletDBUpdated && GetTime() - nLastWalletUpdate >= 2)
 885         {
 886             TRY_CRITICAL_BLOCK(cs_db)
 887             {
 888                 // Don't do this if any databases are in use
 889                 int nRefCount = 0;
 890                 map<string, int>::iterator mi = mapFileUseCount.begin();
 891                 while (mi != mapFileUseCount.end())
 892                 {
 893                     nRefCount += (*mi).second;
 894                     mi++;
 895                 }
 896
 897                 if (nRefCount == 0 && !fShutdown)
 898                 {
 899                     string strFile = "wallet.dat";
 900                     map<string, int>::iterator mi = mapFileUseCount.find(strFile);
 901                     if (mi != mapFileUseCount.end())
 902                     {
 903                         printf("%s ", DateTimeStrFormat("%x %H:%M:%S", GetTime()).c_str());
 904                         printf("Flushing wallet.dat\n");
 905                         nLastFlushed = nWalletDBUpdated;
 906                         int64 nStart = GetTimeMillis();
 907
 908                         // Flush wallet.dat so it's self contained
 909                         CloseDb(strFile);
 910                         dbenv.txn_checkpoint(0, 0, 0);
 911                         dbenv.lsn_reset(strFile.c_str(), 0);
 912
 913                         mapFileUseCount.erase(mi++);
 914                         printf("Flushed wallet.dat %"PRI64d"ms\n", GetTimeMillis() - nStart);
 915                     }
 916                 }
 917             }
 918         }
 919     }
 920 }
 921
 922 void BackupWallet(const string& strDest)
 923 {
 924     while (!fShutdown)
 925     {
 926         CRITICAL_BLOCK(cs_db)
 927         {
 928             const string strFile = "wallet.dat";
 929             if (!mapFileUseCount.count(strFile) || mapFileUseCount[strFile] == 0)
 930             {
 931                 // Flush log data to the dat file
 932                 CloseDb(strFile);
 933                 dbenv.txn_checkpoint(0, 0, 0);
 934                 dbenv.lsn_reset(strFile.c_str(), 0);
 935                 mapFileUseCount.erase(strFile);
 936
 937                 // Copy wallet.dat
 938                 filesystem::path pathSrc(GetDataDir() + "/" + strFile);
 939                 filesystem::path pathDest(strDest);
 940                 if (filesystem::is_directory(pathDest))
 941                     pathDest = pathDest / strFile;
 942 #if BOOST_VERSION >= 104000
 943                 filesystem::copy_file(pathSrc, pathDest, filesystem::copy_option::overwrite_if_exists);
 944 #else
 945                 filesystem::copy_file(pathSrc, pathDest);
 946 #endif
 947                 printf("copied wallet.dat to %s\n", pathDest.string().c_str());
 948
 949                 return;
 950             }
 951         }
 952         Sleep(100);
 953     }
 954 }
 955
 956
 957 void CWalletDB::ReserveKeyFromKeyPool(int64& nIndex, CKeyPool& keypool)
 958 {
 959     nIndex = -1;
 960     keypool.vchPubKey.clear();
 961     CRITICAL_BLOCK(cs_main)
 962     CRITICAL_BLOCK(cs_mapWallet)
 963     CRITICAL_BLOCK(cs_setKeyPool)
 964     {
 965         // Top up key pool
 966         int64 nTargetSize = max(GetArg("-keypool", 100), (int64)0);
 967         while (setKeyPool.size() < nTargetSize+1)
 968         {
 969             int64 nEnd = 1;
 970             if (!setKeyPool.empty())
 971                 nEnd = *(--setKeyPool.end()) + 1;
 972             if (!Write(make_pair(string("pool"), nEnd), CKeyPool(GenerateNewKey())))
 973                 throw runtime_error("ReserveKeyFromKeyPool() : writing generated key failed");
 974             setKeyPool.insert(nEnd);
 975             printf("keypool added key %"PRI64d", size=%d\n", nEnd, setKeyPool.size());
 976         }
 977
 978         // Get the oldest key
 979         assert(!setKeyPool.empty());
 980         nIndex = *(setKeyPool.begin());
 981         setKeyPool.erase(setKeyPool.begin());
 982         if (!Read(make_pair(string("pool"), nIndex), keypool))
 983             throw runtime_error("ReserveKeyFromKeyPool() : read failed");
 984         if (!mapKeys.count(keypool.vchPubKey))
 985             throw runtime_error("ReserveKeyFromKeyPool() : unknown key in key pool");
 986         assert(!keypool.vchPubKey.empty());
 987         printf("keypool reserve %"PRI64d"\n", nIndex);
 988     }
 989 }
 990
 991 void CWalletDB::KeepKey(int64 nIndex)
 992 {
 993     // Remove from key pool
 994     CRITICAL_BLOCK(cs_main)
 995     CRITICAL_BLOCK(cs_mapWallet)
 996     {
 997         Erase(make_pair(string("pool"), nIndex));
 998     }
 999     printf("keypool keep %"PRI64d"\n", nIndex);
1000 }
1001
1002 void CWalletDB::ReturnKey(int64 nIndex)
1003 {
1004     // Return to key pool
1005     CRITICAL_BLOCK(cs_setKeyPool)
1006         setKeyPool.insert(nIndex);
1007     printf("keypool return %"PRI64d"\n", nIndex);
1008 }
1009
1010 vector<unsigned char> GetKeyFromKeyPool()
1011 {
1012     CWalletDB walletdb;
1013     int64 nIndex = 0;
1014     CKeyPool keypool;
1015     walletdb.ReserveKeyFromKeyPool(nIndex, keypool);
1016     walletdb.KeepKey(nIndex);
1017     return keypool.vchPubKey;
1018 }
1019
1020 int64 GetOldestKeyPoolTime()
1021 {
1022     CWalletDB walletdb;
1023     int64 nIndex = 0;
1024     CKeyPool keypool;
1025     walletdb.ReserveKeyFromKeyPool(nIndex, keypool);
1026     walletdb.ReturnKey(nIndex);
1027     return keypool.nTime;
1028 }