CAddrMan: stochastic address manager
[novacoin.git] / src / db.cpp
1 // Copyright (c) 2009-2010 Satoshi Nakamoto
2 // Copyright (c) 2009-2012 The Bitcoin developers
3 // Distributed under the MIT/X11 software license, see the accompanying
4 // file license.txt or http://www.opensource.org/licenses/mit-license.php.
5
6 #include "headers.h"
7 #include "db.h"
8 #include "net.h"
9 #include <boost/version.hpp>
10 #include <boost/filesystem.hpp>
11 #include <boost/filesystem/fstream.hpp>
12
13 using namespace std;
14 using namespace boost;
15
16
17 unsigned int nWalletDBUpdated;
18 uint64 nAccountingEntryNumber = 0;
19
20
21
22 //
23 // CDB
24 //
25
26 static CCriticalSection cs_db;
27 static bool fDbEnvInit = false;
28 DbEnv dbenv(0);
29 static map<string, int> mapFileUseCount;
30 static map<string, Db*> mapDb;
31
32 static void EnvShutdown()
33 {
34     if (!fDbEnvInit)
35         return;
36
37     fDbEnvInit = false;
38     try
39     {
40         dbenv.close(0);
41     }
42     catch (const DbException& e)
43     {
44         printf("EnvShutdown exception: %s (%d)\n", e.what(), e.get_errno());
45     }
46     DbEnv(0).remove(GetDataDir().c_str(), 0);
47 }
48
49 class CDBInit
50 {
51 public:
52     CDBInit()
53     {
54     }
55     ~CDBInit()
56     {
57         EnvShutdown();
58     }
59 }
60 instance_of_cdbinit;
61
62
63 CDB::CDB(const char* pszFile, const char* pszMode) : pdb(NULL)
64 {
65     int ret;
66     if (pszFile == NULL)
67         return;
68
69     fReadOnly = (!strchr(pszMode, '+') && !strchr(pszMode, 'w'));
70     bool fCreate = strchr(pszMode, 'c');
71     unsigned int nFlags = DB_THREAD;
72     if (fCreate)
73         nFlags |= DB_CREATE;
74
75     CRITICAL_BLOCK(cs_db)
76     {
77         if (!fDbEnvInit)
78         {
79             if (fShutdown)
80                 return;
81             string strDataDir = GetDataDir();
82             string strLogDir = strDataDir + "/database";
83             filesystem::create_directory(strLogDir.c_str());
84             string strErrorFile = strDataDir + "/db.log";
85             printf("dbenv.open strLogDir=%s strErrorFile=%s\n", strLogDir.c_str(), strErrorFile.c_str());
86
87             dbenv.set_lg_dir(strLogDir.c_str());
88             dbenv.set_lg_max(10000000);
89             dbenv.set_lk_max_locks(10000);
90             dbenv.set_lk_max_objects(10000);
91             dbenv.set_errfile(fopen(strErrorFile.c_str(), "a")); /// debug
92             dbenv.set_flags(DB_AUTO_COMMIT, 1);
93             ret = dbenv.open(strDataDir.c_str(),
94                              DB_CREATE     |
95                              DB_INIT_LOCK  |
96                              DB_INIT_LOG   |
97                              DB_INIT_MPOOL |
98                              DB_INIT_TXN   |
99                              DB_THREAD     |
100                              DB_RECOVER,
101                              S_IRUSR | S_IWUSR);
102             if (ret > 0)
103                 throw runtime_error(strprintf("CDB() : error %d opening database environment", ret));
104             fDbEnvInit = true;
105         }
106
107         strFile = pszFile;
108         ++mapFileUseCount[strFile];
109         pdb = mapDb[strFile];
110         if (pdb == NULL)
111         {
112             pdb = new Db(&dbenv, 0);
113
114             ret = pdb->open(NULL,      // Txn pointer
115                             pszFile,   // Filename
116                             "main",    // Logical db name
117                             DB_BTREE,  // Database type
118                             nFlags,    // Flags
119                             0);
120
121             if (ret > 0)
122             {
123                 delete pdb;
124                 pdb = NULL;
125                 CRITICAL_BLOCK(cs_db)
126                     --mapFileUseCount[strFile];
127                 strFile = "";
128                 throw runtime_error(strprintf("CDB() : can't open database file %s, error %d", pszFile, ret));
129             }
130
131             if (fCreate && !Exists(string("version")))
132             {
133                 bool fTmp = fReadOnly;
134                 fReadOnly = false;
135                 WriteVersion(CLIENT_VERSION);
136                 fReadOnly = fTmp;
137             }
138
139             mapDb[strFile] = pdb;
140         }
141     }
142 }
143
144 void CDB::Close()
145 {
146     if (!pdb)
147         return;
148     if (!vTxn.empty())
149         vTxn.front()->abort();
150     vTxn.clear();
151     pdb = NULL;
152
153     // Flush database activity from memory pool to disk log
154     unsigned int nMinutes = 0;
155     if (fReadOnly)
156         nMinutes = 1;
157     if (strFile == "addr.dat")
158         nMinutes = 2;
159     if (strFile == "blkindex.dat" && IsInitialBlockDownload() && nBestHeight % 500 != 0)
160         nMinutes = 1;
161     dbenv.txn_checkpoint(0, nMinutes, 0);
162
163     CRITICAL_BLOCK(cs_db)
164         --mapFileUseCount[strFile];
165 }
166
167 void static CloseDb(const string& strFile)
168 {
169     CRITICAL_BLOCK(cs_db)
170     {
171         if (mapDb[strFile] != NULL)
172         {
173             // Close the database handle
174             Db* pdb = mapDb[strFile];
175             pdb->close(0);
176             delete pdb;
177             mapDb[strFile] = NULL;
178         }
179     }
180 }
181
182 bool CDB::Rewrite(const string& strFile, const char* pszSkip)
183 {
184     while (!fShutdown)
185     {
186         CRITICAL_BLOCK(cs_db)
187         {
188             if (!mapFileUseCount.count(strFile) || mapFileUseCount[strFile] == 0)
189             {
190                 // Flush log data to the dat file
191                 CloseDb(strFile);
192                 dbenv.txn_checkpoint(0, 0, 0);
193                 dbenv.lsn_reset(strFile.c_str(), 0);
194                 mapFileUseCount.erase(strFile);
195
196                 bool fSuccess = true;
197                 printf("Rewriting %s...\n", strFile.c_str());
198                 string strFileRes = strFile + ".rewrite";
199                 { // surround usage of db with extra {}
200                     CDB db(strFile.c_str(), "r");
201                     Db* pdbCopy = new Db(&dbenv, 0);
202     
203                     int ret = pdbCopy->open(NULL,                 // Txn pointer
204                                             strFileRes.c_str(),   // Filename
205                                             "main",    // Logical db name
206                                             DB_BTREE,  // Database type
207                                             DB_CREATE,    // Flags
208                                             0);
209                     if (ret > 0)
210                     {
211                         printf("Cannot create database file %s\n", strFileRes.c_str());
212                         fSuccess = false;
213                     }
214     
215                     Dbc* pcursor = db.GetCursor();
216                     if (pcursor)
217                         while (fSuccess)
218                         {
219                             CDataStream ssKey;
220                             CDataStream ssValue;
221                             int ret = db.ReadAtCursor(pcursor, ssKey, ssValue, DB_NEXT);
222                             if (ret == DB_NOTFOUND)
223                             {
224                                 pcursor->close();
225                                 break;
226                             }
227                             else if (ret != 0)
228                             {
229                                 pcursor->close();
230                                 fSuccess = false;
231                                 break;
232                             }
233                             if (pszSkip &&
234                                 strncmp(&ssKey[0], pszSkip, std::min(ssKey.size(), strlen(pszSkip))) == 0)
235                                 continue;
236                             if (strncmp(&ssKey[0], "\x07version", 8) == 0)
237                             {
238                                 // Update version:
239                                 ssValue.clear();
240                                 ssValue << CLIENT_VERSION;
241                             }
242                             Dbt datKey(&ssKey[0], ssKey.size());
243                             Dbt datValue(&ssValue[0], ssValue.size());
244                             int ret2 = pdbCopy->put(NULL, &datKey, &datValue, DB_NOOVERWRITE);
245                             if (ret2 > 0)
246                                 fSuccess = false;
247                         }
248                     if (fSuccess)
249                     {
250                         db.Close();
251                         CloseDb(strFile);
252                         if (pdbCopy->close(0))
253                             fSuccess = false;
254                         delete pdbCopy;
255                     }
256                 }
257                 if (fSuccess)
258                 {
259                     Db dbA(&dbenv, 0);
260                     if (dbA.remove(strFile.c_str(), NULL, 0))
261                         fSuccess = false;
262                     Db dbB(&dbenv, 0);
263                     if (dbB.rename(strFileRes.c_str(), NULL, strFile.c_str(), 0))
264                         fSuccess = false;
265                 }
266                 if (!fSuccess)
267                     printf("Rewriting of %s FAILED!\n", strFileRes.c_str());
268                 return fSuccess;
269             }
270         }
271         Sleep(100);
272     }
273     return false;
274 }
275
276
277 void DBFlush(bool fShutdown)
278 {
279     // Flush log data to the actual data file
280     //  on all files that are not in use
281     printf("DBFlush(%s)%s\n", fShutdown ? "true" : "false", fDbEnvInit ? "" : " db not started");
282     if (!fDbEnvInit)
283         return;
284     CRITICAL_BLOCK(cs_db)
285     {
286         map<string, int>::iterator mi = mapFileUseCount.begin();
287         while (mi != mapFileUseCount.end())
288         {
289             string strFile = (*mi).first;
290             int nRefCount = (*mi).second;
291             printf("%s refcount=%d\n", strFile.c_str(), nRefCount);
292             if (nRefCount == 0)
293             {
294                 // Move log data to the dat file
295                 CloseDb(strFile);
296                 dbenv.txn_checkpoint(0, 0, 0);
297                 printf("%s flush\n", strFile.c_str());
298                 dbenv.lsn_reset(strFile.c_str(), 0);
299                 mapFileUseCount.erase(mi++);
300             }
301             else
302                 mi++;
303         }
304         if (fShutdown)
305         {
306             char** listp;
307             if (mapFileUseCount.empty())
308             {
309                 dbenv.log_archive(&listp, DB_ARCH_REMOVE);
310                 EnvShutdown();
311             }
312         }
313     }
314 }
315
316
317
318
319
320
321 //
322 // CTxDB
323 //
324
325 bool CTxDB::ReadTxIndex(uint256 hash, CTxIndex& txindex)
326 {
327     assert(!fClient);
328     txindex.SetNull();
329     return Read(make_pair(string("tx"), hash), txindex);
330 }
331
332 bool CTxDB::UpdateTxIndex(uint256 hash, const CTxIndex& txindex)
333 {
334     assert(!fClient);
335     return Write(make_pair(string("tx"), hash), txindex);
336 }
337
338 bool CTxDB::AddTxIndex(const CTransaction& tx, const CDiskTxPos& pos, int nHeight)
339 {
340     assert(!fClient);
341
342     // Add to tx index
343     uint256 hash = tx.GetHash();
344     CTxIndex txindex(pos, tx.vout.size());
345     return Write(make_pair(string("tx"), hash), txindex);
346 }
347
348 bool CTxDB::EraseTxIndex(const CTransaction& tx)
349 {
350     assert(!fClient);
351     uint256 hash = tx.GetHash();
352
353     return Erase(make_pair(string("tx"), hash));
354 }
355
356 bool CTxDB::ContainsTx(uint256 hash)
357 {
358     assert(!fClient);
359     return Exists(make_pair(string("tx"), hash));
360 }
361
362 bool CTxDB::ReadOwnerTxes(uint160 hash160, int nMinHeight, vector<CTransaction>& vtx)
363 {
364     assert(!fClient);
365     vtx.clear();
366
367     // Get cursor
368     Dbc* pcursor = GetCursor();
369     if (!pcursor)
370         return false;
371
372     unsigned int fFlags = DB_SET_RANGE;
373     loop
374     {
375         // Read next record
376         CDataStream ssKey;
377         if (fFlags == DB_SET_RANGE)
378             ssKey << string("owner") << hash160 << CDiskTxPos(0, 0, 0);
379         CDataStream ssValue;
380         int ret = ReadAtCursor(pcursor, ssKey, ssValue, fFlags);
381         fFlags = DB_NEXT;
382         if (ret == DB_NOTFOUND)
383             break;
384         else if (ret != 0)
385         {
386             pcursor->close();
387             return false;
388         }
389
390         // Unserialize
391         string strType;
392         uint160 hashItem;
393         CDiskTxPos pos;
394         ssKey >> strType >> hashItem >> pos;
395         int nItemHeight;
396         ssValue >> nItemHeight;
397
398         // Read transaction
399         if (strType != "owner" || hashItem != hash160)
400             break;
401         if (nItemHeight >= nMinHeight)
402         {
403             vtx.resize(vtx.size()+1);
404             if (!vtx.back().ReadFromDisk(pos))
405             {
406                 pcursor->close();
407                 return false;
408             }
409         }
410     }
411
412     pcursor->close();
413     return true;
414 }
415
416 bool CTxDB::ReadDiskTx(uint256 hash, CTransaction& tx, CTxIndex& txindex)
417 {
418     assert(!fClient);
419     tx.SetNull();
420     if (!ReadTxIndex(hash, txindex))
421         return false;
422     return (tx.ReadFromDisk(txindex.pos));
423 }
424
425 bool CTxDB::ReadDiskTx(uint256 hash, CTransaction& tx)
426 {
427     CTxIndex txindex;
428     return ReadDiskTx(hash, tx, txindex);
429 }
430
431 bool CTxDB::ReadDiskTx(COutPoint outpoint, CTransaction& tx, CTxIndex& txindex)
432 {
433     return ReadDiskTx(outpoint.hash, tx, txindex);
434 }
435
436 bool CTxDB::ReadDiskTx(COutPoint outpoint, CTransaction& tx)
437 {
438     CTxIndex txindex;
439     return ReadDiskTx(outpoint.hash, tx, txindex);
440 }
441
442 bool CTxDB::WriteBlockIndex(const CDiskBlockIndex& blockindex)
443 {
444     return Write(make_pair(string("blockindex"), blockindex.GetBlockHash()), blockindex);
445 }
446
447 bool CTxDB::EraseBlockIndex(uint256 hash)
448 {
449     return Erase(make_pair(string("blockindex"), hash));
450 }
451
452 bool CTxDB::ReadHashBestChain(uint256& hashBestChain)
453 {
454     return Read(string("hashBestChain"), hashBestChain);
455 }
456
457 bool CTxDB::WriteHashBestChain(uint256 hashBestChain)
458 {
459     return Write(string("hashBestChain"), hashBestChain);
460 }
461
462 bool CTxDB::ReadBestInvalidWork(CBigNum& bnBestInvalidWork)
463 {
464     return Read(string("bnBestInvalidWork"), bnBestInvalidWork);
465 }
466
467 bool CTxDB::WriteBestInvalidWork(CBigNum bnBestInvalidWork)
468 {
469     return Write(string("bnBestInvalidWork"), bnBestInvalidWork);
470 }
471
472 CBlockIndex static * InsertBlockIndex(uint256 hash)
473 {
474     if (hash == 0)
475         return NULL;
476
477     // Return existing
478     map<uint256, CBlockIndex*>::iterator mi = mapBlockIndex.find(hash);
479     if (mi != mapBlockIndex.end())
480         return (*mi).second;
481
482     // Create new
483     CBlockIndex* pindexNew = new CBlockIndex();
484     if (!pindexNew)
485         throw runtime_error("LoadBlockIndex() : new CBlockIndex failed");
486     mi = mapBlockIndex.insert(make_pair(hash, pindexNew)).first;
487     pindexNew->phashBlock = &((*mi).first);
488
489     return pindexNew;
490 }
491
492 bool CTxDB::LoadBlockIndex()
493 {
494     // Get database cursor
495     Dbc* pcursor = GetCursor();
496     if (!pcursor)
497         return false;
498
499     // Load mapBlockIndex
500     unsigned int fFlags = DB_SET_RANGE;
501     loop
502     {
503         // Read next record
504         CDataStream ssKey;
505         if (fFlags == DB_SET_RANGE)
506             ssKey << make_pair(string("blockindex"), uint256(0));
507         CDataStream ssValue;
508         int ret = ReadAtCursor(pcursor, ssKey, ssValue, fFlags);
509         fFlags = DB_NEXT;
510         if (ret == DB_NOTFOUND)
511             break;
512         else if (ret != 0)
513             return false;
514
515         // Unserialize
516         string strType;
517         ssKey >> strType;
518         if (strType == "blockindex")
519         {
520             CDiskBlockIndex diskindex;
521             ssValue >> diskindex;
522
523             // Construct block index object
524             CBlockIndex* pindexNew = InsertBlockIndex(diskindex.GetBlockHash());
525             pindexNew->pprev          = InsertBlockIndex(diskindex.hashPrev);
526             pindexNew->pnext          = InsertBlockIndex(diskindex.hashNext);
527             pindexNew->nFile          = diskindex.nFile;
528             pindexNew->nBlockPos      = diskindex.nBlockPos;
529             pindexNew->nHeight        = diskindex.nHeight;
530             pindexNew->nVersion       = diskindex.nVersion;
531             pindexNew->hashMerkleRoot = diskindex.hashMerkleRoot;
532             pindexNew->nTime          = diskindex.nTime;
533             pindexNew->nBits          = diskindex.nBits;
534             pindexNew->nNonce         = diskindex.nNonce;
535
536             // Watch for genesis block
537             if (pindexGenesisBlock == NULL && diskindex.GetBlockHash() == hashGenesisBlock)
538                 pindexGenesisBlock = pindexNew;
539
540             if (!pindexNew->CheckIndex())
541                 return error("LoadBlockIndex() : CheckIndex failed at %d", pindexNew->nHeight);
542         }
543         else
544         {
545             break;
546         }
547     }
548     pcursor->close();
549
550     // Calculate bnChainWork
551     vector<pair<int, CBlockIndex*> > vSortedByHeight;
552     vSortedByHeight.reserve(mapBlockIndex.size());
553     BOOST_FOREACH(const PAIRTYPE(uint256, CBlockIndex*)& item, mapBlockIndex)
554     {
555         CBlockIndex* pindex = item.second;
556         vSortedByHeight.push_back(make_pair(pindex->nHeight, pindex));
557     }
558     sort(vSortedByHeight.begin(), vSortedByHeight.end());
559     BOOST_FOREACH(const PAIRTYPE(int, CBlockIndex*)& item, vSortedByHeight)
560     {
561         CBlockIndex* pindex = item.second;
562         pindex->bnChainWork = (pindex->pprev ? pindex->pprev->bnChainWork : 0) + pindex->GetBlockWork();
563     }
564
565     // Load hashBestChain pointer to end of best chain
566     if (!ReadHashBestChain(hashBestChain))
567     {
568         if (pindexGenesisBlock == NULL)
569             return true;
570         return error("CTxDB::LoadBlockIndex() : hashBestChain not loaded");
571     }
572     if (!mapBlockIndex.count(hashBestChain))
573         return error("CTxDB::LoadBlockIndex() : hashBestChain not found in the block index");
574     pindexBest = mapBlockIndex[hashBestChain];
575     nBestHeight = pindexBest->nHeight;
576     bnBestChainWork = pindexBest->bnChainWork;
577     printf("LoadBlockIndex(): hashBestChain=%s  height=%d\n", hashBestChain.ToString().substr(0,20).c_str(), nBestHeight);
578
579     // Load bnBestInvalidWork, OK if it doesn't exist
580     ReadBestInvalidWork(bnBestInvalidWork);
581
582     // Verify blocks in the best chain
583     CBlockIndex* pindexFork = NULL;
584     for (CBlockIndex* pindex = pindexBest; pindex && pindex->pprev; pindex = pindex->pprev)
585     {
586         if (pindex->nHeight < nBestHeight-2500 && !mapArgs.count("-checkblocks"))
587             break;
588         CBlock block;
589         if (!block.ReadFromDisk(pindex))
590             return error("LoadBlockIndex() : block.ReadFromDisk failed");
591         if (!block.CheckBlock())
592         {
593             printf("LoadBlockIndex() : *** found bad block at %d, hash=%s\n", pindex->nHeight, pindex->GetBlockHash().ToString().c_str());
594             pindexFork = pindex->pprev;
595         }
596     }
597     if (pindexFork)
598     {
599         // Reorg back to the fork
600         printf("LoadBlockIndex() : *** moving best chain pointer back to block %d\n", pindexFork->nHeight);
601         CBlock block;
602         if (!block.ReadFromDisk(pindexFork))
603             return error("LoadBlockIndex() : block.ReadFromDisk failed");
604         CTxDB txdb;
605         block.SetBestChain(txdb, pindexFork);
606     }
607
608     return true;
609 }
610
611
612
613
614
615 //
616 // CAddrDB
617 //
618
619 bool CAddrDB::WriteAddress(const CAddress& addr)
620 {
621     return Write(make_pair(string("addr"), addr.GetKey()), addr);
622 }
623
624 bool CAddrDB::WriteAddrman(const CAddrMan& addrman)
625 {
626     return Write(string("addrman"), addrman);
627 }
628
629 bool CAddrDB::EraseAddress(const CAddress& addr)
630 {
631     return Erase(make_pair(string("addr"), addr.GetKey()));
632 }
633
634 bool CAddrDB::LoadAddresses(bool &fUpdate)
635 {
636     bool fAddrMan = false;
637     if (Read(string("addrman"), addrman))
638     {
639         printf("Loaded %i addresses\n", addrman.size());
640         fAddrMan = true;
641     }
642
643     vector<CAddress> vAddr;
644
645     // Get cursor
646     Dbc* pcursor = GetCursor();
647     if (!pcursor)
648         return false;
649
650     loop
651     {
652         // Read next record
653         CDataStream ssKey;
654         CDataStream ssValue;
655         int ret = ReadAtCursor(pcursor, ssKey, ssValue);
656         if (ret == DB_NOTFOUND)
657             break;
658         else if (ret != 0)
659             return false;
660
661         // Unserialize
662         string strType;
663         ssKey >> strType;
664         if (strType == "addr")
665         {
666             if (fAddrMan)
667                 fUpdate = true;
668             else
669             {
670                 CAddress addr;
671                 ssValue >> addr;
672                 vAddr.push_back(addr);
673             }
674
675         }
676     }
677     pcursor->close();
678
679     if (!fAddrMan)
680     {
681         addrman.Add(vAddr, CNetAddr("0.0.0.0"));
682         printf("Loaded %i addresses\n", addrman.size());
683     }
684
685     return true;
686 }
687
688 bool LoadAddresses()
689 {
690     bool fUpdate = false;
691     bool fRet = CAddrDB("cr+").LoadAddresses(fUpdate);
692     if (fUpdate)
693         CDB::Rewrite("addr.dat", "\004addr");
694     return fRet;
695 }
696
697
698
699
700 //
701 // CWalletDB
702 //
703
704 bool CWalletDB::WriteName(const string& strAddress, const string& strName)
705 {
706     nWalletDBUpdated++;
707     return Write(make_pair(string("name"), strAddress), strName);
708 }
709
710 bool CWalletDB::EraseName(const string& strAddress)
711 {
712     // This should only be used for sending addresses, never for receiving addresses,
713     // receiving addresses must always have an address book entry if they're not change return.
714     nWalletDBUpdated++;
715     return Erase(make_pair(string("name"), strAddress));
716 }
717
718 bool CWalletDB::ReadAccount(const string& strAccount, CAccount& account)
719 {
720     account.SetNull();
721     return Read(make_pair(string("acc"), strAccount), account);
722 }
723
724 bool CWalletDB::WriteAccount(const string& strAccount, const CAccount& account)
725 {
726     return Write(make_pair(string("acc"), strAccount), account);
727 }
728
729 bool CWalletDB::WriteAccountingEntry(const CAccountingEntry& acentry)
730 {
731     return Write(boost::make_tuple(string("acentry"), acentry.strAccount, ++nAccountingEntryNumber), acentry);
732 }
733
734 int64 CWalletDB::GetAccountCreditDebit(const string& strAccount)
735 {
736     list<CAccountingEntry> entries;
737     ListAccountCreditDebit(strAccount, entries);
738
739     int64 nCreditDebit = 0;
740     BOOST_FOREACH (const CAccountingEntry& entry, entries)
741         nCreditDebit += entry.nCreditDebit;
742
743     return nCreditDebit;
744 }
745
746 void CWalletDB::ListAccountCreditDebit(const string& strAccount, list<CAccountingEntry>& entries)
747 {
748     bool fAllAccounts = (strAccount == "*");
749
750     Dbc* pcursor = GetCursor();
751     if (!pcursor)
752         throw runtime_error("CWalletDB::ListAccountCreditDebit() : cannot create DB cursor");
753     unsigned int fFlags = DB_SET_RANGE;
754     loop
755     {
756         // Read next record
757         CDataStream ssKey;
758         if (fFlags == DB_SET_RANGE)
759             ssKey << boost::make_tuple(string("acentry"), (fAllAccounts? string("") : strAccount), uint64(0));
760         CDataStream ssValue;
761         int ret = ReadAtCursor(pcursor, ssKey, ssValue, fFlags);
762         fFlags = DB_NEXT;
763         if (ret == DB_NOTFOUND)
764             break;
765         else if (ret != 0)
766         {
767             pcursor->close();
768             throw runtime_error("CWalletDB::ListAccountCreditDebit() : error scanning DB");
769         }
770
771         // Unserialize
772         string strType;
773         ssKey >> strType;
774         if (strType != "acentry")
775             break;
776         CAccountingEntry acentry;
777         ssKey >> acentry.strAccount;
778         if (!fAllAccounts && acentry.strAccount != strAccount)
779             break;
780
781         ssValue >> acentry;
782         entries.push_back(acentry);
783     }
784
785     pcursor->close();
786 }
787
788
789 int CWalletDB::LoadWallet(CWallet* pwallet)
790 {
791     pwallet->vchDefaultKey.clear();
792     int nFileVersion = 0;
793     vector<uint256> vWalletUpgrade;
794     bool fIsEncrypted = false;
795
796     // Modify defaults
797 #ifndef WIN32
798     // Tray icon sometimes disappears on 9.10 karmic koala 64-bit, leaving no way to access the program
799     fMinimizeToTray = false;
800     fMinimizeOnClose = false;
801 #endif
802
803     //// todo: shouldn't we catch exceptions and try to recover and continue?
804     CRITICAL_BLOCK(pwallet->cs_wallet)
805     {
806         // Get cursor
807         Dbc* pcursor = GetCursor();
808         if (!pcursor)
809             return DB_CORRUPT;
810
811         loop
812         {
813             // Read next record
814             CDataStream ssKey;
815             CDataStream ssValue;
816             int ret = ReadAtCursor(pcursor, ssKey, ssValue);
817             if (ret == DB_NOTFOUND)
818                 break;
819             else if (ret != 0)
820                 return DB_CORRUPT;
821
822             // Unserialize
823             // Taking advantage of the fact that pair serialization
824             // is just the two items serialized one after the other
825             string strType;
826             ssKey >> strType;
827             if (strType == "name")
828             {
829                 string strAddress;
830                 ssKey >> strAddress;
831                 ssValue >> pwallet->mapAddressBook[strAddress];
832             }
833             else if (strType == "tx")
834             {
835                 uint256 hash;
836                 ssKey >> hash;
837                 CWalletTx& wtx = pwallet->mapWallet[hash];
838                 ssValue >> wtx;
839                 wtx.BindWallet(pwallet);
840
841                 if (wtx.GetHash() != hash)
842                     printf("Error in wallet.dat, hash mismatch\n");
843
844                 // Undo serialize changes in 31600
845                 if (31404 <= wtx.fTimeReceivedIsTxTime && wtx.fTimeReceivedIsTxTime <= 31703)
846                 {
847                     if (!ssValue.empty())
848                     {
849                         char fTmp;
850                         char fUnused;
851                         ssValue >> fTmp >> fUnused >> wtx.strFromAccount;
852                         printf("LoadWallet() upgrading tx ver=%d %d '%s' %s\n", wtx.fTimeReceivedIsTxTime, fTmp, wtx.strFromAccount.c_str(), hash.ToString().c_str());
853                         wtx.fTimeReceivedIsTxTime = fTmp;
854                     }
855                     else
856                     {
857                         printf("LoadWallet() repairing tx ver=%d %s\n", wtx.fTimeReceivedIsTxTime, hash.ToString().c_str());
858                         wtx.fTimeReceivedIsTxTime = 0;
859                     }
860                     vWalletUpgrade.push_back(hash);
861                 }
862
863                 //// debug print
864                 //printf("LoadWallet  %s\n", wtx.GetHash().ToString().c_str());
865                 //printf(" %12I64d  %s  %s  %s\n",
866                 //    wtx.vout[0].nValue,
867                 //    DateTimeStrFormat("%x %H:%M:%S", wtx.GetBlockTime()).c_str(),
868                 //    wtx.hashBlock.ToString().substr(0,20).c_str(),
869                 //    wtx.mapValue["message"].c_str());
870             }
871             else if (strType == "acentry")
872             {
873                 string strAccount;
874                 ssKey >> strAccount;
875                 uint64 nNumber;
876                 ssKey >> nNumber;
877                 if (nNumber > nAccountingEntryNumber)
878                     nAccountingEntryNumber = nNumber;
879             }
880             else if (strType == "key" || strType == "wkey")
881             {
882                 vector<unsigned char> vchPubKey;
883                 ssKey >> vchPubKey;
884                 CKey key;
885                 if (strType == "key")
886                 {
887                     CPrivKey pkey;
888                     ssValue >> pkey;
889                     key.SetPubKey(vchPubKey);
890                     key.SetPrivKey(pkey);
891                     if (key.GetPubKey() != vchPubKey || !key.IsValid())
892                         return DB_CORRUPT;
893                 }
894                 else
895                 {
896                     CWalletKey wkey;
897                     ssValue >> wkey;
898                     key.SetPubKey(vchPubKey);
899                     key.SetPrivKey(wkey.vchPrivKey);
900                     if (key.GetPubKey() != vchPubKey || !key.IsValid())
901                         return DB_CORRUPT;
902                 }
903                 if (!pwallet->LoadKey(key))
904                     return DB_CORRUPT;
905             }
906             else if (strType == "mkey")
907             {
908                 unsigned int nID;
909                 ssKey >> nID;
910                 CMasterKey kMasterKey;
911                 ssValue >> kMasterKey;
912                 if(pwallet->mapMasterKeys.count(nID) != 0)
913                     return DB_CORRUPT;
914                 pwallet->mapMasterKeys[nID] = kMasterKey;
915                 if (pwallet->nMasterKeyMaxID < nID)
916                     pwallet->nMasterKeyMaxID = nID;
917             }
918             else if (strType == "ckey")
919             {
920                 vector<unsigned char> vchPubKey;
921                 ssKey >> vchPubKey;
922                 vector<unsigned char> vchPrivKey;
923                 ssValue >> vchPrivKey;
924                 if (!pwallet->LoadCryptedKey(vchPubKey, vchPrivKey))
925                     return DB_CORRUPT;
926                 fIsEncrypted = true;
927             }
928             else if (strType == "defaultkey")
929             {
930                 ssValue >> pwallet->vchDefaultKey;
931             }
932             else if (strType == "pool")
933             {
934                 int64 nIndex;
935                 ssKey >> nIndex;
936                 pwallet->setKeyPool.insert(nIndex);
937             }
938             else if (strType == "version")
939             {
940                 ssValue >> nFileVersion;
941                 if (nFileVersion == 10300)
942                     nFileVersion = 300;
943             }
944             else if (strType == "setting")
945             {
946                 string strKey;
947                 ssKey >> strKey;
948
949                 // Options
950 #ifndef QT_GUI
951                 if (strKey == "fGenerateBitcoins")  ssValue >> fGenerateBitcoins;
952 #endif
953                 if (strKey == "nTransactionFee")    ssValue >> nTransactionFee;
954                 if (strKey == "fLimitProcessors")   ssValue >> fLimitProcessors;
955                 if (strKey == "nLimitProcessors")   ssValue >> nLimitProcessors;
956                 if (strKey == "fMinimizeToTray")    ssValue >> fMinimizeToTray;
957                 if (strKey == "fMinimizeOnClose")   ssValue >> fMinimizeOnClose;
958                 if (strKey == "fUseProxy")          ssValue >> fUseProxy;
959                 if (strKey == "addrProxy")          ssValue >> addrProxy;
960                 if (fHaveUPnP && strKey == "fUseUPnP")           ssValue >> fUseUPnP;
961             }
962             else if (strType == "minversion")
963             {
964                 int nMinVersion = 0;
965                 ssValue >> nMinVersion;
966                 if (nMinVersion > CLIENT_VERSION)
967                     return DB_TOO_NEW;
968                 pwallet->LoadMinVersion(nMinVersion);
969             }
970             else if (strType == "cscript")
971             {
972                 uint160 hash;
973                 ssKey >> hash;
974                 CScript script;
975                 ssValue >> script;
976                 if (!pwallet->LoadCScript(script))
977                     return DB_CORRUPT;
978             }
979         }
980         pcursor->close();
981     }
982
983     BOOST_FOREACH(uint256 hash, vWalletUpgrade)
984         WriteTx(hash, pwallet->mapWallet[hash]);
985
986     printf("nFileVersion = %d\n", nFileVersion);
987     printf("fGenerateBitcoins = %d\n", fGenerateBitcoins);
988     printf("nTransactionFee = %"PRI64d"\n", nTransactionFee);
989     printf("fMinimizeToTray = %d\n", fMinimizeToTray);
990     printf("fMinimizeOnClose = %d\n", fMinimizeOnClose);
991     printf("fUseProxy = %d\n", fUseProxy);
992     printf("addrProxy = %s\n", addrProxy.ToString().c_str());
993     if (fHaveUPnP)
994         printf("fUseUPnP = %d\n", fUseUPnP);
995
996
997     // Rewrite encrypted wallets of versions 0.4.0 and 0.5.0rc:
998     if (fIsEncrypted && (nFileVersion == 40000 || nFileVersion == 50000))
999         return DB_NEED_REWRITE;
1000
1001     if (nFileVersion < CLIENT_VERSION) // Update
1002     {
1003         // Get rid of old debug.log file in current directory
1004         if (nFileVersion <= 105 && !pszSetDataDir[0])
1005             unlink("debug.log");
1006
1007         WriteVersion(CLIENT_VERSION);
1008     }
1009
1010     return DB_LOAD_OK;
1011 }
1012
1013 void ThreadFlushWalletDB(void* parg)
1014 {
1015     const string& strFile = ((const string*)parg)[0];
1016     static bool fOneThread;
1017     if (fOneThread)
1018         return;
1019     fOneThread = true;
1020     if (!GetBoolArg("-flushwallet", true))
1021         return;
1022
1023     unsigned int nLastSeen = nWalletDBUpdated;
1024     unsigned int nLastFlushed = nWalletDBUpdated;
1025     int64 nLastWalletUpdate = GetTime();
1026     while (!fShutdown)
1027     {
1028         Sleep(500);
1029
1030         if (nLastSeen != nWalletDBUpdated)
1031         {
1032             nLastSeen = nWalletDBUpdated;
1033             nLastWalletUpdate = GetTime();
1034         }
1035
1036         if (nLastFlushed != nWalletDBUpdated && GetTime() - nLastWalletUpdate >= 2)
1037         {
1038             TRY_CRITICAL_BLOCK(cs_db)
1039             {
1040                 // Don't do this if any databases are in use
1041                 int nRefCount = 0;
1042                 map<string, int>::iterator mi = mapFileUseCount.begin();
1043                 while (mi != mapFileUseCount.end())
1044                 {
1045                     nRefCount += (*mi).second;
1046                     mi++;
1047                 }
1048
1049                 if (nRefCount == 0 && !fShutdown)
1050                 {
1051                     map<string, int>::iterator mi = mapFileUseCount.find(strFile);
1052                     if (mi != mapFileUseCount.end())
1053                     {
1054                         printf("%s ", DateTimeStrFormat("%x %H:%M:%S", GetTime()).c_str());
1055                         printf("Flushing wallet.dat\n");
1056                         nLastFlushed = nWalletDBUpdated;
1057                         int64 nStart = GetTimeMillis();
1058
1059                         // Flush wallet.dat so it's self contained
1060                         CloseDb(strFile);
1061                         dbenv.txn_checkpoint(0, 0, 0);
1062                         dbenv.lsn_reset(strFile.c_str(), 0);
1063
1064                         mapFileUseCount.erase(mi++);
1065                         printf("Flushed wallet.dat %"PRI64d"ms\n", GetTimeMillis() - nStart);
1066                     }
1067                 }
1068             }
1069         }
1070     }
1071 }
1072
1073 bool BackupWallet(const CWallet& wallet, const string& strDest)
1074 {
1075     if (!wallet.fFileBacked)
1076         return false;
1077     while (!fShutdown)
1078     {
1079         CRITICAL_BLOCK(cs_db)
1080         {
1081             if (!mapFileUseCount.count(wallet.strWalletFile) || mapFileUseCount[wallet.strWalletFile] == 0)
1082             {
1083                 // Flush log data to the dat file
1084                 CloseDb(wallet.strWalletFile);
1085                 dbenv.txn_checkpoint(0, 0, 0);
1086                 dbenv.lsn_reset(wallet.strWalletFile.c_str(), 0);
1087                 mapFileUseCount.erase(wallet.strWalletFile);
1088
1089                 // Copy wallet.dat
1090                 filesystem::path pathSrc(GetDataDir() + "/" + wallet.strWalletFile);
1091                 filesystem::path pathDest(strDest);
1092                 if (filesystem::is_directory(pathDest))
1093                     pathDest = pathDest / wallet.strWalletFile;
1094
1095                 try {
1096 #if BOOST_VERSION >= 104000
1097                     filesystem::copy_file(pathSrc, pathDest, filesystem::copy_option::overwrite_if_exists);
1098 #else
1099                     filesystem::copy_file(pathSrc, pathDest);
1100 #endif
1101                     printf("copied wallet.dat to %s\n", pathDest.string().c_str());
1102                     return true;
1103                 } catch(const filesystem::filesystem_error &e) {
1104                     printf("error copying wallet.dat to %s - %s\n", pathDest.string().c_str(), e.what());
1105                     return false;
1106                 }
1107             }
1108         }
1109         Sleep(100);
1110     }
1111     return false;
1112 }