Branch data Line data Source code
1 : : // Copyright (c) 2012 Pieter Wuille
2 : : // Copyright (c) 2012-2022 The Bitcoin Core developers
3 : : // Distributed under the MIT software license, see the accompanying
4 : : // file COPYING or http://www.opensource.org/licenses/mit-license.php.
5 : :
6 : : #include <bitcoin-build-config.h> // IWYU pragma: keep
7 : :
8 : : #include <addrman.h>
9 : : #include <addrman_impl.h>
10 : :
11 : : #include <hash.h>
12 : : #include <logging.h>
13 : : #include <logging/timer.h>
14 : : #include <netaddress.h>
15 : : #include <protocol.h>
16 : : #include <random.h>
17 : : #include <serialize.h>
18 : : #include <streams.h>
19 : : #include <tinyformat.h>
20 : : #include <uint256.h>
21 : : #include <util/check.h>
22 : : #include <util/time.h>
23 : :
24 : : #include <cmath>
25 : : #include <optional>
26 : :
27 : : /** Over how many buckets entries with tried addresses from a single group (/16 for IPv4) are spread */
28 : : static constexpr uint32_t ADDRMAN_TRIED_BUCKETS_PER_GROUP{8};
29 : : /** Over how many buckets entries with new addresses originating from a single group are spread */
30 : : static constexpr uint32_t ADDRMAN_NEW_BUCKETS_PER_SOURCE_GROUP{64};
31 : : /** Maximum number of times an address can occur in the new table */
32 : : static constexpr int32_t ADDRMAN_NEW_BUCKETS_PER_ADDRESS{8};
33 : : /** How old addresses can maximally be */
34 : : static constexpr auto ADDRMAN_HORIZON{30 * 24h};
35 : : /** After how many failed attempts we give up on a new node */
36 : : static constexpr int32_t ADDRMAN_RETRIES{3};
37 : : /** How many successive failures are allowed ... */
38 : : static constexpr int32_t ADDRMAN_MAX_FAILURES{10};
39 : : /** ... in at least this duration */
40 : : static constexpr auto ADDRMAN_MIN_FAIL{7 * 24h};
41 : : /** How recent a successful connection should be before we allow an address to be evicted from tried */
42 : : static constexpr auto ADDRMAN_REPLACEMENT{4h};
43 : : /** The maximum number of tried addr collisions to store */
44 : : static constexpr size_t ADDRMAN_SET_TRIED_COLLISION_SIZE{10};
45 : : /** The maximum time we'll spend trying to resolve a tried table collision */
46 : : static constexpr auto ADDRMAN_TEST_WINDOW{40min};
47 : :
48 : 13701560 : int AddrInfo::GetTriedBucket(const uint256& nKey, const NetGroupManager& netgroupman) const
49 : : {
50 [ + - + - ]: 13701560 : uint64_t hash1 = (HashWriter{} << nKey << GetKey()).GetCheapHash();
51 [ + - + - : 13701560 : uint64_t hash2 = (HashWriter{} << nKey << netgroupman.GetGroup(*this) << (hash1 % ADDRMAN_TRIED_BUCKETS_PER_GROUP)).GetCheapHash();
+ - ]
52 : 13701560 : return hash2 % ADDRMAN_TRIED_BUCKET_COUNT;
53 : : }
54 : :
55 : 13501914 : int AddrInfo::GetNewBucket(const uint256& nKey, const CNetAddr& src, const NetGroupManager& netgroupman) const
56 : : {
57 : 13501914 : std::vector<unsigned char> vchSourceGroupKey = netgroupman.GetGroup(src);
58 [ + - + - : 27003828 : uint64_t hash1 = (HashWriter{} << nKey << netgroupman.GetGroup(*this) << vchSourceGroupKey).GetCheapHash();
+ - + - +
- ]
59 [ + - + - : 13501914 : uint64_t hash2 = (HashWriter{} << nKey << vchSourceGroupKey << (hash1 % ADDRMAN_NEW_BUCKETS_PER_SOURCE_GROUP)).GetCheapHash();
+ - + - +
- ]
60 : 13501914 : return hash2 % ADDRMAN_NEW_BUCKET_COUNT;
61 : 13501914 : }
62 : :
63 : 40196272 : int AddrInfo::GetBucketPosition(const uint256& nKey, bool fNew, int bucket) const
64 : : {
65 [ + + + - : 53897832 : uint64_t hash1 = (HashWriter{} << nKey << (fNew ? uint8_t{'N'} : uint8_t{'K'}) << bucket << GetKey()).GetCheapHash();
+ - ]
66 : 40196272 : return hash1 % ADDRMAN_BUCKET_SIZE;
67 : : }
68 : :
69 : 7892522 : bool AddrInfo::IsTerrible(NodeSeconds now) const
70 : : {
71 [ + + ]: 7892522 : if (now - m_last_try <= 1min) { // never remove things tried in the last minute
72 : : return false;
73 : : }
74 : :
75 [ + + ]: 7048402 : if (nTime > now + 10min) { // came in a flying DeLorean
76 : : return true;
77 : : }
78 : :
79 [ + + ]: 3470677 : if (now - nTime > ADDRMAN_HORIZON) { // not seen in recent history
80 : : return true;
81 : : }
82 : :
83 [ + + + + ]: 163530 : if (TicksSinceEpoch<std::chrono::seconds>(m_last_success) == 0 && nAttempts >= ADDRMAN_RETRIES) { // tried N times and never a success
84 : : return true;
85 : : }
86 : :
87 [ + + + + ]: 163019 : if (now - m_last_success > ADDRMAN_MIN_FAIL && nAttempts >= ADDRMAN_MAX_FAILURES) { // N successive failures in the last week
88 : 26 : return true;
89 : : }
90 : :
91 : : return false;
92 : : }
93 : :
94 : 2384 : double AddrInfo::GetChance(NodeSeconds now) const
95 : : {
96 : 2384 : double fChance = 1.0;
97 : :
98 : : // deprioritize very recent attempts away
99 [ + + ]: 2384 : if (now - m_last_try < 10min) {
100 : 903 : fChance *= 0.01;
101 : : }
102 : :
103 : : // deprioritize 66% after each failed attempt, but at most 1/28th to avoid the search taking forever or overly penalizing outages.
104 [ + + ]: 2384 : fChance *= pow(0.66, std::min(nAttempts, 8));
105 : :
106 : 2384 : return fChance;
107 : : }
108 : :
109 : 11898 : AddrManImpl::AddrManImpl(const NetGroupManager& netgroupman, bool deterministic, int32_t consistency_check_ratio)
110 : 11898 : : insecure_rand{deterministic}
111 [ + + ]: 11898 : , nKey{deterministic ? uint256{1} : insecure_rand.rand256()}
112 : 11898 : , m_consistency_check_ratio{consistency_check_ratio}
113 : 23796 : , m_netgroupman{netgroupman}
114 : : {
115 [ + + ]: 12195450 : for (auto& bucket : vvNew) {
116 [ + + ]: 791930880 : for (auto& entry : bucket) {
117 : 779747328 : entry = -1;
118 : : }
119 : : }
120 [ + + ]: 3057786 : for (auto& bucket : vvTried) {
121 [ + + ]: 197982720 : for (auto& entry : bucket) {
122 : 194936832 : entry = -1;
123 : : }
124 : : }
125 : 11898 : }
126 : :
127 : 11898 : AddrManImpl::~AddrManImpl()
128 : : {
129 : 11898 : nKey.SetNull();
130 : 11898 : }
131 : :
132 : : template <typename Stream>
133 : 2756 : void AddrManImpl::Serialize(Stream& s_) const
134 : : {
135 [ + - ]: 2756 : LOCK(cs);
136 : :
137 : : /**
138 : : * Serialized format.
139 : : * * format version byte (@see `Format`)
140 : : * * lowest compatible format version byte. This is used to help old software decide
141 : : * whether to parse the file. For example:
142 : : * * Bitcoin Core version N knows how to parse up to format=3. If a new format=4 is
143 : : * introduced in version N+1 that is compatible with format=3 and it is known that
144 : : * version N will be able to parse it, then version N+1 will write
145 : : * (format=4, lowest_compatible=3) in the first two bytes of the file, and so
146 : : * version N will still try to parse it.
147 : : * * Bitcoin Core version N+2 introduces a new incompatible format=5. It will write
148 : : * (format=5, lowest_compatible=5) and so any versions that do not know how to parse
149 : : * format=5 will not try to read the file.
150 : : * * nKey
151 : : * * nNew
152 : : * * nTried
153 : : * * number of "new" buckets XOR 2**30
154 : : * * all new addresses (total count: nNew)
155 : : * * all tried addresses (total count: nTried)
156 : : * * for each new bucket:
157 : : * * number of elements
158 : : * * for each element: index in the serialized "all new addresses"
159 : : * * asmap checksum
160 : : *
161 : : * 2**30 is xorred with the number of buckets to make addrman deserializer v0 detect it
162 : : * as incompatible. This is necessary because it did not check the version number on
163 : : * deserialization.
164 : : *
165 : : * vvNew, vvTried, mapInfo, mapAddr and vRandom are never encoded explicitly;
166 : : * they are instead reconstructed from the other information.
167 : : *
168 : : * This format is more complex, but significantly smaller (at most 1.5 MiB), and supports
169 : : * changes to the ADDRMAN_ parameters without breaking the on-disk structure.
170 : : *
171 : : * We don't use SERIALIZE_METHODS since the serialization and deserialization code has
172 : : * very little in common.
173 : : */
174 : :
175 : : // Always serialize in the latest version (FILE_FORMAT).
176 : 2756 : ParamsStream s{s_, CAddress::V2_DISK};
177 : :
178 [ + - ]: 2756 : s << static_cast<uint8_t>(FILE_FORMAT);
179 : :
180 : : // Increment `lowest_compatible` iff a newly introduced format is incompatible with
181 : : // the previous one.
182 : : static constexpr uint8_t lowest_compatible = Format::V4_MULTIPORT;
183 [ + - ]: 2756 : s << static_cast<uint8_t>(INCOMPATIBILITY_BASE + lowest_compatible);
184 : :
185 [ + - ]: 2756 : s << nKey;
186 [ + - ]: 2756 : s << nNew;
187 [ + - ]: 2756 : s << nTried;
188 : :
189 [ + - ]: 2756 : int nUBuckets = ADDRMAN_NEW_BUCKET_COUNT ^ (1 << 30);
190 : 2756 : s << nUBuckets;
191 : 2756 : std::unordered_map<nid_type, int> mapUnkIds;
192 : 2756 : int nIds = 0;
193 [ + + ]: 6979944 : for (const auto& entry : mapInfo) {
194 [ + - ]: 6977188 : mapUnkIds[entry.first] = nIds;
195 : 6977188 : const AddrInfo& info = entry.second;
196 [ + + ]: 6977188 : if (info.nRefCount) {
197 [ - + ]: 3872418 : assert(nIds != nNew); // this means nNew was wrong, oh ow
198 : 3872418 : s << info;
199 : 3872418 : nIds++;
200 : : }
201 : : }
202 : 2756 : nIds = 0;
203 [ + + ]: 6979944 : for (const auto& entry : mapInfo) {
204 : 6977188 : const AddrInfo& info = entry.second;
205 [ + + ]: 6977188 : if (info.fInTried) {
206 [ - + ]: 3104770 : assert(nIds != nTried); // this means nTried was wrong, oh ow
207 : 3104770 : s << info;
208 : 3104770 : nIds++;
209 : : }
210 : : }
211 [ + + ]: 2824900 : for (int bucket = 0; bucket < ADDRMAN_NEW_BUCKET_COUNT; bucket++) {
212 : : int nSize = 0;
213 [ + + ]: 183439360 : for (int i = 0; i < ADDRMAN_BUCKET_SIZE; i++) {
214 [ + + ]: 180617216 : if (vvNew[bucket][i] != -1)
215 : 4043488 : nSize++;
216 : : }
217 : 183439360 : s << nSize;
218 [ + + ]: 183439360 : for (int i = 0; i < ADDRMAN_BUCKET_SIZE; i++) {
219 [ + + ]: 180617216 : if (vvNew[bucket][i] != -1) {
220 [ + - + - ]: 4043488 : int nIndex = mapUnkIds[vvNew[bucket][i]];
221 : 180617216 : s << nIndex;
222 : : }
223 : : }
224 : : }
225 : : // Store asmap checksum after bucket entries so that it
226 : : // can be ignored by older clients for backward compatibility.
227 [ + - ]: 5512 : s << m_netgroupman.GetAsmapChecksum();
228 [ + - ]: 5512 : }
229 : :
230 : : template <typename Stream>
231 : 5506 : void AddrManImpl::Unserialize(Stream& s_)
232 : : {
233 : 5506 : LOCK(cs);
234 : :
235 [ - + ]: 5506 : assert(vRandom.empty());
236 : :
237 : : Format format;
238 [ + + ]: 5506 : s_ >> Using<CustomUintFormatter<1>>(format);
239 : :
240 [ + + + + ]: 5400 : const auto ser_params = (format >= Format::V3_BIP155 ? CAddress::V2_DISK : CAddress::V1_DISK);
241 [ + + ]: 5400 : ParamsStream s{s_, ser_params};
242 : :
243 : : uint8_t compat;
244 : 5279 : s >> compat;
245 [ + + ]: 5279 : if (compat < INCOMPATIBILITY_BASE) {
246 [ + - + - ]: 912 : throw std::ios_base::failure(strprintf(
247 : : "Corrupted addrman database: The compat value (%u) "
248 : : "is lower than the expected minimum value %u.",
249 : : compat, INCOMPATIBILITY_BASE));
250 : : }
251 : 4823 : const uint8_t lowest_compatible = compat - INCOMPATIBILITY_BASE;
252 [ + + ]: 4823 : if (lowest_compatible > FILE_FORMAT) {
253 : 1678 : throw InvalidAddrManVersionError(strprintf(
254 : : "Unsupported format of addrman database: %u. It is compatible with formats >=%u, "
255 : : "but the maximum supported by this version of %s is %u.",
256 [ + - ]: 839 : uint8_t{format}, lowest_compatible, CLIENT_NAME, uint8_t{FILE_FORMAT}));
257 : : }
258 : :
259 [ + + ]: 3984 : s >> nKey;
260 [ + + ]: 3973 : s >> nNew;
261 [ + + ]: 3971 : s >> nTried;
262 [ + + ]: 3969 : int nUBuckets = 0;
263 : 3965 : s >> nUBuckets;
264 [ + + ]: 3965 : if (format >= Format::V1_DETERMINISTIC) {
265 : 2576 : nUBuckets ^= (1 << 30);
266 : : }
267 : :
268 [ + + ]: 3965 : if (nNew > ADDRMAN_NEW_BUCKET_COUNT * ADDRMAN_BUCKET_SIZE || nNew < 0) {
269 [ + - ]: 30 : throw std::ios_base::failure(
270 : 15 : strprintf("Corrupt AddrMan serialization: nNew=%d, should be in [0, %d]",
271 : 15 : nNew,
272 [ + - ]: 15 : ADDRMAN_NEW_BUCKET_COUNT * ADDRMAN_BUCKET_SIZE));
273 : : }
274 : :
275 [ + + ]: 3950 : if (nTried > ADDRMAN_TRIED_BUCKET_COUNT * ADDRMAN_BUCKET_SIZE || nTried < 0) {
276 [ + - ]: 36 : throw std::ios_base::failure(
277 : 18 : strprintf("Corrupt AddrMan serialization: nTried=%d, should be in [0, %d]",
278 : 18 : nTried,
279 [ + - ]: 18 : ADDRMAN_TRIED_BUCKET_COUNT * ADDRMAN_BUCKET_SIZE));
280 : : }
281 : :
282 : : // Deserialize entries from the new table.
283 [ + + ]: 3651498 : for (int n = 0; n < nNew; n++) {
284 [ + - + + ]: 3648307 : AddrInfo& info = mapInfo[n];
285 : 3647566 : s >> info;
286 [ + - ]: 3647566 : mapAddr[info] = n;
287 [ + - ]: 3647566 : info.nRandomPos = vRandom.size();
288 [ + - ]: 3647566 : vRandom.push_back(n);
289 [ + - + - ]: 3647566 : m_network_counts[info.GetNetwork()].n_new++;
290 : : }
291 : 3191 : nIdCount = nNew;
292 : :
293 : : // Deserialize entries from the tried table.
294 : 3191 : int nLost = 0;
295 [ + + ]: 3124504 : for (int n = 0; n < nTried; n++) {
296 [ + - ]: 3121313 : AddrInfo info;
297 : 3120883 : s >> info;
298 [ + - ]: 3120883 : int nKBucket = info.GetTriedBucket(nKey, m_netgroupman);
299 [ + - ]: 3120883 : int nKBucketPos = info.GetBucketPosition(nKey, false, nKBucket);
300 [ + - ]: 3120883 : if (info.IsValid()
301 [ + + + + ]: 3120883 : && vvTried[nKBucket][nKBucketPos] == -1) {
302 [ + - ]: 3076483 : info.nRandomPos = vRandom.size();
303 : 3076483 : info.fInTried = true;
304 [ + - ]: 3076483 : vRandom.push_back(nIdCount);
305 [ + - ]: 3076483 : mapInfo[nIdCount] = info;
306 [ + - ]: 3076483 : mapAddr[info] = nIdCount;
307 : 3076483 : vvTried[nKBucket][nKBucketPos] = nIdCount;
308 : 3076483 : nIdCount++;
309 [ + - + - ]: 3076483 : m_network_counts[info.GetNetwork()].n_tried++;
310 : : } else {
311 : 44400 : nLost++;
312 : : }
313 : : }
314 : 2761 : nTried -= nLost;
315 : :
316 : : // Store positions in the new table buckets to apply later (if possible).
317 : : // An entry may appear in up to ADDRMAN_NEW_BUCKETS_PER_ADDRESS buckets,
318 : : // so we store all bucket-entry_index pairs to iterate through later.
319 : 2761 : std::vector<std::pair<int, int>> bucket_entries;
320 : :
321 [ + + ]: 1315661 : for (int bucket = 0; bucket < nUBuckets; ++bucket) {
322 [ + + ]: 1312986 : int num_entries{0};
323 : 1312954 : s >> num_entries;
324 [ + + ]: 5955768 : for (int n = 0; n < num_entries; ++n) {
325 [ + + ]: 4642868 : int entry_index{0};
326 : 4642814 : s >> entry_index;
327 [ + + + + ]: 4642814 : if (entry_index >= 0 && entry_index < nNew) {
328 [ + - ]: 4562355 : bucket_entries.emplace_back(bucket, entry_index);
329 : : }
330 : : }
331 : : }
332 : :
333 : : // If the bucket count and asmap checksum haven't changed, then attempt
334 : : // to restore the entries to the buckets/positions they were in before
335 : : // serialization.
336 [ + - ]: 2675 : uint256 supplied_asmap_checksum{m_netgroupman.GetAsmapChecksum()};
337 : 2675 : uint256 serialized_asmap_checksum;
338 [ + + ]: 2675 : if (format >= Format::V2_ASMAP) {
339 : 2658 : s >> serialized_asmap_checksum;
340 : : }
341 [ + + ]: 2658 : const bool restore_bucketing{nUBuckets == ADDRMAN_NEW_BUCKET_COUNT &&
342 [ + + ]: 1240 : serialized_asmap_checksum == supplied_asmap_checksum};
343 : :
344 : : if (!restore_bucketing) {
345 [ + - - + : 1423 : LogDebug(BCLog::ADDRMAN, "Bucketing method was updated, re-bucketing addrman entries from disk\n");
- - ]
346 : : }
347 : :
348 [ + + ]: 3850829 : for (auto bucket_entry : bucket_entries) {
349 : 3848171 : int bucket{bucket_entry.first};
350 : 3848171 : const int entry_index{bucket_entry.second};
351 [ + - ]: 3848171 : AddrInfo& info = mapInfo[entry_index];
352 : :
353 : : // Don't store the entry in the new bucket if it's not a valid address for our addrman
354 [ + - + + ]: 3848171 : if (!info.IsValid()) continue;
355 : :
356 : : // The entry shouldn't appear in more than
357 : : // ADDRMAN_NEW_BUCKETS_PER_ADDRESS. If it has already, just skip
358 : : // this bucket_entry.
359 [ + + ]: 3794470 : if (info.nRefCount >= ADDRMAN_NEW_BUCKETS_PER_ADDRESS) continue;
360 : :
361 [ + - ]: 3793528 : int bucket_position = info.GetBucketPosition(nKey, true, bucket);
362 [ + + + + ]: 3793528 : if (restore_bucketing && vvNew[bucket][bucket_position] == -1) {
363 : : // Bucketing has not changed, using existing bucket positions for the new table
364 : 3469988 : vvNew[bucket][bucket_position] = entry_index;
365 : 3469988 : ++info.nRefCount;
366 : : } else {
367 : : // In case the new table data cannot be used (bucket count wrong or new asmap),
368 : : // try to give them a reference based on their primary source address.
369 [ + - ]: 323540 : bucket = info.GetNewBucket(nKey, m_netgroupman);
370 [ + - ]: 323540 : bucket_position = info.GetBucketPosition(nKey, true, bucket);
371 [ + + ]: 323540 : if (vvNew[bucket][bucket_position] == -1) {
372 : 2117 : vvNew[bucket][bucket_position] = entry_index;
373 : 2117 : ++info.nRefCount;
374 : : }
375 : : }
376 : : }
377 : :
378 : : // Prune new entries with refcount 0 (as a result of collisions or invalid address).
379 : 2658 : int nLostUnk = 0;
380 [ + + ]: 6585979 : for (auto it = mapInfo.cbegin(); it != mapInfo.cend(); ) {
381 [ + + + + ]: 6583321 : if (it->second.fInTried == false && it->second.nRefCount == 0) {
382 [ + - ]: 174881 : const auto itCopy = it++;
383 [ + - ]: 174881 : Delete(itCopy->first);
384 : 174881 : ++nLostUnk;
385 : : } else {
386 : 6408440 : ++it;
387 : : }
388 : : }
389 [ + + ]: 2658 : if (nLost + nLostUnk > 0) {
390 [ + - - + : 701 : LogDebug(BCLog::ADDRMAN, "addrman lost %i new and %i tried addresses due to collisions or invalid addresses\n", nLostUnk, nLost);
- - ]
391 : : }
392 : :
393 [ + - ]: 2658 : const int check_code{CheckAddrman()};
394 [ + + ]: 2658 : if (check_code != 0) {
395 [ + - + - ]: 542 : throw std::ios_base::failure(strprintf(
396 : : "Corrupt data. Consistency check failed with code %s",
397 : : check_code));
398 : : }
399 [ + - ]: 5148 : }
400 : :
401 : 17653859 : AddrInfo* AddrManImpl::Find(const CService& addr, nid_type* pnId)
402 : : {
403 : 17653859 : AssertLockHeld(cs);
404 : :
405 : 17653859 : const auto it = mapAddr.find(addr);
406 [ + + ]: 17653859 : if (it == mapAddr.end())
407 : : return nullptr;
408 [ + + ]: 7264661 : if (pnId)
409 : 7245049 : *pnId = (*it).second;
410 : 7264661 : const auto it2 = mapInfo.find((*it).second);
411 [ + - ]: 7264661 : if (it2 != mapInfo.end())
412 : 7264661 : return &(*it2).second;
413 : : return nullptr;
414 : : }
415 : :
416 : 9540328 : AddrInfo* AddrManImpl::Create(const CAddress& addr, const CNetAddr& addrSource, nid_type* pnId)
417 : : {
418 : 9540328 : AssertLockHeld(cs);
419 : :
420 : 9540328 : nid_type nId = nIdCount++;
421 [ + - ]: 9540328 : mapInfo[nId] = AddrInfo(addr, addrSource);
422 : 9540328 : mapAddr[addr] = nId;
423 : 9540328 : mapInfo[nId].nRandomPos = vRandom.size();
424 : 9540328 : vRandom.push_back(nId);
425 : 9540328 : nNew++;
426 : 9540328 : m_network_counts[addr.GetNetwork()].n_new++;
427 [ + - ]: 9540328 : if (pnId)
428 : 9540328 : *pnId = nId;
429 : 9540328 : return &mapInfo[nId];
430 : : }
431 : :
432 : 8052778 : void AddrManImpl::SwapRandom(unsigned int nRndPos1, unsigned int nRndPos2) const
433 : : {
434 : 8052778 : AssertLockHeld(cs);
435 : :
436 [ + + ]: 8052778 : if (nRndPos1 == nRndPos2)
437 : : return;
438 : :
439 [ + - - + ]: 7111349 : assert(nRndPos1 < vRandom.size() && nRndPos2 < vRandom.size());
440 : :
441 : 7111349 : nid_type nId1 = vRandom[nRndPos1];
442 : 7111349 : nid_type nId2 = vRandom[nRndPos2];
443 : :
444 : 7111349 : const auto it_1{mapInfo.find(nId1)};
445 : 7111349 : const auto it_2{mapInfo.find(nId2)};
446 [ - + ]: 7111349 : assert(it_1 != mapInfo.end());
447 [ - + ]: 7111349 : assert(it_2 != mapInfo.end());
448 : :
449 : 7111349 : it_1->second.nRandomPos = nRndPos2;
450 : 7111349 : it_2->second.nRandomPos = nRndPos1;
451 : :
452 : 7111349 : vRandom[nRndPos1] = nId2;
453 : 7111349 : vRandom[nRndPos2] = nId1;
454 : : }
455 : :
456 : 2710993 : void AddrManImpl::Delete(nid_type nId)
457 : : {
458 : 2710993 : AssertLockHeld(cs);
459 : :
460 [ - + ]: 2710993 : assert(mapInfo.count(nId) != 0);
461 : 2710993 : AddrInfo& info = mapInfo[nId];
462 [ - + ]: 2710993 : assert(!info.fInTried);
463 [ - + ]: 2710993 : assert(info.nRefCount == 0);
464 : :
465 : 2710993 : SwapRandom(info.nRandomPos, vRandom.size() - 1);
466 : 2710993 : m_network_counts[info.GetNetwork()].n_new--;
467 : 2710993 : vRandom.pop_back();
468 : 2710993 : mapAddr.erase(info);
469 : 2710993 : mapInfo.erase(nId);
470 : 2710993 : nNew--;
471 : 2710993 : }
472 : :
473 : 9014762 : void AddrManImpl::ClearNew(int nUBucket, int nUBucketPos)
474 : : {
475 : 9014762 : AssertLockHeld(cs);
476 : :
477 : : // if there is an entry in the specified bucket, delete it.
478 [ + + ]: 9014762 : if (vvNew[nUBucket][nUBucketPos] != -1) {
479 : 1819948 : nid_type nIdDelete = vvNew[nUBucket][nUBucketPos];
480 : 1819948 : AddrInfo& infoDelete = mapInfo[nIdDelete];
481 [ - + ]: 1819948 : assert(infoDelete.nRefCount > 0);
482 : 1819948 : infoDelete.nRefCount--;
483 : 1819948 : vvNew[nUBucket][nUBucketPos] = -1;
484 [ - + - - ]: 1819948 : LogDebug(BCLog::ADDRMAN, "Removed %s from new[%i][%i]\n", infoDelete.ToStringAddrPort(), nUBucket, nUBucketPos);
485 [ + + ]: 1819948 : if (infoDelete.nRefCount == 0) {
486 : 1719361 : Delete(nIdDelete);
487 : : }
488 : : }
489 : 9014762 : }
490 : :
491 : 3107126 : void AddrManImpl::MakeTried(AddrInfo& info, nid_type nId)
492 : : {
493 : 3107126 : AssertLockHeld(cs);
494 : :
495 : : // remove the entry from all new buckets
496 : 3107126 : const int start_bucket{info.GetNewBucket(nKey, m_netgroupman)};
497 [ + - ]: 8834795 : for (int n = 0; n < ADDRMAN_NEW_BUCKET_COUNT; ++n) {
498 : 8834795 : const int bucket{(start_bucket + n) % ADDRMAN_NEW_BUCKET_COUNT};
499 : 8834795 : const int pos{info.GetBucketPosition(nKey, true, bucket)};
500 [ + + ]: 8834795 : if (vvNew[bucket][pos] == nId) {
501 : 3119808 : vvNew[bucket][pos] = -1;
502 : 3119808 : info.nRefCount--;
503 [ + + ]: 3119808 : if (info.nRefCount == 0) break;
504 : : }
505 : : }
506 : 3107126 : nNew--;
507 : 3107126 : m_network_counts[info.GetNetwork()].n_new--;
508 : :
509 [ - + ]: 3107126 : assert(info.nRefCount == 0);
510 : :
511 : : // which tried bucket to move the entry to
512 : 3107126 : int nKBucket = info.GetTriedBucket(nKey, m_netgroupman);
513 : 3107126 : int nKBucketPos = info.GetBucketPosition(nKey, false, nKBucket);
514 : :
515 : : // first make space to add it (the existing tried entry there is moved to new, deleting whatever is there).
516 [ + + ]: 3107126 : if (vvTried[nKBucket][nKBucketPos] != -1) {
517 : : // find an item to evict
518 : 2618 : nid_type nIdEvict = vvTried[nKBucket][nKBucketPos];
519 [ - + ]: 2618 : assert(mapInfo.count(nIdEvict) == 1);
520 : 2618 : AddrInfo& infoOld = mapInfo[nIdEvict];
521 : :
522 : : // Remove the to-be-evicted item from the tried set.
523 : 2618 : infoOld.fInTried = false;
524 : 2618 : vvTried[nKBucket][nKBucketPos] = -1;
525 : 2618 : nTried--;
526 : 2618 : m_network_counts[infoOld.GetNetwork()].n_tried--;
527 : :
528 : : // find which new bucket it belongs to
529 : 2618 : int nUBucket = infoOld.GetNewBucket(nKey, m_netgroupman);
530 : 2618 : int nUBucketPos = infoOld.GetBucketPosition(nKey, true, nUBucket);
531 : 2618 : ClearNew(nUBucket, nUBucketPos);
532 [ - + ]: 2618 : assert(vvNew[nUBucket][nUBucketPos] == -1);
533 : :
534 : : // Enter it into the new set again.
535 : 2618 : infoOld.nRefCount = 1;
536 : 2618 : vvNew[nUBucket][nUBucketPos] = nIdEvict;
537 : 2618 : nNew++;
538 : 2618 : m_network_counts[infoOld.GetNetwork()].n_new++;
539 [ - + - - ]: 2618 : LogDebug(BCLog::ADDRMAN, "Moved %s from tried[%i][%i] to new[%i][%i] to make space\n",
540 : : infoOld.ToStringAddrPort(), nKBucket, nKBucketPos, nUBucket, nUBucketPos);
541 : : }
542 [ - + ]: 3107126 : assert(vvTried[nKBucket][nKBucketPos] == -1);
543 : :
544 : 3107126 : vvTried[nKBucket][nKBucketPos] = nId;
545 : 3107126 : nTried++;
546 : 3107126 : info.fInTried = true;
547 : 3107126 : m_network_counts[info.GetNetwork()].n_tried++;
548 : 3107126 : }
549 : :
550 : 12130602 : bool AddrManImpl::AddSingle(const CAddress& addr, const CNetAddr& source, std::chrono::seconds time_penalty)
551 : : {
552 : 12130602 : AssertLockHeld(cs);
553 : :
554 [ + + ]: 12130602 : if (!addr.IsRoutable())
555 : : return false;
556 : :
557 : 12035436 : nid_type nId;
558 : 12035436 : AddrInfo* pinfo = Find(addr, &nId);
559 : :
560 : : // Do not set a penalty for a source's self-announcement
561 [ + + ]: 12035436 : if (addr == source) {
562 : 265637 : time_penalty = 0s;
563 : : }
564 : :
565 [ + + ]: 12035436 : if (pinfo) {
566 : : // periodically update nTime
567 : 2495108 : const bool currently_online{NodeClock::now() - addr.nTime < 24h};
568 [ + + ]: 2495108 : const auto update_interval{currently_online ? 1h : 24h};
569 [ + + ]: 2495108 : if (pinfo->nTime < addr.nTime - update_interval - time_penalty) {
570 : 156803 : pinfo->nTime = std::max(NodeSeconds{0s}, addr.nTime - time_penalty);
571 : : }
572 : :
573 : : // add services
574 : 2495108 : pinfo->nServices = ServiceFlags(pinfo->nServices | addr.nServices);
575 : :
576 : : // do not update if no new information is present
577 [ + + ]: 2495108 : if (addr.nTime <= pinfo->nTime) {
578 : : return false;
579 : : }
580 : :
581 : : // do not update if the entry was already in the "tried" table
582 [ + + ]: 2019564 : if (pinfo->fInTried)
583 : : return false;
584 : :
585 : : // do not update if the max reference count is reached
586 [ + + ]: 1229010 : if (pinfo->nRefCount == ADDRMAN_NEW_BUCKETS_PER_ADDRESS)
587 : : return false;
588 : :
589 : : // stochastic test: previous nRefCount == N: 2^N times harder to increase it
590 [ + - ]: 1227360 : if (pinfo->nRefCount > 0) {
591 : 1227360 : const int nFactor{1 << pinfo->nRefCount};
592 [ + + ]: 1227360 : if (insecure_rand.randrange(nFactor) != 0) return false;
593 : : }
594 : : } else {
595 : 9540328 : pinfo = Create(addr, source, &nId);
596 : 9540328 : pinfo->nTime = std::max(NodeSeconds{0s}, pinfo->nTime - time_penalty);
597 : : }
598 : :
599 : 10068630 : int nUBucket = pinfo->GetNewBucket(nKey, source, m_netgroupman);
600 : 10068630 : int nUBucketPos = pinfo->GetBucketPosition(nKey, true, nUBucket);
601 : 10068630 : bool fInsert = vvNew[nUBucket][nUBucketPos] == -1;
602 [ + + ]: 10068630 : if (vvNew[nUBucket][nUBucketPos] != nId) {
603 [ + + ]: 9848660 : if (!fInsert) {
604 : 2656244 : AddrInfo& infoExisting = mapInfo[vvNew[nUBucket][nUBucketPos]];
605 [ + + + + : 2656244 : if (infoExisting.IsTerrible() || (infoExisting.nRefCount > 1 && pinfo->nRefCount == 0)) {
+ + ]
606 : : // Overwrite the existing new table entry.
607 : : fInsert = true;
608 : : }
609 : : }
610 [ + + ]: 8028932 : if (fInsert) {
611 : 9012144 : ClearNew(nUBucket, nUBucketPos);
612 : 9012144 : pinfo->nRefCount++;
613 : 9012144 : vvNew[nUBucket][nUBucketPos] = nId;
614 : 9012144 : const auto mapped_as{m_netgroupman.GetMappedAS(addr)};
615 [ - + - - : 9012144 : LogDebug(BCLog::ADDRMAN, "Added %s%s to new[%i][%i]\n",
- - - - ]
616 : : addr.ToStringAddrPort(), (mapped_as ? strprintf(" mapped to AS%i", mapped_as) : ""), nUBucket, nUBucketPos);
617 : : } else {
618 [ + + ]: 836516 : if (pinfo->nRefCount == 0) {
619 : 816751 : Delete(nId);
620 : : }
621 : : }
622 : : }
623 : : return fInsert;
624 : : }
625 : :
626 : 5563527 : bool AddrManImpl::Good_(const CService& addr, bool test_before_evict, NodeSeconds time)
627 : : {
628 : 5563527 : AssertLockHeld(cs);
629 : :
630 : 5563527 : nid_type nId;
631 : :
632 : 5563527 : m_last_good = time;
633 : :
634 : 5563527 : AddrInfo* pinfo = Find(addr, &nId);
635 : :
636 : : // if not found, bail out
637 [ + + ]: 5563527 : if (!pinfo) return false;
638 : :
639 : 4749941 : AddrInfo& info = *pinfo;
640 : :
641 : : // update info
642 : 4749941 : info.m_last_success = time;
643 : 4749941 : info.m_last_try = time;
644 : 4749941 : info.nAttempts = 0;
645 : : // nTime is not updated here, to avoid leaking information about
646 : : // currently-connected peers.
647 : :
648 : : // if it is already in the tried set, don't do anything else
649 [ + + ]: 4749941 : if (info.fInTried) return false;
650 : :
651 : : // if it is not in new, something bad happened
652 [ + - ]: 4326236 : if (!Assume(info.nRefCount > 0)) return false;
653 : :
654 : :
655 : : // which tried bucket to move the entry to
656 : 4326236 : int tried_bucket = info.GetTriedBucket(nKey, m_netgroupman);
657 : 4326236 : int tried_bucket_pos = info.GetBucketPosition(nKey, false, tried_bucket);
658 : :
659 : : // Will moving this address into tried evict another entry?
660 [ + + + + ]: 4326236 : if (test_before_evict && (vvTried[tried_bucket][tried_bucket_pos] != -1)) {
661 [ + + ]: 1219110 : if (m_tried_collisions.size() < ADDRMAN_SET_TRIED_COLLISION_SIZE) {
662 : 25129 : m_tried_collisions.insert(nId);
663 : : }
664 : : // Output the entry we'd be colliding with, for debugging purposes
665 : 1219110 : auto colliding_entry = mapInfo.find(vvTried[tried_bucket][tried_bucket_pos]);
666 [ - + - - : 1219110 : LogDebug(BCLog::ADDRMAN, "Collision with %s while attempting to move %s to tried table. Collisions=%d\n",
- - - - -
- ]
667 : : colliding_entry != mapInfo.end() ? colliding_entry->second.ToStringAddrPort() : "",
668 : : addr.ToStringAddrPort(),
669 : : m_tried_collisions.size());
670 : 1219110 : return false;
671 : : } else {
672 : : // move nId to the tried tables
673 : 3107126 : MakeTried(info, nId);
674 : 3107126 : const auto mapped_as{m_netgroupman.GetMappedAS(addr)};
675 [ - + - - : 3107126 : LogDebug(BCLog::ADDRMAN, "Moved %s%s to tried[%i][%i]\n",
- - - - ]
676 : : addr.ToStringAddrPort(), (mapped_as ? strprintf(" mapped to AS%i", mapped_as) : ""), tried_bucket, tried_bucket_pos);
677 : 3107126 : return true;
678 : : }
679 : : }
680 : :
681 : 9619729 : bool AddrManImpl::Add_(const std::vector<CAddress>& vAddr, const CNetAddr& source, std::chrono::seconds time_penalty)
682 : : {
683 : 9619729 : int added{0};
684 [ + + ]: 21750331 : for (std::vector<CAddress>::const_iterator it = vAddr.begin(); it != vAddr.end(); it++) {
685 [ + + ]: 15249060 : added += AddSingle(*it, source, time_penalty) ? 1 : 0;
686 : : }
687 [ + + ]: 9619729 : if (added > 0) {
688 [ - + - - ]: 7539018 : LogDebug(BCLog::ADDRMAN, "Added %i addresses (of %i) from %s: %i tried, %i new\n", added, vAddr.size(), source.ToStringAddr(), nTried, nNew);
689 : : }
690 : 9619729 : return added > 0;
691 : : }
692 : :
693 : 5521 : void AddrManImpl::Attempt_(const CService& addr, bool fCountFailure, NodeSeconds time)
694 : : {
695 : 5521 : AssertLockHeld(cs);
696 : :
697 : 5521 : AddrInfo* pinfo = Find(addr);
698 : :
699 : : // if not found, bail out
700 [ + + ]: 5521 : if (!pinfo)
701 : : return;
702 : :
703 : 3210 : AddrInfo& info = *pinfo;
704 : :
705 : : // update info
706 : 3210 : info.m_last_try = time;
707 [ + + + + ]: 3210 : if (fCountFailure && info.m_last_count_attempt < m_last_good) {
708 : 1913 : info.m_last_count_attempt = time;
709 : 1913 : info.nAttempts++;
710 : : }
711 : : }
712 : :
713 : 1574 : std::pair<CAddress, NodeSeconds> AddrManImpl::Select_(bool new_only, const std::unordered_set<Network>& networks) const
714 : : {
715 : 1574 : AssertLockHeld(cs);
716 : :
717 [ + + ]: 1574 : if (vRandom.empty()) return {};
718 : :
719 : 1011 : size_t new_count = nNew;
720 : 1011 : size_t tried_count = nTried;
721 : :
722 [ + + ]: 1011 : if (!networks.empty()) {
723 : 284 : new_count = 0;
724 : 284 : tried_count = 0;
725 [ + + ]: 1522 : for (auto& network : networks) {
726 : 1238 : auto it = m_network_counts.find(network);
727 [ + + ]: 1238 : if (it == m_network_counts.end()) {
728 : 708 : continue;
729 : : }
730 : 530 : auto counts = it->second;
731 : 530 : new_count += counts.n_new;
732 : 530 : tried_count += counts.n_tried;
733 : : }
734 : : }
735 : :
736 [ + + ]: 1011 : if (new_only && new_count == 0) return {};
737 [ + + ]: 999 : if (new_count + tried_count == 0) return {};
738 : :
739 : : // Decide if we are going to search the new or tried table
740 : : // If either option is viable, use a 50% chance to choose
741 : 962 : bool search_tried;
742 [ + + ]: 962 : if (new_only || tried_count == 0) {
743 : : search_tried = false;
744 [ + + ]: 204 : } else if (new_count == 0) {
745 : : search_tried = true;
746 : : } else {
747 : 158 : search_tried = insecure_rand.randbool();
748 : : }
749 : :
750 [ + + ]: 158 : const int bucket_count{search_tried ? ADDRMAN_TRIED_BUCKET_COUNT : ADDRMAN_NEW_BUCKET_COUNT};
751 : :
752 : : // Loop through the addrman table until we find an appropriate entry
753 : 962 : double chance_factor = 1.0;
754 : 1151701 : while (1) {
755 : : // Pick a bucket, and an initial position in that bucket.
756 : 1151701 : int bucket = insecure_rand.randrange(bucket_count);
757 : 1151701 : int initial_position = insecure_rand.randrange(ADDRMAN_BUCKET_SIZE);
758 : :
759 : : // Iterate over the positions of that bucket, starting at the initial one,
760 : : // and looping around.
761 : 1151701 : int i, position;
762 : 1151701 : nid_type node_id;
763 [ + + ]: 74774023 : for (i = 0; i < ADDRMAN_BUCKET_SIZE; ++i) {
764 : 73624706 : position = (initial_position + i) % ADDRMAN_BUCKET_SIZE;
765 : 73624706 : node_id = GetEntry(search_tried, bucket, position);
766 [ + + ]: 73624706 : if (node_id != -1) {
767 [ + + ]: 28067 : if (!networks.empty()) {
768 : 26100 : const auto it{mapInfo.find(node_id)};
769 [ + - + + ]: 26100 : if (Assume(it != mapInfo.end()) && networks.contains(it->second.GetNetwork())) break;
770 : : } else {
771 : : break;
772 : : }
773 : : }
774 : : }
775 : :
776 : : // If the bucket is entirely empty, start over with a (likely) different one.
777 [ + + ]: 1151701 : if (i == ADDRMAN_BUCKET_SIZE) continue;
778 : :
779 : : // Find the entry to return.
780 : 2384 : const auto it_found{mapInfo.find(node_id)};
781 [ - + ]: 2384 : assert(it_found != mapInfo.end());
782 : 2384 : const AddrInfo& info{it_found->second};
783 : :
784 : : // With probability GetChance() * chance_factor, return the entry.
785 [ + + ]: 2384 : if (insecure_rand.randbits<30>() < chance_factor * info.GetChance() * (1 << 30)) {
786 [ - + - - : 962 : LogDebug(BCLog::ADDRMAN, "Selected %s from %s\n", info.ToStringAddrPort(), search_tried ? "tried" : "new");
- - ]
787 : 962 : return {info, info.m_last_try};
788 : : }
789 : :
790 : : // Otherwise start over with a (likely) different bucket, and increased chance factor.
791 : 1422 : chance_factor *= 1.2;
792 : : }
793 : : }
794 : :
795 : 73706626 : nid_type AddrManImpl::GetEntry(bool use_tried, size_t bucket, size_t position) const
796 : : {
797 : 73706626 : AssertLockHeld(cs);
798 : :
799 [ + + ]: 73706626 : if (use_tried) {
800 [ + - + - ]: 8255432 : if (Assume(position < ADDRMAN_BUCKET_SIZE) && Assume(bucket < ADDRMAN_TRIED_BUCKET_COUNT)) {
801 : 8255432 : return vvTried[bucket][position];
802 : : }
803 : : } else {
804 [ + - + - ]: 65451194 : if (Assume(position < ADDRMAN_BUCKET_SIZE) && Assume(bucket < ADDRMAN_NEW_BUCKET_COUNT)) {
805 : 65451194 : return vvNew[bucket][position];
806 : : }
807 : : }
808 : :
809 : : return -1;
810 : : }
811 : :
812 : 64909 : std::vector<CAddress> AddrManImpl::GetAddr_(size_t max_addresses, size_t max_pct, std::optional<Network> network, const bool filtered) const
813 : : {
814 : 64909 : AssertLockHeld(cs);
815 : 64909 : Assume(max_pct <= 100);
816 : :
817 [ + + ]: 64909 : size_t nNodes = vRandom.size();
818 [ + + ]: 64909 : if (max_pct != 0) {
819 [ + - ]: 54134 : max_pct = std::min(max_pct, size_t{100});
820 : 54134 : nNodes = max_pct * nNodes / 100;
821 : : }
822 [ + + ]: 64909 : if (max_addresses != 0) {
823 [ + + ]: 114244 : nNodes = std::min(nNodes, max_addresses);
824 : : }
825 : :
826 : : // gather a list of random nodes, skipping those of low quality
827 : 64909 : const auto now{Now<NodeSeconds>()};
828 : 64909 : std::vector<CAddress> addresses;
829 [ + - ]: 64909 : addresses.reserve(nNodes);
830 [ + + ]: 5406694 : for (unsigned int n = 0; n < vRandom.size(); n++) {
831 [ + + ]: 5343576 : if (addresses.size() >= nNodes)
832 : : break;
833 : :
834 : 5341785 : int nRndPos = insecure_rand.randrange(vRandom.size() - n) + n;
835 [ + - ]: 5341785 : SwapRandom(n, nRndPos);
836 : 5341785 : const auto it{mapInfo.find(vRandom[n])};
837 [ - + ]: 5341785 : assert(it != mapInfo.end());
838 : :
839 [ + + ]: 5341785 : const AddrInfo& ai{it->second};
840 : :
841 : : // Filter by network (optional)
842 [ + + + - : 5341785 : if (network != std::nullopt && ai.GetNetClass() != network) continue;
+ + ]
843 : :
844 : : // Filter for quality
845 [ + - + + : 5236278 : if (ai.IsTerrible(now) && filtered) continue;
+ + ]
846 : :
847 [ + - ]: 428896 : addresses.push_back(ai);
848 : : }
849 [ + - + + : 64909 : LogDebug(BCLog::ADDRMAN, "GetAddr returned %d random addresses\n", addresses.size());
+ - ]
850 : 64909 : return addresses;
851 : 0 : }
852 : :
853 : 2 : std::vector<std::pair<AddrInfo, AddressPosition>> AddrManImpl::GetEntries_(bool from_tried) const
854 : : {
855 : 2 : AssertLockHeld(cs);
856 : :
857 [ + + ]: 2 : const int bucket_count = from_tried ? ADDRMAN_TRIED_BUCKET_COUNT : ADDRMAN_NEW_BUCKET_COUNT;
858 : 2 : std::vector<std::pair<AddrInfo, AddressPosition>> infos;
859 [ + + ]: 1282 : for (int bucket = 0; bucket < bucket_count; ++bucket) {
860 [ + + ]: 83200 : for (int position = 0; position < ADDRMAN_BUCKET_SIZE; ++position) {
861 [ + - ]: 81920 : nid_type id = GetEntry(from_tried, bucket, position);
862 [ - + ]: 81920 : if (id >= 0) {
863 [ # # ]: 0 : AddrInfo info = mapInfo.at(id);
864 : 0 : AddressPosition location = AddressPosition(
865 : : from_tried,
866 : : /*multiplicity_in=*/from_tried ? 1 : info.nRefCount,
867 : : bucket,
868 [ # # # # ]: 0 : position);
869 [ # # ]: 0 : infos.emplace_back(info, location);
870 : 0 : }
871 : : }
872 : : }
873 : :
874 : 2 : return infos;
875 : 0 : }
876 : :
877 : 20571 : void AddrManImpl::Connected_(const CService& addr, NodeSeconds time)
878 : : {
879 : 20571 : AssertLockHeld(cs);
880 : :
881 : 20571 : AddrInfo* pinfo = Find(addr);
882 : :
883 : : // if not found, bail out
884 [ + + ]: 20571 : if (!pinfo)
885 : : return;
886 : :
887 : 7768 : AddrInfo& info = *pinfo;
888 : :
889 : : // update info
890 : 7768 : const auto update_interval{20min};
891 [ + + ]: 7768 : if (time - info.nTime > update_interval) {
892 : 805 : info.nTime = time;
893 : : }
894 : : }
895 : :
896 : 28804 : void AddrManImpl::SetServices_(const CService& addr, ServiceFlags nServices)
897 : : {
898 : 28804 : AssertLockHeld(cs);
899 : :
900 : 28804 : AddrInfo* pinfo = Find(addr);
901 : :
902 : : // if not found, bail out
903 [ + + ]: 28804 : if (!pinfo)
904 : : return;
905 : :
906 : 8634 : AddrInfo& info = *pinfo;
907 : :
908 : : // update info
909 : 8634 : info.nServices = nServices;
910 : : }
911 : :
912 : 6040 : void AddrManImpl::ResolveCollisions_()
913 : : {
914 : 6040 : AssertLockHeld(cs);
915 : :
916 [ + + ]: 29344 : for (std::set<nid_type>::iterator it = m_tried_collisions.begin(); it != m_tried_collisions.end();) {
917 : 23304 : nid_type id_new = *it;
918 : :
919 : 23304 : bool erase_collision = false;
920 : :
921 : : // If id_new not found in mapInfo remove it from m_tried_collisions
922 [ + + ]: 23304 : if (mapInfo.count(id_new) != 1) {
923 : : erase_collision = true;
924 : : } else {
925 : 23164 : AddrInfo& info_new = mapInfo[id_new];
926 : :
927 : : // Which tried bucket to move the entry to.
928 : 23164 : int tried_bucket = info_new.GetTriedBucket(nKey, m_netgroupman);
929 : 23164 : int tried_bucket_pos = info_new.GetBucketPosition(nKey, false, tried_bucket);
930 [ + - ]: 23164 : if (!info_new.IsValid()) { // id_new may no longer map to a valid address
931 : : erase_collision = true;
932 [ + - ]: 23164 : } else if (vvTried[tried_bucket][tried_bucket_pos] != -1) { // The position in the tried bucket is not empty
933 : :
934 : : // Get the to-be-evicted address that is being tested
935 : 23164 : nid_type id_old = vvTried[tried_bucket][tried_bucket_pos];
936 : 23164 : AddrInfo& info_old = mapInfo[id_old];
937 : :
938 : 23164 : const auto current_time{Now<NodeSeconds>()};
939 : :
940 : : // Has successfully connected in last X hours
941 [ + + ]: 23164 : if (current_time - info_old.m_last_success < ADDRMAN_REPLACEMENT) {
942 : : erase_collision = true;
943 [ + + ]: 15991 : } else if (current_time - info_old.m_last_try < ADDRMAN_REPLACEMENT) { // attempted to connect and failed in last X hours
944 : :
945 : : // Give address at least 60 seconds to successfully connect
946 [ + + ]: 518 : if (current_time - info_old.m_last_try > 60s) {
947 [ - + - - : 1 : LogDebug(BCLog::ADDRMAN, "Replacing %s with %s in tried table\n", info_old.ToStringAddrPort(), info_new.ToStringAddrPort());
- - ]
948 : :
949 : : // Replaces an existing address already in the tried table with the new address
950 : 1 : Good_(info_new, false, current_time);
951 : 1 : erase_collision = true;
952 : : }
953 [ + + ]: 15473 : } else if (current_time - info_new.m_last_success > ADDRMAN_TEST_WINDOW) {
954 : : // If the collision hasn't resolved in some reasonable amount of time,
955 : : // just evict the old entry -- we must not be able to
956 : : // connect to it for some reason.
957 [ - + - - : 2617 : LogDebug(BCLog::ADDRMAN, "Unable to test; replacing %s with %s in tried table anyway\n", info_old.ToStringAddrPort(), info_new.ToStringAddrPort());
- - ]
958 : 2617 : Good_(info_new, false, current_time);
959 : 2617 : erase_collision = true;
960 : : }
961 : : } else { // Collision is not actually a collision anymore
962 : 0 : Good_(info_new, false, Now<NodeSeconds>());
963 : 0 : erase_collision = true;
964 : : }
965 : : }
966 : :
967 : 2618 : if (erase_collision) {
968 : 9931 : m_tried_collisions.erase(it++);
969 : : } else {
970 : 13373 : it++;
971 : : }
972 : : }
973 : 6040 : }
974 : :
975 : 67890 : std::pair<CAddress, NodeSeconds> AddrManImpl::SelectTriedCollision_()
976 : : {
977 : 67890 : AssertLockHeld(cs);
978 : :
979 [ + + ]: 67890 : if (m_tried_collisions.size() == 0) return {};
980 : :
981 : 52171 : std::set<nid_type>::iterator it = m_tried_collisions.begin();
982 : :
983 : : // Selects a random element from m_tried_collisions
984 : 52171 : std::advance(it, insecure_rand.randrange(m_tried_collisions.size()));
985 : 52171 : nid_type id_new = *it;
986 : :
987 : : // If id_new not found in mapInfo remove it from m_tried_collisions
988 [ + + ]: 52171 : if (mapInfo.count(id_new) != 1) {
989 : 173 : m_tried_collisions.erase(it);
990 : 173 : return {};
991 : : }
992 : :
993 : 51998 : const AddrInfo& newInfo = mapInfo[id_new];
994 : :
995 : : // which tried bucket to move the entry to
996 : 51998 : int tried_bucket = newInfo.GetTriedBucket(nKey, m_netgroupman);
997 : 51998 : int tried_bucket_pos = newInfo.GetBucketPosition(nKey, false, tried_bucket);
998 : :
999 : 51998 : const AddrInfo& info_old = mapInfo[vvTried[tried_bucket][tried_bucket_pos]];
1000 : 51998 : return {info_old, info_old.m_last_try};
1001 : : }
1002 : :
1003 : 0 : std::optional<AddressPosition> AddrManImpl::FindAddressEntry_(const CAddress& addr)
1004 : : {
1005 : 0 : AssertLockHeld(cs);
1006 : :
1007 : 0 : AddrInfo* addr_info = Find(addr);
1008 : :
1009 [ # # ]: 0 : if (!addr_info) return std::nullopt;
1010 : :
1011 [ # # ]: 0 : if(addr_info->fInTried) {
1012 : 0 : int bucket{addr_info->GetTriedBucket(nKey, m_netgroupman)};
1013 : 0 : return AddressPosition(/*tried_in=*/true,
1014 : : /*multiplicity_in=*/1,
1015 : : /*bucket_in=*/bucket,
1016 : 0 : /*position_in=*/addr_info->GetBucketPosition(nKey, false, bucket));
1017 : : } else {
1018 : 0 : int bucket{addr_info->GetNewBucket(nKey, m_netgroupman)};
1019 : 0 : return AddressPosition(/*tried_in=*/false,
1020 : : /*multiplicity_in=*/addr_info->nRefCount,
1021 : : /*bucket_in=*/bucket,
1022 : 0 : /*position_in=*/addr_info->GetBucketPosition(nKey, true, bucket));
1023 : : }
1024 : : }
1025 : :
1026 : 6917385 : size_t AddrManImpl::Size_(std::optional<Network> net, std::optional<bool> in_new) const
1027 : : {
1028 : 6917385 : AssertLockHeld(cs);
1029 : :
1030 [ + + ]: 6917385 : if (!net.has_value()) {
1031 [ + + ]: 6917181 : if (in_new.has_value()) {
1032 [ + + ]: 83 : return *in_new ? nNew : nTried;
1033 : : } else {
1034 : 6917098 : return vRandom.size();
1035 : : }
1036 : : }
1037 [ + + ]: 204 : if (auto it = m_network_counts.find(*net); it != m_network_counts.end()) {
1038 [ + + ]: 104 : auto net_count = it->second;
1039 [ + + ]: 104 : if (in_new.has_value()) {
1040 [ + + ]: 68 : return *in_new ? net_count.n_new : net_count.n_tried;
1041 : : } else {
1042 : 36 : return net_count.n_new + net_count.n_tried;
1043 : : }
1044 : : }
1045 : : return 0;
1046 : : }
1047 : :
1048 : 44586668 : void AddrManImpl::Check() const
1049 : : {
1050 : 44586668 : AssertLockHeld(cs);
1051 : :
1052 : : // Run consistency checks 1 in m_consistency_check_ratio times if enabled
1053 [ - + ]: 44586668 : if (m_consistency_check_ratio == 0) return;
1054 [ # # ]: 0 : if (insecure_rand.randrange(m_consistency_check_ratio) >= 1) return;
1055 : :
1056 : 0 : const int err{CheckAddrman()};
1057 [ # # ]: 0 : if (err) {
1058 : 0 : LogPrintf("ADDRMAN CONSISTENCY CHECK FAILED!!! err=%i\n", err);
1059 : 0 : assert(false);
1060 : : }
1061 : : }
1062 : :
1063 : 2658 : int AddrManImpl::CheckAddrman() const
1064 : : {
1065 : 2658 : AssertLockHeld(cs);
1066 : :
1067 [ + - + - ]: 5316 : LOG_TIME_MILLIS_WITH_CATEGORY_MSG_ONCE(
1068 : : strprintf("new %i, tried %i, total %u", nNew, nTried, vRandom.size()), BCLog::ADDRMAN);
1069 : :
1070 [ + - ]: 2658 : std::unordered_set<nid_type> setTried;
1071 [ + - ]: 2658 : std::unordered_map<nid_type, int> mapNew;
1072 : 2658 : std::unordered_map<Network, NewTriedCount> local_counts;
1073 : :
1074 [ + - ]: 2658 : if (vRandom.size() != (size_t)(nTried + nNew))
1075 : : return -7;
1076 : :
1077 [ + + ]: 6409935 : for (const auto& entry : mapInfo) {
1078 : 6407543 : nid_type n = entry.first;
1079 : 6407543 : const AddrInfo& info = entry.second;
1080 [ + + ]: 6407543 : if (info.fInTried) {
1081 [ + + ]: 3072592 : if (!TicksSinceEpoch<std::chrono::seconds>(info.m_last_success)) {
1082 : : return -1;
1083 : : }
1084 [ + - ]: 3072565 : if (info.nRefCount)
1085 : : return -2;
1086 [ + - ]: 3072565 : setTried.insert(n);
1087 [ + - + - ]: 3072565 : local_counts[info.GetNetwork()].n_tried++;
1088 : : } else {
1089 [ + - ]: 3334951 : if (info.nRefCount < 0 || info.nRefCount > ADDRMAN_NEW_BUCKETS_PER_ADDRESS)
1090 : : return -3;
1091 [ + - ]: 3334951 : if (!info.nRefCount)
1092 : : return -4;
1093 [ + - ]: 3334951 : mapNew[n] = info.nRefCount;
1094 [ + - + - ]: 3334951 : local_counts[info.GetNetwork()].n_new++;
1095 : : }
1096 [ + - ]: 6407516 : const auto it{mapAddr.find(info)};
1097 [ + + + + ]: 6407516 : if (it == mapAddr.end() || it->second != n) {
1098 : : return -5;
1099 : : }
1100 [ + - + - : 6407479 : if (info.nRandomPos < 0 || (size_t)info.nRandomPos >= vRandom.size() || vRandom[info.nRandomPos] != n)
+ - ]
1101 : : return -14;
1102 [ + - ]: 6407479 : if (info.m_last_try < NodeSeconds{0s}) {
1103 : : return -6;
1104 : : }
1105 [ + + ]: 6407479 : if (info.m_last_success < NodeSeconds{0s}) {
1106 : : return -8;
1107 : : }
1108 : : }
1109 : :
1110 [ + - ]: 2392 : if (setTried.size() != (size_t)nTried)
1111 : : return -9;
1112 [ + - ]: 2392 : if (mapNew.size() != (size_t)nNew)
1113 : : return -10;
1114 : :
1115 [ + + ]: 614744 : for (int n = 0; n < ADDRMAN_TRIED_BUCKET_COUNT; n++) {
1116 [ + + ]: 39802880 : for (int i = 0; i < ADDRMAN_BUCKET_SIZE; i++) {
1117 [ + + ]: 39190528 : if (vvTried[n][i] != -1) {
1118 [ + - ]: 3072153 : if (!setTried.count(vvTried[n][i]))
1119 : : return -11;
1120 : 3072153 : const auto it{mapInfo.find(vvTried[n][i])};
1121 [ + - + - : 3072153 : if (it == mapInfo.end() || it->second.GetTriedBucket(nKey, m_netgroupman) != n) {
+ - ]
1122 : 0 : return -17;
1123 : : }
1124 [ + - + - ]: 3072153 : if (it->second.GetBucketPosition(nKey, false, n) != i) {
1125 : : return -18;
1126 : : }
1127 : 3072153 : setTried.erase(vvTried[n][i]);
1128 : : }
1129 : : }
1130 : : }
1131 : :
1132 [ + + ]: 2451800 : for (int n = 0; n < ADDRMAN_NEW_BUCKET_COUNT; n++) {
1133 [ + + ]: 159211520 : for (int i = 0; i < ADDRMAN_BUCKET_SIZE; i++) {
1134 [ + + ]: 156762112 : if (vvNew[n][i] != -1) {
1135 [ + - ]: 3471601 : if (!mapNew.count(vvNew[n][i]))
1136 : : return -12;
1137 : 3471601 : const auto it{mapInfo.find(vvNew[n][i])};
1138 [ + - + - : 3471601 : if (it == mapInfo.end() || it->second.GetBucketPosition(nKey, true, n) != i) {
+ - ]
1139 : 0 : return -19;
1140 : : }
1141 [ + - + + ]: 3471601 : if (--mapNew[vvNew[n][i]] == 0)
1142 : 3334580 : mapNew.erase(vvNew[n][i]);
1143 : : }
1144 : : }
1145 : : }
1146 : :
1147 [ + - ]: 2392 : if (setTried.size())
1148 : : return -13;
1149 [ + - ]: 2392 : if (mapNew.size())
1150 : : return -15;
1151 [ + + ]: 2392 : if (nKey.IsNull())
1152 : : return -16;
1153 : :
1154 : : // It's possible that m_network_counts may have all-zero entries that local_counts
1155 : : // doesn't have if addrs from a network were being added and then removed again in the past.
1156 [ + - ]: 2387 : if (m_network_counts.size() < local_counts.size()) {
1157 : : return -20;
1158 : : }
1159 [ + - + + ]: 9806 : for (const auto& [net, count] : m_network_counts) {
1160 [ + - + - : 14838 : if (local_counts[net].n_new != count.n_new || local_counts[net].n_tried != count.n_tried) {
+ - ]
1161 : 0 : return -21;
1162 : : }
1163 : : }
1164 : :
1165 : : return 0;
1166 : 2658 : }
1167 : :
1168 : 6917385 : size_t AddrManImpl::Size(std::optional<Network> net, std::optional<bool> in_new) const
1169 : : {
1170 : 6917385 : LOCK(cs);
1171 [ + - ]: 6917385 : Check();
1172 [ + - ]: 6917385 : auto ret = Size_(net, in_new);
1173 [ + - ]: 6917385 : Check();
1174 [ + - ]: 6917385 : return ret;
1175 : 6917385 : }
1176 : :
1177 : 9619729 : bool AddrManImpl::Add(const std::vector<CAddress>& vAddr, const CNetAddr& source, std::chrono::seconds time_penalty)
1178 : : {
1179 : 9619729 : LOCK(cs);
1180 [ + - ]: 9619729 : Check();
1181 [ + - ]: 9619729 : auto ret = Add_(vAddr, source, time_penalty);
1182 [ + - ]: 9619729 : Check();
1183 [ + - ]: 9619729 : return ret;
1184 : 9619729 : }
1185 : :
1186 : 5560909 : bool AddrManImpl::Good(const CService& addr, NodeSeconds time)
1187 : : {
1188 : 5560909 : LOCK(cs);
1189 [ + - ]: 5560909 : Check();
1190 [ + - ]: 5560909 : auto ret = Good_(addr, /*test_before_evict=*/true, time);
1191 [ + - ]: 5560909 : Check();
1192 [ + - ]: 5560909 : return ret;
1193 : 5560909 : }
1194 : :
1195 : 5521 : void AddrManImpl::Attempt(const CService& addr, bool fCountFailure, NodeSeconds time)
1196 : : {
1197 : 5521 : LOCK(cs);
1198 [ + - ]: 5521 : Check();
1199 [ + - ]: 5521 : Attempt_(addr, fCountFailure, time);
1200 [ + - ]: 5521 : Check();
1201 : 5521 : }
1202 : :
1203 : 6040 : void AddrManImpl::ResolveCollisions()
1204 : : {
1205 : 6040 : LOCK(cs);
1206 [ + - ]: 6040 : Check();
1207 [ + - ]: 6040 : ResolveCollisions_();
1208 [ + - ]: 6040 : Check();
1209 : 6040 : }
1210 : :
1211 : 67890 : std::pair<CAddress, NodeSeconds> AddrManImpl::SelectTriedCollision()
1212 : : {
1213 : 67890 : LOCK(cs);
1214 [ + - ]: 67890 : Check();
1215 [ + - ]: 67890 : auto ret = SelectTriedCollision_();
1216 [ + - ]: 67890 : Check();
1217 [ + - ]: 67890 : return ret;
1218 : 67890 : }
1219 : :
1220 : 1574 : std::pair<CAddress, NodeSeconds> AddrManImpl::Select(bool new_only, const std::unordered_set<Network>& networks) const
1221 : : {
1222 : 1574 : LOCK(cs);
1223 [ + - ]: 1574 : Check();
1224 [ + - ]: 1574 : auto addrRet = Select_(new_only, networks);
1225 [ + - ]: 1574 : Check();
1226 [ + - ]: 1574 : return addrRet;
1227 : 1574 : }
1228 : :
1229 : 64909 : std::vector<CAddress> AddrManImpl::GetAddr(size_t max_addresses, size_t max_pct, std::optional<Network> network, const bool filtered) const
1230 : : {
1231 : 64909 : LOCK(cs);
1232 [ + - ]: 64909 : Check();
1233 [ + - ]: 64909 : auto addresses = GetAddr_(max_addresses, max_pct, network, filtered);
1234 [ + - ]: 64909 : Check();
1235 [ + - ]: 64909 : return addresses;
1236 : 64909 : }
1237 : :
1238 : 2 : std::vector<std::pair<AddrInfo, AddressPosition>> AddrManImpl::GetEntries(bool from_tried) const
1239 : : {
1240 : 2 : LOCK(cs);
1241 [ + - ]: 2 : Check();
1242 [ + - ]: 2 : auto addrInfos = GetEntries_(from_tried);
1243 [ + - ]: 2 : Check();
1244 [ + - ]: 2 : return addrInfos;
1245 : 2 : }
1246 : :
1247 : 20571 : void AddrManImpl::Connected(const CService& addr, NodeSeconds time)
1248 : : {
1249 : 20571 : LOCK(cs);
1250 [ + - ]: 20571 : Check();
1251 [ + - ]: 20571 : Connected_(addr, time);
1252 [ + - ]: 20571 : Check();
1253 : 20571 : }
1254 : :
1255 : 28804 : void AddrManImpl::SetServices(const CService& addr, ServiceFlags nServices)
1256 : : {
1257 : 28804 : LOCK(cs);
1258 [ + - ]: 28804 : Check();
1259 [ + - ]: 28804 : SetServices_(addr, nServices);
1260 [ + - ]: 28804 : Check();
1261 : 28804 : }
1262 : :
1263 : 0 : std::optional<AddressPosition> AddrManImpl::FindAddressEntry(const CAddress& addr)
1264 : : {
1265 : 0 : LOCK(cs);
1266 [ # # ]: 0 : Check();
1267 [ # # ]: 0 : auto entry = FindAddressEntry_(addr);
1268 [ # # ]: 0 : Check();
1269 [ # # ]: 0 : return entry;
1270 : 0 : }
1271 : :
1272 : 11898 : AddrMan::AddrMan(const NetGroupManager& netgroupman, bool deterministic, int32_t consistency_check_ratio)
1273 : 11898 : : m_impl(std::make_unique<AddrManImpl>(netgroupman, deterministic, consistency_check_ratio)) {}
1274 : :
1275 : 11898 : AddrMan::~AddrMan() = default;
1276 : :
1277 : : template <typename Stream>
1278 : 2756 : void AddrMan::Serialize(Stream& s_) const
1279 : : {
1280 : 2756 : m_impl->Serialize<Stream>(s_);
1281 : 2756 : }
1282 : :
1283 : : template <typename Stream>
1284 : 5506 : void AddrMan::Unserialize(Stream& s_)
1285 : : {
1286 : 5506 : m_impl->Unserialize<Stream>(s_);
1287 : 2387 : }
1288 : :
1289 : : // explicit instantiation
1290 : : template void AddrMan::Serialize(HashedSourceWriter<AutoFile>&) const;
1291 : : template void AddrMan::Serialize(DataStream&) const;
1292 : : template void AddrMan::Unserialize(AutoFile&);
1293 : : template void AddrMan::Unserialize(HashVerifier<AutoFile>&);
1294 : : template void AddrMan::Unserialize(DataStream&);
1295 : : template void AddrMan::Unserialize(HashVerifier<DataStream>&);
1296 : :
1297 : 6917385 : size_t AddrMan::Size(std::optional<Network> net, std::optional<bool> in_new) const
1298 : : {
1299 : 6917385 : return m_impl->Size(net, in_new);
1300 : : }
1301 : :
1302 : 9619729 : bool AddrMan::Add(const std::vector<CAddress>& vAddr, const CNetAddr& source, std::chrono::seconds time_penalty)
1303 : : {
1304 : 9619729 : return m_impl->Add(vAddr, source, time_penalty);
1305 : : }
1306 : :
1307 : 5560909 : bool AddrMan::Good(const CService& addr, NodeSeconds time)
1308 : : {
1309 : 5560909 : return m_impl->Good(addr, time);
1310 : : }
1311 : :
1312 : 5521 : void AddrMan::Attempt(const CService& addr, bool fCountFailure, NodeSeconds time)
1313 : : {
1314 : 5521 : m_impl->Attempt(addr, fCountFailure, time);
1315 : 5521 : }
1316 : :
1317 : 6040 : void AddrMan::ResolveCollisions()
1318 : : {
1319 : 6040 : m_impl->ResolveCollisions();
1320 : 6040 : }
1321 : :
1322 : 67890 : std::pair<CAddress, NodeSeconds> AddrMan::SelectTriedCollision()
1323 : : {
1324 : 67890 : return m_impl->SelectTriedCollision();
1325 : : }
1326 : :
1327 : 1574 : std::pair<CAddress, NodeSeconds> AddrMan::Select(bool new_only, const std::unordered_set<Network>& networks) const
1328 : : {
1329 : 1574 : return m_impl->Select(new_only, networks);
1330 : : }
1331 : :
1332 : 64909 : std::vector<CAddress> AddrMan::GetAddr(size_t max_addresses, size_t max_pct, std::optional<Network> network, const bool filtered) const
1333 : : {
1334 : 64909 : return m_impl->GetAddr(max_addresses, max_pct, network, filtered);
1335 : : }
1336 : :
1337 : 2 : std::vector<std::pair<AddrInfo, AddressPosition>> AddrMan::GetEntries(bool use_tried) const
1338 : : {
1339 : 2 : return m_impl->GetEntries(use_tried);
1340 : : }
1341 : :
1342 : 20571 : void AddrMan::Connected(const CService& addr, NodeSeconds time)
1343 : : {
1344 : 20571 : m_impl->Connected(addr, time);
1345 : 20571 : }
1346 : :
1347 : 28804 : void AddrMan::SetServices(const CService& addr, ServiceFlags nServices)
1348 : : {
1349 : 28804 : m_impl->SetServices(addr, nServices);
1350 : 28804 : }
1351 : :
1352 : 0 : std::optional<AddressPosition> AddrMan::FindAddressEntry(const CAddress& addr)
1353 : : {
1354 : 0 : return m_impl->FindAddressEntry(addr);
1355 : : }
|
