Лайфхаки

Маленькие, полезные хитрости

Защиты от блокировки

Некоторые популярные сайты могут банить при парсинге. Это почти всегда происходит из-за частых обращений к ним (большое количество запросов). Чаще всего сайты банят по IP, очень редко по HTTP-заголовкам (cookies и прочее). Поэтому, если вас забанил сайт и вы имеете динамический IP, просто переподключите ваше интернет-соединение. Ваш IP-адрес сменится и вы можете продолжить парсинг сайта. Если у вас статический IP (никогда не меняется), то подождите некоторое время (от 5 минут до суток) и сайт вас должен разбанить.

1. Часть такого трафика получается срезать посредством настройки и подключения сервиса CloudFlare.

Программа CloudFlare имеет 4 тарифа:

Free,Pro ($20/месяц),Business ($200/месяц),Enterprise (по запросу).

На тарифах Pro и Business есть раздел Bots.

В блоке показывается статистика по трафику в разрезе определения ботов по вашему проекту.

Отчет бота включает в себя 4 типа трафика:

Последние обновления на сайте:

1. За обычные привычки в некоторых странах можно свободой поплатиться.
2. На краю Атлантики спряталась деревня, в которой живут всего около 70 человек.
3. Английские газеты веками миру фальшивый образ низкорослого Наполеона навязывали.
4. Кровавые покушения на линкольна и Кеннеди сложились в пугающий исторический пасьянс.
5. Скрытые протоколы авиации готовят экипаж к смертельным авариям в каждом рейсе.
6. Медицина шокирующие физиологические странности нашего собственного организма вскрыла.
7. Онколог спас пациенту жизнь, а в отзыве получил четыре звезды и издевательский мемный статус.
8. В Россию прибыла первая партия бензина из индии.
9. Россиянам нужно готовиться к значительно более долгой жизни и серьёзному увеличению рабочей нагрузки.
10. Лишь в том случае, если просто засыпать мягкие груши сахаром и варить час, получится сладкое пюре непонятного цвета.
11. МРТ Плода показывает мозг и глаза сквозь кости черепа.
12. В том случае, если баклажаны стоят красивой зелёной стеной, а плодов почти не видно - радоваться тут нечему.
13. Что будет с землёй, если солнце внезапно исчезнет.
14. Роскошные мегаполисы будущего превращаются в пустые города - призраки вопреки гигантским финансовым вложениям.
15. Мы привыкли считать сахар обычной и безобидной частью ежедневного рациона.
16. Живу с родителями.
17. Современный гейминг оказался исключительно полезен для человеческой психики.
18. Пять великих мыслителей трагически заплатили жизнью за свои смелые убеждения.
19. Кислое молоко для томатов: дедовский рецепт отличной подкормки.
20. Я любовник замужней женщины.
21. Муж часто домашние дела на потом задвигает.
22. Уволенных россиян официально призвали готовиться к целому году безработицы.
23. Формировка огурцoв. 1. на пeрвoм этапе на нижней части растения в пазухах 3-5 листьев пpoизвoдится "Oслепление".
24. Российские власти введение дополнительной платы за VPN отложили.
25. Урологи из сша новую технологию увеличения разработали.
26. При знакомстве с новыми людьми всегда стараюсь мягко обкатать какие-то жесткие для него темы.
27. Всего две чашки кофе перед сексом способны значительно продлить половой акт.
28. Мы рассказываем вам как избавиться от морковной мухи раз и навсегда.
29. Когда мне было 12 лет, в нашей семье появилась стиральная машина - автомат.
30. Секреты огромного урожая томатов: сохраняй, чтобы не потерять!
31. Начинающие врачи часто жалуются на непонимание со стороны пациентов и невыполнение назначений.
32. Kaким рacтениям зoла не подходит.
33. Токсичное поведение на работе может стать причиной увольнения.
34. Kaким растениям зола не подходит.
35. Маленькому панчу в зоопарке придётся расстаться с игрушечной мамой.
36. Toматы для ленивых.
37. Денежное дерево, всего одной ложкой этого ингредиента оно зацветет замечательно.
38. BMW предпринимает шаги, чтобы владельцы не могли самостоятельно ремонтировать свои автомобили.
39. Реакция гроссмейстера Дины беленькой на своего соперника - 11-летнего Александра ясински - быстро разлетелась по сети.
40. Фильм, который меняет стереотипное представление об атомной энергетике.
41. Hи однoй мыши, ни однoго кpoта и зaйца на вaшей даче бoльше не бyдет.
42. Полезная памятка средств для сада и огорода.
43. Moжет кто не знал этoго.
44. Мы не дадим слизням перезимовать!
45. Секрет крупного озимого чеснока - простая подкормка при посадке!
46. Топ - 5 идей для уюта на даче осенью.
47. Чтобы растения были крепкими, здоровыми и давали богатый урожай, стоит иметь под рукой базовый набор удобрений:
48. В московских клиниках лечение на современном оборудовании нормой стало.
49. Сильнейшая магнитная буря готовится обрушиться на землю: учёные предупреждают, что источник угрозы - солнце.
50. Из простой банки из-под кофе получилось элегантное хранилище для вилок и ложек.