Лайфхаки

Маленькие, полезные хитрости

Защиты от блокировки

Некоторые популярные сайты могут банить при парсинге. Это почти всегда происходит из-за частых обращений к ним (большое количество запросов). Чаще всего сайты банят по IP, очень редко по HTTP-заголовкам (cookies и прочее). Поэтому, если вас забанил сайт и вы имеете динамический IP, просто переподключите ваше интернет-соединение. Ваш IP-адрес сменится и вы можете продолжить парсинг сайта. Если у вас статический IP (никогда не меняется), то подождите некоторое время (от 5 минут до суток) и сайт вас должен разбанить.

1. Часть такого трафика получается срезать посредством настройки и подключения сервиса CloudFlare.

Программа CloudFlare имеет 4 тарифа:

Free,Pro ($20/месяц),Business ($200/месяц),Enterprise (по запросу).

На тарифах Pro и Business есть раздел Bots.

В блоке показывается статистика по трафику в разрезе определения ботов по вашему проекту.

Отчет бота включает в себя 4 типа трафика:

Последние обновления на сайте:

1. Долго планировали с мужем переезд, нашли жилье.
2. Сделала Айвар и теперь думаю, почему раньше весь сладкий перец отправляла , внимание, только в лечо.
3. Россияне снова смогут оформлять иммиграционные визы в США.
4. Твоё тело работает 24 часа в сутки без твоего участия.
5. Мне 37, молодая и здоровая была, но за год постарела.
6. Эти минералы выглядят так нереально, что кажутся творением нейросети или 3D-графики.
7. Нaучилась применять перекись + укcyс для огурцов во второй половине летa.
8. Серая гниль на розах - гадость мерзостная.
9. Некоторые официальные законы современной Германии способны искренне удивить даже местных жителей.
10. Kaк я стала выращивать "Пpaвильный" укроп по coвету сocедки.
11. Чем пoдкормить тoматы во время цветения для богатого урожая.
12. За долгое время наш мир сталкивался с невероятно странными событиями.
13. Российские медики о резком росте опасных кишечных инфекций предупредили.
14. Для сохранения здоровья листьев огурцов и предотвращения их желтения, вот несколько проверенных рецептов:
15. Российские компании продолжают удерживать на рабочих местах абсолютно бесполезных сотрудников.
16. Возможную блокировку Github снова обсуждают в России.
17. Нарциссизм всё чаще связывают именно с генетикой.
18. Плитка из ведерка от майонеза: дачный шик своими руками.
19. Из параллельного импорта уберут западные ноутбуки.
20. Caдовая зeмляника по-разному перeзимовала.
21. Сон при свете повышает риск ожирения.
22. Работа в кровати незаметно здоровье человека разрушает.
23. Одна клетка кажется невероятно обширной в трёхмерной реконструкции.
24. Сибирские охотники создавали костюмы, способные противостоять атакам медведей.
25. Путешествие любви, которое пересекло континенты, началось в отдалённой деревне Индии.
26. В 2003 году американские военные заняли один из роскошных дворцов Саддама Хусейна.
27. Как посадить перец, чтобы он взошёл за 2-3 дня и дал ранний урожай.
28. Пepвая пoдкopмка рaccaды народными средствами.
29. Джим Керри и теория клона: что произошло на самом деле?
30. Toлько не забудьте peцепт!
31. Нежный пирог черный принц из варенья.
32. Фунчоза с овощами.
33. Рецепт меренгового рулета.
34. Наушники могут быть связаны с рисками для здоровья - к такому выводу пришли исследователи.
35. Денежное дерево, всего одной ложкой этого ингредиента оно зацветет замечательно.
36. Самый богатый бомж в мире!
37. Ha 2-й день ещё вкycнее.
38. Что нужно знать о перце:
39. Пробовали сажать лук китайским способом?
40. Чтo делает с оргahизмом всего одна хурма.
41. Психологи предупреждают: игнорирование открыток и сообщений от бабушек может навредить их здоровью.
42. В России внезапно вырос спрос на необычную процедуру - мужики массово колют ботокс в яички.
43. Уже через пять лет люди смогут отращивать новые зубы - японские учёные близки к настоящему стоматологическому прорыву.
44. Вот он - пример того, как из идеи рождается практичная и красивая вещь.
45. Свежие данные из медицины показали неожиданную связь между весом и здоровьем мозга у пожилых людей.
46. Калина с медом.
47. Пруд на участке - это отличное решение для украшения сада, создания уютной атмосферы и привлечения птиц и других животных.
48. Обработка участка от клещей - важная мера для защиты здоровья вашей семьи и домашних животных.
49. Вкусный рецепт бургера с курочкой.
50. Веб-скраппинг: 18 лучших инструментов для сбора данных онлайн