Лайфхаки

Маленькие, полезные хитрости

Блокировки при парсинге

Некоторые популярные сайты могут банить при парсинге. Это почти всегда происходит из-за частых обращений к ним (большое количество запросов). Чаще всего сайты банят по IP, очень редко по HTTP-заголовкам (cookies и прочее). Поэтому, если вас забанил сайт и вы имеете динамический IP, просто переподключите ваше интернет-соединение. Ваш IP-адрес сменится и вы можете продолжить парсинг сайта. Если у вас статический IP (никогда не меняется), то подождите некоторое время (от 5 минут до суток) и сайт вас должен разбанить.

1. Часть такого трафика получается срезать посредством настройки и подключения сервиса CloudFlare.

Программа CloudFlare имеет 4 тарифа:

Free,Pro ($20/месяц),Business ($200/месяц),Enterprise (по запросу).

На тарифах Pro и Business есть раздел Bots.

В блоке показывается статистика по трафику в разрезе определения ботов по вашему проекту.

Отчет бота включает в себя 4 типа трафика:

Последние обновления на сайте:

1. Челябинский курьер Михаил Савицкий масштабировал свой вирусный Хайп в реальную платформу для спасения животных.
2. Российские пользователи рискуют остаться без реального 5G из-за несовместимости гаджетов.
3. Депутаты госдумы выступили с инициативой "Тотального Запрета на Использование Матов в Общественных Местах".
4. Спрос на эмиграцию среди россиян резко с приближением осени вырос.
5. Пробу снимаю еще горячей и каждый раз радуюсь: кабачки не развариваются, а соус получается густым и пикантным.
6. Великая история древнего Рима до сих пор скрывает множество удивительных тайн.
7. Тщательно охраняемые исправительные учреждения ради полной изоляции преступников создаются.
8. Сезон клубники в самом разгаре!
9. Семь чудес древнего мира стали вершиной античной архитектурной мысли.
10. В России временно разрешили производство бензина и дизеля более низких экологических классов.
11. Подкормки для петуний: как получить море цветов на балконе и в клумбе.
12. За долгое время наш мир сталкивался с невероятно странными событиями.
13. Много лет отжиралась, но сейчас железно решила сесть на диету.
14. У дачного отдыха есть одна особенно коварная привычка: всё, что пахнет летом, дымком и мясом, автоматически кажется почти невинным.
15. Подорожник на участке: пора проверять почву!
16. Что любит перец после высадки в теплицу - секреты ухода для богатого урожая!
17. Секреты огромного урожая томатов: сохраняй, чтобы не потерять!
18. Я мopковь сею следующим образом.
19. В Алматы установили памятник истории спасения собаки живой цепью.
20. Трещины на тротуарах превращаются в целые миры художника.
21. Moй споcoб подкopмки мoлодой рассады тoматов.
22. Картофельные ростки: золотой актив, который вы зря выбрасывали!
23. Психотерапевт из Англии оказался в центре скандала из-за методов "Лечения" своих пациенток.
24. Пятьcot лет тому нaзад.
25. Исследование показало, что всего 24 минуты ритмичной музыки в день способны полностью убрать мыслительный шум и снять депрессию.
26. Coветы для тoго, чтoбы получить крупную малину.
27. В Лос-анджелесе новый год отмечают необычным образом - под счетчик смертей от курения.
28. После новогодних праздников американские врачи советуют не лежать на диване, а выходить на улицу и активно выпускать газы.
29. На новый год обязательно буду готовить, потому что этот бюджетный малыш разлетается с тарелки быстрее всех сложных блюд!
30. Девушка своими руками соорудила аккуратную деревянную полочку и повесила её на стену.
31. Начинайте готовить ягодные кустарники к зимовке.
32. Девушка создала мини - шкафчик своими руками, идеально подходящий для книг и разных мелочей.
33. Один из авторов продемонстрировал удивительно простой, но точный способ взлома кодового замка.
34. Hи однoй мыши, ни однoго кpoта и зaйца на вaшей даче бoльше не бyдет.
35. Творожный чизкейк. Ингредиенты:
36. Новое исследование показало, что популярный в России сахарозаменитель сукралоза может разрушать человеческую днк и вызывать мутации.
37. Это лучшее, что я когда-либо ела!
38. Формировать смородиновый куст можно как весной, так и осенью.
39. Осень - лучшее время, чтобы дать газону "Второе Дыхание".
40. Как ухаживать за астрами для пышного цветения.
41. Врачи предупреждают: привычка откладывать будильник может способствовать набору лишнего веса.
42. Быстро, красиво и почти без усилий - именно так была создана её настенная подставка.
43. Кто сказал, что шестиугольники только у пчёл?
44. Обработка участка от клещей - важная мера для защиты здоровья вашей семьи и домашних животных.
45. Регулярное употребление хотя бы шести штук в неделю снижает риск ранней смерти почти на 30 процентов.
46. Клематис "Герцогиня Эдинбургская" - это популярный сорт декоративного лианового растения из семейства лютиковых.
47. Наконец - то хорошие новости: новая вакцина против рака работает по принципу персонализированной терапии и уже заинтересовала зарубежные клиники.
48. Почему засыхает малина в период созревания ягод?
49. Самый легкий способ укоренения розы из букета!
50. Как насчет вкусной и ароматной аджики, которая так замечательно сочетается с нашим любимым шашлычком?