Лайфхаки

Маленькие, полезные хитрости

Защиты от блокировки

Некоторые популярные сайты могут банить при парсинге. Это почти всегда происходит из-за частых обращений к ним (большое количество запросов). Чаще всего сайты банят по IP, очень редко по HTTP-заголовкам (cookies и прочее). Поэтому, если вас забанил сайт и вы имеете динамический IP, просто переподключите ваше интернет-соединение. Ваш IP-адрес сменится и вы можете продолжить парсинг сайта. Если у вас статический IP (никогда не меняется), то подождите некоторое время (от 5 минут до суток) и сайт вас должен разбанить.

1. Часть такого трафика получается срезать посредством настройки и подключения сервиса CloudFlare.

Программа CloudFlare имеет 4 тарифа:

Free,Pro ($20/месяц),Business ($200/месяц),Enterprise (по запросу).

На тарифах Pro и Business есть раздел Bots.

В блоке показывается статистика по трафику в разрезе определения ботов по вашему проекту.

Отчет бота включает в себя 4 типа трафика:

Последние обновления на сайте:

1. Еда иногда преподносит Находки, после которых аппетит исчезает мгновенно.
2. Nasa показало вселенную с невероятным уровнем детализации.
3. Николай Бондаренко в эфире Соловьева раскритиковал власть - говорил о бедности, пенсионной реформе и закрытии больниц.
4. Гонщик мирового уровня выбросил миллионы и отправился босиком через континенты в Индию.
5. Два мягких помидора уже никто не хотел есть, а выбрасывать было жалко.
6. После последней ягоды про клубнику легко забыть до следующей весны.
7. Человечество не просто выживало в разных уголках планеты - оно менялось вместе с ними.
8. Муж постоянно по утрам будит.
9. Депутат Горелкин слухи о блокировке Steam в России развеял.
10. Когда мне говорят: "Я не Могу", я всегда вспоминаю свою маму.
11. Что будет с землёй, если солнце внезапно исчезнет.
12. Роскошные мегаполисы будущего превращаются в пустые города - призраки вопреки гигантским финансовым вложениям.
13. Недавно сестра опубликовала пост: "я набралась сил, чтобы простить всех, кто меня обижал всю мою жизнь.
14. Мощная подкормка для овощей: секрет огромного количества завязей.
15. Семь чудес древнего мира стали вершиной античной архитектурной мысли.
16. Голландский фотограф Альберт дрос вновь покорил сеть серией захватывающих снимков пейзажей Кыргызстана.
17. У меня есть лишний вес, пытаюсь как-то двигаться и есть поменьше, но за зиму всё равно набрала больше обычного.
18. Клубнику подкaрмливают три раза в гoд.
19. Гopчичный, дегтярный и чесночный растворы могут быть полезными при борьбе с этими вредителями.
20. У чеснока есть один важный момент - пропустите его, и головки останутся мелкими.
21. Победители первых "Игр на Стероидах" получат по 250 тысяч долларов.
22. С 1 сентября в России планируют обновить перечень медицинских специальностей.
23. Haтуральные стимуляторы образования корней.
24. Смертельно опасные комары могут размножаться в бочках с водой на дачах россиян.
25. Проект за 200 миллионов долларов превратился в странный город - призрак.
26. Исследование рост половой дисфункции среди молодого поколения показало.
27. Чтобы сохранить фигуру и здоровье, важно ложиться спать вовремя.
28. Трещины на тротуарах превращаются в целые миры художника.
29. Горсть миндаля в день может заметно улучшить состояние кожи.
30. Картофельные ростки: золотой актив, который вы зря выбрасывали!
31. Плoxие coceди для смородины.
32. Египтяне нередко аэрофотосъёмки большого сфинкса избегают.
33. После вторых родов вес подскочил до 81 кг, и многие вещи в шкафу напоминали, как сильно тело изменилось.
34. Пиpoжки: зaбытый стapый мaмин рeцепт.
35. Mинтай можно без особого труда приготовить вкусно.
36. Клип "Adventure of a Lifetime" начинается с безумной сцены: шимпанзе танцуют, отбивают ритм и будто празднуют свободу через музыку.
37. Это, пожалуй, самый отвлекающий экзамен из всех возможных.
38. Пoчему лук стoит caжать в клyбнике.
39. Так рыбка получится сочная и ароматная, не только минтай, а любая другая.
40. Помню, как у бабушки на кухне всегда пахло дрожжевым тестом.
41. Насыпной пирог с творожной начинкой.
42. Ни один шашлычек у нас не обходят без этой закуски!
43. Маленькие, но важные детали делают интерьер особенным.
44. Самоплoдные сорта грyш.
45. Девушка превратила обычный угол в стильное пространство с помощью деревянной полочки.
46. Шиловидный флокс - это декоративное многолетнее растение из семейства флоксовых (Saxifragaceae), известное своей яркой и пышной цветочной кистью.
47. От автомобилей до космических аппаратов: человечество постоянно разгоняется до невероятных скоростей.
48. Обработка участка от клещей - важная мера для защиты здоровья вашей семьи и домашних животных.
49. Выбор садовой тяпки - важный этап для комфортной и эффективной работы в саду.
50. Наконец - то хорошие новости: новая вакцина против рака работает по принципу персонализированной терапии и уже заинтересовала зарубежные клиники.