Лайфхаки

Маленькие, полезные хитрости

Защиты от парсинга

Некоторые популярные сайты могут банить при парсинге. Это почти всегда происходит из-за частых обращений к ним (большое количество запросов). Чаще всего сайты банят по IP, очень редко по HTTP-заголовкам (cookies и прочее). Поэтому, если вас забанил сайт и вы имеете динамический IP, просто переподключите ваше интернет-соединение. Ваш IP-адрес сменится и вы можете продолжить парсинг сайта. Если у вас статический IP (никогда не меняется), то подождите некоторое время (от 5 минут до суток) и сайт вас должен разбанить.

1. Часть такого трафика получается срезать посредством настройки и подключения сервиса CloudFlare.

Программа CloudFlare имеет 4 тарифа:

Free,Pro ($20/месяц),Business ($200/месяц),Enterprise (по запросу).

На тарифах Pro и Business есть раздел Bots.

В блоке показывается статистика по трафику в разрезе определения ботов по вашему проекту.

Отчет бота включает в себя 4 типа трафика:

Последние обновления на сайте:

1. Общественные пространства окончательно шедевры непреднамеренного уличного идиотизма захватили.
2. Некоторые страны готовы платить за переезд, но бесплатные деньги оказались ловушкой.
3. Недавно узнала, что у матери туберкулёз открытой формы.
4. Геймер потратил сотни часов, чтобы построить город из "Атаки Титанов".
5. Спать по 3, 5 часа и забыть про выходные - только так можно добиться успеха в жизни, считают мультимиллионеры.
6. Бабушка маму родила уже за 30, во втором браке.
7. Еда иногда преподносит Находки, после которых аппетит исчезает мгновенно.
8. Положила к чесноку несколько кусочков свёклы - через два дня открыла банку с ярко-розовыми зубчиками.
9. Одна взятка в Китае способна уничтожить не только карьеру, но и всю жизнь вместе с будущим всей семьи.
10. В том случае, если груши уже мягчают быстрее, чем мы успеваем их есть, отправляю их в варенье с лимоном.
11. Твоё тело работает 24 часа в сутки без твоего участия.
12. Чем заболела груша и как ее лечить?
13. Когда мне говорят: "Я не Могу", я всегда вспоминаю свою маму.
14. Мы привыкли считать сахар обычной и безобидной частью ежедневного рациона.
15. Собрали последнюю малину и забыли про кусты?
16. Мой муж в течение четырёх лет не подозревал, что это аджика из кабачков, он с удовольствием её ел, хотя кабачки обычно не любит!
17. Прямо сейчас где-то над нами летит самолёт без единого пассажира.
18. Вот проверенный рецепт - всегда получаются вкусные, очень, очень вкусные огурчики.
19. Крупнейшие мировые корпорации десятилетиями огромные состояния на смертельной продукции зарабатывали.
20. Клубнику подкaрмливают три раза в гoд.
21. Для сохранения здоровья листьев огурцов и предотвращения их желтения, вот несколько проверенных рецептов:
22. При знакомстве с новыми людьми всегда стараюсь мягко обкатать какие-то жесткие для него темы.
23. Здравствуйте, участники сообщества!
24. Три ошибки дачников, из-за которых поликарбонат быстро разрушается.
25. Лопух - это не просто сорняк, который растёт на каждом участке, а настоящее кладовое растение для огородника и здоровья.
26. Соседи в шоке: зачем я кладу горох в каждую лунку с картофелем?
27. Когда меня накрывает апатия и тоска, когда дела на работе идут хреново и настроение изо дня в день всё хуже и хуже, я проваливаюсь в шопоголизм.
28. Kpaxмал и зола для смородины - секрет сладких ягод.
29. Ваши вопросы: пожелтела совсем туя после зимы.
30. Сковорода шипит, пирожки румянятся, а настроение становится праздничным.
31. В госдуме предложили ограничить продажу зарубежных туров на фоне текущей ситуации.
32. Самая мощная трава для мозгового кровообращения, сердца, сосудов, надпочечников, суставов, кожи, волос и не только!
33. Астронавт на борту мкс запечатлел одно из самых редких атмосферных явлений - спрайты и голубые джеты в верхних слоях атмосферы.
34. Самый возрастной ветеран великой отечественной войны умер.
35. Учёные выяснили, что пик сексуальной активности у мужчин приходится примерно на 35 лет.
36. Первый состав поп-группы ВИА гра включал в себя следующих участниц:
37. Конни Кан смотрит на животных как на людей, наделяя их характером, пластикой и узнаваемым стилем.
38. Ozon вводит новую механику: если однажды оставить курьеру чаевые, сервис автоматически включает автосписание при следующих заказах.
39. Процесс создания зеркала своими руками настолько залипательный, что сложно отвести взгляд.
40. Шикapные нeжные котлeты по-мoлдавски, которое получатся с первого раза!
41. В 1924 году метрополитен - музей представил уникальную демонстрацию средневековых доспехов, показав их удивительную гибкость.
42. Это закуска на любом застолье на ура уходит!
43. Тысячи российских продавцов несут миллионные убытки из-за огромной пробки на границе с Казахстаном.
44. Во время овуляции девушки словно обретают суперсилу - к такому выводу пришли учёные.
45. Учёные разработали крем, который действительно убирает морщины - и в этот раз речь не о рекламе, а о подтверждённых клинических испытаниях.
46. Девушка взялась за проект своими руками и в итоге собрала настенные часы.
47. Недорогое средство от пятнистостей на розах.
48. Вот он - пример того, как из идеи рождается практичная и красивая вещь.
49. Американские учёные провели исследование и пришли к интересному выводу: мужчины достигают психологической зрелости только после 40 лет.
50. В московских клиниках лечение на современном оборудовании нормой стало.