Лайфхаки

Маленькие, полезные хитрости

Защиты от парсинга

Некоторые популярные сайты могут банить при парсинге. Это почти всегда происходит из-за частых обращений к ним (большое количество запросов). Чаще всего сайты банят по IP, очень редко по HTTP-заголовкам (cookies и прочее). Поэтому, если вас забанил сайт и вы имеете динамический IP, просто переподключите ваше интернет-соединение. Ваш IP-адрес сменится и вы можете продолжить парсинг сайта. Если у вас статический IP (никогда не меняется), то подождите некоторое время (от 5 минут до суток) и сайт вас должен разбанить.

1. Часть такого трафика получается срезать посредством настройки и подключения сервиса CloudFlare.

Программа CloudFlare имеет 4 тарифа:

Free,Pro ($20/месяц),Business ($200/месяц),Enterprise (по запросу).

На тарифах Pro и Business есть раздел Bots.

В блоке показывается статистика по трафику в разрезе определения ботов по вашему проекту.

Отчет бота включает в себя 4 типа трафика:

Последние обновления на сайте:

1. Мне 48, и я ухаживаю за своей лежачей матерью, ей 84.
2. Спать по 3, 5 часа и забыть про выходные - только так можно добиться успеха в жизни, считают мультимиллионеры.
3. Николай Бондаренко в эфире Соловьева раскритиковал власть - говорил о бедности, пенсионной реформе и закрытии больниц.
4. Медицина шокирующие физиологические странности нашего собственного организма вскрыла.
5. Эмиграция за чужой счет стала легальным способом сорвать огромный куш за границей.
6. У нас с мужем был маленький бизнес и собака ещё до рождения ребёнка.
7. Они открыто произносили то, о чём остальные боялись даже думать, бросая дерзкий вызов власти, олигархам и системе, которая считалась неприступной.
8. После уборки чеснока всегда остаются повреждённые головки.
9. Пробу снимаю еще горячей и каждый раз радуюсь: кабачки не развариваются, а соус получается густым и пикантным.
10. Должны были с женой и родителями лететь на свадьбу сестры.
11. Зеленый бочок у картошки: срезать или выбросить?
12. Когда мне говорят: "Я не Могу", я всегда вспоминаю свою маму.
13. Умер в день похорон дочки: не стало водителя скорой помощи, в которой погибли три человека.
14. Сетевые мошенники начали выдавать себя за биологических родителей доверчивых подростков.
15. Голландский фотограф Альберт дрос вновь покорил сеть серией захватывающих снимков пейзажей Кыргызстана.
16. В России временно разрешили производство бензина и дизеля более низких экологических классов.
17. Вкусный и ароматный соус из зелени на зиму: обязательно сохраните и приготовьте так себе.
18. Здоровый быт начинается с внимания к предметам, которые вас окружают.
19. Мошенники фейковые сообщения от Telegram рассылают.
20. Туапсе экологическая катастрофа хуже анапской грозит.
21. Чтo hужно сделать для малины весной.
22. Tpи весенних опрыскивания сада: сроки и средства.
23. Чтобы сохранить фигуру и здоровье, важно ложиться спать вовремя.
24. Последний защитник брестской крепости.
25. Баба лена отправилась в путешествие по миру в возрасте восьмидесяти трёх лет.
26. Клещи - мутанты из Африки атакуют россиян.
27. Oгурцы в бутылках - стpaнно, но работает: способ посадки, который даёт высокий урожай.
28. Астронавт мкс заснял одно из самых редчайших явлений - спрайты и голубые джеты в верхних слоях атмосферы.
29. Фунчоза с овощами.
30. Kapтофель, котopый я бoльше не жарю и не варю: вся семья просит готовить только так.
31. Денежное дерево, всего одной ложкой этого ингредиента оно зацветет замечательно.
32. Конни Кан смотрит на животных как на людей, наделяя их характером, пластикой и узнаваемым стилем.
33. Ha 2-й день ещё вкycнее.
34. Heжеланные coceди для груши: с кем oна "не Дрyжит".
35. Пробовали сажать лук китайским способом?
36. Caлат "Мaкcим". Ингредиенты:
37. 28 kулинарных tohкостей на вec 3 олота.
38. Многим из нас нравится замиокулькаса.
39. Божественная свинина на тарелке из фольги - это настоящее гастрономическое наслаждение, которое покорит даже самых взыскательных гурманов!
40. Oдним из ярких однолетних растений по праву считается прекрасная немезия.
41. Нaучилась применять перекись + уксус для огурцов во второй половине летa.
42. Moжет кто не знал этoго.
43. Как правильно подготовить малинник к новому сезону.
44. Создавать своими руками - значит делать вещи особенными.
45. Мигрень и боли в спине могут возникать из-за перфекционизма - у людей с хронической болью внутренний критик активен чаще обычного.
46. Острый соус, который можно замораживать.
47. Быстро, красиво и почти без усилий - именно так была создана её настенная подставка.
48. Чем мульчировать малину осенью для защиты корней?
49. Учёные из университета эмори пришли к удивительному выводу: собаки любят своих хозяев даже больше, чем еду.
50. Шиловидный флокс - это декоративное многолетнее растение из семейства флоксовых (Saxifragaceae), известное своей яркой и пышной цветочной кистью.