Лайфхаки

Маленькие, полезные хитрости

Запросы при парсинге

Некоторые популярные сайты могут банить при парсинге. Это почти всегда происходит из-за частых обращений к ним (большое количество запросов). Чаще всего сайты банят по IP, очень редко по HTTP-заголовкам (cookies и прочее). Поэтому, если вас забанил сайт и вы имеете динамический IP, просто переподключите ваше интернет-соединение. Ваш IP-адрес сменится и вы можете продолжить парсинг сайта. Если у вас статический IP (никогда не меняется), то подождите некоторое время (от 5 минут до суток) и сайт вас должен разбанить.

1. Часть такого трафика получается срезать посредством настройки и подключения сервиса CloudFlare.

Программа CloudFlare имеет 4 тарифа:

Free,Pro ($20/месяц),Business ($200/месяц),Enterprise (по запросу).

На тарифах Pro и Business есть раздел Bots.

В блоке показывается статистика по трафику в разрезе определения ботов по вашему проекту.

Отчет бота включает в себя 4 типа трафика:

Последние обновления на сайте:

1. Британские музеи хранят сокровища, возвращения которых требуют другие страны.
2. Российские автомобили не подходят для работы в такси, заявил представитель общественного совета по развитию такси.
3. Семейный квест: как победить грипп?
4. Человечество создало резервную копию урожая на случай катастрофы.
5. Вселенную ждёт будущее, в котором погаснут даже самые яркие звёзды.
6. Я до сих пор не понимаю, как совсем маленькие дети могут арендовать самокаты.
7. Недавно с мужем заселились в съёмную квартиру.
8. Nasa показало вселенную с невероятным уровнем детализации.
9. Мой муж никогда не уходит с работы.
10. Красивый бордовый цвет у борща получается без долгих хлопот у плиты.
11. В 11 лет я сломала нос.
12. Маленький кабачок вроде завязался, начал расти, а потом пожелтел и сгнил прямо с цветком.
13. Лаконичная надпись на этикетке парфюма десятки веществ скрывает.
14. Кабачки "КАК Ананасы" - зимой никто сразу не понимает, что лежит в банке.
15. Перестала покупать кетчуп, когда попробовала сделать его с яблоками.
16. Академик ран Онищенко призвал россиян не ездить отдыхать за границу: "Зачем Ездить в Турцию, Когда у нас в Стране Есть Практически все".
17. Путин ужесточил требования к Украине после отказа США от "Духа Анкориджа", пишет Bloomberg.
18. Мы привыкли считать сахар обычной и безобидной частью ежедневного рациона.
19. Мне 37, молодая и здоровая была, но за год постарела.
20. Эти минералы выглядят так нереально, что кажутся творением нейросети или 3D-графики.
21. Серая гниль на розах - гадость мерзостная.
22. Подкормка капусты в июне: мы выбираем лучшее для крепких кочанов.
23. История доказывает, что многие теории заговора со временем становятся фактами.
24. У чеснока есть один важный момент - пропустите его, и головки останутся мелкими.
25. У меня сложные отношения со свекрами.
26. Смертельно опасные комары могут размножаться в бочках с водой на дачах россиян.
27. Здравствуйте, oбращаюсь анoнимнo.
28. После того как рухнула советская власть, что сделали?
29. Когда я засматриваю сериал до дыр, но останавливаться не хочу, я просто начинаю смотреть его на английском языке.
30. Учёные раскрыли причину, почему кошки часто не доедают привычный корм.
31. Когда сажать бархатцы и какие сорта лучше выбрать.
32. Шоколад может исчезнуть из-за изменений климата уже в ближайшие десятилетия.
33. Антонио бандерас и дакота Джонсон - один из самых трогательных примеров того, что настоящая семья строится не на биологии, а на искренней любви.
34. Пpичины, пoчему уcыхает чеснок при хранении.
35. Пиpoжки: зaбытый стapый мaмин рeцепт.
36. Денежное дерево, всего одной ложкой этого ингредиента оно зацветет замечательно.
37. Mинтай можно без особого труда приготовить вкусно.
38. Предновогодним настроением с подписчиками поделился Владимир Пресняков.
39. Дaвно забытый peцепт из сссp.
40. Пoчему лук стoит caжать в клyбнике.
41. Чтo делает с оргahизмом всего одна хурма.
42. И еxaть никуда не нaдо.
43. Помoщь для пeчени.
44. Camый удачный рецепт 3A\u041B\u0418\u0412\u041D\u041E\u0413\u041E пирога - пpocто, быстро и всегда вкусно!
45. Geely Motors заявила, что причиной массовых поломок двигателей в России стал местный бензин.
46. В России отложили введение нового утильсбора для автомобилей.
47. А вы знали, что если у девушки долго не было Seksa, то она ….
48. Учёные разработали крем, который действительно убирает морщины - и в этот раз речь не о рекламе, а о подтверждённых клинических испытаниях.
49. Пурпурная малина - настоящая Находка для вашего сада!
50. Сексологи выделили 10 скрытых признаков женского абьюза, на которые нельзя закрывать глаза.