Лайфхаки

Маленькие, полезные хитрости

Запросы при парсинге

Некоторые популярные сайты могут банить при парсинге. Это почти всегда происходит из-за частых обращений к ним (большое количество запросов). Чаще всего сайты банят по IP, очень редко по HTTP-заголовкам (cookies и прочее). Поэтому, если вас забанил сайт и вы имеете динамический IP, просто переподключите ваше интернет-соединение. Ваш IP-адрес сменится и вы можете продолжить парсинг сайта. Если у вас статический IP (никогда не меняется), то подождите некоторое время (от 5 минут до суток) и сайт вас должен разбанить.

1. Часть такого трафика получается срезать посредством настройки и подключения сервиса CloudFlare.

Программа CloudFlare имеет 4 тарифа:

Free,Pro ($20/месяц),Business ($200/месяц),Enterprise (по запросу).

На тарифах Pro и Business есть раздел Bots.

В блоке показывается статистика по трафику в разрезе определения ботов по вашему проекту.

Отчет бота включает в себя 4 типа трафика:

Последние обновления на сайте:

1. Ночью знакомая дорога легко в полосу неизвестности превращается.
2. Долгожданный приезд рэпера канье уэста в Россию оказался грандиозным мыльным пузырем.
3. Слепое умиление дикими зверями регулярно стоит туристам сломанных костей и мучительной смерти.
4. Стручковая фасоль обычно отправлялась у меня либо в рагу, либо сразу в морозилку.
5. Замуж выходила по сильной любви за ярого мотоциклиста, но ради нашего совместного будущего мы решили, что увлечение слишком опасное.
6. Путин призвал готовиться к возвращению военнослужащих после окончания сво.
7. Они открыто произносили то, о чём остальные боялись даже думать, бросая дерзкий вызов власти, олигархам и системе, которая считалась неприступной.
8. Ты думаешь, что просто утоляешь жажду, но на самом деле каждый день выпиваешь бомбу замедленного действия.
9. Свёкла наполовину торчит из земли - это ещё не значит, что она срочно просится в погреб.
10. Лишь в том случае, если просто засыпать мягкие груши сахаром и варить час, получится сладкое пюре непонятного цвета.
11. В том случае, если баклажаны стоят красивой зелёной стеной, а плодов почти не видно - радоваться тут нечему.
12. Розы отцвели и стоят неряшливые: что я делаю, чтобы увидеть вторую волну цветения.
13. Помните, как в детстве мы кидали друг в друга эти упрямые колючки и потом выдёргивали их из волос?
14. Мой муж в течение четырёх лет не подозревал, что это аджика из кабачков, он с удовольствием её ел, хотя кабачки обычно не любит!
15. Нaучилась применять перекись + укcyс для огурцов во второй половине летa.
16. Найти хорошую работу в России становится практически невозможно для большинства граждан.
17. Некоторые населенные пункты на земле постоянно живут в условиях экстремального мороза.
18. Крупнейшие мировые корпорации десятилетиями огромные состояния на смертельной продукции зарабатывали.
19. Мощная подкормка для овощей: секрет огромного количества завязей.
20. Жестокая реальность древнего Египта намного страшнее школьных учебников оказалась.
21. Припорошите междурядья моркови самой простой подкормкой и увидите какой крупной она вырастет.
22. Легендарные затерянные города ищут сотни лет, но их координаты до сих пор остаются неразгаданной загадкой.
23. Муж часто домашние дела на потом задвигает.
24. При знакомстве с новыми людьми всегда стараюсь мягко обкатать какие-то жесткие для него темы.
25. Туапсе экологическая катастрофа хуже анапской грозит.
26. Сamые удачные сорта моркови на 2026 год.
27. Когда меня накрывает апатия и тоска, когда дела на работе идут хреново и настроение изо дня в день всё хуже и хуже, я проваливаюсь в шопоголизм.
28. У китайцев принято чавкать.
29. Помoгаем печени утpoм, днем и вечером!
30. Картофельные ростки: золотой актив, который вы зря выбрасывали!
31. Шварценеггер приехал в Ссср за искусством, мехами и легендой - и ни один пункт не пропустил.
32. Исследование показало, что всего 24 минуты ритмичной музыки в день способны полностью убрать мыслительный шум и снять депрессию.
33. Пиpoжки: зaбытый стapый мaмин рeцепт.
34. Про выращивание укропа.
35. Американская пара оказалась в центре внимания после того, как их новорождённый малыш родился с кожей значительно темнее, чем у обоих родителей.
36. Секрет пышной и сладкой морковки - простая подкормка!
37. Не у всех укроп растёт как сорняк, в огромных количествах.
38. Вот так выглядит архитектура, когда пространства почти не осталось.
39. Австралийская семья отказалась продать дом за 50 миллионов долларов.
40. Замечательный закусочный торт из нежной куриной грудки!
41. Фильм, который меняет стереотипное представление об атомной энергетике.
42. Жeнщинe пocлe 40 лeт витамин в 12 жизнeннo нeoбхoдим.
43. Помню, как у бабушки на кухне всегда пахло дрожжевым тестом.
44. Oдним из ярких однолетних растений по праву считается прекрасная немезия.
45. Полезная памятка средств для сада и огорода.
46. Учёные выяснили, что зимний секс может реально укрепить здоровье и защитить от болезней.
47. Сердце в словах: почему мы так любим любовные романы
48. Яркий акцент для сада.
49. Подставки для вещей, сделанные своими руками, могут быть не только полезными, но и красивыми.
50. Вот он - пример того, как из идеи рождается практичная и красивая вещь.