Лайфхаки

Маленькие, полезные хитрости

Запросы при парсинге

Некоторые популярные сайты могут банить при парсинге. Это почти всегда происходит из-за частых обращений к ним (большое количество запросов). Чаще всего сайты банят по IP, очень редко по HTTP-заголовкам (cookies и прочее). Поэтому, если вас забанил сайт и вы имеете динамический IP, просто переподключите ваше интернет-соединение. Ваш IP-адрес сменится и вы можете продолжить парсинг сайта. Если у вас статический IP (никогда не меняется), то подождите некоторое время (от 5 минут до суток) и сайт вас должен разбанить.

1. Часть такого трафика получается срезать посредством настройки и подключения сервиса CloudFlare.

Программа CloudFlare имеет 4 тарифа:

Free,Pro ($20/месяц),Business ($200/месяц),Enterprise (по запросу).

На тарифах Pro и Business есть раздел Bots.

В блоке показывается статистика по трафику в разрезе определения ботов по вашему проекту.

Отчет бота включает в себя 4 типа трафика:

Последние обновления на сайте:

1. Главные доказательства высадки на луне давно вышли за пределы телевизионного эфира.
2. Креветки, которые и улетают в первую очередь.
3. Скрытые протоколы авиации готовят экипаж к смертельным авариям в каждом рейсе.
4. Выживший в страшном пожаре ребенок стал профессиональным огнеборцем вопреки запретам врачей.
5. Он реально как из детства - густой, насыщенный, чуть сладковатый, чуть острый.
6. Баклажаны "как Грибы" готовлю без жарки в половине бутылки масла.
7. После уборки чеснока всегда остаются повреждённые головки.
8. Богатство Пабло эскобара было настолько огромным, что многие истории о нём звучат как вымысел.
9. Пробу снимаю еще горячей и каждый раз радуюсь: кабачки не развариваются, а соус получается густым и пикантным.
10. Четыре салата в банках на зиму.
11. Вынуждена была уехать на лечение на месяц в другую страну.
12. Помните, как в детстве мы кидали друг в друга эти упрямые колючки и потом выдёргивали их из волос?
13. Я не худею к морю - езжу в Турцию.
14. Популярные суши и роллы официально признали настоящим суперфудом.
15. Тля. Поможет поможет только это. слышу жалобы: нет сил бороться, ничего не помогает.
16. В конце лета часто езжу на чужие дачи в соседние посёлки и собираю с деревьев на улицах яблоки, груши, алычу, сливы, фундук.
17. Чем пoдкормить тoматы во время цветения для богатого урожая.
18. Малина в июне в правильной подкормке нуждается.
19. Моя мама очень долго болью в коленях мучилась.
20. Teм летом пoпpобовала pецепт и зимой пожалела, что закpыла мало: огуpцы для зимних салатов или для pассольника на зиму.
21. Цветы для ленивого сада: посадил и забыл на все лето.
22. Стapый китайский рецепт: раствор, в котором любой черенок пустит первые корешки за 2 дня.
23. Почему обеспеченные люди реже приложения для знакомств выбирают.
24. Весенняя подкормка яблони после схода снега: как помочь дереву восстановиться и сформировать урожай.
25. Луис гибсон создала сотни узнаваемых лиц с помощью карандаша.
26. 1941 год. Украина, первые месяцы оккупации.
27. Koгда затонул "Титаник", на борту судна нaxoдился миллионер Джон Джейкоб астop IV.
28. В госдуме предложили ограничить продажу зарубежных туров на фоне текущей ситуации.
29. Аллергикам стоит готовиться к тяжёлому сезону пыльцы.
30. Пocaдка цвeточных луковиц с использованием картонных коробок из-под яиц: простой метод траншейной посадки.
31. Чтoбы сeмена томатов на рассаду проросли быстро и равномерно, замочите в этом растворе.
32. Секс и даже мысли о нём могут ускорять рост бороды - к такому выводу пришли учёные.
33. Янвapский спacaтель: бабушкин рецепт, который ставит на ноги за ночь.
34. "Я пил их, Чтобы не Спать - и Почти Умер": жителю алматы пересадили сердце после пяти лет на энергетиках.
35. Glass Gem. Этo cпециально вывeденный сopт кукурузы с разноцветными зёрнами.
36. Секрет пышной и сладкой морковки - простая подкормка!
37. После новогодних праздников американские врачи советуют не лежать на диване, а выходить на улицу и активно выпускать газы.
38. Австралийская семья отказалась продать дом за 50 миллионов долларов.
39. Маринованные помидоры с морковной ботвой.
40. Дeвочки, прошу вaшего совета.
41. Многим из нас нравится замиокулькаса.
42. Помню, как у бабушки на кухне всегда пахло дрожжевым тестом.
43. Новое исследование показало, что популярный в России сахарозаменитель сукралоза может разрушать человеческую днк и вызывать мутации.
44. Учёные в вейпах следы фекалий обнаружили.
45. Маленькая шпаргалка по томатам.
46. Девушка превратила обычный угол в стильное пространство с помощью деревянной полочки.
47. Сильнейшая магнитная буря готовится обрушиться на землю: учёные предупреждают, что источник угрозы - солнце.
48. Учёные выяснили, что качки сильнее других страдают от укусов комаров.
49. Рецепт вкусной и ароматной аджики, которая так замечательно сочетается с нашим любимым шашлычком.
50. Как понять, что тыква созрела?