Лайфхаки

Маленькие, полезные хитрости

Ip-адреса при парсинге

Некоторые популярные сайты могут банить при парсинге. Это почти всегда происходит из-за частых обращений к ним (большое количество запросов). Чаще всего сайты банят по IP, очень редко по HTTP-заголовкам (cookies и прочее). Поэтому, если вас забанил сайт и вы имеете динамический IP, просто переподключите ваше интернет-соединение. Ваш IP-адрес сменится и вы можете продолжить парсинг сайта. Если у вас статический IP (никогда не меняется), то подождите некоторое время (от 5 минут до суток) и сайт вас должен разбанить.

1. Часть такого трафика получается срезать посредством настройки и подключения сервиса CloudFlare.

Программа CloudFlare имеет 4 тарифа:

Free,Pro ($20/месяц),Business ($200/месяц),Enterprise (по запросу).

На тарифах Pro и Business есть раздел Bots.

В блоке показывается статистика по трафику в разрезе определения ботов по вашему проекту.

Отчет бота включает в себя 4 типа трафика:

Последние обновления на сайте:

1. На месторождении "Газпром Нефти" начал работу первый российский комплекс для обслуживания скважин.
2. Лоис гибсон превратила карандаш в инструмент поимки преступников.
3. Правительства пугающую правду о запретных для посещения вершинах планеты скрывают.
4. Результат поразил: кислые сливы, которые никто не хотел есть, превратились в густой соус к мясу.
5. Искреннее сострадание не требует миллионов на счетах и громкого общественного признания.
6. Депутаты госдумы выступили с инициативой "Тотального Запрета на Использование Матов в Общественных Местах".
7. Замуж выходила по сильной любви за ярого мотоциклиста, но ради нашего совместного будущего мы решили, что увлечение слишком опасное.
8. Грядку под озимый чеснок готовлю не в ДЕНЬ посадки.
9. Свёкла наполовину торчит из земли - это ещё не значит, что она срочно просится в погреб.
10. МРТ Плода показывает мозг и глаза сквозь кости черепа.
11. Моя семья успешность отпуском у "Морюшка измеряет".
12. Пробу снимаю еще горячей и каждый раз радуюсь: кабачки не развариваются, а соус получается густым и пикантным.
13. Должны были с женой и родителями лететь на свадьбу сестры.
14. Когда мне говорят: "Я не Могу", я всегда вспоминаю свою маму.
15. Серая гниль на розах - гадость мерзостная.
16. Современный гейминг оказался исключительно полезен для человеческой психики.
17. Выпускники по всей России массово заявляют о жестких ошибках в ЕГЭ.
18. Мне 32, выгляжу лет на восемь моложе (не мои фантазии, а слова нескольких десятков коллег и знакомых.
19. Добрый день! Вдруг кто с подобным … сталкивался.
20. Когда-то давно у меня был кот с сумасшедшим характером.
21. Пекинская капуста даст крепкие кочаны, если посеять её в нужный срок.
22. Смертельно опасные комары могут размножаться в бочках с водой на дачах россиян.
23. Лопух - это не просто сорняк, который растёт на каждом участке, а настоящее кладовое растение для огородника и здоровья.
24. Что любит перец после высадки в теплицу - секреты ухода для богатого урожая!
25. Когда меня накрывает апатия и тоска, когда дела на работе идут хреново и настроение изо дня в день всё хуже и хуже, я проваливаюсь в шопоголизм.
26. Учёные раскрыли причину, почему кошки часто не доедают привычный корм.
27. Первая обработка сада от паразитов весной: полный гайд.
28. Koгда затонул "Титаник", на борту судна нaxoдился миллионер Джон Джейкоб астop IV.
29. Детские больницы кабинеты МРТ в сказочные пространства для снижения стресса превращают.
30. HE поливайте, когда земля сухая!
31. Психотерапевт из Англии оказался в центре скандала из-за методов "Лечения" своих пациенток.
32. В 84 года Шотаро одате продолжает руководить разработкой систем безопасности Honda.
33. Обычный лавровый лист заставит комнатные растения пышно цвести.
34. Нежный пирог черный принц из варенья.
35. Шварценеггер приехал в Ссср за искусством, мехами и легендой - и ни один пункт не пропустил.
36. Девушка выдавила прыщ и оказалась на операционном столе с разрезанным лбом.
37. Работа в ночное время риск инфаркта и сердечно-сосудистых проблем повышает.
38. Heжнeйший пирог 4 стакана.
39. Мужик ушёл в запой на четыре дня, а проснулся владельцем футбольного клуба - и не помнит, как это произошло.
40. Как заставить замиокулькас активно выпускать новые побеги.
41. Натали вспомнила мужа: "третья новогодняя ночь без него.
42. Готовлю ужин всего за 10 минут: 1 стакан кефира, и вот уже вкусное блюдо готово!
43. Ситуация с вич в России остаётся критической: по официальным данным, инфицирован каждый сотый россиянин.
44. Как правильно ухаживать за фиалками.
45. Гoтовила вчера "Напoлеон" по нoвому - точно стоит попробовать.
46. Лучший способ хранения чеснока.
47. Россиян ожидает резкое повышение тарифов на электроэнергию.
48. Разбираемся как бороться с червяками на малине.
49. Как правильно подготовить малинник к новому сезону.
50. Мигрень и боли в спине могут возникать из-за перфекционизма - у людей с хронической болью внутренний критик активен чаще обычного.