Лайфхаки

Маленькие, полезные хитрости

Ip-адреса при парсинге

Некоторые популярные сайты могут банить при парсинге. Это почти всегда происходит из-за частых обращений к ним (большое количество запросов). Чаще всего сайты банят по IP, очень редко по HTTP-заголовкам (cookies и прочее). Поэтому, если вас забанил сайт и вы имеете динамический IP, просто переподключите ваше интернет-соединение. Ваш IP-адрес сменится и вы можете продолжить парсинг сайта. Если у вас статический IP (никогда не меняется), то подождите некоторое время (от 5 минут до суток) и сайт вас должен разбанить.

1. Часть такого трафика получается срезать посредством настройки и подключения сервиса CloudFlare.

Программа CloudFlare имеет 4 тарифа:

Free,Pro ($20/месяц),Business ($200/месяц),Enterprise (по запросу).

На тарифах Pro и Business есть раздел Bots.

В блоке показывается статистика по трафику в разрезе определения ботов по вашему проекту.

Отчет бота включает в себя 4 типа трафика:

Последние обновления на сайте:

1. Результат поразил: кислые сливы, которые никто не хотел есть, превратились в густой соус к мясу.
2. Выживший в страшном пожаре ребенок стал профессиональным огнеборцем вопреки запретам врачей.
3. Маленький кабачок вроде завязался, начал расти, а потом пожелтел и сгнил прямо с цветком.
4. Соседка уже спрашивает, когда будем сажать озимый чеснок.
5. Из одного кочана делаю целую сковороду капустных шницелей.
6. Почему утро, день и вечер не имеют чётких границ.
7. Свёкла наполовину торчит из земли - это ещё не значит, что она срочно просится в погреб.
8. Моя семья успешность отпуском у "Морюшка измеряет".
9. Депутат Горелкин слухи о блокировке Steam в России развеял.
10. Сняли лук или ранний картофель и бросили голую грядку до весны?
11. Собрали последнюю малину и забыли про кусты?
12. Лук сам показывает, когда его выкапывать: три признака, которые я больше не игнорирую.
13. Огурцы стали плодоносить гораздо лучше, когда я научилась их прищипывать.
14. По вкусу, как мармелад: в сезон закрываю побольше.
15. Умер в день похорон дочки: не стало водителя скорой помощи, в которой погибли три человека.
16. На море вляпалась в курортный роман.
17. Формировка огурцов. 1. начинаю с нижней части.
18. Вкусный и ароматный соус из зелени на зиму: обязательно сохраните и приготовьте так себе.
19. История доказывает, что многие теории заговора со временем становятся фактами.
20. Американская фирма случайно потратила огромные деньги на токены для популярной нейросети.
21. Шашлык по рецепту: почему врачи разрешили есть мясо на углях лишь раз в месяц.
22. Подорожник на участке: пора проверять почву!
23. Teм летом пoпpобовала pецепт и зимой пожалела, что закpыла мало: огуpцы для зимних салатов или для pассольника на зиму.
24. Лопух - это не просто сорняк, который растёт на каждом участке, а настоящее кладовое растение для огородника и здоровья.
25. Священник стал маской, чтобы спасти детский приют и жизнь детей.
26. Эти плoды содержат вещества, которые вызывают восстановление тканей, составляющих межпозвонковые мягкие диски.
27. Oгурцы в бутылках - стpaнно, но работает: способ посадки, который даёт высокий урожай.
28. Много лет ухаживала за томатами неправильно, пока не поняла - всё гораздо проще.
29. Какие вещества нужно положить в лунку при посадке томатов, чтобы вырастить обильный урожай?
30. Дepeвья - осушители: что посадить рядом с выгребной ямой, чтобы не откачивать её.
31. Сыплю под Смородину весной по две ложки.
32. Их форма, цвет и даже расположение никогда не бывают случайными.
33. Конни Кан смотрит на животных как на людей, наделяя их характером, пластикой и узнаваемым стилем.
34. В России вновь заговорили о возможном переходе на шестидневную рабочую неделю.
35. Скамер пытался развести айтишников на 1500 евро, выдавая себя за "Босса", но нарвался не на тех.
36. Для современных зумеров наличные уже почти потеряли смысл, пишет Business Insider.
37. Насыпной пирог с творожной начинкой.
38. С легкой и пушистой текстурой, это самый мягкий торт.
39. Павлу Дурову разрешили свободно покидать Францию, сообщает Bloomberg.
40. Уже давно делаю по этому рецепту!
41. Немного фантазии, немного подручных материалов и пустая стена превращается в креативный арт - объект.
42. Всемирная организация здравоохранения (воз) бьёт тревогу: эра антибиотиков подходит к концу, и скоро они могут стать бесполезными.
43. Западные топ-менеджеры в шоке после поездок в Китай - технологический разрыв оказался куда глубже, чем они предполагали.
44. Морозостойкие сорта гибридной хурмы.
45. Врачи предупреждают: привычка откладывать будильник может способствовать набору лишнего веса.
46. Девушка превратила обычный угол в стильное пространство с помощью деревянной полочки.
47. Из простой банки из-под кофе получилось элегантное хранилище для вилок и ложек.
48. Калина - это популярная ягода, которая широко используется в народной медицине и кулинарии благодаря своим полезным свойствам.
49. Витамин D способен замедлять старение организма в три раза - к такому выводу пришли учёные из проекта Vital после анализа данных 25 тысяч человек.
50. Сорт роз чиппендейл - это популярный и красивый сорт чайно - гибридной розы, известный своей яркой окраской и ароматом.