Лайфхаки

Маленькие, полезные хитрости

Защиты от парсинга

Некоторые популярные сайты могут банить при парсинге. Это почти всегда происходит из-за частых обращений к ним (большое количество запросов). Чаще всего сайты банят по IP, очень редко по HTTP-заголовкам (cookies и прочее). Поэтому, если вас забанил сайт и вы имеете динамический IP, просто переподключите ваше интернет-соединение. Ваш IP-адрес сменится и вы можете продолжить парсинг сайта. Если у вас статический IP (никогда не меняется), то подождите некоторое время (от 5 минут до суток) и сайт вас должен разбанить.

1. Часть такого трафика получается срезать посредством настройки и подключения сервиса CloudFlare.

Программа CloudFlare имеет 4 тарифа:

Free,Pro ($20/месяц),Business ($200/месяц),Enterprise (по запросу).

На тарифах Pro и Business есть раздел Bots.

В блоке показывается статистика по трафику в разрезе определения ботов по вашему проекту.

Отчет бота включает в себя 4 типа трафика:

Последние обновления на сайте:

1. ЕГЭ хотят усложнить из-за слишком хороших результатов выпускников.
2. Некоторые самолёты исчезли так, будто не существовали вовсе.
3. Я в небогатой семье с двумя братьями росла.
4. Правительства пугающую правду о запретных для посещения вершинах планеты скрывают.
5. Наше тело обладает зверским запасом прочности и готово работать без половины органов.
6. Чуть не оставила фасоль на грядке до полного высыхания.
7. Баклажаны "как Грибы" готовлю без жарки в половине бутылки масла.
8. Замуж выходила по сильной любви за ярого мотоциклиста, но ради нашего совместного будущего мы решили, что увлечение слишком опасное.
9. У меня есть знакомый из юности, даже другом не назвать, живёт в Швеции, общаемся только на праздники.
10. Осталась часть отпуска, для поездки на море мало, а вот к бабуле в деревню на недельку - самое то.
11. Уволенная сотрудница изощренно отомстила боссу перед своим уходом.
12. Муж в последнее время крепко подсел на всякие мужские паблики.
13. Автоваз крупнейшее обновление Lada Niva Legend за всю историю представил.
14. Глубокие контрасты условий содержания в тюрьмах разных стран отражают законы, доступные ресурсы и подходы к реабилитации.
15. Дeлaю yжe втopую нeдeлю.
16. Переехали за город, как давно мечтали.
17. Я не худею к морю - езжу в Турцию.
18. Найти хорошую работу в России становится практически невозможно для большинства граждан.
19. Жестокая реальность древнего Египта намного страшнее школьных учебников оказалась.
20. Тля. Поможет поможет только это. слышу жалобы: нет сил бороться, ничего не помогает.
21. Воля к жизни возможности человеческого тела превосходит.
22. Пять лет назад я родила ребёнка за деньги - и тогда мне казалось, что хуже стыда уже не бывает.
23. Весенняя подкормка яблони после схода снега: как помочь дереву восстановиться и сформировать урожай.
24. Тридцать два года работы сделали Рассела о'грэди легендой Northmead.
25. Сибирские охотники создавали костюмы, способные противостоять атакам медведей.
26. В госдуме предложили ограничить продажу зарубежных туров на фоне текущей ситуации.
27. Жeлаете, чтобы роза из полюбившегося букета цвела у вас на даче?
28. Всем садоводам нужно знать.
29. Астронавт мкс заснял одно из самых редчайших явлений - спрайты и голубые джеты в верхних слоях атмосферы.
30. Дepeвья - осушители: что посадить рядом с выгребной ямой, чтобы не откачивать её.
31. Дом, где живет душа: как Эдита пьеха построила свой мир вдали от софитов.
32. Пoлезный чай для печени и жёлчного пузыря.
33. Магия пандоры. Аватары и актёры, которые воплотили их образы.
34. Moлодым хозяйкам на заметку!
35. Первый состав поп-группы ВИА гра включал в себя следующих участниц:
36. Кофе по утрам поднимает настроение лучше многих других способов и помогает справляться с тревогой, показало недавнее исследование.
37. Оформить грин-карту по лотерее больше нельзя - США приостановили действие программы.
38. Клип "Adventure of a Lifetime" начинается с безумной сцены: шимпанзе танцуют, отбивают ритм и будто празднуют свободу через музыку.
39. Для современных зумеров наличные уже почти потеряли смысл, пишет Business Insider.
40. Гoтовила вчера "Напoлеон" по нoвому - точно стоит попробовать.
41. И еxaть никуда не нaдо.
42. Taкой арoматный и вкycный.
43. Врачи предупреждают: заправлять постель сразу после пробуждения может быть опасно для здоровья.
44. Мусорные баки никогда не казались арт - объектами, пока этот парень и девушка не взяли их в свои руки.
45. В том случае, если хотите вкусные и обильные урожаи - выбирайте сорта сливы, проверенные временем.
46. Начинайте готовить ягодные кустарники к холодам.
47. Учёные установили, что имя человека играет важную роль в его профессиональном успехе и трудоустройстве.
48. Создать овальные подносы можно легко, используя только свои руки.
49. 5 лучших подкормок для огорода - проверено на практике.
50. Польза компоста очень велика и включает в себя множество экологических, экономических и агрономических преимуществ.