Лайфхаки

Маленькие, полезные хитрости

Запросы при парсинге

Некоторые популярные сайты могут банить при парсинге. Это почти всегда происходит из-за частых обращений к ним (большое количество запросов). Чаще всего сайты банят по IP, очень редко по HTTP-заголовкам (cookies и прочее). Поэтому, если вас забанил сайт и вы имеете динамический IP, просто переподключите ваше интернет-соединение. Ваш IP-адрес сменится и вы можете продолжить парсинг сайта. Если у вас статический IP (никогда не меняется), то подождите некоторое время (от 5 минут до суток) и сайт вас должен разбанить.

1. Часть такого трафика получается срезать посредством настройки и подключения сервиса CloudFlare.

Программа CloudFlare имеет 4 тарифа:

Free,Pro ($20/месяц),Business ($200/месяц),Enterprise (по запросу).

На тарифах Pro и Business есть раздел Bots.

В блоке показывается статистика по трафику в разрезе определения ботов по вашему проекту.

Отчет бота включает в себя 4 типа трафика:

Последние обновления на сайте:

1. Спать по 3, 5 часа и забыть про выходные - только так можно добиться успеха в жизни, считают мультимиллионеры.
2. Креветки, которые и улетают в первую очередь.
3. Новый сериал про гарри поттера индустрию диким кастинговым решением взрывает.
4. Результат поразил: кислые сливы, которые никто не хотел есть, превратились в густой соус к мясу.
5. Они не искали славы, но одним решением спасли миллиарды человеческих жизней.
6. Уволенная сотрудница изощренно отомстила боссу перед своим уходом.
7. МРТ Плода показывает мозг и глаза сквозь кости черепа.
8. Самые абсурдные законы мира, в которые сложно поверить.
9. Баклажаны с перцем и чесноком: готовлю целую сковороду, а до утра ничего не остаётся.
10. Серая гниль на розах - гадость мерзостная.
11. Тот самый трендовый соус "Релиш" из огурцов, который взорвёт ваши бургеры, хот-доги и сосиски в тесте!
12. Большинство крупнейших катастроф в мировой истории не были неизбежными.
13. Крупнейшие мировые корпорации десятилетиями огромные состояния на смертельной продукции зарабатывали.
14. Официальная мировая история помнит только выдающихся мужчин - победителей.
15. Подкормка капусты в июне: мы выбираем лучшее для крепких кочанов.
16. В конце лета часто езжу на чужие дачи в соседние посёлки и собираю с деревьев на улицах яблоки, груши, алычу, сливы, фундук.
17. Июнь - решающий месяц в борьбе с монилиозом в саду.
18. Некоторые древние технологии до сих пор превосходят современные достижения науки.
19. Признаки дефицита основных макроэлементов у растений - как понять, чего не хватает?
20. Haтуральные стимуляторы образования корней.
21. Одна клетка кажется невероятно обширной в трёхмерной реконструкции.
22. Гигантский астероид скоро рядом с землёй пройдёт.
23. Этo oдин из тех рецептов, которые всегда выручают.
24. Весенняя подкормка яблони после схода снега: как помочь дереву восстановиться и сформировать урожай.
25. Сибирские охотники создавали костюмы, способные противостоять атакам медведей.
26. Последний защитник брестской крепости.
27. Аллергикам стоит готовиться к тяжёлому сезону пыльцы.
28. Поперечный надрез на семенной картошке повысит урожай на 30-50 процентов: "Гороха" не будет.
29. Мануте бол казался пришельцем даже среди самых высоких игроков нба.
30. Один из первых фильмов молодой Анджелины Джоли, ей здесь всего 20 лет.
31. Hикогда не выращивайте tomаты и перец без этого!
32. Девушка выдавила прыщ и оказалась на операционном столе с разрезанным лбом.
33. В США появились биохакерские ретриты за 20 тысяч долларов, которые обещают участникам "Дополнительные Годы Жизни".
34. Две близкие подруги из Алабамы почти одновременно узнали о беременности и сразу поняли, что судьба решила пошутить по - крупному.
35. Секрет пышной и сладкой морковки - простая подкормка!
36. Рецепт плюшек: Ингредиенты для опары:
37. Салат "Кремлёвский": когда хочется почувствовать себя особой королевских кровей!
38. Чтo делает с оргahизмом всего одна хурма.
39. Семейная жизнь снижает уровень тестостерона у мужчин, показало исследование американских учёных.
40. Многим из нас нравится замиокулькаса.
41. Девушка создала мини - шкафчик своими руками, идеально подходящий для книг и разных мелочей.
42. Врачи о бесполезности популярных бадов с коллагеном заявили.
43. Шикapные нeжные котлeты по-мoлдавски, которое получатся с первого раза!
44. Скумбрия маринованная. Можно, конечно, купить в супермаркете готовую маринованную скумбрию.
45. Тысячи российских продавцов несут миллионные убытки из-за огромной пробки на границе с Казахстаном.
46. Розу из подаренного букета очень просто укoренить!
47. Что делать, если листья огурцов стали "Мраморные"?
48. Молодая кровь способна омолаживать тело - это доказали учёные.
49. Регулярное употребление хотя бы шести штук в неделю снижает риск ранней смерти почти на 30 процентов.
50. Самый легкий способ укоренения розы из букета!