Лайфхаки

Маленькие, полезные хитрости

Ip-адреса при парсинге

Некоторые популярные сайты могут банить при парсинге. Это почти всегда происходит из-за частых обращений к ним (большое количество запросов). Чаще всего сайты банят по IP, очень редко по HTTP-заголовкам (cookies и прочее). Поэтому, если вас забанил сайт и вы имеете динамический IP, просто переподключите ваше интернет-соединение. Ваш IP-адрес сменится и вы можете продолжить парсинг сайта. Если у вас статический IP (никогда не меняется), то подождите некоторое время (от 5 минут до суток) и сайт вас должен разбанить.

1. Часть такого трафика получается срезать посредством настройки и подключения сервиса CloudFlare.

Программа CloudFlare имеет 4 тарифа:

Free,Pro ($20/месяц),Business ($200/месяц),Enterprise (по запросу).

На тарифах Pro и Business есть раздел Bots.

В блоке показывается статистика по трафику в разрезе определения ботов по вашему проекту.

Отчет бота включает в себя 4 типа трафика:

Последние обновления на сайте:

1. Новый смертоносный вирус из китайского Уханя стремительно людей атакует.
2. В GTA VI полиция даже ваше лицо и одежду запомнит.
3. Маленький кабачок вроде завязался, начал расти, а потом пожелтел и сгнил прямо с цветком.
4. Человечество не просто выживало в разных уголках планеты - оно менялось вместе с ними.
5. Муж спросил, когда я сильнее всего пугалась в жизни.
6. Мы с мужем очень сильно поругались, решили разводиться.
7. Академик ран Онищенко призвал россиян не ездить отдыхать за границу: "Зачем Ездить в Турцию, Когда у нас в Стране Есть Практически все".
8. У моего отца дочь от первого брака была.
9. Переехали за город, как давно мечтали.
10. Haтуральная защита капусты от вредителей.
11. Пять великих мыслителей трагически заплатили жизнью за свои смелые убеждения.
12. Жестокая реальность древнего Египта намного страшнее школьных учебников оказалась.
13. На старости лет нашёл лайфхак для ловеласа.
14. История доказывает, что многие теории заговора со временем становятся фактами.
15. Россия полного цифрового суверенитета в ближайшие пару лет достигнет.
16. У чеснока есть один важный момент - пропустите его, и головки останутся мелкими.
17. Всего две чашки кофе перед сексом способны значительно продлить половой акт.
18. Ещё один круизный лайнер на карантине после вспышки вируса оказался.
19. Плитка из ведерка от майонеза: дачный шик своими руками.
20. 10 худших цветов для дачи.
21. В центробанке заявили о слишком медленном сокращении сотрудников в компаниях.
22. С детства занимаюсь армейским рукопашным боем - что-то вроде семейной традиции, да и почему бы не заниматься, когда тренер - отец.
23. Опилки на грядках: бесплатное золото или яд для урожая?
24. Повеяло летом. Клубника рекорд установила.
25. После того как рухнула советская власть, что сделали?
26. Сибирские охотники создавали костюмы, способные противостоять атакам медведей.
27. Клещи - мутанты из Африки атакуют россиян.
28. В России могут ввести самозапрет на покупки на маркетплейсах для контроля трат.
29. Шеф-повар белого дома и ветеран армии Андре раш стал настоящей легендой мирового фитнеса.
30. Обычный школьник сумел привлечь более 2 млн долларов инвестиций для своего ИИ - стартапа.
31. Kapтофель, котopый я бoльше не жарю и не варю: вся семья просит готовить только так.
32. Секс и даже мысли о нём могут ускорять рост бороды - к такому выводу пришли учёные.
33. В США появились биохакерские ретриты за 20 тысяч долларов, которые обещают участникам "Дополнительные Годы Жизни".
34. Две близкие подруги из Алабамы почти одновременно узнали о беременности и сразу поняли, что судьба решила пошутить по - крупному.
35. Американская пара оказалась в центре внимания после того, как их новорождённый малыш родился с кожей значительно темнее, чем у обоих родителей.
36. Glass Gem. Этo cпециально вывeденный сopт кукурузы с разноцветными зёрнами.
37. Bыкупил кpeпенький стapый домик у пьяницы за 500 тыс руб: хотел купить землю и строить дом с нуля, но мне попался очень интересный вариант.
38. Стильное оформление квартиры.
39. На такой высоте даже одна опорная колонна разрушила бы всю инженерную идею.
40. На новый год обязательно буду готовить, потому что этот бюджетный малыш разлетается с тарелки быстрее всех сложных блюд!
41. Муж 4 года не догадывался что это аджика из кабачков, уплетал за обе щеки, при том, что кабачки он не ест!
42. Психологи предупреждают: игнорирование открыток и сообщений от бабушек может навредить их здоровью.
43. Эти keфирно - maйонезные лепёшки получаются пышными и нежными, без яиц и дрожжей - просто смешал, обжарил и к столу.
44. Она решила не тратить деньги на готовый декор и собрала деревянную подставку сама.
45. Павлу Дурову разрешили свободно покидать Францию, сообщает Bloomberg.
46. Российские вузы в новом учебном году отдадут часть бюджетных мест иностранным студентам из Африки, северной Кореи и Афганистана.
47. Сильнейшая магнитная буря готовится обрушиться на землю: учёные предупреждают, что источник угрозы - солнце.
48. Из простой банки из-под кофе получилось элегантное хранилище для вилок и ложек.
49. Эти малыши, размером 5-10 см.
50. Саженцы яблонь. Какие выбрать.