Fair Use Policy: почему у безлимитных прокси бывают ограничения

Fair Use Policy: почему у безлимитных прокси бывают ограничения

В этой статье речь о том, как разные прокси-провайдеры регулируют высокую нагрузку. Информация о ProxyCompass приведена отдельно в конце.

Fair Use Policy, или FUP, — это правила, которые определяют допустимый объём трафика и нагрузку на сервис. Они входят в правила провайдеров. FUP может объяснять, почему оплаченный пакет с безлимитным трафиком начинает работать медленнее, позволяет открывать меньше соединений одновременно или требует доплаты ещё до окончания подписки.

Зачем ограничивать безлимитную услугу?

Покупая прокси, вы получаете доступ к IP-адресам и оборудованию, которое их обслуживает. Серверы обрабатывают соединения, каналы связи передают данные, а провайдер оплачивает их работу. Производительность серверов и пропускная способность каналов ограничены. При этом прокси разных клиентов могут работать на одном оборудовании и использовать общие каналы связи.

Одни клиенты запускают короткие задачи с большими перерывами. Другие передают данные непрерывно. Если один клиент часами занимает значительную часть общего канала или сильно загружает сервер, работа остальных может замедлиться. С помощью FUP провайдер определяет, какая нагрузка допустима в рамках тарифа и когда он вправе её ограничить.

Количество IP само по себе не показывает, с какой скоростью вы сможете работать. Большой список адресов может обслуживаться одним сервером. Даже выделенный IP не обязательно означает отдельный сервер или канал связи. Покупка дополнительных адресов даёт больше IP для подключения к сайтам, но не гарантирует увеличения общей скорости.

Это не значит, что у каждого провайдера есть скрытый лимит трафика. Одни продают доступ без фиксированного месячного ограничения по объёму данных. Другие устанавливают порог расхода трафика. Третьи оставляют за собой право снизить нагрузку клиента, если она мешает работе сети. У разных сервисов эти правила устроены по-разному.

Обзор Fair Use Policy. Провайдер может учитывать объём трафика, скорость передачи, число соединений и длительность нагрузки. Лимит может действовать на IP, пакет или аккаунт. Возможные меры: снижение скорости, уменьшение числа соединений, доплата или приостановка доступа. Между отдельными показателями и мерами нет универсального соответствия.
Набор показателей, область действия лимитов и возможные меры зависят от провайдера и тарифа.

Что именно может быть безлимитным?

Под «безлимитным трафиком» обычно понимают передачу данных без фиксированной квоты в гигабайтах. Это не означает, что скорость и число одновременных соединений тоже ничем не ограничены.

Например, у пакета может не быть месячного лимита трафика, но быть задана максимальная скорость передачи. За одно и то же время вы сможете скачать только тот объём, который позволяет эта скорость. Ограничение действует с начала работы. Передача данных на максимальной скорости сама по себе не означает нарушения FUP.

В некоторых тарифах скорость снижают или уменьшают число доступных соединений после определённого расхода трафика. Доступ сохраняется, но задача выполняется дольше. Есть и тарифы с включённым объёмом данных, после исчерпания которого дальнейший трафик оплачивается отдельно. Во втором случае работа может продолжаться с прежней скоростью, но итоговая стоимость возрастает.

Разобраться в ограничениях помогают единицы измерения. ГБ и ТБ обозначают объём данных. Мбит/с и Гбит/с — скорость передачи. Лимит соединений определяет, сколько подключений можно держать открытыми одновременно. В англоязычных описаниях bandwidth иногда используют и для объёма трафика, и для скорости, поэтому нужно смотреть, в каких единицах указан параметр.

Например, программа может скачивать большой архив через одно соединение: подключение одно, а данных передаётся много. Другой вариант — открыть множество соединений и через каждое получить короткий ответ с ценой товара. В обоих случаях можно использовать один и тот же сервис. Поэтому малое число соединений ещё не означает малый расход трафика, а множество соединений не обязательно создаёт большой объём передачи.

Почему важен режим работы?

Короткий всплеск активности и непрерывная работа по-разному нагружают сервис. Программа мониторинга цен может собрать обновления и ждать следующего запуска. Другая программа может скачивать страницы без перерывов. Даже при одинаковом типе и количестве IP нагрузка на серверы и каналы связи будет разной.

Если правило связано только с объёмом трафика, ограничение срабатывает при достижении указанного порога за день или месяц. Если провайдер ограничивает длительную высокую нагрузку, он может учитывать также продолжительность работы и её влияние на других клиентов. В таком случае небольшой расход трафика ещё не означает, что разрешена постоянная работа на максимальной скорости или с предельным числом соединений.

Значение имеет и тип прокси. Мобильный прокси использует сотовое подключение через модем, роутер или телефон. Высокая нагрузка может затрагивать это подключение и общую пропускную способность сотовой сети, а также оборудование прокси-провайдера. Правила для мобильных прокси нельзя автоматически переносить на серверные.

Общего запрета на автоматизацию или круглосуточное использование прокси нет. Сервис может быть рассчитан на непрерывный сбор данных, а может ограничивать такой режим в своих условиях. Важно, поддерживает ли конкретный продукт ту работу, которую вы собираетесь выполнять постоянно.

Назначение задачи — отдельный вопрос. Acceptable Use Policy определяет разрешённые и запрещённые действия. FUP касается расхода ресурсов. Допустимый сбор данных может создавать слишком большую нагрузку для тарифа, а запрещённая задача — нарушать правила при совсем небольшом расходе трафика.

Почему трафика потрачено много, а результатов мало?

Допустим, программа управляет браузером и сохраняет только название товара и его цену. Чтобы получить эти два значения, браузер может загрузить всю страницу, изображения, скрипты и другие файлы. Итоговая таблица будет маленькой по сравнению с объёмом данных, прошедшим через прокси. При расчёте лимита трафика может учитываться весь этот объём, а не только сохранённые результаты.

Повторные попытки увеличивают расход. Страница с сообщением о блокировке, ответ с ошибкой или CAPTCHA тоже могут содержать данные, хотя программа не получает нужного результата. Если она продолжает попытки, счётчик трафика растёт, а файл с результатами почти не меняется. Неудачный запрос не обязательно бесплатен: при учёте переданных данных он тоже может расходовать лимит.

Если задаче не нужны изображения или другие файлы страницы, отключение их загрузки сокращает расход трафика. При повторяющихся ошибках остановите запросы и выясните причину, чтобы программа не продолжала тратить ресурсы без результата. Учёт трафика и оплата за успешный результат — отдельные условия: провайдер может брать деньги только за успешные запросы и при этом ограничивать соединения или расход других ресурсов.

На что распространяется лимит: на IP, пакет или аккаунт?

Представьте, что основная работа идёт через один IP, а остальные адреса пакета простаивают. Если для каждого IP установлен отдельный лимит трафика, активный адрес может исчерпать его, хотя другие почти ничего не передали. Неиспользованный трафик остальных адресов не прибавляется к его лимиту автоматически.

Если лимит установлен на весь пакет, трафик всех его IP складывается. Один адрес может израсходовать большую часть общего объёма. Когда этот объём закончится, переключение на другой IP из того же пакета не поможет: оба адреса используют один лимит.

Общий лимит может действовать и на несколько пакетов в аккаунте либо на все подключения к определённому типу прокси. Тогда замена IP, ротация адресов или создание дополнительного логина для подключения не обнуляют общий счётчик. При этом использование IP совместно с другими клиентами само по себе не означает, что они расходуют ваш трафик. Правила доступа к адресам и правила подсчёта трафика нужно различать.

Иногда провайдер учитывает сразу два порога: общий объём трафика и расход в расчёте на один IP. Ограничение может срабатывать только при превышении обоих. Если смотреть лишь на один из них, можно неверно оценить, сколько трафика доступно до ограничения. Кроме того, у одного провайдера могут действовать разные правила для общих и выделенных прокси.

Как FUP влияет на работу прокси?

После введения ограничения прокси не обязательно перестают подключаться. Проверка может по-прежнему показывать, что адреса работают, хотя выполнение вашей задачи уже сильно замедлилось. Всё зависит от того, что именно ограничил провайдер.

Действие провайдера Что происходит с вашей работой
Снижение скорости Соединения доступны, но страницы и файлы передаются дольше. Добавление потоков в программе не снимет ограничение скорости, действующее на весь пакет.
Уменьшение числа одновременных соединений Отдельные запросы могут оставаться быстрыми, но одновременно открыто меньше подключений. Программа обрабатывает меньше обращений за одно и то же время и может перестать укладываться в срок, хотя простая проверка подключения проходит.
Доплата за использование сверх лимита Задача продолжает выполняться, но за трафик сверх включённого объёма начисляется доплата. Письмо с предупреждением само по себе не останавливает программу и не прекращает начисления.
Приостановка доступа Прокси, на которые распространяется приостановка, перестают работать. Для восстановления может потребоваться дождаться обновления лимита, докупить трафик или устранить причину чрезмерной нагрузки.

Это возможные меры у разных провайдеров, а не обязательная последовательность действий. Одни автоматически применяют ограничение, указанное в тарифе. Другие сначала связываются с клиентом, чтобы обсудить снижение нагрузки или переход на другие условия. Предварительное предупреждение и время на исправление предусмотрены не везде.

Замедление само по себе ещё не доказывает, что провайдер применил FUP. Причиной могут быть загруженность сети, обычный предел скорости тарифа или ограничения сайта, к которому вы обращаетесь. Если сайт блокирует IP, покупка дополнительного трафика не устранит эту блокировку.

Что нужно для снятия ограничения?

Сначала нужно выяснить причину: слишком высокая нагрузка сейчас или уже израсходованный лимит трафика. Уменьшение числа одновременных задач может разгрузить сервис. Но оно не вычтет данные, уже учтённые в дневном или месячном лимите. Поэтому пауза в работе может помочь в первом случае и ничего не изменить во втором.

Если причина в исчерпанном трафике, ограничение может сохраняться до обновления лимита или покупки дополнительного объёма. Дата обновления зависит от правил тарифа: это может быть начало календарного месяца или нового оплаченного периода. Если вы купили пакет в середине месяца, эти даты не совпадут.

Доплачивать имеет смысл за то, чего не хватает для вашей задачи. При исчерпании трафика может помочь покупка дополнительного объёма. Если программа упирается в число одновременных соединений — увеличение этого лимита. Покупка дополнительных IP поможет только в том случае, если вместе с ними увеличится нужный вам лимит. Само пополнение баланса аккаунта не обязательно меняет параметры пакета.

У дополнительного трафика тоже может быть срок действия. Если его остаток сгорает в конце текущего периода, на использование покупки, сделанной незадолго до этой даты, останется мало времени. Переход на более дорогой тариф также не означает, что ранее начисленную доплату за превышение отменят.

При платном трафике сверх лимита важно различать уведомление о расходе и автоматическую остановку доступа. Уведомление лишь сообщает о расходе. Остановка прекращает дальнейшую работу, когда достигнут заданный порог. Если сервис проверяет расход с интервалами, часть дополнительного трафика может пройти до отключения.

Если провайдер приостановил доступ из-за чрезмерной нагрузки, он может восстановить его только после того, как вы устраните причину. Ожидание нового месяца в таком случае не обязательно поможет. Нужно выяснить, что именно требуется изменить в работе программы и когда доступ будет возвращён. Возможность возврата денег определяется отдельными правилами соответствующего сервиса.

Как использовать это при выборе тарифа?

Начните с самой задачи: как часто она запускается, сколько данных передаёт и сколько соединений открывает одновременно. Пакет с большим количеством IP, но низким лимитом соединений может не подойти, если нужно быстро обработать множество страниц. Безлимитный тариф с невысокой скоростью может подойти для равномерной работы без жёсткого срока завершения. Тариф с доплатой за дополнительный трафик позволяет продолжать работу после исчерпания включённого объёма, но увеличивает расходы.

Короткий тест покажет, подключаются ли прокси и доступны ли нужные сайты. Запуск обычной рабочей задачи также поможет увидеть, сколько трафика расходует ваша программа. Но если во время теста вы не достигли порога FUP, по нему нельзя судить о работе после ограничения. Начальную скорость и условия дальнейшего использования нужно оценивать отдельно.

Если провайдер пишет только о «чрезмерном использовании», но не объясняет, какую нагрузку считает чрезмерной, опишите свою задачу и выясните, подходит ли для неё выбранный тариф. Одного ответа «трафик безлимитный» здесь недостаточно. Важно получить ответ по существу: при какой нагрузке могут снизить скорость или приостановить доступ и что потребуется для продолжения работы.

Сравнивайте тарифы по тому, позволят ли они выполнить вашу задачу в нужный срок и за приемлемую стоимость. Количество IP и надпись «безлимит» сами по себе этого не показывают.

Вернуться в базу знаний