Каталог решений - В помощь фрилансеру: парсим объявления о фрилансе и публикуем их в телеграм-канале

В помощь фрилансеру: парсим объявления о фрилансе и публикуем их в телеграм-канале

В помощь фрилансеру: парсим объявления о фрилансе и публикуем их в телеграм-канале

В наличии

В статье приведён пример получения данных со страниц сайта (парсинг), их обработка и публикация с помощью бота в телеграм-канал — всё средствами платформы 1С.

Категория:

Описание

Сразу оговорюсь, парсинг сайтов средствами 1С имеет ряд ограничений (подробно описаны в этой статье):

  • Получение данных зависит от верстки самого сайта, если она поменяется — нужно будет изменять логику работы парсера.
  • Парсинг осуществляется на стороне клиента 1С, используя поле HTML документа — чтобы парсер работал постоянно, нужно будет держать открытым окно клиента 1С.

Весь алгоритм работы находится в модуле формы обработки "aggregator" и его условно можно разделить на 2 части:

  1. Парсинг — получение данных со страниц сайта средствами поля HTML документа.
  2. Публикация данных об объявлениях в телеграм-канеле.

Детали реализации.

  1. Добавляем на форму поле HTML документа, устанавливаем обработчик ожидания на 5 секунд — с такой периодичностью будем загружать страницы, чтобы не получить блокировку со стороны сайта.
  2. В обработчике ожидания загружаем страницы со списком объявлений, получаем список url всех объявлений и потом загружаем каждое новое объявление.
  3. Загруженную страницу начинаем обрабатывать, используя css селекторы — специальные выражения, которые позволяют получить определенные элементы со страницы. Тут очень помогает dev tools браузера, формируем селекторы в нем, потом проверяем в отладчике.
 

has been added to your cart:
Оформление заказа