Михаил ЛопатинМоскваДмитровское шоссе д. 50 оф.240

Парсинг товаров и каталогов

Парсинг товаров и каталогов

Чаще всего задача звучит так: у поставщика есть каталог на сайте и нет нормальной выгрузки. Значит выгрузку делаем мы.

16лет в разработке
4 500+проектов сделано
40отраслей с опытом

Выгрузки каталогов почти всегда связаны с конкурентной разведкой заказчика, поэтому публично мы такие проекты не показываем. Формат работы объясню на примере.

Типовые случаи: перенести каталог поставщика в свой магазин, собрать характеристики для сравнения, следить за наличием и ценами, забрать данные с площадки, у которой нет обмена. Отдельная задача — привести собранное к своему формату: у вас свои категории, свои названия характеристик и свои требования к описаниям.

Сложность обычно не в сборе, а в приведении данных в порядок. Характеристики у поставщиков лежат кучей в тексте описания, единицы измерения разные, категории не совпадают с вашими, у половины позиций нет главного параметра. Модель здесь вытаскивает параметры из свободного текста и раскладывает по колонкам, а правила проверки следят, чтобы в выгрузку не попал товар без цены или с ценой в другой валюте.

Практический совет: не тащите весь каталог сразу. Возьмите одну категорию, доведите её до состояния, в котором позиции можно публиковать без правок, и только потом расширяйтесь. Так вы увидите проблемы данных на маленьком объёме, а не после загрузки десяти тысяч карточек, половину которых придётся править руками.

Кому это нужно

Собирать чужие каталоги нужно не всем. Ниже — где это экономит месяцы и когда проще запросить прайс.

Магазинам и дилерам

Каталог поставщика нужно перенести к себе, а нормальной выгрузки у него нет.

Опту и производству

Характеристики и цены по рынку — основа решений о закупке и ассортименте.

Не нужно при малом каталоге

Двадцать позиций быстрее и лучше занести руками, чем настраивать сбор.

Что перестанете заполнять руками

Было15 минутна одну карточку вручнуюСтало1 минутапроверить готовую

Как выглядит выгрузка

Несколько примеров выгрузок, чтобы было понятно, что получается на выходе и в каком виде.

1Перенос каталогаТовары, характеристики и картинки собираются и приводятся к вашим категориям.
2Характеристики из текстаПараметры вытаскиваются из описания, где они лежат кучей, и раскладываются по колонкам.
3Обновление ценЦены и наличие подтягиваются по расписанию, а не выясняются звонком поставщику.

Из чего состоит сбор каталога

Источник данныхГотовый результат1Каталогсайтпоставщика2Сбортовары икартинки3Разборпараметры изописаний4Форматваши категориии поля5Выгрузкаготова кзагрузке

Что входит в сбор каталогов

Сбор товаров с сайтов, каталогов и площадок
Извлечение характеристик из свободных описаний
Приведение к вашим категориям и названиям параметров
Проверки: нет цены, нет параметра, странная валюта
Картинки с сохранением в нужном размере и формате
Регулярное обновление цен и наличия по расписанию

Что уточняем сначала

Сбор — половина работы

Вторая половина — привести данные к вашему формату. Именно на ней экономят, а потом правят каталог руками.

Начинать с одной категории

Полный каталог сразу означает десять тысяч карточек с одинаковой ошибкой. Сначала обкатка на малом объёме.

Проверки перед загрузкой

Товар без цены или с ценой в другой валюте не должен попасть в магазин. Такие правила закладываются заранее.

Цены живут недолго

Разовая выгрузка устаревает за недели. Если торгуете этим постоянно, нужно расписание обновлений.

Как собираем каталог

1Обсудим структуруС каких сайтов берём товары и какие поля важны
2Оцениваем объёмСколько позиций и как часто нужно обновлять выгрузку
3Договариваемся о структуреКатегории, характеристики, фото, цены — что и куда
4Собираем и раскладываемТовары приводятся к вашей структуре, а не к чужой
5Проверяем на выборкеСверяем сотню позиций с сайтом-источником вручную
6Настраиваем обновлениеДоступы ваши, структура описана, при сбое сбора приходит письмо

Как посчитать экономию времени — цифры свои

80часов в месяцстолько сейчас съедает эта работа×500рублей за часполная стоимость часа сотрудника=40 000рублей в месяцво столько обходится ручной способСчитайте по своему каталогу: позиций × минут на карточку ÷ 60 × стоимость часа контент-менеджера.

Что получаете

Не сырая свалка данных, а разложенный по вашей структуре каталог, готовый к загрузке.

Каталог в вашем формате, готовый к загрузке
Характеристики, извлечённые из свободных описаний
Категории и названия параметров приведены к вашим
Картинки в нужном размере и формате
Проверки: нет цены, нет параметра, странная валюта
Расписание обновления цен и наличия

Ошибки при сборе товаров

Вот где сбор товаров обычно и ломается. Учтите, если пишете сборщик сами.

Взяли весь каталог сразу

Десять тысяч карточек с одной и той же ошибкой. Сначала одна категория до готовности.

Скопировали описания

Одинаковые тексты у всех магазинов вредят в поиске. Описания нужно переписывать.

Не поставили проверок

Товар без цены или в другой валюте попадает в магазин и продаётся себе в убыток.

Как заказать

Начнём с бесплатного разговора: какие сайты и какие товары. После него назову срок и цену.

1Пришлите ссылкиTelegram или почта — посмотрю источники лично
2Смотрим источникиДвадцать минут бесплатно
3Посчитаю работуСумму фиксирую письменно до старта
4Соберу и передамКаталог подтягивается по расписанию, изменения видны
Срок: один источник — несколько дней, несколько сайтов с обновлением — до трёх недель
Цена: зависит от числа источников и объёма, называю после разбора
От вас: ссылки на источники, нужные поля и пример вашей структуры каталога
После сдачи: выгрузки и сборщик у вас, платить за запуски не нужно

Смежные задачи

Эти работы обычно заказывают вместе — данные требуют дальнейшей обработки.

Вопросы про сбор товаров

Сможете собрать каталог нашего поставщика?

Обычно да, если он опубликован на сайте. Посмотрю структуру и скажу честно — иногда проще договориться с поставщиком о выгрузке.

Картинки тоже собираются?

Да, с приведением к нужному размеру и формату. Права на использование изображений уточняйте у поставщика — это его зона.

Что с описаниями товаров?

Можно перенести как есть, но лучше переписать: одинаковые описания у всех магазинов вредят в поиске. Это отдельная задача, и она решается моделью.

Как часто обновлять цены?

Раз в сутки для большинства категорий, чаще — для быстро меняющихся. Слишком частый опрос вредит устойчивости сбора.

МЛ

Михаил Лопатин

Руководитель веб-студии Tutmee. В разработке с 2010 года, больше 4 500 проектов.

Разбираю задачу лично и сам считаю смету. Напишите — отвечу, даже если в итоге сделаете не у нас.