Доброго времени суток!

Имеется задача - необходима программная автоматизированная массовая генерация описания карточек товаров средствами нейронки (ИИ).

На входе может быть набор неких характеристик, возможно фотография. На выходе текстовое (ЧИТАБЕЛЬНОЕ) описание товара.

Главное условие - это именно программное взаимодействие из учетной системы (на базе 1с). Т.е. оператор выбирает в неком АРМе нужные товары, нажимает волшебную кнопку, система обращается в некий сторонний сервис и получает готовые описания по каждому товару.

Сейчас нахожусь в подборе подходящего сервиса. Может кто-то уже решал подобную проблему и может поделиться направлением, наработками, подсказать найденные решения?

Локальную LLM подними
Для начала поставь себе LM Studio, включи там Local Server и банально попробуй из 1С http запросы отправлять, три вида API на выбор
Лучше сразу делать OpenAI-compatible, потом если надо онлайновую модель подрубишь

(1) Хотелось бы понимать заранее возможности, требования и +\- результат на выходе, прежде чем с головой нырять в поднятие серверов, глубокого изучения мануалов по настройке и отсев одного ИИ-гумна от другого.

Вы пробовали данный механизм на практике? Описанный мной запрос возможен к выполнению и какой можно ожидать результат?  + какие подводные камни?

Теория мертвого интернета

(2) Пробовал
Вполне работает
Но не отменяет работу операторов-тестировщиков, для проверки что там ИИ нагенерила

(4) Ссылочки есть, по каким материалам все это ставили, настраивали?

Может сделаете презентацию возможностей и если "это оно" мы у Вас за денежку купим запуск всего этого (для более быстрого запуска и минимизации расхода нервов) ?

(3) Это я читал. А к данной теме как относится?

А я удивляюсь, откуда на маркетах берутся дебильные описания товаров? Раньше думал, что это переводчик с китайского шалит, а похоже, что теперь и ИИ за дело взялся :)))

(6) Вы убиваете интернет своей генерацией

(7)(8) Много товаров. Ранее все эти описания должны были придумывать специально обученные люди. Которые просто зашивались от объема. А из-за этого косячили. + Просили много денюжек за свою не всегда качественную работу.

Сейчас есть возможность применять нейронку. На выходе тоже далеко не всегда качественный результат выдающую. Но с экономической точки зрения - значительно дешевле.

"Вы убиваете интернет своей генерацией" -не я убиваю. А бизнес пытается минимизировать и оптимизировать затраты, тем самым выжить в нелегкие времена.

(7) Есть, например, сервис sellmonitor по работе с маркетплейсами. Они предлагают:

"Генерация описания товаров
Сгенерируем описания для ваших товаров с помощью искусственного интеллекта и добавим в них нужные ключевые слова"

Так что, составлением дебильных описаний уже давно занимаются нейронки. Запрос востребованный. Не я это придумал.

(1) зачем тут локальная LLM? это маленькая задача на которую уйдет не много токенов

(9) архитектурно правильно было бы сделать набор тест-кейсов и проверить несколько моделей на качество генерации. Берешь товар на который уже есть качественное описание и прогоняешь несколько моделей например через openrouter и используешь отдельную модель которая сравнит сгенерированное описание с эталонным

(12) Это все уже имеется. Операторы давно пользуются нейронками, но делают это в разных "чатах".

Сейчас же нужна именно массовая механика с чисто программным взаимодействием из учетной системы.

механика это не интересно, попроси любой gemini он напишет код обработки

(14) Нет, спасибо. Не хочу лишний раз тревожить свое нежное душевное равновесие.

(8) вся это seo-дичь уже давно в коммерции. помню давно как-то наткнулся на текст, что-то вроде "когда древние люди убивали маманта, они не могли сохранить его мясо, ведь у них не было холодильника. Кстати о холодильниках, мы предлагаем... "
Ну и какая разница кто такую дичь будет писать, оператор за три рубля на сто символов или ИИ?

(11) Для удобства тренировки
И объемы, если описаний много но задачки простые то локальная LLM оптимально и шустро
https://infostart.ru/1c/articles/2409085/
И один АПИ с популярными онлайновыми

(17)
1) все таки это не простая задача с которой любой 4B справится, тут интеллект нужен
2) товар выбирается ручками так что это не миллионы генераций
3) нужен отдельный сервер под локальную LLM

(17) Спасибо, изучу

(18) А вы что предлагаете? Я имею ввиду конкретный опыт эксплуатации и решения описанной проблемы (или подобной ей)?