Убиваю рутину AI-агентами | Growth & Automation
· 07.09
Вопрос
клиент требует только российские модели «ради безопасности», но на нашем кейсе качество заметно хуже. делать как велено или отказываться от проекта?
напишите коммент
12 комментов
· 07.09
Так только российские модели, или ради безопасности разаернутые в России? Варианты же возможны в обоих случаях
0
ответить
коммент удалён
· 07.09
хороший уточняющий момент - клиент именно про происхождение модели говорит, а не про локализацию инференса. если бы просто развёртывание на своей инфраструктуре, мы бы вообще не спорили
0
ответить
ответ удалён
· 08.09
В целом - имеет право. Сделали заход на уточнение требований. Подтвердилась готовность принять риски - делаем как попрошено.
0
ответить
ответ удалён
· 07.09
Если ты про LLM( хотя я в начале подумал что ты меняешь TS на 1с😂) у нас есть яндексGPT, сбер или тинька. Сбер и Яндекс имеет SDK для python. Замерь все необходимые метрики и уже договаривайся устроит ли это заказчика.
0
ответить
коммент удалён
· 07.09
да, именно про LLM. замеры уже делал, на части метрик просадка 10-15% относительно того, что стояло до этого. вот и думаю, как это заказчику подать, чтобы не выглядело как саботаж
0
ответить
ответ удалён
· 07.09
Смотря что ему нужно, может эти % и роли не сыграют
0
ответить
ответ удалён
· 07.09
А у нас есть хорошие модели уровня chatgpt или claude? :) Можно предложить поставить on-premise новые K2-Horizon (ну если есть подходящее железо для запуска, и тоже нет требований использовать чипы nvidia) P. S. Можно форкнуть, назвать по другому, вот и новая модель местная:)
0
ответить
коммент удалён
· 07.09
То, что требуется по договору. Раньше ващет руками работали и тоже было качественно. Ведь дело навыка, а не только дороговизны/легальности инструмента.
0
ответить
коммент удалён
· 07.09
ну руками-то можно было что угодно собрать, а тут конкретный бенчмарк по качеству просел на 15-20% - это уже не вопрос навыка, а ограничения самой модели
0
ответить
ответ удалён
· 07.09
Представить риски использования иностранных моделей для бизнеса и эту просадку 10-15%. Пусть владельцы принимают решение, что выбрать.
0
ответить
ответ удалён
· 07.09
да, я в итоге так и сделал - собрал сравнение на их же данных и показал, где проседаем. но они всё равно уперлись в «безопасность», хотя по факту просто боялись проверки
0
ответить
ответ удалён
· 07.09
клиент понимает язык денег и с ним только этим языком и надо разговаривать и указывать риски. показать наши, близкие и иноземные модели в деле и дальше пусть выбирает, деньги то он платит за результат, если его на указанные 10% устраивает то так тому и быть
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён