Побудова власної LLM: де знайти надійного технічного партнера в Україні?
Вітаю спільноту! Ми в команді нещодавно отримали завдання розгорнути власну велику мовну модель для внутрішніх бізнес-процесів, щоб не передавати конфіденційну аналітику через відкриті публічні API сторонніх сервісів. Але коли ми почали рахувати реальну вартість "заліза" для такої специфічної задачі, то просто жахнулися від цін на сучасні відеокарти. Днями розмовляв з досвідченим айтішником із сусідньої компанії, і він підказав звернути увагу на оренду вже готових спеціалізованих кластерів від перевірених хмарних постачальників. Я почав шукати інформацію і знайшов цікаву статтю де пояснюється хто зараз найкращий хмарний провайдер для LLM в Україні https://0352.org.ua/de-novo-top-1-khmarnyj-provajder-dlia-llm-v-ukraini адже топові майданчики пропонують вже налаштовані середовища з потужними GPU. Це знімає величезний головний біль з налаштуванням складної інфраструктури з нуля та закупівлею дорогих серверів. Де ви розгортаєте свої важкі ШІ-моделі? Чи є сенс невеликим проєктам одразу йти до провайдерів замість купівлі власних відеокарт у серверну?
Додайте перший коментар!
тут обговорюємо питання щодо створення та роботи ОСББ