Про це у своєму блозі повідомила компанія De Novo, у хмарі котрої розгорнуто сервіс, який надає можливість працювати з вітчизняними мовними моделями.
Читайте также: Українець створив застосунок GeoSpeedrun — як Duolingo, тільки для вивчення географії
Як повідомляється, система працює надійно та без суттєвих збоїв, що підтверджують користувачі. Показовим фактом бета-тестування також стала висока стабільність серверної інфраструктури.
Натомість, виникали проблеми з деякими інтегрованими в чат інструментами — наприклад, вебпошук швидко вперся в ліміти за кількістю запитів.
«Попри „демонстраційний“ статус, національні LLM (LapaLLM та MamayLM) отримали колосальний наплив запитів саме після запуску чату. Проте моделі стійко працювали навіть при навантаженнях у мільйони токенів на добу, а в пікові моменти цей показник сягав 61 млн — хмарна інфраструктура витримала цей удар без проблем. Подекуди утилізація карток сягала майже 80% — це понад 11 000 запитів. Інфраструктура повністю впоралася з усіма стрибками навантажень», — зазначається у блозі De Novo.
Під час тестування експерти також ретельно перевіряли якість роботи LapaLLM та MamayLM на спеціалізованих публічних бенчмарках. Оцінювалося розуміння українського тексту, двосторонній переклад (укр/англ), лаконічне узагальнення текстів, виконання інструкцій, а також шкільні задачі та завдання у форматі ЗНО. Окремо перевіряли, як моделі дають собі раду зі складними формулюваннями та термінами українською.
«Наразі стверджувати, що моделі повністю стійкі до всіх складних випадків, зарано, але процес тестування й був розроблений саме для виявлення потенційних проблем», — зазначається в блозі.
Читайте также: Uklon запустив маркетплейс Uklon Store і почав із доставки квітів у Києві
При цьому для Lapa ці питання частково вирішуються завдяки адаптованому українському токенізатору, що дозволяє частіше генерувати цілі слова, а це, своєю чергою, зменшує ймовірність помилки у широковживаних термінах. Крім того, обидві моделі проходили етап попереднього навчання на великому корпусі української мови, що значно покращує їхню здатність генерувати складні формулювання порівняно з базовою Gemma 3 від Google, яка лежить в основі обох українських LLM.
Як писав dev.ua, в Україні запустили платформу Lapathoniia для роботи з вітчизняними ШІ-моделями.
Згодом в Україні також запустили перший ШІ-асистент на базі вітчизняних мовних моделей Lapathoniia Chat.
Тим часом, розробники ШІ-моделі для української мови MamayLM представили версію v2.0. Спершу йому не дуже давалися відповіді українською, але розробники усунули баг.
Читайте также: Dragon Capital почала інвестувати в українські оборонні технології, яким «усі можуть заздрити»