EdTech-стартап Preply готовий витратити на інфраструктуру штучного інтелекту мільйони доларів, сказав співзасновник та CTO Preply Дмитро Волошин в інтерв’ю DOU.
Читайте также: Мінрозвитку громад та територій готує реформу таксі з контролем платформ і перевірками в дорозі
За його словами, над ШІ-функціональністю освітньої онлайн-платформи вже працюють 6-7 продуктових команд — це приблизно 35–40 інженерів. Крім того, компанія має великі контракти з OpenAI, яка є також її стратегічним партнером.
Наразі компанія будує tutoring copilot — набір функцій, які допомагатимуть процесу навчання. Першим ключовим напрямом є Lesson Insights, тобто аналіз уроків. Ті уроки, які відбуваються на відеоплатформі, за згодою студентів і викладачів записуються й транскрибуються. Завдяки власним натренованим ML-моделям зможуть автоматично визначити рівень студента.
Зараз Preply наймає ML-інженерів і промпт-інженерів, проте Волошин визнає, що є досить серйозні проблеми з наймом ШІ-фахівців.
«Більшість людей, які працюють у нас у цьому напрямі ШІ, виросли всередині компанії. Ми рано почали: щойно вийшла публічна версія ChatGPT, ми почали будувати функціональність на його основі. Тоді людей на ринку просто не було, і нам довелося розвивати ці компетенції самостійно», — сказав співзасновник стартапу.
Так, наприклад, двоє інженерів, які раніше працювали з алгоритмами ранжування, стали ML-інженерами. Вони опанували новий скілсет: як будувати інфраструктуру, тренувати моделі.
Читайте также: Українські військові отримали вже 240 000 дронів за е-бали на Brave1 Market
«Написати промпт для LLM — просте завдання; набагато складніше зрозуміти, яким є найкращий з можливих промптів у конкретному випадку. До того ж нам важлива якість, відсутність галюцинацій і дивних відповідей LLM. Тому ми працюємо з LLM у продакшні на дуже високому рівні», — пояснив Волошин.
Компанія розглядає варіант взяти open-source LLM і натренувати її на своїх даних. Або використати методи на кшталт LoRA, щоб дистилювати з базової моделі щось своє з кращими для себе характеристиками.
«Але це складний проєкт. Щоб його втілити, нам потрібні АІ-інженери, які вже мали такий досвід. А зараз у нас таких людей немає. Тож питання в тому, де й коли ми зможемо їх найняти», — зазначив Волошин.
Якщо компанія це зробить, у перспективі це дасть їй ще кращу якість моделей.
«У нас є великий датасет, і ми віримо, що на його основі можна суттєво покращити LLM. Навчання з людиною — це найефективніший спосіб вивчення мови. LLM-моделі звучать роботично, виконують багато речей механічно. Але їхню роботу можна наблизити до людської взаємодії, і наш датасет стане гарною основою», — вважає співзасновник Preply.
https://dev.ua/news/preply-ta-shi-1769683716