Laya: ИИ, который не пишет, а решает

Коротко: Laya — это не чат-бот. Она не пишет тексты, код и объяснения. Она выбирает, и делает это быстро.

Большие языковые модели генерируют текст, и его потом приходится разбирать. Для решений внутри программы это медленно и ненадёжно. Laya — модель другого класса («System 1»): получает состояние и типизированные вопросы и за один проход возвращает ответ из заранее заданных вариантов с вероятностью. Выдумать ответ ей некуда.

Что это такое

• Открытая библиотека на Python, лицензия Apache 2.0, автор — Nandakishor M (Convai Innovations). Репозиторий: github.com/NandhaKishorM/laya.
• Установка: pip install laya, Python 3.10+.
• Внутри энкодер (ModernBERT или mmBERT) и «голова решений», обученная с подкреплением на строгих правилах оценки. Поэтому уверенность модели можно читать как вероятность и ставить на неё порог: выше 0.85 действуем сами, ниже отдаём человеку.
• Три чекпоинта: английский (421M параметров), мультиязычный (322M, 100+ языков, включая русский) и дообученный на бизнес-решениях. Класс Router сам определяет язык и выбирает нужный.
• Скорость: 33 мс на один вопрос на видеокарте T4, около 7 мс на вопрос, если задать их пачкой. На процессоре — 190–460 мс.

Три типа вопросов

Ответ можно описать JSON-схемой или pydantic-моделью и сразу получить готовый словарь.

Laya и Jev

Jev — коммерческая модель того же класса от TypeSafe AI, версия 1.13 вышла 18 сентября 2026. Работает только через облако: $0.042 за миллион входных токенов, контекст 32 000 токенов.

Laya повторяет протокол Jev (POST /v1/systemone). Значит, программу можно написать один раз и переключать бэкенд: локальная Laya на своём железе или Jev по API.

Цифры сравнения — из репозитория Laya. Jev автор сам не замерял и взял опубликованные сторонние данные, поэтому выборки отличаются. На своих задачах я перепроверю обе модели.

Шоу: где это пригодится

• Помощник художника по свету. Анализ звука даёт темп и энергию, Laya выбирает сцену, интенсивность и палитру, программа отправляет команду в grandMA. Это следующий эксперимент.
• Разбор райдеров и заявок. Входящее письмо превращается в тип мероприятия, список оборудования, срочность и «нужна ли смета». Одним проходом, на любом языке.
• Связь на площадке. «Пропал сигнал на левом портале» → свет, звук или видео, насколько критично, останавливать ли шоу.
• Модерация чата трансляции — готовый набор вопросов moderation_questions() из коробки.

Трейдинг: где это пригодится

• Фильтр новостей. Поток из Telegram-каналов и лент: относится ли к инструменту, тип события, важность.
• Вето-слой для стратегии. Перед входом робот спрашивает, есть ли сейчас значимая новость по бумаге. Если вероятность высокая, сделку пропускаем.
• Разметка дневника сделок. Заметки к сделкам превращаются в причину входа, ошибку, эмоцию. Статистика по ошибкам собирается сама.
• Чего не делать: просить Laya предсказать цену. Это языковая модель, а не модель временных рядов. Решение «покупать или продавать» остаётся за стратегией.

Ограничения

• Без дообучения почти наугад. На сложных решениях базовые модели дают 0.36 при 0.32 у случайного выбора. Результат 0.766 получен после дообучения на данных задачи. Автор прямо пишет: это база для специализации, а не готовый мозг.
• Слишком уверена в себе. Из коробки уверенность завышена, у мультиязычной модели калибровки нет вовсе. Температуру нужно подогнать на своих данных.
• Шкалы — слабое место. score самый слабый тип вопросов, мультиязычная модель редко выбирает первый вариант шкалы.
• Проект молодой. Библиотеке несколько недель, API ещё меняется, версию нужно фиксировать.

Что дальше

Проверю Laya в деле: соберу ИИ-ассистента для светового пульта grandMA. Программа слушает музыку, модель предлагает сцену и палитру, художник по свету подтверждает или отменяет. Сначала стенд на grandMA3 onPC, потом клуб. Все замеры — в следующих статьях.