Локальная LLM в 1С: модель отвечает и учится внутри обработки

Как учится нейросеть, объяснённое кодом 1С: потеря, градиент и шаг на модели, обученной прямо на сервере

Обучение нейросети обычно объясняют формулами. Здесь оно разложено на процедуры модуля 1С: что такое вес, потеря, градиент, шаг AdamW и скорость обучения, с куском кода и числом из настоящего прогона на каждый термин. Модель на 21 920 параметров выучила сорок фраз за 2,96 часа счёта на встроенном языке, а второй прогон на заголовках наших статей занял 3,2 часа. Плюс рецепт, который сократил работу в 349 раз, проверка производных без чужих библиотек и граница, где встроенный язык заканчивается.

Почему нейросеть повторяет одно и то же: карта внимания модели, снятая на встроенном языке 1С

Модель смотрит в вопрос, пока пишет первые три символа ответа, а дальше почти только на себя. Если выключить у неё одну голову внимания из четырёх, верных ответов не остаётся, а больше трети ответов уходят в повтор вроде "стстстст". Разбираем, как снять карту внимания функцией на сорок строк, что она показала на сорока вопросах и что из этого следует для тех, кто работает с большими моделями.

Как дать нейросети доступ к 1С, чтобы она видела только разрешённое пользователю

Коннектор нейросети к 1С обычно работает под одной учёткой с полными правами, и роли с ограничениями на уровне записей для модели пропадают. Разбираем, как это проверить у себя, какие пять приёмов прав не возвращают и как отправить запрос модели в сеанс спросившего. Код, замер на демо-базе УТ 11.5 и требования к шлюзу.

Как проверить запрос 1С, который написала нейросеть: ловушки типовой и сверка с эталоном

Упавший запрос нейросети безопасен: платформа покажет строку с ошибкой. Опасен тот, что выполнился и вернул правдоподобное число. Разбираем три уровня проверки, карту ловушек УТ 11.5 с запросами до и после и правила построчной сверки с эталоном. Числа из прогона 90 запросов трёх моделей.