МАС на языковых моделях: чем отличается от классической

Что изменилось

Как задаётся поведение

Было: правила и формулы, написанные программистом. Стало: инструкция обычным текстом и набор инструментов.

Язык сообщений

Было: строгий формат, понятный только программам. Стало: обычный текст, который может прочитать человек.

Новые задачи

Было: только то, что предусмотрел разработчик. Стало: агент справляется с задачей, которую раньше не видел.

Предсказуемость

Было: одинаковый результат при одинаковых данных. Стало: ответы могут отличаться от запуска к запуску.

Цена шага

Было: почти ноль. Стало: каждый шаг — платный вызов модели.

Что осталось

• Задача по-прежнему делится на части, у каждой части свой исполнитель.
• Нужны правила: кто кому поручает и когда работа считается законченной.
• Нужен способ договориться, если агенты пришли к разным выводам.
• Нужен журнал: без записи сообщений ошибку не найти.

Новые риски

• Выдуманные факты. Модель может уверенно написать то, чего нет. Поэтому в системах ставят проверяющего агента — схема «дебаты и проверяющий».
• Ошибка по цепочке. Неверный вывод первого агента становится «фактом» для второго. Чем длиннее цепочка, тем дороже ошибка в начале.
• Счёт за вызовы. Пять агентов — это не пять вызовов модели, а десятки: каждый читает переписку заново. Разбор — сколько стоит система.
• Лишние права. Агент с доступом к почте и деньгам может сделать то, о чём его не просили. Права и лимиты задают до запуска.

Что почитать дальше