Создание локального LLM-агента для автоматизации Python-задач

Возникла задача разработки локального агента на основе языковой модели (LLM), способного выполнять Python-функции, анализируя их текстовое описание. Такой инструмент мог бы автоматизировать рутинные операции, интерпретируя естественный язык как инструкцию к действию.

Ключевой вопрос: существуют ли достаточно легковесные языковые модели, которые можно развернуть локально и которые эффективно справляются с подобными узкоспециализированными задачами?

Для решения подобной задачи стоит рассмотреть модели, которые соответствуют нескольким критериям:

• Локальное исполнение: Модель должна работать без обязательного облачного API, на персональном компьютере или сервере.
• Умеренные требования к ресурсам: Оптимальный баланс между производительностью и потреблением оперативной памяти и вычислительной мощности.
• Специализация на коде: Способность точно понимать технические описания и генерировать или исполнять корректный Python-код.

В фокусе поиска находятся модели, которые, возможно, имеют меньший размер по сравнению с флагманскими, но сохраняют достаточные способности к анализу контекста и синтаксиса программирования для решения небольших, четко сформулированных задач.