Llama 2 — семейство крупных языковых моделей (large language models, LLM), разработанных подразделением искусственного интеллекта компании Meta. Модели выпущены в нескольких вариантах по размеру параметров и представлены в базовой (pretrained) форме и в вариантах, дообученных для следования инструкциям (instruction-tuned). Llama 2 предназначена для задач генерации и понимания естественного языка и интеграции в прикладные решения, включая автоматическую генерацию текста, ответы на вопросы, суммаризацию и другие приложения обработки естественного языка.
Архитектурно Llama 2 относится к трансформерным моделям, обученным на больших корпусах текстовых данных с использованием современных методов масштабирования и оптимизации. Выпуск этого семейства сопровождался публикацией описательных материалов о тренировочных данных, лицензировании и сценариях использования; модель предлагается как инструмент для исследовательских и прикладных задач и доступна в нескольких конфигурациях, различающихся по числу параметров и вычислительным требованиям.
- Многообразие размеров: семейство включает модели разных масштабов, что позволяет выбирать компромисс между производительностью и затратами на вычисления.
- Базовая и инструкционно-доуправленная версия: доступны как исходные предобученные модели, так и варианты, оптимизированные для следования инструкциям и диалогов.
- Трансформерная архитектура: основана на механизме внимания и структурах, характерных для современных LLM, что обеспечивает способность к генерации связного текста и контекстному пониманию.
- Применение: используется для генерации текстов, ответов на вопросы, суммаризации, помощи в написании кода, создания диалоговых систем и других задач обработки естественного языка.
- Интеграция и развертывание: модели предназначены для встраивания в серверные и облачные приложения, а также для локального развертывания в рамках возможностей аппаратного обеспечения.
- Лицензирование и доступность: при выпуске объявлены условия использования, которые определяют коммерческие и исследовательские сценарии; конкретные условия могут отличаться в зависимости от версии и поставщика.
- Ограничения и риски: как и другие большие языковые модели, Llama 2 может генерировать неточную, устаревшую или нежелательную информацию и требует систем проверки, фильтрации и ответственного использования.