Amazon Bedrock — это облачный полностью управляемый сервис от Amazon Web Services, предназначенный для разработки приложений на основе генеративного искусственного интеллекта. Он предоставляет доступ к так называемым фундаментальным моделям (foundation models, FMs) из разных источников через единый API, избавляя разработчиков от необходимости самим разворачивать и обслуживать инфраструктуру для запуска таких моделей.
Сервис позволяет экспериментировать с различными моделями, настраивать их под собственные данные, а также строить интеллектуальные агенты, которые могут выполнять сложные задачи, взаимодействуя с внешними системами и данными. Amazon Bedrock акцентирует внимание на безопасности, приватности и этичности использования моделей, включая механизмы контроля нежелательного содержимого и гарантий того, что пользовательские данные не используются для дообучения базовых моделей.
Информация о Bedrock пока ещё частично отражается в официальных документах AWS и анонсах: некоторые функции находятся в стадии превью или постепенно разворачиваются по регионам. Тем не менее, уже сейчас Amazon Bedrock предлагает набор средств, типичный для платформ генеративного ИИ, и становится элементом экосистемы AWS для внедрения таких решений.
- Унифицированный API для фундаментальных моделей — разработчик обращается к одной точке доступа, независимо от того, какая модель используется за сценой.
- Выбор и оценка моделей — возможность попробовать различные модели (от Amazon и внешних поставщиков) и сравнивать их на основе качества, скорости и стоимости.
- Кастомизация с учётом данных клиента — настройка моделей (fine-tuning, Retrieval Augmented Generation и др.) с использованием приватных данных без раскрытия их внешним сторонам.
- Построение агентных систем — средства для реализации агентов, которые могут планировать задачи, делать API-вызовы и интегрироваться с бизнес-логикой.
- Механизмы безопасности и ограничений (guardrails) — защита от нежелательного или вредоносного вывода, фильтрация контента, проверка корректности ответов.
- Оптимизация затрат и латентности — методы, такие как кэширование подсказок (prompt caching), маршрутизация подсказок (prompt routing), дистилляция моделей и др.
- Контроль приватности данных — шифрование при передаче и хранении, политика, что входные данные не используются для дообучения базовых моделей.
- Импорт собственных моделей — возможность загружать и использовать свои модели (в поддерживаемых архитектурах) в рамках инфраструктуры Bedrock.