Amazon Web Services (AWS) объявила о новых обновлениях Guardrails for Amazon Bedrock, предназначенных для повышения безопасности и надежности приложений генеративного ИИ. Эти обновления включают обнаружение галлюцинаций и независимый API для укрепления приложений с помощью настраиваемых защитных ограждений для любой модели, что обеспечивает ответственные и заслуживающие доверия выходные данные.
Функция обнаружения галлюцинаций является ценным дополнением, поскольку она позволяет клиентам проверять точность ответов модели на основе источника и запроса пользователя. Это помогает гарантировать, что модель не генерирует неверную или новую информацию, которая не основана на фактических данных.
ApplyGuardrail API позволяет клиентам оценивать входные данные пользователя и ответы модели в соответствии с настроенными средствами защиты. Эта функция особенно полезна для организаций, использующих самостоятельно управляемые или сторонние LLM, поскольку она позволяет им применять стандартизированные меры безопасности во всех своих приложениях.
Благодаря этим обновлениям AWS подтверждает свою приверженность предоставлению инструментов и решений, которые позволяют клиентам создавать безопасные и надежные приложения генеративного ИИ. Guardrails for Amazon Bedrock — важный шаг в этом направлении, предоставляющий клиентам больший контроль над поведением используемых ими LLM.
Клиенты, заинтересованные в получении дополнительной информации об этих новых функциях, могут посетить страницу продукта Guardrails for Amazon Bedrock на веб-сайте AWS.
