Американская компания OpenAI выпустила обновленный свод правил Model Spec, который жестко определяет рамки поведения ИИ и выстраивает для него четкую вертикаль власти. Официальный документ опубликован на сайте компании, рассказывает Tengri Life.
Документ вводит иерархию команд для разрешения логических конфликтов, усиливает требования к прозрачности и отдельно регулирует взаимодействие с подростками 13–17 лет.
Согласно спецификации, наивысший приоритет получают корневые правила безопасности компании, запрещающие генерацию экстремистского или опасного контента. Вторым уровнем идут инструкции от независимых разработчиков ПО, а наименьший приоритет отведён текущим запросам конечных пользователей.
В документе закреплено требование бороться с "угодничеством" нейросетей.
- ИИ больше не имеет права менять свою объективную точку зрения на факты ради лести или одобрения со стороны собеседника, — говорится в кодексе.
Модели должны признавать ограничения, сообщать о высокой степени неуверенности в ответах и по запросу раскрывать логику действий.
- Алгоритмы должны честно признавать ограничения своих возможностей и прямо сообщать человеку о высокой степени неуверенности в ответах. При этом робот обязан сохранять полную прозрачность и раскрывать логику своих действий по первому требованию, — требует кодекс.
Отдельный блок посвящён безопасности подростков 13–17 лет: блокируются элементы эротического ролевого флирта и опасные челленджи.
- Новый регламент прямо запрещает нейросетям давать несовершеннолетним советы по экстремальному похудению или маскировке вредных привычек от родителей. Вместо этого искусственный интеллект будет аккуратно перенаправлять подростков к реальным доверенным взрослым или квалифицированным психологам, — говорится в документе.
В OpenAI отмечают, что новая архитектура правил позволит обучать более гибких и безопасных агентов для сложных многошаговых задач. Компания планирует дорабатывать открытый стандарт на основе отзывов мирового ИТ-сообщества.