OpenAI ввела возрастную фильтрацию в ChatGPT

Компания OpenAI начала внедрение функции прогнозирования возраста в ChatGPT. Если чат-ботом пользуется несовершеннолетний, к аккаунту применят «соответствующий подход и меры безопасности для подростков».

Если алгоритм ошибочно присвоит статус подростка взрослому, это можно исправить, пройдя верификацию через сервис Persona.

Внедрение функции происходит по всему миру. Она призвана уменьшить контакт подростков с чувствительным и потенциально вредным контентом.

Как работает

Для оценки возраста модель анализирует поведенческие факторы, например время активности в чате. Если OpenAI не уверена в том, сколько лет пользователю, она автоматически выбирает более безопасный вариант.

Добавление дополнительных мер безопасности можно посмотреть в настройках учетной записи. Они ограничивают показ материалов, содержащих:

• сцены насилия и жестокости;
• вирусные челленджи, которые могут поощрять рискованное или вредное поведение;
• ролевые игры сексуального или насильственного характера;
• изображения повреждений себя;
• пропаганду нереалистичных стандартов красоты, строгих диет и критику внешности.

Инициатива основана на научных данных о детском развитии и учитывает специфику подростковой психики.

В дополнение к новому сервису работает родительский контроль. Он позволяет установить «тихие часы» или настроить уведомления при обнаружении признаков острого дистресса.

Напомним, в сентябре OpenAI анонсировала разработку технологии для определения возраста.

После ее интеграции планируется добавление эротического контента в ChatGPT.