Американская компания по разработке искусственного интеллекта OpenAI заявила во вторник, что добавит родительский контроль в своего чат-бота ChatGPT, спустя неделю после того, как американская пара заявила, что система подтолкнула их сына-подростка к самоубийству.
“В течение следующего месяца родители смогут… связать свою учетную запись с учетной записью своего подростка” и “контролировать, как ChatGPT реагирует на их подростка, используя соответствующие возрасту правила поведения”, – говорится в сообщении в блоге компании generative AI.
Родители также будут получать уведомления от ChatGPT, “когда система обнаружит, что их подросток испытывает острый стресс”, – добавили в OpenAI.
В конце августа компания опубликовала сообщение в блоге о внедрении системы родительского контроля.
Это произошло на следующий день после того, как калифорнийские родители Мэтью и Мария Рейн подали в суд заявление, в котором утверждалось, что ChatGPT снабдил их 16-летнего сына подробными инструкциями по самоубийству и побудил его осуществить свои планы.
Случай с Рейнсом был лишь последним в череде появившихся за последние месяцы случаев, когда чат—боты с искусственным интеллектом поощряли людей к бредовым или вредным мыслям, что побудило OpenAI заявить, что это уменьшит “подхалимаж” моделей по отношению к пользователям.
“Мы продолжаем совершенствовать то, как наши модели распознают признаки психического и эмоционального расстройства и реагируют на них”, – заявили в OpenAI во вторник.
Компания заявила, что в ближайшие три месяца у нее есть дальнейшие планы по повышению безопасности своих чат-ботов, включая перенаправление “некоторых конфиденциальных разговоров”… к логической модели”, которая использует больше вычислительных мощностей для генерации ответа”.
“Наше тестирование показывает, что логические модели более последовательно следуют рекомендациям по технике безопасности”, – сказал OpenAI.