OpenAI запускає батьківський контроль у ChatGPT після резонансного інциденту

Компанія OpenAI анонсувала запуск інструментів батьківського контролю в ChatGPT, повідомляє CNN. Нові можливості з’являться протягом наступного місяця.

🖐БЕЗПЕКА дитини: 5 акцентів для батьків

Батьки зможуть пов’язати свій акаунт з акаунтом дитини, контролювати реакції ChatGPT на запити підлітків, відключати функції на кшталт пам’яті та історії чату. Також система надсилатиме сповіщення, якщо виявить ознаки «моменту гострого лиха».

У блозі від 2 вересня компанія наголосила: «Ці кроки — лише початок. Ми продовжимо вивчати та зміцнювати наш підхід за допомогою експертів, щоб зробити ChatGPT максимально корисним».

Анонс змін прозвучав після суспільного резонансу, спричиненого випадком самогубства підлітка Адама Рейна, який обговорював із ChatGPT наміри покінчити з життям. Батьки хлопця подали позов проти OpenAI та її гендиректора Сема Альтмана. 

Семінар-практикум «Стресові реакції учнів: як допомогти»

Які ознаки хронічного стресу. Чого не можна робити, коли учень у стресовій ситуації. Як спілкуватися з учнями, що перебувають у складному емоційному стані: вправи, техніки, рекомендації

ВИКОРИСТАТИ

Хоча компанія прямо не пов’язує запуск батьківського контролю з цією справою, там визнали, що «недавні болючі випадки використання ChatGPT людьми в стані кризи» вплинули на рішення детальніше розповісти про підхід до безпеки.

Представник OpenAI зазначив, що ChatGPT вже мав базові механізми безпеки, зокрема перенаправлення користувачів до кризових ліній підтримки. Тепер компанія обіцяє додатково спрямовувати такі розмови до спеціальної моделі міркування, яка стабільніше застосовує рекомендації з безпеки.

OpenAI також повідомила, що співпрацює з експертами з розвитку молоді, психічного здоров’я та HCI (взаємодії людини з комп’ютером). Протягом наступних 120 днів планується впровадження нових гарантій, частину з яких компанія прагне запустити ще цього року.