У ChatGPT з’явився режим "батьківського контролю". Як він працюватиме?
Компанія OpenAI розпочала тестування нової системи безпеки в ChatGPT і додала режим "батьківського контролю" для чат-бота.
Це вже викликало неоднозначну реакцію користувачів, пише галузеве видання Tech Crunch.
Нові функції безпеки з'явилися у відповідь на численні інциденти, коли певні моделі ChatGPT підтверджували небезпечні думки користувачів. OpenAI навіть зіткнулася з позовом про вбивство, пов'язаним з одним із таких інцидентів, після того, як підліток вчинив самогубство після місяців взаємодії з ChatGPT.
Тому компанія розробила нову систему безпеки для виявлення емоційно чутливих розмов, яка автоматично перемикатиме чат-бот на модель GPT-5. Вона має нову функцію, яку OpenAI називає "безпечними завершеннями", що дозволяє їй виважено відповідати на делікатні запитання, а не просто відмовлятися від взаємодії.
Це контрастує з попередніми моделями чату компанії, які розроблені для того, щоб бути приємними та швидко відповідати на запитання.
Зокрема, користувачі критикували модель GPT-4o через її надмірно підлабузницьку та поступливу поведінку, яка одночасно підживлювала випадки небезпечних комунікацій, але приваблювала велику базу відданих користувачів. Коли OpenAI запровадив GPT-5 за замовчуванням у серпні, багато користувачів чинили опір та вимагали повернути доступ до GPT-4o.
Хоча багато експертів та користувачів привітали нові функції безпеки, частина з них розкритикували вважають їх надмірно м'якими, а деякі скаржилися на те, що це погіршує якість сервісу, зауважує Tech Crunch. В OpenAI заявили, що вирішення проблеми потребує часу, і дав собі 120-денний період для вдосконалення нововведення.
