За спілкування зі "штучним інтелектом" - тюрма

Для тих, хто аж настільки захопився сучасними LLMками, що використовує їх як особистого психолога і навіть як друга – маю цікавий випадок.

30-річна Карлі Мішель Геллар з містечка Боніта-Спрингс у Флориді, США, написала у Claude (вона використовувала цю ШІ-модель як особистий щоденник), що планує розстріляти офіс шерифа і вже придбала для цього нову зброю.

Claude зреагував на ключові слова (ймовірно це "зброя", стріляти" чи інші інтерпретації намірів здійснити насилля) та повідомив про це людей-операторів. Вони то почитали і передали дані до поліції. Жінку заарештували та звинуватили у "письмовій погрозі масовим насильством" (стаття 836.10 флоридського КК).
Не думаю, що жінку реально засудять до чогось, але ж мова не про це.
І навіть не про занадто людські стосунки з бездушною машиною – бо яких тільки ідіотів не існує на цій Землі.

Справа ж у тому, що багато хто забуває що таке по суті сучасні LLMки: ChatGPR, Claude, Perplexiti, Gemini, Grok та багато інших, у тому числі "китайських"(які насправді американські). І це всього лише продукт, вироблений людиною.
Якщо сильно спростити, то для більшості користувачів сценаріїв використання, фактично два.
Це а)сильно покращений пошук інформації в Інтернеті та б) супер-автоматизація рутинних веб-дій. Є ще багато різного іншого, але більшість "пересічних" користується саме цими двома.
Згідно опитувань у США, найпопулярнішими функціями так званого "ШІ" є такі: пошук інформації – 42%, робочі завдання – 38%, розваги – 25%, медичні поради, дієта, фітнес – 20%, емоційна підтримка – 10%, товариське спілкування – 4%.

І важливо: кожне слово, які ви напишете або надиктуєте до ШІ-агента – може бути використано проти Вас. 
І це написано в отих правилах, які ви підписуєте, не читаючи.
Це крім того, що своїми запитами ви безкоштовно навчаєте моделі – а дехто свідомо "навчає поганому", але то окрема історія.

Ну тобто давно відомий факт, що масі людей суди призначили покарання на підставі історії їхніх гугл-запитів, бо це було серйозним доказом їхньої провини. Вже навіть у кіно таке показують.
А от практично те ж саме, але не в гуглі – а в якомусь Клауді – чомусь для багатьох не вважається зливом особистої інформації "невстановленому колу осіб".
Тому що і "медичні поради, дієта, фітнес – 20%", і "емоційна підтримка – 10%", і "товариське спілкування – 4%" – все це дуже інтимні персональні дані, якими точно не слід ділитися невідомо з ким. Які невідомо кому можуть цю інфу продати.
Та навіть "пошук інформації" може характеризувати ті ваші риси, про які мало хто взагалі знає -  але буде знати компанія-оператор ШІ-агента. Так само, як і ваші "робочі завдання" дуже непогано вас характеризують, розкривають характер роботи і навіть ваше ставлення до неї.

Якщо ще більше спросити мій меседж, то він звучить так: "за кожною сучасною технологією стоять конкретні живі люди, з іменами та прізвищами" – ось що слід завжди пам’ятати.
Немає ніякого "штучного інтелекту" – є люди, які спонукали вас користуватися цією технологією. І навіть платити за неї. Гугл он досі безкоштовний.
Немає ніякої окремо існуючої "Дії": є конкретні чиновники, які слідкують за вами через цю технологію та намагаються контролювати ваше життя, під гаслом "ми ж хочемо допомогти".

І випадок з жінкою, яку у доволі демократичній країни заарештували за те, що вона написала у себе у смартфоні десь на власній кухні, спілкуючись із додатком Claude – означає, що "Big Brother watches you " (Великий Брат слідкує за тобою).

І у разі чого – використає наявну інформацію проти тебе ж.
Людський же суд розгляне справу Карлі Мішель Геллар у листопаді 2026.