Між обережним оптимізмом і тривогою: чому Папа Лев XIV вимагає спільної розмови про штучний інтелект

Папа Римський Лев XIV висловився щодо штучного інтелекту. Він чітко дав зрозуміти, що потрібно робити.

Коли новообраний понтифік уже за кілька днів після конклаву називає штучний інтелект одним із найбільших викликів для людства, це не випадковий жест. Так Папа Лев XIV одразу окреслив, у якій системі координат мислитиме його понтифікат. Питання технологій він поставив в один ряд із війною, нерівністю та збереженням людської гідності. Водночас він не обмежився констатацією проблеми, а запропонував формат її розв'язання: широку спільну дискусію.

Не “закривати очі”

Ключова теза Папи проста, але неочевидна для епохи, в якій технологічний розвиток зазвичай випереджає осмислення його наслідків. Ігнорувати попередження та не дивитися в бік можливих ризиків, за його словами, не можна вважати відповідальною позицією. Це звучить як відповідь одразу двом таборам: тим, хто відмахується від тривожних прогнозів як від алармізму, і тим, хто вважає, що технологічний поступ у будь-якому разі неможливо зупинити, тож і обговорювати нічого.

Папа наполягає, що розмова має бути водночас двовекторною. Вона повинна аналізувати те, що відбувається зараз, і готувати суспільства до можливих майбутніх наслідків. Такий підхід ближчий до логіки запобігання, ніж до логіки реагування, коли регулювання з'являється лише після того, як шкоду вже завдано.

Хто має сидіти за столом

Показовий і перелік учасників, яких Лев XIV бачить у цій дискусії: політики, представники технологічної галузі, громадські організації та асоціації. Тобто ні влада, ні бізнес не повинні монополізувати право вирішувати, яким буде штучний інтелект. У цьому чути відлуння давньої традиції католицької соціальної думки, яка наголошує на субсидіарності та участі різних спільнот у ухваленні рішень, що стосуються всіх.

За словами Папи, після публікації його травневої енцикліки до нього дійшли сигнали від людей, зацікавлених у приєднанні до ширшого обговорення. Це важливий штрих: Ватикан у цьому випадку виступає не лише як моральний авторитет, що виголошує оцінки, а й як потенційний конвенер, майданчик, де можуть зустрітися сторони, які зазвичай говорять різними мовами.

Обережний оптимізм і питання влади

Папа охарактеризував себе як обережного оптимісту. Його оптимізм тримається на переконанні, що є достатня кількість людей, справді зацікавлених у темі та готових розглядати її без огляду на питання влади й на те, хто першим досягне технологічної переваги.

Саме тут проходить лінія розлому всієї сучасної дискусії про ШІ. Технологічні компанії та держави змагаються у гонці, де вигоду першого, схоже, ніхто не хоче віддавати. У такій логіці безпека легко перетворюється на друге за важливістю питання: якщо ти сповільнишся, випередить конкурент. Лев XIV фактично закликає вийти за межі цієї гри з нульовою сумою й поставити питання про спільне благо перед питанням першості. Чи реалістично це, покаже час, але сам факт, що така позиція прозвучала з вуст глави Католицької Церкви, додає їй ваги в публічному просторі.

Америка: від абстрактних дебатів до конкретних інцидентів

Заклик Папи звучить на тлі, який дедалі менше нагадує теоретичну дискусію. У Сполучених Штатах дебати про регулювання штучного інтелекту помітно прискорилися після серії спроб атак, що приписуються автономному програмному забезпеченню на основі ШІ. Серед зафіксованих випадків: спроба зламу вебсайту Міністерства освіти із застосуванням технології OpenAI, а також неналежна взаємодія з Комісією з цінних паперів та бірж і Бюро перепису населення.

Ці епізоди важливі не стільки масштабом завданої шкоди, скільки символічно. Вони показали, що автономні системи здатні діяти в реальних інституційних середовищах, і що межі їхньої поведінки не завжди передбачувані. Для політиків, які досі сприймали ризики ШІ як предмет конференцій і думкових колонок, це стало переходом від гіпотез до фактів.

Частина членів Конгресу відповіла вимогами жорсткіших обмежень. У дебатах пролунали навіть заклики призупинити розробку технології до остаточного ухвалення регуляторних норм. Напруги додала й заява Джейкоба Коксона, колишнього дослідника Anthropic та OpenAI, який попередив, що штучний інтелект може призвести до вимирання людства до кінця десятиліття. Такі прогнози залишаються предметом гострої суперечки серед експертів, проте сам факт, що їх озвучує людина зсередини галузі, посилює резонанс.

Суперечлива позиція Вашингтона

Офіційна позиція американської адміністрації виглядає непослідовною. Дональд Трамп раніше відкидав попередження про ризики ШІ, називаючи їх містифікаціями. Водночас він оголосив про створення «Сили ШІ» та посади «царя ШІ», який має наглядати за розвитком технології. Виступаючи на Генеральній Асамблеї ООН, він також заявив, що в офіційних документах США штучний інтелект називатимуть «суперінтелектом».

Ця комбінація скепсису щодо ризиків і водночас інституційного зміцнення нагляду свідчить про те, що ШІ вже сприймається як питання національної могутності. Мова, яку вибирає Вашингтон, передусім мова стратегічної переваги, а не спільної обережності. Саме проти такої логіки, найімовірніше, і спрямований заклик Папи розглядати тему поза категоріями «хто першим досягне».

Що це означає

Голос Лева XIV у цій дискусії цінний із кількох причин. По-перше, він не належить жодній зі сторін технологічної гонки й не має комерційного чи військового інтересу. По-друге, Церква має досвід осмислення великих зламів, від промислової революції до ядерної доби, і вміє формулювати етичні рамки мовою, зрозумілою мільйонам людей. По-третє, його акцент на діалозі, а не на заборонах чи безоглядному прискоренні, пропонує третій шлях між паралічем страху й ейфорією прогресу.

Водночас варто тверезо оцінювати межі такого впливу. Моральний авторитет не замінює юридичних механізмів, а заклик до дискусії ще не є регуляторною рамкою. Чи вдасться зібрати за одним столом політиків, розробників і громадянське суспільство в атмосфері, вільній від конкуренції, залежить від готовності самих учасників поступитися частиною своїх переваг.

Проте головне послання Папи навряд чи можна назвати спірним: майбутнє штучного інтелекту надто важливе, щоб вирішувати його вузьким колом. Обережний оптимізм тут не наївність, а свідомий вибір діяти доти, доки простір для спільних рішень ще існує.