ШІ переконливо підтвердить вашу помилку. Ось чому критичне мислення стає критично важливим

Спробуйте провести експеримент. Попросіть штучний інтелект переконливо пояснити, чому компанії варто скоротити штат і замінити частину працівників алгоритмами. А потім відкрийте новий діалог і попросіть так само переконливо довести, що таке рішення призведе до фінансових втрат і поставить бізнес під загрозу.

У першому випадку ШІ найімовірніше знайде дослідження про автоматизацію, скорочення витрат і підвищення продуктивності. У другому використає дані про помилки алгоритмів, втрату професійних навичок, витрати на впровадження та обмеження автоматизації.

Ви отримаєте два добре написані тексти з аргументами, прикладами та посиланнями на реальні дослідження. Кожен звучатиме цілком розумно.

До чого це? А до того, що у взаємодії зі штучним інтелектом ми навчилися отримувати аргументи практично для будь-якої позиції. Причому настільки швидко, що майже зник проміжок між появою власної думки та її переконливим обґрунтуванням.

Раніше людині, яка хотіла відстояти свою ідею, доводилося читати, порівнювати позиції, шукати докази, стикатися з фактами, що суперечать її переконанням. У процесі можна було й передумати. Тепер достатньо сформулювати бажаний висновок, а ШІ побудує пристойну аргументацію.

Я працюю зі штучним інтелектом, інвестую в команди, які розробляють такі технології, й вважаю їх одним із найважливіших інструментів сучасного підприємництва. Мене захоплює, наскільки доступною стала складна інтелектуальна робота.

І саме тому я хочу розуміти, наскільки надійні аргументи, які пропонує ШІ.

Повернімося до експерименту. Припустімо, що обидва тексти посилаються на справжні дослідження. Це ще не означає, що висновки однаково обґрунтовані. Наприклад, дослідники встановили, що завдяки автоматизації працівники служби підтримки швидше обробляють звернення. ШІ використає це як аргумент за скорочення штату. Та чи доводить вища швидкість роботи, що людей потрібно звільняти? Компанія могла почати обслуговувати більше клієнтів, а співробітники — приділяти більше часу складним випадкам. Дослідження взагалі могло не оцінювати наслідків звільнень.

Ось де потрібне критичне мислення: перевірити, кого та що досліджували, за яких умов, чи стосуються результати конкретної ситуації та чи справді вони підтверджують запропонований висновок. Правильні цифри ще не роблять правильним рішення, яке ними обґрунтовують. Підхід до готової відповіді вимагає ще більшої недовіри — і вміння перевірити та проаналізувати.

У бізнесі я особливо ціную людей, здатних заперечувати власні припущення. Засновник стартапу легко знайде десятки причин, чому ринок має прийняти його ідею. ШІ додасть прогнози й приклади успішних компаній. Значно цікавіше, коли підприємець сам перевіряє, за яких обставин задум провалиться. Чи готові клієнти платити за продукт, а не лише хвалити концепцію? Це запитання цінніше за суто оптимістичні прогнози.

Є й ширша проблема.

ШІ робить професійну аргументацію доступною людям із різним рівнем підготовки, тому звичні зовнішні ознаки компетентності стають ненадійними. Грамотний текст не завжди підтверджує глибину знань автора, а професійна термінологія не завжди допомагає відрізнити фахівця від новачка. Дедалі важливішим стає розуміння того, наскільки людина здатна самостійно аналізувати інформацію, перевіряти аргументи та обґрунтовувати власні висновки.

Я не бачу сенсу протиставляти людський інтелект штучному. Ми отримали технологію, яка істотно розширює наші можливості, і було б дивно нею нехтувати. Проте відповідальність за висновки та рішення залишається за нами.

Можливо, найбільшою інтелектуальною спокусою найближчих років стане можливість завжди мати рацію принаймні на вигляд — знайти аргументи, підкріпити авторитетними формулюваннями й уникнути неприємної необхідності переглядати власну позицію.

І все ж я хотів би, щоб ми використовували ШІ також для протилежного: частіше стикалися з сильними запереченнями, знайомилися з чужою логікою та дозволяли новим аргументам впливати на наші погляди. Адже доступ до величезного обсягу знань дійсно корисний саме тоді, коли людина допускає, що серед них знайдеться щось, здатне переконати її змінити думку.

Володимир Литвин, AI-підприємець, меценат, інвестор, засновник Lytvyn Foundation та Lytvyn.AI.Foundation