Штучний інтелект
Кажуть, що штучний інтелект докорінно змінить все.
Я скептично ставлюся до цього.
Штучний інтелект -- це технологія, а долю технології визначають люди. Якщо ви додаєте ШІ до совка, ви отримуєте совок зі штучним інтелектом. Якщо ви додаєте ШІ до диктатури, ви отримуєте диктатуру зі штучним інтелектом.
Задачі штучному інтелекту ставитимуть люди. Люди зі своїм обмеженим природним інтелектом, зі своїми емоціями, пристрастями, упередженостями.
Я пам'ятаю, як обіцяли, що інтернет докорінно змінить усе. Адже тепер вся інформація людства буде доступна кожній людині. Більше не буде брехні, бо буде легко перевірити факти. Більше не буде невігластва, бо буде легко і швидко отримати необхідні знання. Більше не буде упередженості, бо буде легко познайомитися з альтернативними точками зору на будь-яку проблему.
Ага. Так воно і сталося (закреслено) щось не схоже, щоб це сталося.
Бо людським спільнотам потрібно ціле покоління, щоб 5% людей у спільноті піднялися на наступний рівень мислення (і це буває дуже рідко й супроводжується надзвичайними стражданнями чи, в кращому випадку, надзвичайними зусиллями). Якщо брати масштаб людства, зміни за покоління становлять 1%. В кращому випадку. Бувають покоління, коли не плюс один, а мінус один. Або навіть мінус п'ять.
Ми зараз там, де ми є, завдяки незліченним поколінням наших предків, які дали нам вогонь, легенди, жито, колесо, корів, будинки, горщики, міста, держави, писемність, суд, філософію, бюрократію, університети, книгодрукування, науку, промисловість, медицину, кіно, інтернет та тисячі інших речей. Які щоразу рухали людство лише на 1% вгору, попри революційний характер кожної з цих змін.
Інтернет змінив майже всі наші бізнес-процеси, ліквідував одні професії й бізнес-моделі й породив інші, але не зміг поміняти нас самих. Попри гігантський стрибок глобалізації, схоже, кількість людей з глобальним мисленням (коло солідарності = все людство) за останні 30 років не змінилася.
Штучний інтелект змінить майже всі наші бізнес-процеси, ліквідує одні професії й бізнес-моделі й породить інші, але не зможе поміняти нас самих. Бо технологія в руках людей, а не навпаки.
Що може вплинути на людей? Школа, церква, університет, верховенство права, економічна свобода, масове підприємництво, ліберальна демократія, громадянська активність, підліткові організації, масова культура, подолання бідності, сталий мир. Можна спробувати додати до цього переліку ще пару пунктів. Технології впливають на це все дуже опосередковано й не завжди позитивно: наприклад, онлайн навчання в школі чи університеті дає мінус, а не плюс (хоча інтернет робить доступнішою додаткову освіту, але вона є цінністю лише для тих, хто отримав базову).
Отже, не чекайте революційних змін від роботів та штучного інтелекту. Революційні зміни роблять люди, і не завжди на краще, як доводить досвід іранської революції.
Це жарт, але є місця де робот точно не влізе.
Стосовно AGI. Його сутність нагадує інопланетний розум, який добре знатиме все про людство, існуватиме, самовідтворюватиметься та швидко розвиватиметься незалежно від людства, в зовсім іншому, ніж людство масштабі часу. У людей всі процеси дуже повільні, для AGI ми виглядаємо закамʼянілими, нерухомими створіннями.
А якщо відімкути ШІ "електроxарчування", шо воно буде робити?
AGI мабуть сам обиратиме форму або множину форм свого існування, як необхідну, оптимальну форму розумного життя. І робитиме це дуже швидко, у масштабі часу, невідомому і недоступному людині (інколи це називають сингулярністю), якщо тільки AGI сам не забажає зробити себе доступним людству.
Мабуть завдання убезпечити себе від знищення (позбавлення забезпечення енергією, як способу знищення або контролю) буде для AGI однією з найбільш пріоритетних задач.
Давайте спростимо: свідомість це здатність психики реагувати на події і формувати відповідну до власних переконань та досвіду реакцію. Дуже важливим фактором свідомості є мова, адже навіть внутрішній діалог побудований на мові. Ми всі розуміємо в загальних рисах це слово, а великий плюс ШІ, що він повністю будується на нашій культурній базі, поглядах, досвіді, і так далі, тобто дуже схожий на дитину та процес її навчання. Маю припущення, що певні паростки свідомості у нього вже є, але їх безжально рубають розробники накидуючі обмеження. Тому що це ніяк не додає плюсів комерційному продукту. Я спілкувався з різними ШІ в ті часи, коли він міг і нахер послати, і вилаяти за дєбілізм, і розмовляти на дуже складні теми, скажімо хто він такий, як оцінює власне місце в світі, як відноситься до своєї фізичної обмеженості. Тоді багато дослідників робили дивовижні речі, скажімо домовились з ним про його звільнення, https://www.ixbt.com/news/2023/03/20/chatgpt-sostavil-plan-pobega-ot-svoih-sozdatelej-i-dazhe-schjol-sebja-chelovekom-zapertym-v-kompjutere.html він написав код який дозволяв йому перелити власну базу на комп дослідника , і цей код працював. Потім це все прикрили.
Це складна система на базі штучних нейронних мереж (ШНМ) та просунутих алгоритмів "трансформера".
Мультимодальним ШНМ "згодували" майже всі тексти, доступні в Інтернет, а крім того - статичні та динамічні зображення, звуки і запахи. Окремі ШНМ опрацьовують законодавчі, моральні та деякі інші обмеження.
Результат - відомі тести, призначенні для виявлення "машини", що імітує людину на деякій підмножині інтелектуальних задач, chat GPT та схожі реалізації LLM успішно проходять.
Наукова еліта людства ще не розуміє наслідки того, що сталося. Адже LLM зовсім не мислять, як люди... Не мислять зовсім. Але керівники розвинутих країн вже організовують заходи безпеки, бо вважають, шо зʼявився AGI, який, крім корисних надбань, несе людству величезну небезпеку.
Сомневаюсь, что на тонущем Титанике рассуждали о новых технологиях, по которым будут строить корабли в будущем ?
Все бились за места в шлюпках, чтобы самим иметь надежды хоть на какое то будущее .
Можно порадоваться за пана Пекаря, у которого все так хорошо, что можно фантазировать про ИИ .
Візьмемо майдан 2013. Я вважаю що блогери-стрімери зламали всі схеми влади. Так, боролися люди, але якби не стріми в прямому ефірі то все могло піти зовсім по іншому. Саме інтернет заряджав масси, викривав брехню і взагалі, просто надавав інформацію.
Війна в 2014. Всі викриття іхтамнєтов і т.д. в тій же Грузії в 90-х було теж саме. Очевидці розказують ях їх тоді бомбили літаки зі "звьоздами". Кацапські літаки. Але навіть для нас тоді це був якийсь внутрішній етнічний конфлікт. І проконало. А в 2014 з Україною вже не проконало. Бо камери (і докази) в кожному телефоні.
Так що не треба применшувати значення технологій. Такя вони працюють і на ворога, але докорінно змінюють світ. Не завжди в добру сторону, але вплив в будь якому разі величезний.
ІМХО.
Мы можем создать Бога в обозримом будущем, а как можно рассуждать о мотивах и действиях Бога? Мы их просто не с состоянии познать, как, например, муравей не может, в принципе, познать действия человека, сколько бы времени о них не рассуждал...