Чи дійсно небезпечні "заборонені ШІ-моделі"?
Мабуть, кожен хоча б раз побачив новини про “новітні небезпечні ШІ-розробки”, які такі страшні та потужні, що їх заборонили у якійсь країні.
Ну ось наприклад: “Уряд США з посиланням на органи національної безпеки, видав директиву з експортного контролю щодо призупинення доступу усіх іноземців до {мовних моделей - КК} Mythos 5 та Fable 5”.
Начебто, ці моделі страхітливо швидко знаходили вразливості у системах кібербезпеки державних установ, навіть у системах АНБ (NSA по їхньому).
Коли я вперше почув цю новину, то просто посміхнувся – ну чо, крутий маркетинг замутили собі чуваки з Anthopic. Страх – один з найпотужніших драйверів продажів. А щось заборонити – це завжди призводить лише до підігріву інтересу до продукту/послуги.
Хід безсовісний, але розумний.
Але бачу, що тема не вщухає: тепер обмежили і GPT-5.6.
А ще спецслужби альянсу “П’ять Очей” (Австралія, Канада, Нова Зеландія, Велика Британія, США) публічно попереджають про загрозу виникнення “нових наступальний моделей”.
І це вже більше скидається на справжній переляк, ніж на звичайну промо-акцію.
Але насправді це історія не про якісь там міфічні розробки руйнівної сили – а про багаторічну некомпетентність та невігластво в індустрії кібербезпеки.
Тому що фактичний розклад сил не змінився: кібер-вразливості та кіберзагрози залишаються більш-менш стабільними, змінюються переважно лише форми їх реалізації. Так само умовно-стабільною є кількість “нападників”.
Але з настанням епохи супер-автоматизації (наразі це модно називати “штучним інтелектом”) – розклад сил змінюється.
І перевагу отримує той, хто більш швидкий та гнучкий, хто більш творчо опановує нові технології з знаходить їм практичне застосування – у власних інтересах, звісна річ.
Щоб візуалізувати картинку: уявіть собі паркан навколо складу довжиною, скажімо, 100 або 1000 кілометрів, у якому по 2-3 дірки на кожен кілометр. На складі – якісь умовно цінні товари. Їх можна вкрасти через ті дірки, але треба йти пішки вздовж паркану та шукати лазівки, а винести можна лише те, що сам піднімеш.
Але тут раптом у тебе з’являється позашляховик, підйомник та команда дужих хлопців – і тому твої можливості скористатися старими дірками різко зростає. А склад не здатен залатати усі дірки – немає вдосталь фахівців. Тому приймається рішення заборонити їздити біля складу на будь-чому – усім, крім працівників складу. Рішення дуже тимчасове та неефективне в умовах вільного ринку та існування комуняцького КНР, схильного до промислового шпигунства.
Але іншого рішення поки нема.
Ця “картинка” не є точним відображенням суті ситуації з новітніми ШІ-моделями у кібербезі – лише показує основні тенденції того, що відбувається.
Тобто насправді наразі маємо НЕ якийсь страшний “наступ ШІ” – а наслідок довготривалої кризи з нестачею кібер-фахівців та якістю їх підготовки.
Глобальний дефіцит таких спеціалістів сягнув майже 5 мільйонів по всьому Світові – а це десь 87%. Лише у США не вистачає півмільйонна кібер-профі.
І цій тенденції вже багато років – тобто проблема лежить без вирішення протягом десятиліть.
І всім було на неї за великим рахунком якось пох: завжди знаходяться якісь важливіші проблеми для вирішення.
Але природа не терпить пустки, і тому нові ШІ-моделі просто автоматизують те, на що не вистачало фахівців - які раніше шукали вразливості “руками”.
І до речі, за деякими даними, “90% компаній скаржаться, що навіть за наявності працівників у штаті їм бракує необхідних практичних компетенцій для відбиття складних атак”.
Та і загалом, останні 10 років “за кібер” більше тринділи з високих трибун - ніж реально щось робили. Купа конференцій та “круглих столів”, пафосні промови а-ля “важко переоцінити” – а на виході держструктури та великі компанії просто купляють “чарівні пігулки” за охуліарди доларів, євро, гривень чи теньге.
Але ці “срібні кулі” та “універсальні рішення” – погано працюють там, де потрібен живий розум підготовленого спеціаліста. А коли їх (спеціалістів) немає, підготовкою ніхто не займається, та і загалом “не на часі” – тоді обов’язково будуть наслідки.
І ось вони настають - у вигляді “страшних та небезпечних ШІ-моделей”, давайте їх забороняти.
Бо поки людство не вирішувало проблему – проблема вирішила людство.
І цей фарш вже не провернеш назад – потрібні нові рішення. І швидко.
Хоча кому я це говорю? Це ж як розмовляти з дощем.
P.S.: У мене немає готового рецепту вирішення зазначеної проблеми – я лише фіксую її поточний стан. І намагаюся пояснити її сутність, щоб не було ілюзій.
P.P.S.: А хто хоче трохи навчитися “побутової” кібербезпеки – запрошую на мій онлайн-курс “Особистий кіберзахист” Після його засвоєння можна буде приблизно десятикратно зменшити загрози особисто для себе - у тому числі від отих “жахливих ШІ-моделей”.
