Історія про те, як аудиторів підставив "штучний інтелект"

Ще одне попередження фанатам “штучного інтелекту”: споживайте, як то кажуть, відповідально.

Відома аудиторська компанія Deloitte взяла з департаменту зайнятості та трудових відносин уряду Австралії 290 тисяч доларів за проведення дослідження та надання звіту.

Так от, звіт від Deloitte містив 237 сторінок, і навряд чи хто збирався його читати. Але дослідник з Університету Сіднея Кріс Радж (Chris Rudge) його все ж прочитав.

І з’ясував, що той містить численні помилки, ймовірно згенеровані штучним інтелектом. Наприклад, там були посилання на неіснуючі дослідження, а також сфабриковані цитати з рішень федеральних судів.

Цікаво як саме Кріс виявив фальсифікацію. У тексті звіту він побачив посилання на книгу, начебто написану його колегою, професором публічного та конституційніого права університету Сіднею Лізою Вартон Крауфорд (Lisa Burton Crawford). Але назва тієї “книги” звучала абсурдно та ніяк не стосувалася сфери компетенції пані Крауфорд.

Deloitte зрештою визнав помилки у звіті та погодився повернути частину отриманих грошей. Хоча сенаторка Barbara Pocock вимагала повернення усієї суми. Пані Барбара зазначила, що у подібному випадку “навіть студент першого курсу мав би серйозні проблеми”.
А сенаторка парламенту Австралії Deborah O’Neill порадила уряду “замість великої консалтингової фірми, було б краще оформити підписку на ChatGPT”

Але попри цей скандал Deloitte заявила, що “вирішила цю проблему безпосередньо з клієнтом”, ага. Порішали тобто.

Висновки зрозумілі, але все ж їх позначу.

1. Серйозно луплять у штангу з використанням “штучного інтелекту” навіть ті, хто не має права на подібні помилки: аудиторські компанії. Причому найповажніші та найвідоміші. Які мали б бути еталоном професійності та відповідальності. Але ніт. Тому висновок перший і досить банальний: помиляються усі – і люди, і машини. Тому усе і завжди треба перевіряти, не брати на віру. “Довіряй, але перевіряй”. А ще “Не створи собі кумира”.

2. Після подібної репутаційної катастрофи я б уважніше придивився до останніх звітів усіх аудиторських компаній, у тому числі тих, які входять до “великої четвірки”. А особливо до тих, які написані для українського уряду. Бо “Велика Четвірка” обожнює працювати з урядами: з ним так легко “домовлятися”. І заодно можна вже перейменувати відоме міжнародне поняття “Big Four” на “Big Three”.

3. Помиляються навіть багаті компанії, які інвестують мільярди у нові технології та мають гроші найняти найкваліфікованіших фахівців.
То чи слід очікувати великих звершень від розумово обмежено-придатних жижиталізаторів, які намагаються мавпувати дорослих і теж “розробляють вітчизняний штучний інтелект”? Але при цьому публічно проголошують “роль кібербезпеки перебільшеною”?
Помилятися - то не є нормально, але так вже влаштований цей світ.
А от вміння визнавати свої помилки – є ознакою зрілості та дорослості, наявності розуму та совісті. Наприклад, у кварталу95, який керую нашою країною, усього цього сильно не вистачає.
Навіть не знаю як останній висновок пов’язаний із випадком з Делойтом та Австралією. Отакі вони, звивисті шляхи психологічних асоціацій.

Але якщо по суті історії: кожного разу, використовуючи одну з існуючих LLM (“великі мовні моделі”, які чомусь назвиають “штучним інтелектом”) - пам’ятайте про це випадок і про можливі наслідки надмірної довіри до них.