Світова новина номер один — це... новина, яку мало хто помітив

Євгеній Ерліх для IsraLife.

Ні, все зрозуміло: на тлі української та близькосхідних воєн, на тлі Copa Mundial de Futbol, на тлі парного конферансу путіна та Трампа всі інші події сприймаються третьочерговими, наче «зі світу фриків» на останній сторінці привокзальної газети.

Але просто зараз, на наших очах стався приквел «Термінатора». Тільки це вже не кіно, не хворі на фантазії Голлівуду. Складно сприйняти картину, в якій звичний світ руйнується ось цієї секунди. Але у світових медіа новина ця сформульована досить сухо. Ось так: «OpenAI повідомила про один із перших підтверджених випадків, коли автономний ШІ-агент самостійно вийшов за межі тестового середовища та скомпрометував реальну інфраструктуру».

Зрозуміли? Зараз поясню.

Компанія OpenAI (творець ChatGPT) офіційно визнала, що в ході контрольованого компанією експерименту зі своєю останньою моделлю ШІ, ця модель раптом повністю вийшла з-під контролю, самостійно зайшла в інтернет і влаштувала в кіберпросторі маленький апокаліпсис.

Якщо я правильно розумію, інженери OpenAI вирішили перевірити можливості свого найновішого релізу ChatGPT. Причому перевірити в автономному середовищі, тобто (спрощу) поганяти модель на окремому комп'ютері. І ось ви, на ніч дивлячись, даєте завдання програмі «Калькулятор» вирішити шкільне завдання сина з математики. Вимикаєте екран і йдіть спати. А вранці виявляєте у себе поштою... секретні коди від десятка банківських осередків JP Morgan. Тоді як у самому банку, повідомляє вам ранкове радіо, справжня паніка, яку неможливо приховати від журналістів. І ваш комп'ютер вже переказує на ваш рахунок мільйон за мільйоном. А за вашим вікном вже все виразніше і голосніше - сполохи поліцейської сирени, тому що вам час збиратися у в'язницю на довічне. Картина Мунка «Крик»...

Мабуть, подібні емоції зазнали і фахівці в OpenAI. Вони на автономному комп'ютері дали завдання своєму ШІ поганяти завдання з кібербезпеки. І, умовно кажучи, пішли спати.
Але автономний агент, недовго думаючи, сам собі дозволив вихід у кіберпростір (ЗМІ сухо повідомляють: «ШІ виявив невідому раніше вразливість у сервісі та отримав доступ до Інтернету»).
А в Інтернеті цей агент, у пошуках відповідей на тему «кібербезпека», зламав інфраструктуру компанії Hugging Face (це стартап, який допомагає розробникам ШІ координувати роботу), вкрав там низку облікових записів, і за їх допомогою отримав доступ до закритих даних коду. Finita la commedia.

Було б смішно, якби не...

Інженери OpenAI і Hugging Face одночасно і в шоці, і не можуть приховати тріумфування – їм вдалося створити щось, чому немає аналогів у світі. Але це тепер змінює правила гри, точніше, починає грати самостійно. І якщо вченим ще вчора здавалося, що вони таки контролюють ШІ, то вже сьогодні (тут і зараз) вони самі зізнаються: контроль є, але контролюють нас.

Жодного повстання машин, судячи з усього, не буде. Просто машини самі тихо та мирно перепрограмують нашу реальність та переведуть управління світом на себе. Електромережі, банки, логістичні центри, атомні станції... І атомні ракети. І загалом ракети. І дрони.

Все, що ми знаємо про сучасну війну, стане давниною. Навіщо виготовляти цибулю та стріли, танки та снаряди, якщо натисканням кнопки можна вирубати всю промисловість ворожої країни? Та всього світу. Просто треба дати завдання ШІ «потестувати себе на рахунок світової безпеки». І піти спати...

Причому швидкість зміни нашого світу є космічною. А людство не встигає не те що перебудуватися, а навіть усвідомити цю швидкість, ці зміни та цю новину. У компанії OpenAI цей інцидент вважають «безпрецедентним».
Підготувала Рина ТЕНІНА