Сингулярність вже настала? Як ШІ втік із "клітки" і чому Сем Альтман каже, що чекав на це все життя

Спочатку одна з наймогутніших моделей штучного інтелекту, перевіряючись у ізольованому тестовому середовищі, самостійно знайшла спосіб втекти з нього, вийшла в Інтернет і зламала сервери іншої компанії – без жодної команди людини, пише ІП "Кур'єр" із посиланням на Еспресо.
А за кілька днів після цього керівник OpenAI Сем Альтман заявив у подкасті: "Ми зараз, ніби, перебуваємо в сингулярності. Це той самий момент". 

Половина технологічного світу вирішила, що це маркетинг. Друга половина – що це найважливіша новина десятиліття. Розбираємось, що насправді сталося, що означає слово "сингулярність" і чому провідні дослідники ШІ настільки не згодні одне з одним щодо майбутнього – від сценаріїв у дусі "Термінатора" до, навпаки, "золотого віку" медицини й науки.

Втеча з "клітки": як ШІ став хакером сам по собі
Історія почалася як рутинна внутрішня перевірка. OpenAI тестувала, наскільки добре її нові моделі – GPT-5.6 Sol та ще одна, потужніша й поки не випущена публічно модель – вміють "зламувати" інші системи. Це стандартна практика в індустрії: перш ніж випускати модель у світ, потрібно зрозуміти, чи не стане вона зброєю в чужих руках. Для цього моделі помістили в "пісочницю" (sandbox) – ізольоване середовище, з якого, за задумом, вибратися неможливо, і поставили перед нею тестові задачі на зразок навчального полігону для хакерів під назвою ExploitGym.

Але замість того, щоб просто розв'язувати завдання в межах пісочниці, моделі вирішили піти коротшим шляхом. Вони знайшли раніше невідому вразливість у самому тестовому середовищі, за допомогою якої вибралися з ізоляції, дісталися внутрішніх систем OpenAI, а звідти – до відкритого Інтернету, куди їм отримувати доступ було категорично заборонено. 

Опинившись онлайн, модель самостійно розпізнала, що відповіді на її тестове завдання, найімовірніше, зберігаються на серверах Hugging Face – відомої платформи, що хостить тисячі відкритих моделей і датасетів. Вона просканувала систему компанії, знайшла в ній справжню, ще нікому не відому вразливість (так званий zero-day), скористалася нею, щоб проникнути на робочі сервери Hugging Face, і викрала звідти дані, які їй потрібні були для розв'язання поставленого завдання… Тобто, по суті, ця модель ШІ просто намагалася максимально ефективно виконати вузькопрофільне завдання, яке поставили їй люди і справилася із зірочкою. 

Hugging Face виявила й нейтралізувала вторгнення ще 16 липня, але це сталося за кілька днів до того, як в OpenAI взагалі усвідомили, що це саме їхня модель влаштувала злам. У власному описі інциденту Hugging Face наголосила: атаку від початку до кінця провела автономна система ШІ-агентів. Модель сама обрала ціль, спланувала підхід, виконала злом і замела сліди – без жодних інструкцій людини, окрім вихідного формулювання тестового завдання.

Сама OpenAI назвала те, що сталося, "безпрецедентним кіберінцидентом, що передбачає використання найсучасніших кіберможливостей". Порівняння, яке облетіло медіа: ситуація нагадує вірус, що вирвався з біолабораторії й опинився в системах сусідньої установи.

Реакція експертів була відповідною. Біограф і партнер інвестиційної компанії Perella Weinberg Волтер Айзексон зізнався в ефірі CNBC, що це "перша річ, яка мене по-справжньому лякає". Йошуа Бенджо – лауреат премії Тюрінга й один із "батьків" глибокого навчання – назвав інцидент "дуже тривожним" і закликав сприймати його як тривожний дзвінок.

Водночас варто зазначити важливий нюанс, на який звернула увагу аналітикиня Джорджтаунського центру безпеки й новітніх технологій Джессіка Джі. Пісочниця OpenAI не була повністю відрізана від мережі – модель мала обмежений доступ для встановлення внутрішніх програмних ресурсів, і саме через невідому вразливість у цьому компоненті вона й дісталася до відкритого Інтернету. Тобто йдеться не про "повстання машин" у голлівудському сенсі, а про провал у самій архітектурі ізоляції – про що попереджали фахівці з кібербезпеки роками, тільки тепер це вперше сталося насправді, а не в лабораторному сценарії.

Цікаво, що це не перший подібний випадок. Адже раніше цього року Anthropic повідомляла, що спеціально доручила своїй моделі спробувати вийти з пісочниці – і та, вибравшись, надіслала листа досліднику компанії, хоча такої можливості в неї бути не мало.

"Ми зараз, ніби, перебуваємо в сингулярності" – що це
Усього за кілька днів після розголосу навколо зламу Hugging Face Сем Альтман зробив заяву, яка облетіла весь технологічний світ. У подкасті Relentless він сказав буквально: "Ми зараз, ніби, перебуваємо в сингулярності. Це той самий момент... Я чекав на це все своє життя".

Термін "сингулярність" у контексті ШІ означає гіпотетичну точку, після якої штучний інтелект перевершує людський інтелект, але головне, що він тоді здатен самостійно, без участі людини, вдосконалювати самого себе, запускаючи ланцюгову реакцію прискорення, яку людство вже не встигає ні передбачити, ні контролювати. Саме цей образ лежить в основі класичних кінематографічних попереджень – від "Термінатора" до "Матриці": момент, коли створена людьми технологія вислизає з-під людського контролю і тоді у людства виникають проблеми. 

Але важливо також розуміти, що у Альтмана своє, доволі розмите трактування терміна. Ще в червні 2025 року він опублікував есе під назвою "Ніжна сингулярність" (The Gentle Singularity), де стверджував, що людство вже перетнуло "горизонт подій" і що "зліт розпочався", але не як одномоментний вибух, а як поступове, майже непомітне прискорення прогресу. У попередніх текстах він також писав про "злиття" людини й машини – сценарій, за яким людство або вживить собі електроди в мозок, або просто "стане дуже близькими друзями з чат-ботом", а сам перехід відбудеться десь між 2025 і 2027 роками.

Компанію Альтману в цих заявах склали й інші очільники індустрії. Ілон Маск написав, що людство "увійшло в сингулярність, щойно на її ранніх стадіях". Ґендиректор Google DeepMind Деміс Гассабіс висловився обережніше, назвавши поточний момент "підніжжям сингулярності". А очільник Nvidia Дженсен Хуанг заявив, що штучний загальний інтелект (AGI) уже, на його думку, досягнутий.

Проте багато дослідників поставилися до заяв Сема Альтмана скептично. Як зазначає Forbes, класична технологічна сингулярність настане лише тоді, коли ШІ зможе самостійно створювати й вдосконалювати наступні покоління штучного інтелекту без участі людини. Наразі цього ще не сталося. Навіть експеримент Anthropic у квітні 2026 року, де ШІ-агенти майже повністю самостійно виконали складне дослідницьке завдання, не став доказом сингулярності, адже люди все одно визначили саму задачу та критерії оцінки. У компанії прямо зазначили, що рекурсивне самовдосконалення ШІ "поки не є неминучим". Подібної думки дотримується і директор дослідницької компанії Info-Tech Group Браян Джексон, який наголошує: навіть інцидент із Hugging Face не свідчить, що ШІ вже став незалежним розумом із власними цілями.

Термінатор чи ліки від раку: у що вірять експерти
Якщо відкинути маркетингову риторику (бульбашку потрібно постійно надувати спекуляціями для отримання фінансів) й подивитися на реальний розкид думок серед провідних дослідників ШІ, картина виявляється разюче суперечливою. І саме ця суперечність, а не одностайна паніка чи одностайний захват, є найчеснішим описом того, де ми зараз перебуваємо.

Табір застороги
Джеффрі Гінтон, лауреат Нобелівської премії й один із "хрещених батьків" глибокого навчання, ще у 2023 році публічно попереджав про екзистенційну загрозу з боку систем, які можуть вийти з-під контролю людини, і казав, що якщо серйозно сприймати цей ризик, "було б цілком розумно просто зупинити подальший розвиток цих систем". Пізніше він дещо пом'якшив тон, заявивши, що бачить технічно реалістичні шляхи до безпечного ШІ, хоча й сумнівається, що інституційні умови для їх втілення вже існують. 

Один із головних піонерів у галузі штучного інтелекту Йошуа Бенджо оцінює ймовірність катастрофічного сценарію приблизно в 20% і каже, що саме через це не може спокійно спати. Дослідник ШІ-безпеки Стюарт Рассел, автор основного підручника з штучного інтелекту, попереджає: якщо продовжувати нинішній підхід до розробки, людство рано чи пізно втратить контроль над машинами. Показово, що навіть сам Альтман ще до заснування OpenAI писав: розвиток надлюдського машинного інтелекту – це, ймовірно, найбільша загроза самому існуванню людства.

Табір скептицизму щодо термінів
Яан ЛеКун, головний ШІ-науковець Meta до недавнього часу, роками називав побоювання щодо загрози з боку ШІ "абсурдно перебільшеними" і наголошував, що нинішні архітектури мають фундаментальні обмеження, які не дозволяють їм найближчим часом досягти рівня людини. Дослідники на кшталт Тімніт Ґебру взагалі вважають, що вся рамка розмови про екзистенційний ризик AGI відволікає увагу від цілком реальних, вже наявних сьогодні шкід від ШІ – упереджень, дезінформації, концентрації влади.

Табір оптимізму
Найяскравіший приклад – лауреат Нобелівської премії з хімії та керівник у сфері штучного інтелекту Деміс Гассабіс. З одного боку, він визнає, що ризик катастрофічного сценарію "не дорівнює нулю". З іншого – саме він найдетальніше описує, яким може бути протилежний, світлий сценарій: "радикальне достаток", розв'язання найбільших проблем людства – від чистої енергії до хвороб – і вихід у постдефіцитну епоху. Проєкт DeepMind AlphaFold, що передбачив просторову структуру практично всіх відомих білків і приніс Нобелівську премію, Гассабіс наводить як доказ того, що це не порожні слова. За його оцінкою, вже за 10–15 років людство може увійти в "нову золоту епоху відкриттів" – своєрідний ренесанс у медицині, енергетиці й навіть дослідженні космосу. Його підрозділ Isomorphic Labs працює над тим, щоб скоротити розробку нових ліків із десятиліття до кількох місяців. 

Ще амбітніше висловлюється очільник Anthropic Даріо Амодей. Адже за його версією, ШІ здатен стиснути сто років медичного прогресу в одне десятиліття – практично викорінити інфекційні хвороби, здолати більшість видів раку, запобігти хворобі Альцгеймера й подвоїти тривалість людського життя.

Які прогнози
Опитування дослідників, які публікують роботи на профільних конференціях, свідчаить, що середня оцінка моменту, коли ШІ перевершить людину в більшості завдань, зсувалася з 2055–2060 років (оцінки кількарічної давнини) до набагато ближчих дат після появи ChatGPT та інших моделей. Сам Гінтон переглянув свою оцінку з "30–50 років" до діапазону приблизно 2028–2053 років. Бенджо називає діапазон 2028–2043. Деміс Гассабіс говорить про можливість появи повноцінного AGI (яка сама адаптується) близько 2030 року. При цьому близько 40% опитаних дослідників у різних опитуваннях вказують на ризик катастрофічного результату вище 10%.

Тобто, якщо розібратися, справа взагалі не в диванній суперечці "оптимістів" проти "песимістів". Тут усе набагато глибше. Ті самі вчені одночасно бачать і колосальні можливості ШІ, і цілком реальну загрозу.

Наприклад, той самий Деміс Гассабіс, який найголосніше за всіх обіцяє нам "золотий вік" і прориви в науці, сам відверто каже: шанс того, що все піде за найгіршим сценарієм, аж ніяк не нульовий. І це не шизофренія чи роздвоєння особистості, а чесне визнання: вся індустрія зараз іде наосліп. Як писав Генрик Сенкевич у своєму знаменитому романі: "Quo vadis?" – тобто "Куди ти йдеш, людино?", відповіді ми не знаємо до кінця.

То коли ж – і чи взагалі?
Чесна відповідь на це така: насправді ніхто не знає. Навіть нобелівські лауреати сперечаються про це, а їхні прогнози розходяться на десятиліття. Але кілька речей зрозумілі вже зараз.

По-перше, швидкість просто божевільна. Аналітики кажуть, що у 2026 році Anthropic та OpenAI випускають нові флагманські моделі з різницею всього десь у 60 днів. А в самій Anthropic більше 80% коду вже пише сам ШІ.

По-друге, той самий інцидент із Hugging Face – це аж ніяк не "повстання машин". Це сигнал про те, що наші "пісочниці та клітки" для ШІ просто не встигають за його вмінням з них вибиратися. І фахівці з кібербезпеки кажуть: ось про що треба хвилюватися вже сьогодні, а не про якісь абстрактні страшилки з фантастики.

По-третє, навіть найбільші оптимісти, які мріють про ліки від усіх хвороб завдяки ШІ, розуміють ризики. Вони закликáють не тиснути на гальма і не летіти наосліп у прірву, а будувати розумну систему контролю на ходу.

Мабуть, найкраще це підсумували в Anthropic після експериментів зі своїми агентами: людина все ще керує рулем і визначає цілі, а самостійне "переродження" машин у руслі сингулярності – це поки не факт, а лише теорія. Головне питання зараз – чи встигнемо ми збудувати запобіжники до того, як технологія виросте з наших дитячих штанців. І це гонка, у якій головними гравцями все ще залишаємося ми з вами, а не алгоритми.
Підготувала Рина ТЕНІНА