Хрещений батько ШІ попередив про появу розумніших за людину істот

Про це він заявив на саміті Sana AI у Нью-Йорку, повідомляє  ІП "Кур'єр" із посиланням на «Главком» та Fortune.

Джеффрі Хінтон – британсько-канадський вчений, якого називають «хрещеним батьком» штучного інтелекту. Він десятиліттями розробляв штучні нейронні мережі – ту саму технологію, що лежить в основі ChatGPT та інших сучасних систем ШІ. У 2024 році він отримав Нобелівську премію з фізики, а у 2023-му пішов з Google, щоб відкрито говорити про небезпеку того, що створив.

На саміті Хінтон висловився без застережень: ШІ стане значно розумнішим за людину. У закритих системах із чіткими правилами – як-от математика – ШІ вже здатен самостійно генерувати гіпотези, перевіряти їх і вчитися на помилках без нових зовнішніх даних. Того ранку, за словами вченого, ШІ довів одну з теорем математика Пола Ердоша – застосувавши метод, який раніше нікому не спадало на думку використати.

«Я думаю, що за 20 років ми побачимо щось подібне до Ейнштейна», – сказав Хінтон. Ніхто більше не зможе перемогти ШІ в шахи чи ґо, а найближчим часом машини перевершать і найкращих математиків світу.

Хінтон вважає, що справжня небезпека – не в тому, наскільки розумним стане ШІ, а в тому, яким він буде як істота. Компанії зараз змагаються за найпотужніший продукт – але ніхто всерйоз не думає над тим, щоб зробити ШІ добрим і безпечним для людей.

Він провів паралель із еволюцією: людська жорстокість, трибалізм і схильність до конфліктів – результат мільйонів років природного відбору. Те саме зараз відбувається у світі ШІ, але в режимі квартальних звітів.
«Якщо я маю фондові опціони і хочу швидко дійти до трильйона – я просто будую величезний комп'ютер і йду далі. Якщо мене цікавить майбутнє людства – я шукаю інший підхід», – зауважив Хінтон.

Рішення, на його думку, ближче до виховання дитини, ніж до інженерії.
«Ви б навчали дитину читати на щоденниках серійних убивць? Мабуть, ні. Ось вам і відповідь», – пояснив він свій підхід до вибору навчальних даних для ШІ.

Когнітивний вчений Гері Маркус опублікував різку відповідь: мовні моделі не є «істотами» – вони лише імітують мову реальних істот, передбачаючи наступне слово. Свідомість, на його думку, – це внутрішні стани, а не поведінкові реакції. Папа Римський Лев XIV також висловився лаконічно: «Справжнє розуміння приходить із досвіду, а не з наближення тексту».

Хінтон завершив виступ жартом. Його запитали, чи порівнює він себе з Робертом Оппенгеймером – творцем атомної бомби, який згодом пожалкував про свою роботу.
«Оппенгеймер так і не отримав Нобелівську премію з фізики», – відповів він.
Підготувала Рина ТЕНІНА