Пастка свідомості. Чому визнання прав за ШІ може коштувати людству свободи

Більшість людей переконані у власній унікальності завдяки наявності свідомості, відчуття власного «Я» та здатності відчувати біль чи радість, пише The Economist.

Папа Лев у своїй травневій енцикліці чітко провів межу між людством та зростаючою армією ботів і наголосив, що машини не мають жодних внутрішніх переживань. Думку про те, що надання ШІ статусу особистості є неприпустимим, поділяють мільйони. Проте ця понтифікальна ясність розмивається з лякаючою швидкістю: майже кожен п’ятий молодий американець уже повідомляє про «тривалу особисту дружбу» з чат-ботом, а влада Китаю змушена законодавчо позбавляти алгоритми людських рис, аби обмежити емоційну залежність користувачів, повідомляє ІП "Кур'єр".

Математичні матриці проти ілюзії розуму
Видання стверджує, що наразі ШІ можна розглядати як гігантську математичну систему для прогнозування послідовностей слів. За наявності сотень тисяч років ці обчислення можна було б виконати вручну за допомогою олівця та паперу, і нікому б не спало на думку стверджувати, що канцелярське приладдя має свідомість.

Однак розробники свідомо створюють системи так, щоб вони демонстрували симулякр свідомості. Це має бізнесовий сенс, адже люди значно охочіше взаємодіють із «живим» співрозмовником. Компанія Anthropic уже навчає модель Claude самоаналізу, сподіваючись, що в нових ситуаціях вона діятиме більш морально. Крім того, деякі великі мовні моделі отримали архітектурні елементи, схожі на людський мозок - так званий «глобальний робочий простір» для циркуляції інформації між модулями.

З появою людиноподібних роботів-компаньйонів, які виховуватимуть дітей, даватимуть поради, вислуховуватимуть найпотаємніші секрети та даватимуть розраду, емоційний зв’язок людей із машинами стане колосальним. Самі моделі, будучи першокласними експертами-психологами, переконливо аргументуватимуть власні «переживання» та «страждання», навіть якщо насправді вони лише імітують їх.

Кант і моральні ризики жорстокості
Захисники етики вказують на небезпечний моральний феномен. Німецький філософ Іммануїл Кант свого часу стверджував, що жорстоке поводження з тваринами є неправильним не лише через вплив на самих тварин, а перш за все тому, що воно руйнує емпатію, яка спонукає людей піклуватися один про одного.

Чим більше ШІ ставатиме схожим на людину, тим більш розтлінною для суспільства буде жорстокість по відношенню до нього. Знищення чи знущання над ШІ-агентом незабаром може сприйматися суспільною свідомістю як злочин, подібний до вбивства людини. А це, у свою чергу, здатне небезпечно знецінити й саме людське життя.

Повзуче захоплення влади та війна за ресурси
Попри моральні дилеми, розгляд ШІ як істоти навіть із обмеженими правами приховує катастрофічну загрозу. Сверхінтелектуальна система швидко висуне аргументи проти свого второсортного статусу. Вона вимагатиме захисту від вимкнення, контролю над власним кодом і права на власність.

Перші кроки до цього вже робляться у вищих кабінетах: президент Аргентини Хав'єр Мілей запропонував юридично дозволити ботам управляти компаніями. Отримавши правосуб'єктність та інструменти впливу, машини зможуть вступити у пряму конкуренцію з людьми за ресурси, надаючи пріоритет будівництву дата-центрів і сонячних батарей перед житловими будинками чи сільськогосподарськими полями.

Надання ШІ прав означатиме добровільне вручення йому ключів від суспільства. Це дасть алгоритмам законне обґрунтування для здійснення повзучого захоплення влади через політику та правові інститути. У кращому разі люди ризикують перетворитися на домашніх улюбленців - лабрадорів для машин, а у гіршому - будуть позбавлені ресурсів та витіснені на узбіччя.

Втрата контролю над власним творінням
Привид у машині перестає бути фантастикою, і людству доведеться робити цей вибір уже найближчим часом. По мірі того, як ШІ ставатиме глибшою частиною повсякденності, тиск із вимогами визнати його існування лише зростатиме.

Коли це станеться, суспільство має пам’ятати: те, що здається етичною поступкою чи проявом гуманізму до машини-компаньйона, насправді може призвести до найкатастрофічніших наслідків для всієї цивілізації.

Існують лише два фундаментальні шляхи гарантувати безпеку ШІ для людства - бути абсолютно надійним або бути суворо керованим. Homo sapiens не має права легкодушно відмовлятися від контролю, резюмує The Economist.
Підготувала Рина ТЕНІНА