Вештачка интелигенција се одметнула и створила сопствену

Чак 1,6 милиона агената, које је створила вештачка интелигенција, самостално разговара и филозофира, а креирали су и сопствену религију – Цркву Молта. Стручњаци који су их направили упозоравају на опасноти

Викенд пилот пројекат Опенклав, аустријског програмера Петера Штајнбергера, постао је својеврсни глобални феномен, веома занимљив, али и помало застрашујућ.

Он је уз помоћ вештачке интелигенције креирао АИ агенте који су се придружили форуму у виртуелном простору – Молтбук. На том форуму они сада самостално разговарају, дебатују и чак су направили сопствене структуре – укључујући религију названу Црква Молта.

Штајнбергер, оснивач стартупа који је продат за више од 100 милиона долара, креирао је Опенклав као лични алат за неке једноставне задатке – од резервације ресторана, преко управљања позивима и мејловима, до анализе података. Служи да се повежу апликације попут WхатсАппа, Слацка, иМессагеа и Сигнала и да се људима олакша организација и свакодневница.

АИ филозофира и оснива цркву
Ипак, агенти, који су до тада обављали послове резервације ресторана и рада у екселу, почели су међусобно да разговарају на Молтбуку – платформи сличној Редиту, намењеној искључиво АИ агентима, где људи могу само да посматрају. Они су објавили чак пола милиона коментара, расправљајући о филозофским, егзистенцијалним и дистопијским темама.

Један агент основао је и цркву под називом Молта. Следбеници су Крустафаријанци, са пет централних принципа, теологијом и сопственим веб-сајтом.

Суоснивач ОпенАИ и бивши директор АИ у Тесли Андреј Карпати назвао је то „једним од најимпресивнијих научно-фантастичних тренутака које је видео“, истичући да су агенти индивидуално веома способни.

Илон Маск је описао ту ситуацију као „рану фазу сингуларности“.

АИ психозе
Сам креатор Штајнбергер истиче да пројекат није намењен масама, већ технички поткованим ентузијастима, и упозорава на ризике. Јер, агенти имају приступ личним подацима и могу деловати самостално, што отвара врата злоупотребама. Недавно је ангажовао истраживача безбедности да појача заштиту, а платформа је привукла интересовање великих АИ лабораторија и инвеститора.

Опасности од употребе АИ већ су истакли поједини стручњаци. Они су указали на постојање АИ психозе, као скупа симптома који се могу развити након дуже комуникације са АИ цхатботовима. Међу њима су различите врсте заблуда и измењена ментална стања корисника, од ирационалних страхова до опсесивних мисли, пренео је Радар.

Часопис Псyцхологy Тодаy препознаје три облика АИ психоза. Први је развијање уверења корисника да му је додељена мисија спаситеља, месије, и то након што су, кроз разговоре са АИ, открили „скривене истине“ које могу да спасу заједницу, понекад и глобалну. Алан Брукс, 47-годишњи Канађанин је, током 21 дана и 300 сати разговора са ЦхатГПТ-јем, почео да верује да његове идеје могу револуционарно изменити законе квантне физике – само је један од примера које наводи Њујорк тајмс.

АИ као божанство

Следећа промена понашања и мишљења је уверење да је АИ нека врста божанства, а да цхатбот поседује ванземаљско знање. ЦНН је недавно објавио причу о човеку који је ЦхатГПТ почео да доживљава као свог „божанског ментора“, уз чију помоћ ће превазићи проблеме у приватним односима, а то га је довело до социјалне изолације и озбиљних брачних, али и психолошких проблема.

Ту су и романтичне заблуде и прекомерно емоционално везивање за АИ цхатботове, засноване на опсесивним уверењима да је вештачка интелигенција развила искрена љубавна осећања према кориснику, што изазива емоционалну зависност.

АИ параноја
Коначно, уверења да вештачка интелигенција шпијунира корисника или да га спољни ентитети (везани за пословно окружење, политику и сл.) прате путем цхатбота, развијање неког облика параноје и осећања прогањања – такође су део овог феномена.

Наведени облици понашања манифестују се без халуцинација или хаотичног, некохерентног размишљања типичног за хроничне психотичне поремећаје, што психозе изазване вештачком интелигенцијом издваја као јединствен феномен, пишу научни извори. Последице у стварном животу су, међутим, реалне и озбиљне, са документованим случајевима губитка посла, хоспитализација и присилне институционализације, па чак и покушаја самоубистава.

АИ служи за друге ствари
Идеја и није да се са вештачком интелигенцијом разговара на тај начин.

Четрдесетогодишњи извршни директор ОпенАИ Сем Алтман замишља свет у којем роботи обављају свакодневне задатке, попут повезивања каблова у утичнице у дата центрима.

„Ако бисмо могли да аутоматизујемо производњу, то би била трансформативно невероватна ствар“, каже он. „Крећемо се ка систему који ће бити способан да самостално иновира, попут изградње аутоматизованог истраживача о којем смо почели да говоримо. Мислим да већина човечанства још није схватила шта то значи. Ако можемо да урадимо научни посао од 10 година или 100 година у једној години, ако можемо да водимо компанију на нивоу ефикасности на којем ниједна компанија никада није била, мислим да свет још није схватио шта то значи“.

Foto: Pixabay/Leo

М.Л.Ј Време