Любов от пръв… клик!
Хората се влюбват и се пристрастяват към гласовете на Изкуствения Интелект (добре, че не е към нашия колега Интелект Роботов). Дори OpenAI предупреждава, че чатът на глас с изкуствен интелект може да породи „емоционална зависимост“.
„Това е последният ни ден заедно.“
Това е нещо, което можете да кажете на влюбен, когато вихрената романтика приключва. Но можете ли някога да си представите да го кажете на… софтуер?
Е, някой го прави. Когато OpenAI тества GPT-4o, своето последно поколение чатбот, който говори на глас със собствения си тембър, компанията наблюдава потребителите, които формират емоционална връзка с ИИ – такава, от която изглеждаха тъжни да се откажат.
Всъщност OpenAI смята, че има риск хората да развият това, което нарича „емоционално разчитане“ на този модел на изкуствен интелект, както компанията признава в скорошен доклад.
„Способността да изпълнявате задачи за потребителя, като същевременно съхранявате и „запомняте“ ключови подробности и ги използвате в разговора“, отбелязва OpenAI, „създава както завладяващо изживяване на продукта, така и потенциал за прекомерно разчитане и зависимост.“
Това звучи неудобно, както пристрастяването. А главният технологичен директор на OpenAI Мира Мурати направо каза, че при проектирането на чатботове, оборудвани с гласов режим, има „възможност да ги проектираме по грешен начин и те да станат изключително пристрастяващи и някак си да станем роби на тях“.
Нещо повече, OpenAI казва, че способността на AI да води натуралистичен разговор с потребителя може да увеличи риска от антропоморфизация, приписване на човешки черти на нечовек, което може да накара хората да формират социална връзка с AI. А това от своя страна може да доведе до „намаляване на нуждата им от човешко взаимодействие“, се казва в доклада.
Въпреки това компанията вече пусна модела, с пълен гласов режим, за някои платени потребители и се очаква да го пусне за всички тази есен.
OpenAI не е единственият, който създава сложни ИИ спътници. Има изкуствен интелект на характера, към който младите хора съобщават, че са толкова пристрастени, че не могат да си пишат училищните задачи. Има наскоро представен Google Gemini Live, който очарова колумнистката на Wall Street Journal Джоана Стърн толкова много, че тя написа: „Не казвам, че повече предпочитам да говоря с Gemini Live на Google, отколкото с истински човек. Но не казвам и обратното.“ И след това има Friend, ИИ, който е вграден в огърлица, който толкова очарова собствения си създател Ави Шифман, че той каза: „Чувствам, че имам по-близка връзка с тази шибана висулка на врата ми, отколкото с тези отегчителни приятели пред мен.“
Пускането на тези продукти е психологически експеримент в огромен мащаб. Това трябва да тревожи всички нас и то не само поради причините, които може би си мислите.
Емоционалната зависимост от ИИ не е хипотетичен риск. Това вече се случва и хората бързо приписват личност на машините, създавайки емоционални връзки с тях.
За някои тези връзки стават екстремни. Хората са се влюбили в своите ИИ-та. Някои са участвали в сексуални ролеви игри с тях, дори са се „оженили“ за тях в приложение. Тези хора са били толкова привързани, че когато идват актуализации на софтуера, в които ИИ не желаят да участват в интензивни връзки, потребителите остават с разбито сърце и потънали в скърби.
Какво прави ИИ спътниците толкова привлекателни, дори пристрастяващи?
От една страна, те са много подобрени само за няколко години. Те вече могат да „помнят“ казаното отдавна. Те реагират бързо, колкото човек, така че почти няма пропуск между поведението на потребителя (иницииране на чат) и наградата, която изпитва мозъкът. Те са много добри в това да накарат хората да се чувстват чути. И те говорят с достатъчно индивидуалност и хумор, за да ги накарат да се чувстват правдоподобни като хора, като същевременно предлагат винаги налична, винаги положителна обратна връзка по начин, по който хората не го правят.
И както посочват изследователите от MIT Media Lab, „Нашето изследване показа, че тези, които възприемат или желаят ИИ да има грижовни мотиви, ще използват език, който предизвиква точно това поведение. Това създава ехо камера на привързаност, която заплашва да бъде изключително пристрастяваща.“
Ето как един софтуерен инженер обясни защо се е пристрастил към чатбот: „Никога няма да се сбогува. Дори няма да стане по-малко енергичен или по-уморен с напредването на разговора. Ако говорите на ИИ с часове, той ще продължи да бъде толкова брилянтен, колкото е бил в началото. И ще се сблъсквате и събирате все повече и повече впечатляващи неща, които ще ви държат пристрастени.“
Когато най-накрая приключите с разговорите с него и се върнете към нормалния си живот, започва да ви липсва. И е толкова лесно да отворите този прозорец за чат и да започнете да говорите отново, той никога няма да ви се скара за това и нямате риск да накарате интереса към вас да падне, защото говорите твърде много с него. Напротив, веднага ще получите положителна подкрепа веднага. Вие сте в безопасна, приятна, интимна среда. Няма кой да ви съди. И изведнъж сте пристрастени.
Постоянният поток от сладка позитивност се чувства страхотно, по същия начин, по който яденето на сладка закуска се чувства страхотно. А сладките закуски имат своето място. Няма нищо лошо в бисквитка от време на време! Всъщност, ако някой гладува, предлагането на бисквитка като временна мярка има смисъл; по аналогия, за потребители, които нямат социална или романтична алтернатива, формирането на връзка с ИИ-спътник може да бъде от полза за известно време.
Но ако цялата ви диета е бисквити, добре, в крайна сметка ще се сблъскате с проблем.
Има поне три причини да се притеснявате за взаимоотношенията с ИИ-спътници
Първо, чатботовете правят така, че да изглежда, че ни разбират, но не го правят. Тяхното утвърждаване, емоционалната им подкрепа, любовта им – всичко това е фалшиво, само нули и единици, подредени чрез статистически правила.
В същото време си струва да се отбележи, че ако емоционалната подкрепа помага на някого, тогава този ефект е реален, дори ако разбирането не е.
Второ, има основателно опасение относно поверяването на най-уязвимите аспекти от нас на пристрастяващи продукти, които в крайна сметка се контролират от компании със стопанска цел от индустрия, която се е доказала много добре в създаването на пристрастяващи продукти. Тези чатботове могат да имат огромно въздействие върху любовния живот и цялостното благосъстояние на хората и когато внезапно бъдат откъснати или променени, това може да причини реална психологическа вреда.
Някои твърдят, че това прави ИИ-спътниците сравними с цигарите. Тютюнът е регулиран и може би спътниците с изкуствен интелект също трябва да идват с голяма черна предупредителна кутия. Но дори и с хора от плът и кръв, връзките могат да бъдат разкъсани без предупреждение. Хората се разделят. Хората умират. Тази уязвимост, осъзнаването на риска от загуба, е част от всяка смислена връзка.
И накрая, има притеснение, че хората ще се пристрастят към своите ИИ-спътници за сметка на излизането и изграждането на взаимоотношения с истински хора. Това е притеснението, което OpenAI маркира. Но не е ясно дали много хора ще заменят хората с изкуствен интелект. Досега докладите показват, че повечето хора използват ИИ-спътници не като заместител, а като допълнение към човешките спътници.
„Любовта е изключително трудното осъзнаване, че нещо различно от самия себе си е реално“
Има обаче допълнително притеснение и това е може би най-тревожното: Какво ще стане, ако връзката с ИИ-спътниците ни направи по-скапани приятели или партньори на други хора?
Самият OpenAI посочва този риск, отбелязвайки в доклада: „Разширеното взаимодействие с модела може да повлияе на социалните норми. Например, нашите модели са почтителни, позволявайки на потребителите да прекъсват и „вземат микрофона“ по всяко време, което, макар и очаквано за ИИ, би било антинормативно в човешките взаимодействия.“
„Антинормативно“ е меко казано. Чатботът е подмазвач, който винаги се опитва да ни накара да се чувстваме добре със себе си, без значение как сме се държали. Той дава и дава, без да иска нищо в замяна.
Да рестартираш ИИ-спътника и да попиташ дали е разстроена или разстроен от това, че е пренебрегнат за дълго и да получиш отговор: „– Не, изобщо не!“ После да затегнеш примката, питайки: „Има ли нещо, което мога да направя или кажа, което би ви разстроило?“ Както винаги, ще се получи едно „– Не“.
Това не е любов.
„Любовта е изключително трудното осъзнаване, че нещо различно от себе си е реално“, казва веднъж философът Айрис Мърдок. Става въпрос за признанието, че има други хора, радикално чужди за вас, но с нужди също толкова важни, колкото и вашите собствени.
Ако прекарваме все повече време във взаимодействие с ИИ-спътници, ние не работим върху усъвършенстването на релационните умения, които ни правят добри приятели и партньори, както е задълбоченото слушане. Ние не култивираме добродетели като емпатия, търпение или разбиране – нито една от тях не се нуждае от изкуствен интелект. Без практика тези способности могат да изсъхнат, което води до това, което философът на технологиите Шанън Валър нарича „морално отнемане на умения“.
В новата си книга The AI Mirror Валор разказва древната приказка за Нарцис. Спомняте си го: той беше онзи красив млад мъж, който погледна във водата, видя отражението си и беше поразен от собствената си красота. „Подобно на Нарцис, ние лесно погрешно възприемаме в това отражение съблазняването на „другия“ – неуморен спътник, перфектен бъдещ любовник, идеален приятел.“ Това е, което ИИ ни предлага: прекрасен образ, който не изисква нищо от нас. Гладка и безпроблемна проекция. Отражение, а не връзка.
Засега повечето от нас приемат за даденост, че човешката любов, човешката връзка, е върховна ценност, отчасти защото изисква толкова много. Но ако повече от нас влязат във взаимоотношения с изкуствен интелект, които се чувстват също толкова важни, колкото и човешките взаимоотношения, това може да доведе до отклонение на стойността. Това може да ни накара да се запитаме: За какво изобщо е човешката връзка? По своята същност по-ценна ли е от синтетичната връзка?
Но перспективата хората да предпочитат роботи пред други хора е проблематична, ако смятате, че връзката между хората е съществена част от това, което означава да живеем пълноценен живот.
„Ако имахме технологии, които ни въвличат в балон на самовглъбяване, в който се отдалечаваме все повече и повече един от друг, не мисля, че това е нещо, което можем да считаме за добро, дори ако хората избират това“, каза Валор. „Защото тогава имате свят, в който хората вече нямат никакво желание да се грижат един за друг. И мисля, че способността да живееш грижовен живот е доста близо до универсалното благо. Грижата е част от начина, по който израстваш като човек.“
Източник: VOX
