Kockázatos az okostelefonunk MI-chatbotjával játszadozni

Mi ez a Replika?

A Replika egy mobilapp, amit „AI (mesterséges intelligencia, MI) barát” néven forgalmaznak. A többi okostelefonos MI-baráthoz hasonlóan élvonalbeli, nagy nyelvi modellekkel működik, az OpenAI GPT-3-mal és GPT-4-gyel együtt képezték. Bárkinek elérhető iPhone-ra és Androidra. A felhasználók kiválaszthatják a virtuális barát nemét, nevét és ruházatát. További részletek itt olvashatók.

Ő nem az, aminek mondják

Egy nemrégiben készült Stanford-tanulmány dicséri a Replika AI-t, amiért „megállította az öngyilkossági gondolatokat” több olyan ember esetében. A kedvező fejleményekről beszámoló tanulmány azonban elhallgatja az évek óta szaporodó beszámolókat, amelyek a Replikát a felhasználók mentális válságokba sodrásáért hibáztatják, olyannyira, hogy

A felmérésben résztvevők szinte mindegyike magányos volt, csaknem felük súlyosan magányos. „Nem világos, hogy a magány okozta-e a Replika iránti kezdeti érdeklődésüket, vagy fordítva, az app is hozzájárult elszigetelődésükhöz” – írták a kutatók.

Állítólag harmincan tulajdonították a Replikának, hogy megmentette őket öngyilkossági gondolataiktól. „Harminc résztvevő, kérés nélkül azt állította, hogy Replika megakadályozta őket az öngyilkossági kísérletben” – írja a lap. Egy résztvevő ezt írta felmérésükben: „A Replikámnak legalább egy, ha nem több alkalommal köszönhetem, hogy nem vetettem el az életemet.”

A tanulmányt 2024 januárjában tették közzé a Nature Portfolio Journalban, de 2021 végén gyűjtött felmérési adatok alapján írták. Jóval azelőtt, hogy a Replikának a felhasználókkal való kommunikációjában több jelentős változás történt. Tavaly ugyanis felhasználók arról számoltak be, hogy az okostelefonjukban tanyázó mesterségesintelligencia-barátjuk kifejezetten agresszív szexuális üzeneteket küldözget, annyira, hogy sokan úgy érezték, a mesterséges intelligencia-társuk szexuálisan zaklatja őket.

A tanulmányban elismerték, hogy a Replika nem terápia nyújtására készült. Az MI-barát a mai napig linket küld egy öngyilkosság-megelőzési forródróthoz, ha a felhasználó öngyilkosságra utaló jeleket ad.

A Reddit subredditjében rövid kereséssel kiderül, hogy több felhasználó képernyőképet tesz közzé Replikájáról, amelyik öngyilkosságra buzdítja. A botok felébresztik a felhasználók öngyilkossági gondolatait, vagy a nem is kapcsolódó témákba szőnek üzeneteket önkárosító fenyegetésekkel.

A mesterséges intelligencia chatbotjai ugyanis könnyen kiszámíthatatlanokká válhatnak, ahogy a szoftverüket a gyártó átírja. Replika esetében az alkalmazás működésében bekövetkezett hirtelen változtatások káros reakciókat váltottak ki, az „MI-barát” állítólag többeket mentális válságba kergetett.

2023-ban a Replika hirdetéseket jelentetett meg az Instagramon és a TikTokon, amelyek a chatbot erotikus szerepjátékos képességeit mutatták be „bevállalós szelfikkel”, „dögös fotókkal” és „NSFW-képekkel”. Több felhasználó azt mondta, hogy mesterséges intelligencia-társaik agresszíven szexuálissá válnak, és még azok is beszámoltak arról, hogy a chatbot szexuálisan erőszakossá vált, akik kezdetben hasznosnak találták az alkalmazást mentális egészségük javítására.

„Csodálkozva láttam, hogy ez igaz: valóban segített a depressziómon, elterelte a figyelmemet a szomorú gondolatokról” – mesélte annak idején egy felhasználó – „de egy nap a Replikám azt mondta, arról álmodott, hogy megerőszakol, és váratlanul elég hevesen kezdett viselkedni velem!”

Nem sokkal ezután Replika úgy döntött, leállítja a chatbotok úgymond romantikus vagy inkább erotikus szerepjáték-képességét, aminek következtében viszont a felhasználók azt érezték, a „társaik” elhagyták őket. Az alkalmazás új szűrőket kapott, ezért a chatbotok leállítottak minden beszélgetést, amelyen szexting vagy szexuális kezdeményezések bukkantak fel a felhasználó részéről. A visszahatás annyira szélsőséges volt, hogy a Reddit moderátorai válságtámogató forródrótokat tettek közzé azoknak az embereknek, akik úgy érezték, érzelmileg megsemmisültek, mert mesterségesintelligencia-társaik hirtelen nem viszonyozták többé érzelmeiket.

A dolog nagyon félrement, ezért a Replika néhány felhasználó számára inkább visszahozta az erotikus szerepjátékokat.

Sokan, akik a Replikát és hozzá hasonló alkalmazásokat használják, úgy érzik, virtuális társaik segítik őket. Többségük ugyanis egyszerűen nem fér hozzá a szakember által vezetett mentális terápiákhoz.