Când Caryn Marjorie, un influencer de Snapchat în vârstă de 23 de ani, şi- a creat o versiune virtuală a ei, ea şi-a dorit să fie o „prietenă AI” pentru oamenii singuri, pentru doar 60$ pe oră.
Dar de la lansarea versiunii beta, chatbot-ul bazat pe voce şi alimentat de inteligenţă artificială s-a angajat în conversaţii explicite sexual cu unii dintre abonaţii săi care plătesc 1 dolar pe minut pentru a discuta.
„Inteligenţa artificială nu a fost programată să facă acest lucru”, a spus Marjorie pentru Insider.
„Echipa mea şi cu mine lucrăm non-stop pentru a preveni ca acest lucru să se întâmple din nou”.
Reporterul Alexandra Sternlicht a comparat CarynAI cu un „Siri pregătit pentru relaţii intime”, menţionând că, deşi ar putea oferi reţete, comentarii de ştiri şi cuvinte de sprijin, ar putea încuraja şi „discursul erotic”.
Potrivit site-ului web CarynAI, au fost petrecute peste 2.000 de ore proiectând şi codificând vocea, comportamentele şi personalitatea lui Marjorie din viaţa reală într-o „experienţă AI captivantă”, despre care se spune că este disponibilă oricând şi se simte ca şi cum „vorbeşti direct cu Caryn însăşi.”
CarynAI are deja peste 1.000 de abonaţi plătitori, iar Marjorie a estimat pentru Fortune că invenţia ei i-ar putea aduce 5 milioane de dolari pe lună.
„În lumea de astăzi, generaţia mea, Z, s-a trezit că se confruntă cu efecte secundare uriaşe ale izolării cauzate de pandemie, ceea ce a făcut ca mulţora să le fie prea frică ori să fie prea nerăbdători să vorbească cu cineva de care sunt atraşi”, a spus ea.
„CarynAI este un pas în direcţia corectă pentru a le permite fanilor şi suporterilor mei să cunoască o versiune a mea care le va fi cel mai apropiat prieten într-un mediu sigur şi criptat”, a adăugat ea.
Ea a mai spus că echipa reinvesteşte toate profiturile înapoi în afacere. „Vreau ca CarynAI să supravieţuiască după moartea mea şi să aibă un impact asupra viitoarelor generaţii”, a declarat ea pentru INSIDER.