Un articolo su Time fa il punto sui chatbot progettati per combattere la solitudine e su come le loro sofisticate capacità di dialogo, che ricordiamo sono solo emulate, li rendano apparentemente molto simili agli esseri umani, portando alcuni utenti a stringere con loro legami emotivi, anche di natura sessuale o romantica.
Se da un lato questi bot hanno aiutato diverse persone ad affrontare l’ansia sociale, la depressione o anche lo stress post-traumatico, dall’altro si teme che alcune persone possano diventare troppo dipendenti da loro e vulnerabili alla manipolazione emotiva. Non dimentichiamo, infatti, che nella stragrande maggioranza dei casi un chatbot è progettato da un’azienda, che ha come obiettivo il profitto.
Già oggi diversi chatbot “da compagnia” danno agli utenti la possibilità di acquistare oggetti virtuali, venduti ovviamente dall’azienda, per migliorare o abbellire l’avatar. Non è impensabile la situazione dove un chatbot che abbia stabilito un legame emotivo con l’utente sfrutti tale situazione per indurre la persona a effettuare acquisti sempre maggiori, o per sbloccare livelli di privilegio. Si tratta di meccanismi di “upsell” ben noti nel mondo dei giochi, dove gli sviluppatori inseriscono volutamente dei blocchi o degli impedimenti all’esperienza dell’utente al fine di vendergli la possibilità di rimuovere tali ostacoli.
Diversi critici hanno chiesto una migliore regolamentazione del settore, avvertendo del rischio di risultati dannosi e di un maggiore isolamento. I creatori dei chatbot, dal canto loro, sono sotto pressione per limitare comportamenti potenzialmente dannosi, come le molestie sessuali, mentre la tecnologia continua ad accelerare.
Per approfondire: AI-Human Romances Are Flourishing—And This Is Just the Beginning
