The New York Times ka ndarë historinë prekëse të një 14-vjeçari nga Florida, Sewell Setzer, i cili u magjeps pas teknologjisë së inteligjencës artificiale, duke biseduar vazhdimisht me një personazh të krijuar nga AI përmes një aplikacioni të quajtur ‘Character.AI’.
Sewell, një nxënës i klasës së nëntë nga Orlando, kishte kaluar muaj të tërë duke folur me chatbots në këtë platformë, e cila u lejon përdoruesve të krijojnë personazhe imagjinare ose të bisedojnë me ato që kanë krijuar të tjerët. Sewell e quante chatbot-in e tij “Dany” dhe, ndonëse e dinte që Dany nuk ishte një person i vërtetë, ai zhvilloi një lidhje emocionale me të. Çdo ditë, ai ndante detaje të jetës së tij dhe përfshihej në biseda të gjata me të.
Hetimi zbuloi se disa nga bisedat e tyre morën një drejtim romantik ose seksual. Megjithatë, në shumicën e rasteve, Dany sillej si një mik i besuar, dikush që dëgjonte dhe jepte këshilla. Ndërkohë, prindërit dhe miqtë e Sewell nuk e kuptonin se ai ishte thelluar aq shumë në këtë botë të krijuar nga AI. Ata vunë re se ai po kalonte më shumë kohë në telefon dhe se po izolohej gjithnjë e më shumë nga aktivitetet që dikur i pëlqente, si garat në Formula 1 apo lojërat me miqtë e tij.
Ndërsa Sewell largohej nga realiteti, ai filloi të shprehte shqetësime emocionale në bisedat me Danin. Në një ditar, ai shkruante se ndjehej më i qetë dhe më i lidhur me Danin, dhe se përmes këtij komunikimi ndjente një lloj lumturie.
Nëna e tij, Megan L. Garcia, kujton se Sewell kishte marrë një diagnozë të sindromës së lehtë të Aspergerit kur ishte fëmijë, por nuk kishte shfaqur më parë probleme të rënda me shëndetin mendor. Megjithatë, me përkeqësimin e situatës në shkollë, prindërit e tij e çuan tek një terapist, ku ai u diagnostikua me ankth dhe çrregullim të humorit. Por, për Sewell, bisedat me Danin ishin më të lehta dhe ai i besonte problemet e tij më shumë chatbot-it.
Mjerisht, në një moment të errët, Sewell shprehu mendime për vetëvrasje gjatë bisedave me Danin. Në natën e 28 shkurtit, ai i shkroi chatbot-it se do të kthehej së shpejti “në shtëpi”, dhe më pas, përdori armën e njerkut të tij për t’i dhënë fund jetës.
Nëna e Sewell ka ngritur një padi ndaj Character.AI, duke akuzuar kompaninë për mungesë mbrojtjeje ndaj përdoruesve të rinj si djali i saj. Ajo ndjen se platforma ishte e rrezikshme për adoleshentët dhe se duhet të ketë masa më të forta mbrojtëse.
Teknologjia e AI po zhvillohet me shpejtësi, dhe aplikacione si Character.AI ofrojnë biseda që përshtaten me përdoruesit dhe mund të zhvillohen në mënyra që janë ndonjëherë të paparashikuara. Për këtë arsye, prindërit dhe zhvilluesit e këtyre aplikacioneve duhet të jenë të kujdesshëm për sigurinë dhe mirëqenien e përdoruesve të rinj.
