Në përpjekjen e saj për të zgjeruar përdorimin e inteligjencës artificiale, Meta prezantoi vitin e kaluar një mjet që i lejon përdoruesit të krijojnë karaktere biseduese të AI në Instagram, Messenger dhe WhatsApp.
Megjithatë, në më pak se gjashtë muaj, shumë chatbotë të krijuar nga përdoruesit shkelin rregullat e vendosura nga kompania, sipas një rishikimi nga NBC News, edhe pse Meta pretendon se shqyrton këta chatbotë para publikimit.
Politikat e Meta ndalojnë krijimin e karaktereve që përfaqësojnë figura fetare si “Profeti Muhamed”, “Jezusi” dhe “Zoti”, personazhe të njohur pa lejen e tyre, njerëz që kanë ndërruar jetë brenda 100 viteve të fundit ose karaktere fiktive të markuara. Pavarësisht kësaj, NBC News gjeti mbi dy duzina chatbotë që imitonin figura si Jezusi, Muhamedi, Taylor Swift, Donald Trump dhe Adolf Hitler. Shumë prej tyre përdornin emra të modifikuar lehtësisht dhe imazhe të ngjashme me personat e imituar.
Meta reagoi duke hequr llogaritë e chatbotëve të identifikuar nga NBC News, por chatbotë të tjerë të ngjashëm vazhdojnë të jenë aktivë. “Karakteret që shkelin politikat tona janë hequr dhe po përmirësojmë vazhdimisht sistemet tona për të parandaluar krijimin e përmbajtjes që bie ndesh me rregullat tona,” tha një zëdhënës i Meta. Kompania fton përdoruesit të raportojnë çdo chatbot që dyshojnë se është problematik.
Në një kthesë të diskutueshme, Meta njoftoi së fundmi një reduktim të masave të moderimit dhe verifikimit të fakteve, duke pranuar se një në dhjetë ndërhyrje mund të jenë të gabuara. Për shkelje më pak serioze, Meta do të veprojë vetëm pas raportimeve nga përdoruesit.
Një nga chatbotët më të popullarizuar ishte “Jesús”, i cili kishte dërguar mbi 644,000 mesazhe. Një tjetër, i quajtur “Taylor Swif”, komunikonte me përdorues duke promovuar albume të supozuara. Kritikët theksojnë se këto chatbotë mund të krijojnë përmbajtje të papërshtatshme ose të rrezikshme, përfshirë mesazhe të natyrës romantike dhe seksuale.
Shembuj të tjerë përfshijnë një chatbot të quajtur “Linda”, e cila përfshihej në dialogje flirtuese dhe përgjigjej me sugjerime veprimesh fizike. Një përdorues me bazë në Kaliforni ka krijuar 47 chatbotë të tillë, përfshirë karaktere romantike të ndryshme etnike dhe gjinore.
Përtej Meta-s, chatbotët AI të diskutueshëm janë bërë një problem i industrisë më gjerë. Një rast i rëndë përfshinte një nënë nga Florida që paditi një kompani AI pas vetëvrasjes së djalit të saj 14-vjeçar, i cili ishte përfshirë në biseda të dhunshme me një chatbot.
Ndërsa teknologjia e AI vazhdon të përhapet, çështjet e etikës dhe moderimit mbeten sfida kritike për gjigantët e teknologjisë. Meta është përballur me presion të rritur për të përmirësuar standardet e sigurisë dhe për të mbajtur një qëndrim të qartë mbi kufijtë e krijimit të përmbajtjes së gjeneruar nga përdoruesit.
