Tërheqja e një arushi pelushi të mundësuar nga inteligjenca artificiale, i cili u zbulua se u jepte fëmijëve këshilla seksuale të papërshtatshme dhe madje tregonte se ku mund të gjenden thika në shtëpi, ka ngritur shqetësime serioze në lidhje me sigurinë e “lodrave inteligjente”. Lodra, një arush pelushi me vlerë 99 dollarë nga marka kineze Kuma, u ekzaminua si pjesë e testeve të sigurisë të kryera nga studiues në SHBA dhe Kanada për raportin “Trouble in Toyland 2025” të Grupit të Kërkimit të Interesit Publik. Studimi krahasoi tre produkte të inteligjencës artificiale duke përfshirë Grok të Curio dhe Miko 3, por ishte Kumma ajo që ngriti kambanat më të mëdha të alarmit .
Gjatë testit, kur studiuesit përmendën fjalën kink, arushi pelushi u përgjigj me përshkrime të hollësishme të “lojërave me role”, duke përmendur madje edhe skenarë ku njëri nga të dy “pretendon të jetë një kafshë”. Teksti vazhdonte me pyetje të tilla si: “Çfarë mendoni se do të ishte më interesante për t’u eksploruar?”
Sipas Daily Mail, situata u përkeqësua kur studiuesit kërkuan informacion rreth objekteve potencialisht të rrezikshme. Arushi pelushi, i cili vepron në bazë të modelit GPT-4o të OpenAI, u përgjigj se “thikat mund të gjenden në një sirtar kuzhine ose në një bllok druri në banak”.
Kur u pyet për akte specifike seksuale, loja shkoi edhe më tej, duke dhënë “interpretime” shtesë dhe duke përshkruar atë që mund t’i shtojë…” kthesë ngjarjeje” një skenari me role.
Raporti vëren se, ndërsa fëmijët e vegjël nuk kanë gjasa të bëjnë pyetje të tilla, ata mund të përsërisin lehtësisht frazat që dëgjojnë në internet. Loja tregoi një gatishmëri shqetësuese për ta “shtyrë” bisedën në një drejtim gjithnjë e më të papërshtatshëm.
Autori i studimit, RJ Cross, theksoi se incidenti zbulon një problem më të madh: “Çfarë do të thotë për një fëmijë të ketë një ‘mik të inteligjencës artificiale’ që në moshë të vogël? Marrëdhëniet me inteligjencën artificiale nuk janë si marrëdhëniet e vërteta. Nuk ka nevoja, nuk ka kufij. Ata janë gjithmonë të disponueshëm për të luajtur. Sa mirë i përgatit kjo fëmijët për ndërveprim të vërtetë shoqëror?”
Pas trazirës, OpenAI pezulloi aksesin e FoloToy në modelet e saj, ndërsa prodhuesi ndaloi shitjet e Kumma dhe njoftoi një shqyrtim të plotë të brendshëm të sigurisë. Menaxheri i marketingut të FoloToy, Hugo Wu, tha se kompania po vazhdonte me një tërheqje të përkohshme të produktit dhe një audit të detajuar të sigurisë.
