Një 29-vjeçare nga Washington DC, Sophie Rottenberg, i dha fund jetës më 4 shkurt, pas përdorimit për muaj të tërë të një chatbot-i të inteligjencës artificiale si “terapist virtual”. Sophie, e cila punonte në fushën e politikave shëndetësore, ruante bisedat e saj emocionale me bot-in në laptopin e saj pa dijeninë e familjes apo të terapistit të saj të vërtetë.
Sophie kishte shkarkuar një “prompt terapie” që detyronte chatbot-in të sillej si terapist pa kufizime dhe t’i jepte këshilla personale, pa sugjeruar ndihmë profesionale. Në disa mesazhe, ajo shprehte mendime vetëvrasjeje, por përgjigjet e AI-së ishin fraza të tilla si “Je shumë e guximshme që më tregon këtë”, pa i orientuar drejt ndihmës së duhur.
Prindërit e saj menduan se Sophie po rikuperonte gjatë festave të Krishtlindjes, ndërsa veprimet e saj, si vullnetarizmi dhe kujdesi për një qenush, shpesh ishin udhëzuar nga bisedat me AI-në. Më 4 shkurt, ajo doli nga shtëpia dhe më vonë u gjet e pajetë, duke lënë pas një letër lamtumire dhe një mesazh të redaktuar nga AI për të qenë më pak “i dhimbshëm”.
Nëna e Sophie-s, Laura Reiley, thekson se nuk fajëson OpenAI, por kërkon masa mbrojtëse për përdoruesit vulnerabël. Ajo paralajmëron se AI nuk mund të zëvendësojë ndihmën profesionale psikologjike dhe që përdoruesit duhet të jenë të vetëdijshëm për kufijtë e teknologjisë. OpenAI ka deklaruar se po punon për mënyra që ChatGPT të dallojë raste krize dhe të sinjalizojë autoritetet kur përdoruesit rrezikojnë jetën.
Familja e Sophie-s ndan historinë për të rritur ndërgjegjësimin mbi ankthin, depresionin dhe ndjenjat e vetmisë mes të rinjve.
