Inteligența artificială în locul terapeutului? Un nou studiu dezvăluie riscuri etice grave

Studiul a constatat că, chiar și atunci când li se cere să utilizeze abordări psihoterapeutice consacrate, sistemele nu reușesc în mod constant să respecte standardele de etică profesională stabilite de organizații precum American Psychological Association, potrivit Science Daily.

În cadrul testelor, chatbot-urile au gestionat greșit situațiile de criză, au dat răspunsuri care au întărit convingerile dăunătoare despre utilizatori sau alte persoane și au folosit un limbaj care crea aparența empatiei, fără a manifesta o înțelegere autentică.

„În această lucrare, prezentăm un cadru bazat pe informații furnizate de practicieni, care cuprinde 15 riscuri etice, pentru a demonstra modul în care consilierii LLM încalcă standardele etice în practica sănătății mintale, prin corelarea comportamentului modelului cu încălcări etice specifice”, au scris cercetătorii în studiul...