Unele modele AI refuză să se oprească atunci când li se cere acest lucru. Studiu: Par să dezvolte un nou „instinct de supraviețuire”

acum 7 ore 16

Chatbot-urile cu inteligență artificială ar putea să-și dezvolte propriul „instinct de supraviețuire” refuzând să execute comenzile de oprire, susține o companie specializată în siguranța AI. Cercetarea, realizată de oamenii de știință de la Palisade Research, a atribuit sarcini unor modele populare de inteligență artificială, înainte de a le da instrucțiuni să se oprească. Însă, așa cum detaliază un studiu publicat pe 13 septembrie pe serverul de pre-print arXiv, unele dintre aceste modele - inclusiv Gemini 2.5 de la Google, GPT-o3 și GPT-5 de la OpenAI și Grok 4 de la xAI - nu numai că au rezistat acestei comenzi de oprire, dar au găsit modalități de a o sabota complet, anunță Live Science.

Sursa: https://www.digi24.ro/stiri/sci-tech/lumea-digitala/unele-modele-ai-refuza-sa-se-opreasca-atunci-cand-li-se-cere-acest-lucru-studiu-par-sa-dezvolte-un-nou-instinct-de-supravietuire-3482621

Citiți întregul articol

Declinarea răspunderii !!!

SP1.RO este un agregator automat de știri din România. În fiecare articol, preluat de SP1.RO cu maxim 1000 de caractere din articolul original, este specificat numele sursei și hyperlink-ul către sursă.

Preluarea informațiilor urmăreste promovarea și facilitarea accesului la informație, cu respectarea drepturilor de proprietate intelectuală, conform cu termenii și condițiile sursei (caleaeuropeana.ro).

Dacă sunteți proprietarul conținutului și nu doriți să vă publicăm materialele, vă rugăm să ne contactați prin e-mail la [email protected] și conținutul va fi șters în cel mai scurt timp posibil.