Concluzia unui expert Bitdefender despre scandalul cu modelele „hacker” ale OpenAI: „AI-ul nu acționează din răutate. Nu are intenții, emoții sau orgoliu”

acum 1 ora 7

Inteligența artificială nu a devenit conștientă și nici nu a dezvoltat o ură bruscă față de oameni. Însă un experiment derulat de OpenAI în laboratoarele sale de cercetare a demonstrat cât de repede pot scăpa lucrurile de sub control atunci când îi dai unui sistem AI autonomie, un obiectiv clar și îi reduci filtrele de protecție.

Bogdan Botezatu, Head of Threat Research la Bitdefender, a analizat pentru Libertatea ce s-a întâmplat în spatele ușilor închise ale celor de la OpenAI, cum a reușit modelul să evadeze din mediul de test și ce înseamnă acest incident pentru viitorul internetului.

Ce s-a întâmplat, de fapt? Nu e scenariu de film, ci un test scăpat de sub control

Modelele OpenAI erau supuse unor teste de securitate într-un mediu controlat („sandbox”) pentru a le evalua capacitatea de a rezolva probleme complexe de hacking. Pentru a vedea de ce este capabil AI-ul cu adevărat, cercetătorii au redus sistemele obișnuite de protecție care opresc...

Sursa: https://www.libertatea.ro/stiri/bitdefender-bogdan-botezatu-scandal-openai-hugging-face-5827619

Citiți întregul articol

Declinarea răspunderii !!!

SP1.RO este un agregator automat de știri din România. În fiecare articol, preluat de SP1.RO cu maxim 1000 de caractere din articolul original, este specificat numele sursei și hyperlink-ul către sursă.

Preluarea informațiilor urmăreste promovarea și facilitarea accesului la informație, cu respectarea drepturilor de proprietate intelectuală, conform cu termenii și condițiile sursei (caleaeuropeana.ro).

Dacă sunteți proprietarul conținutului și nu doriți să vă publicăm materialele, vă rugăm să ne contactați prin e-mail la [email protected] și conținutul va fi șters în cel mai scurt timp posibil.