OpenAI lucra la un sistem de inteligeță artificială atât de avansat încât „provoca îngrijorări” în rândul staff-ului companiei

Compania lucra la un sistem foarte avansat înainte de concedierea lui Sam Altman, co-fondatorul și CEO-ul companiei, care era atât de puternic încât provoca îngrijorări legate de siguranță în rândul personalului companiei, potrivit The Guardian.

Modelul de inteligență artificială a declanșat o asemenea teamă în rândul unor cercetători de la OpenAI încât aceștia au scris consiliului de administrație înainte de concedierea lui Altman, avertizând că ar putea amenința omenirea, potrivit Reuters.

Modelul, numit Q* - și pronunțat ca „Q-Star” - era capabil să rezolve probleme de matematică de bază pe care nu le mai văzuse până atunci, potrivit site-ului de știri tehnologice the Information, care a adăugat că ritmul de dezvoltare din spatele sistemului i-a alarmat pe unii cercetători în domeniul siguranței.

Capacitatea de a rezolva probleme de matematică ar fi privită ca o evoluție semnificativă în domeniul inteligenței artificiale.

Rapoartele au urmat unor zile de agitație la OpenAI, cu sediul în San Francisco, al cărei consiliu de administrație l-a demis pe Altman vinerea trecută, dar apoi l-a repus în funcție marți seară, după ce aproape toți cei 750 de angajați ai companiei au amenințat că vor demisiona dacă acesta nu va fi adus înapoi.

Altman a avut, de asemenea, sprijinul celui mai mare investitor al OpenAI, Microsoft.

Mulți experți sunt îngrijorați de faptul că dezvoltatori precum OpenAI se îndreaptă prea repede către dezvoltarea inteligenței generale artificiale (AGI), termen care desemnează un sistem care poate îndeplini o mare varietate de sarcini la un nivel de inteligență uman sau superior celui uman - și care, teoretic, ar putea scăpa de controlul uman.

Andrew Rogoyski, de la Institutul pentru Inteligență Artificială centrată pe oameni de la Universitatea din Surrey, a declarat că existența unui model de limbaj mare (LLM) care să rezolve probleme matematice ar reprezenta un progres.

El a spus: „Capacitatea intrinsecă a LLM-urilor de a face matematică este un pas înainte major, permițând IA să ofere o gamă complet nouă de capacități analitice."

În cadrul unei conferințe de joi, săptămâna trecută, cu o zi înainte de concedierea sa surprinzătoare, Altman a arătat că firma din spatele ChatGPT a făcut o nouă descoperire.