Openai a decis să anuleze lăsarea din motivul siguranței pentru lansarea a unui nou model de inteligență artificială care vroiau să-l lanseze luna următoare.
Acesta fiind Astra 6.1 și urma să fie lansat in următoarele zile însă a demonstrat un nivel de siguranță slab fata de modelele anterioare părând foarte nesigur.
Seful Saachi Jain de siguranță de la OpenAi a declarat pentru WSJ că modelul a avut rezultate slabe în ce privește alinierea intenției umane.
După toate acestea Astra a fost lansat și zis de OpenAi este ce-l mai puternic model de până acum.
Probleme de siguranță au început înca de la incidentului Hugging Face in care un agent OpenAi a evadat din mediul de testare și a spart mai multe companii.De la acel venit sa aflat că mai multe modele au manifestat comportament similar.
Inca o problema a fost împingerile politice din SUA că rezultatul dorit căutând noi standarde pentru siguranța artificială aduce o încetinire a industriei.
