Multi utilizatori creează o mulțime de agenți pentru inteligenta artificiala.
Cum spuneam o mulțime de utilizatori incep sa lanseze agenți de inteligență artificială in diverse industrii.Aceste retele primesc mana liberă și pot cauza daune daca nu sunt controlați.
Asa că Nvidia a scos o noua modalitate pentru a crea o securitate în această cauză și au lansat Open Agent Safety in colaborare cu inca 100 de parteneri.
Open Agent Safety fiind alcătuită din Nvidia Sentry si NVIDIA OpenShell așa că poate fi folosită de oricine sub o licenta Apache.
OpenShell este disponibil de oricine mai putin NVIDIA Sentry
NVIDIA Sentry este doar pe serverele Team Green oferind inspecție a raționamentului agenților și „telemetrie anti-manipulare”, descrisă astfel deoarece agenții înșiși nu pot ajunge la DPU-ul Bluefield-4 pe care rulează software-ul Sentry.
Bluefield-4 pe care rulează software-ul Sentry. NVIDIA spune că Sentry oferă o inatrziere de milisecunde prin „monitorizare continuă a agenților și detectare a amenințărilor”, deși nu există încă multe detalii despre ce înseamnă acest lucru.
Aliati Nvidia s-au alăturat pentru a promova o securitate mai buna
Mare parte din companiile de inteligență artificială s-au alăturat in spatele platformei de siguranță inclusiv nume mari precum Lenovo, Microsoft,HPE.. printre altele în mod normal lipsesc AMD, Google, Intel, OpenAI și Meta, asta nu pentru că aceste companii consideră că securitatea inteligentei artificiale este importantă.
Motivul poate fi concurenta cu Nvidia in domeniul cipurilor de inteligență artificială.
Agenții IA sunt atât de puternici pe cât le permiți tu să fie. Capacitățile lor pot include căutare și navigare web, execuție de cod, regăsire de baze de date sau documente, interfețe API și multe altele. Nu trebuie să fii un geniu ca să înțelegi cum un agent ar putea interpreta o comandă mai literal sau mai liberal decât a intenționat utilizatorul și să înceapă să se abată de la comportamentul așteptat; la urma urmei, limbajul poate fi imprecis. Acestea sunt problemele pe care noile instrumente de securitate NVIDIA sunt concepute pentru a le preveni.
