Mașinile autonome sunt dezvoltate pentru a putea circula fără ca fiecare mișcare să fie controlată permanent de un șofer. Pentru a face acest lucru, ele folosesc sisteme de inteligență artificială care analizează mediul din jur și aleg în timp real ce acțiune trebuie efectuată.

Totuși, apariția unei probleme importante: oamenii pot vedea ce face mașina, dar nu știu întotdeauna de ce aceasta a luat o anumită decizie.

Cercetătorii de la MIT, împreună cu specialiștii companiei Motional, au lucrat la o metodă care încearcă să facă procesul de decizie al unei mașini autonome mai ușor de înțeles. Sistemul se numește Concept-Wrapper Network, prescurtat CW-Net.

De ce trebuie explicate deciziile unei mașini?

Inteligența artificială modernă poate analiza un număr foarte mare de informații într-un timp extrem de scurt. În cazul unei mașini autonome, aceste informații pot proveni de la camere și alți senzori care detectează vehicule, pietoni, bicicliști, semafoare și alte elemente ale drumului.

Problema este că modul în care algoritmul ajunge la decizia finală poate fi dificil de urmărit de către oameni.

De exemplu, dacă mașina încetinește brusc, pasagerul poate să nu înțeleagă motivul. Poate exista un obstacol, un vehicul care urmează să intre pe traseu sau o altă situație pe care sistemul a identificat-o.

Pentru siguranță, este important ca oamenii care testează și supraveghează aceste vehicule să poată înțelege cât mai bine comportamentul inteligenței artificiale.

Ce aduce nou CW-Net?

CW-Net încearcă să transforme procesele complicate ale inteligenței artificiale în informații mai ușor de interpretat de oameni.

În loc să fie analizat doar rezultatul final — de exemplu, faptul că mașina a frânat — cercetătorii pot examina conceptele care au contribuit la alegerea respectivei acțiuni.

Aceste concepte pot descrie elemente relevante din trafic, cum ar fi prezența unui biciclist, apropierea de un vehicul sau existența unui obiect în zona de deplasare.

Prin această abordare, comportamentul mașinii poate deveni mai transparent.

Cum poate fi descoperită o greșeală?

Un avantaj important al unei asemenea tehnologii este posibilitatea de a identifica mai ușor situațiile în care inteligența artificială interpretează greșit mediul.

În timpul experimentelor, cercetătorii au analizat situații în care comportamentul unui vehicul autonom părea dificil de explicat. Sistemul de analiză a permis identificarea unor concepte care contribuiau la decizie și care puteau fi comparate cu ceea ce se întâmpla în realitate.

Acest lucru este important deoarece o mașină autonomă trebuie să fie testată nu doar pentru a vedea dacă ia decizia corectă, ci și pentru a înțelege de ce poate ajunge uneori la o decizie greșită.

Testarea în condiții reale

Cercetarea nu s-a bazat exclusiv pe simulări. CW-Net a fost utilizat și în cadrul testării unui vehicul autonom real.

Prin observarea comportamentului mașinii în situații de trafic, cercetătorii au putut analiza dacă explicațiile produse de sistem îi ajută pe oameni să înțeleagă mai bine reacțiile vehiculului.

Rezultatele indică faptul că explicațiile bazate pe concepte pot îmbunătăți modul în care oamenii anticipează comportamentul unei mașini autonome.

Mai multă încredere în tehnologia autonomă

Pentru ca mașinile autonome să fie acceptate pe scară largă, oamenii trebuie să aibă încredere în această tehnologie. Încrederea nu înseamnă însă să presupunem că inteligența artificială nu va greși niciodată.

Dimpotrivă, utilizatorii și operatorii trebuie să cunoască limitele sistemului și să poată înțelege situațiile în care acesta ar putea avea dificultăți.

O tehnologie care poate oferi informații despre motivele unei decizii îi poate ajuta pe ingineri să descopere problemele și să îmbunătățească algoritmii.

Un pas către mașini autonome mai transparente

Dezvoltarea mașinilor autonome nu înseamnă doar construirea unor algoritmi capabili să conducă. Este la fel de important ca acești algoritmi să poată fi verificați și înțeleși.

Cercetarea MIT și Motional arată o posibilă direcție pentru rezolvarea acestei probleme. CW-Net încearcă să creeze o legătură între procesele complexe ale inteligenței artificiale și explicațiile pe care oamenii le pot înțelege.

Pe măsură ce vehiculele autonome devin tot mai sofisticate, astfel de metode ar putea deveni importante pentru siguranță, testare și dezvoltarea viitoarelor sisteme de transport.

Concluzie

Inteligența artificială poate lua decizii foarte rapide și complexe, însă viteza și performanța nu sunt suficiente atunci când vorbim despre transport și siguranță.

Oamenii trebuie să poată înțelege ce face o mașină autonomă și, mai ales, de ce face acel lucru. Cercetarea realizată de MIT și Motional prin CW-Net reprezintă un pas în direcția unei inteligențe artificiale mai ușor de analizat și mai transparentă.

Dacă astfel de tehnologii vor continua să fie dezvoltate, viitoarele mașini autonome ar putea deveni nu doar mai inteligente, ci și mai ușor de verificat și de înțeles de către oameni.