Atunci cand devine posibil sa programam un sistem de luat decizii si sa-l montam pe automobile, apar diverse probleme etice.

Masini care se conduc singure deja circula pe strazi si au functii precum cruise control, parcare automata, sau pot face chiar si depasiri.

Jean-Francois Bonnefon, doctor in psihologie cognitiva si director de cercetare la TSE (Toulouse School of Economics) a realizat un studiu care arata ca oamenii sunt de acord cu ideea ca vehiculele autonome ar trebui sa fie programate pentru a minimiza numarul victimelor in cazul unor vatamari inevitabile. Pe de alta parte, acestia nu ar dori sa se afle intr-o astfel de masina, iar astfel de reguli i-ar face mai putin dispusi sa cumpere un autovehicul autonom.

Vehiculele autonome vor reduce numarul de accidente in trafic, dar vor fi situatii cand vor trebui sa aleaga raul cel mai mic. De exemplu, sa dea peste un pieton pe drum sau peste un trecator pe trotuar, sa aleaga daca sa loveasca un grup de pietoni sau sa sacrifice proprietarul izbindu-se de un zid.

De ce masinile autonome vor trebui programate sa ucida?

Nu toate accidentele vor fi evitate, iar in unele cazuri masinile autonome vor avea de luat decizii etice ce vor implica victime.

Desi aceste scenarii pot parea putin probabile, chiar si evenimentele cu o probabilitate foarte mica pot aparea frecvent avand milioane de masini autonome pe strazile din toata lumea. Chiar daca am presupune ca o astfel de situatie nu va avea loc niciodata, o masina autonoma tot va trebui sa includa niste reguli care ii va spune ce sa faca in astfel de situatii ipotetice. Asadar, aceste decizii trebuie sa fie implementate inainte ca masinile autonome sa devina un standard in industria autovehiculelor.

Dezvoltatorii de vehicule vor trebui sa tina cont de etica dar in acelasi timp sa nu descurajeze cumparatorii. Intr-un final, cine ar cumpara o masina programata sa sacrifice proprietarul?

Algoritmii morali vor avea de-a face cu situatii mult mai complexe decat cele prezentate in studiul realizat de Bonnefon, precum scenarii in care exista o incertitudine cu privire la rezultatul deciziei. Ar trebui aceste vehicule sa tina cont de varsta pietonilor si a pasagerilor? Ar trebui ca producatorii sa ofere versiuni diferite a acestor algoritmi, iar clientul sa poata sa-si aleaga, fiind acesta raspunzator pentru deciziile luate de masina autonoma?

Astazi, algoritmii etici reprezinta poate cea mai spinoasa provocare in domeniul inteligentei artificiale. Pe masura ce tehnologia si costurile vor permite instalarea sistemelor autonome pe cat mai multe masini, cu atat este nevoie de o analiza serioasa a moralitatii algoritmice. Iar asta n-a fost niciodata mai urgenta decat acum.

Bibliografie:

Sciencemag.org, technologyreview.com, scientificamerican.com

1 COMENTARIU

  1. In alte ştiințe verdictul a fost luat, spun că este vorba de medicină(imunologie) la 1000 de vaccinări ale copiilor mor 5,7,10, datorită vaccinului şi? Nu se mai fabrică vaccinuri? Se vaccineaza în draci în toată lumea. Personal nu cred că marile firme constructoare de automobile vor pune lacătul pe poarta marilor uzine „că nu va mai produce aotomobile cu moralitate”.

LĂSAȚI UN MESAJ