Mentre molto del lavoro in ambito di data science si è finora concentrato sulla sofisticazione, la sicurezza contro i danni sembra essere un settore meno degno di essere perseguito. Questo è particolarmente vero in applicazioni come il self-driving dove la scarsa capacità di giudizio di un sistema di apprendimento automatico potrebbe contribuire a incidenti anche gravi.

Ecco perché aziende come Mobileye e Nvidia di Intel hanno proposto framework per garantire un processo decisionale sicuro e logico, mentre OpenAI – la società di ricerca di San Francisco co-fondata dal CTO Greg Brockman e dallo scienziato capo Ilya Sutskever – ha rilasciato Safety Gym.

Si tratta di una suite di strumenti per lo sviluppo di AI che rispetta specifici vincoli durante il processo di creazione e la successiva formazione, garantendo la “sicurezza” degli algoritmi e la misura in cui tali algoritmi possano evitare errori durante la fase di apprendimento. Leggete l’articolo completo su Venturebeat.