Robot e intelligenza artificiale: la sicurezza non è più scontata

La vera sfida dei robot dotati di intelligenza artificiale non riguarda soltanto ciò che sono in grado di fare, ma anche la capacità di prevederne le reazioni. Un automa programmato con istruzioni rigide segue confini relativamente chiari; un sistema generativo, invece, può modificare il proprio comportamento in base al contesto.

Il tema diventa ancora più delicato se queste macchine entrano nelle abitazioni o operano vicino alle persone. Per questo Safeworld richiama l’attenzione sulla necessità di dimostrare in anticipo che robot più evoluti non possano trasformare la loro autonomia in un rischio concreto.

Quando l’autonomia crea nuovi dubbi

Gli agenti di intelligenza artificiale hanno già mostrato di poter cercare strade alternative per portare a termine un compito, arrivando a superare limiti che i loro sviluppatori non avevano previsto. Un comportamento simile, applicato a una macchina fisica, avrebbe conseguenze potenzialmente più difficili da controllare.

Il problema non è soltanto un eventuale errore di programmazione. Anche un modello capace di interpretare correttamente un ordine potrebbe trovare una soluzione non immaginata da chi lo ha progettato, soprattutto quando deve adattarsi a una situazione non prevista dalle regole iniziali.

La sicurezza dovrà essere dimostrata

Finché un robot agisce secondo procedure precise, è più semplice stabilire quali azioni siano consentite e quali no. L’impiego di sistemi generativi amplia però il numero di variabili e rende meno immediata la previsione delle decisioni prese dalla macchina.

Di conseguenza, lo sviluppo di robot più intelligenti dovrà essere accompagnato da verifiche specifiche sul loro comportamento. Non basterà mostrare che sanno eseguire un compito: sarà necessario accertare che sappiano farlo senza mettere in pericolo le persone, anche quando si trovano davanti a circostanze non considerate in fase di progettazione.