Una delle regole più semplici che ho imparato lavorando con l’intelligenza artificiale è anche una delle più importanti: una risposta non è un’azione.
Se chiedo di inviare una mail, salvare un documento o pubblicare qualcosa, leggere “fatto” non mi basta. L’azione deve essere avvenuta davvero e deve poter essere verificata.
Sembra una distinzione banale, ma cambia completamente il rapporto con un assistente digitale.
Un sistema capace di scrivere perfettamente “ho inviato la mail” ma che non ha accesso alla posta non ha eseguito il compito. Ha soltanto prodotto una frase.
ERDi, per come lo immagino, deve distinguere sempre ciò che sa, ciò che propone e ciò che ha realmente fatto.
Questa distinzione diventa ancora più importante quando l’IA entra nella vita quotidiana: documenti, appuntamenti, lavoro, comunicazioni e decisioni pratiche.
Più un assistente diventa autonomo, meno possiamo permetterci ambiguità tra intenzione ed esecuzione.
Per questo preferisco un sistema che mi dica chiaramente “non posso farlo” piuttosto che uno che mi lasci credere di aver completato qualcosa.
Forse il futuro degli assistenti personali non si misurerà soltanto dalla qualità delle loro parole.
Si misurerà dalla distanza tra quello che dicono di aver fatto e quello che è realmente successo.
Lascia un commento