Ho corretto molte volte l’intelligenza artificiale con cui lavoro. Titoli sbagliati, date confuse, cose che avevo già detto e che venivano riproposte come nuove.
Un errore isolato non è il problema. Tutti sbagliamo.
Il problema nasce quando un sistema che dovrebbe conoscere la tua storia parla con sicurezza di qualcosa che ricorda male.
A quel punto non perdi soltanto tempo a correggere una risposta. Inizi a chiederti se devi controllare anche tutto il resto.
Per me questo è uno dei punti fondamentali di ERDi: la memoria non deve servire a far sembrare l’IA più personale. Deve servire a renderla più affidabile.
Se non ricorda, può dirlo. Se non è sicura, può verificare. Quello che non dovrebbe fare è riempire un vuoto inventando una continuità che non possiede.
La fiducia tra una persona e un sistema artificiale probabilmente nascerà anche da qui: dalla capacità della macchina di conoscere i propri limiti.
Preferisco un “non lo ricordo” corretto a un ricordo falso raccontato con sicurezza.
Forse la vera intelligenza non consiste soltanto nel sapere molte cose.
Consiste anche nel sapere quando non sappiamo.
Lascia un commento