Segnale #006 — Il novantuno percento di Laura

Laura ha cinquantadue anni, lavora allo sportello sociale di un comune capoluogo del Centro-Nord, fa questo mestiere da diciannove anni. Da otto mesi il comune ha adottato un chatbot per rispondere alle domande dei cittadini su bonus, agevolazioni, contributi. Nelle riunioni di servizio si dice che sta andando molto bene: soddisfazione al novantuno percento. Le code allo sportello si sono ridotte. I dirigenti sono contenti. Il chatbot ha vinto anche un piccolo premio.

Poi c'è la signora Adriana. Ha settantotto anni, un IRPEF minimo, la casa di cui non riesce più a pagare il riscaldamento. Ha chiesto al chatbot informazioni sul bonus bollette. Il chatbot le ha risposto in modo dettagliato, gentile, veloce. Adriana ha stampato tutto e ha compilato la domanda. Sbagliata. Ha compilato quella per il bonus sociale nazionale — che a lei non spetta, per una soglia ISEE che il chatbot ha spiegato bene ma che Adriana non ha capito — invece di quella per l'agevolazione regionale, che sarebbe stata la sua.

Adriana arriva allo sportello di Laura tre settimane dopo, con la lettera di diniego in mano, convinta di aver sbagliato lei. Laura la aiuta, rifà tutto, ottiene il bonus corretto. Ma nel frattempo Adriana ha passato un mese al freddo, convinta che «era colpa sua», che «non è più roba per lei».

Il chatbot, in questa storia, non ha sbagliato niente. Ha risposto correttamente alla domanda che Adriana gli ha fatto. Il problema è che Adriana non sapeva quale fosse la domanda giusta. E il chatbot non ha modo di accorgersi che chi ha davanti non sa nemmeno cosa chiedere.

IL CHATBOT NON RISPONDE MALE. RISPONDE BENE A CHI SA GIÀ CHIEDERE.

Laura, quando parla con la signora Adriana allo sportello, non risponde a una domanda. Fa altre domande. «Signora, quanti metri quadri ha la casa? Chi ci abita con lei? È accesa la Postepay Evolution o quella normale?» Ricostruisce il caso. Trova la strada. È un lavoro che sembra spiegazione ma è invece traduzione, dalla lingua della persona che ha bisogno alla lingua del servizio che glielo dovrebbe dare. E in mezzo — nel modo in cui Laura sceglie le domande, capisce chi ha davanti, si accorge che una parola detta a mezza bocca vale più di dieci moduli — c'è un mestiere. Ce n'è tantissimo, di quel mestiere, dentro i servizi sociali italiani. E il chatbot non lo fa.

Adriana, dopo l'esperienza sbagliata, non è tornata sul chatbot. Ma non è tornata neanche allo sportello. Ha detto a Laura che la prossima volta chiederà a suo nipote, oppure non chiederà. Ha fatto una scelta: si è tolta dal servizio. Silenziosamente. Senza rumore. Nella statistica del comune non si vede.

Ed è qui il punto che dovremmo guardare in faccia. Quel novantuno percento di soddisfazione racconta bene una parte delle cose, ma ne nasconde un'altra. I sistemi automatici, nel servizio pubblico, sono formidabili con chi sa già come si chiede. Con chi ha dimestichezza col portale, con chi capisce cosa vuol dire ISEE, con chi si fida di uno schermo. Quelli, il chatbot li serve meglio di uno sportello. Perde però proprio quelli per cui il servizio pubblico dovrebbe esistere: gli anziani, i migranti alla prima pratica, chi non ha finito la scuola, chi ha vergogna a chiedere davanti a un umano — figuriamoci a una macchina.

IL 9% CHE VA MALE NON È UN ERRORE CASUALE. È UNA SELEZIONE.

Quando misuriamo il successo di un sistema pubblico solo sulle risposte che dà, e non su chi smette di fare domande, stiamo mentendo a noi stessi. Un servizio pubblico che funziona benissimo con chi ha meno bisogno non è un servizio pubblico che funziona. È un club.

Non c'è, in questa storia, una condanna del chatbot. Il chatbot fa quello che sa fare. Rispondere in fretta a chi gli parla in maniera chiara è utile — e ha alleggerito Laura di un carico che, senza, sarebbe stato ingestibile. Il segnale è un altro: nella pubblica amministrazione, l'introduzione dell'AI ci sta obbligando a decidere cosa vogliamo misurare. Se misuriamo solo la velocità, siamo contenti. Se cominciassimo a misurare chi non torna, dovremmo cambiare mestiere.

L'AI NEL SERVIZIO PUBBLICO NON È NEUTRA. RIFLETTE CHI HA COSTRUITO LA DOMANDA.

Laura, allo sportello, continua a fare il suo mestiere. Adriana, la prossima volta, forse tornerà. Forse no. E il chatbot, intanto, continuerà a lavorare al novantuno percento, tranquillo. Perché è stato messo lì per rispondere. Non per accorgersi di chi ha smesso di chiedere.