La intel·ligència artificial no només escriu textos, fa imatges o respon preguntes. Cada vegada més, ajuda a ordenar expedients, classificar sol·licituds, detectar riscos, recomanar decisions i automatitzar respostes. I aquí és on el debat es torna seriós.

Perquè quan la IA s’equivoca, l’error no sempre queda en una pantalla: pot afectar una ajuda pública, una feina, una nota, un diagnòstic o un tràmit administratiu. El problema no és fer servir IA. El problema és utilitzar-la sense saber qui en respon. Imaginem una persona que demana una ajuda social o una beca i rep una denegació perquè un sistema ha detectat incoherències. Potser l’eina ajuda a gestionar millor centenars d’expedients. Però si ningú sap explicar quina dada ha pesat, quin criteri s’ha aplicat i com es pot reclamar, ja no parlem només d’eficiència: parlem de drets.

El mateix pot passar en una selecció de personal. Una empresa pot utilitzar IA per revisar currículums i fer una primera tria. Però si el sistema penalitza edats, trajectòries irregulars o perfils que no s’assemblen als contractats en el passat, qui n’assumeix la responsabilitat? L’empresa? El programa? El proveïdor? Ningú? També en educació el risc és evident. Una IA pot ajudar a detectar còpies, orientar aprenentatges o corregir exercicis. Però si acusa injustament un alumne d’haver fet trampes, o li penja una etiqueta que condiciona el seu futur, no podem amagar-nos darrere d’un “ho ha dit el sistema”. A l’administració local, tard o d’hora, aquesta qüestió també arribarà. Un ajuntament pot fer servir IA per respondre consultes, resumir instàncies o classificar peticions veïnals.

Pot ser útil. Però si una resposta automàtica sobre una llicència, una taxa o un termini és incorrecta, el ciutadà no ha de carregar amb l’error d’una màquina que parla en nom de l’administració. La IA pot fer moltes coses més ràpides, però la rapidesa no pot substituir la responsabilitat. “La intel·ligència pot ser artificial. La responsabilitat, no.”