El passat 25 d’octubre, Marc Serramià va ser un dels guardonats en els premis nacionals d’informàtica 2023 que concedeix la Societat Científica Informàtica d’Espanya conjuntament amb la Fundació BBVA en la modalitat d’Investigadors Joves Informàtics.

Vas rebre un premi per part de la Societat Científica Informàtica d’Espanya. Satisfet pel reconeixement?
És un honor per  ami i també un reconeixement a la importància de la investigació de les implicacions ètiques de la IA.

La teva investigació sobre l’àmbit en què vas ser guardonat, en què consisteix a grans trets?
Quan dissenyem una intel·ligència artificial la dissenyem per un cert objectiu, per exemple, un sistema de vigilància per reconeixement facial es dissenya amb l’objectiu de detectar criminals. Quan despleguem aquests sistemes, prendran decisions de forma autònoma per assolir el seu objectiu, però això no assegura que el que facin sigui desitjable o ètic. Per exemple, el sistema de vigilància pot dir que tothom és criminal i així assegurar que detectarà tots els criminals, però llavors el seu comportament va en contra de la presumpció d’innocència. Tot i que aquest exemple és una mica exagerat, es poden donar situacions semblants més subtils. La meva investigació tracta d’evitar que això passi regulant com la IA pot actuar.

La intel·ligència artificial està de moda. És el futur, o ja podem parlar obertament que és el present?
Ja fa anys que és el present. Per exemple, en medicina, amb anàlisi d’imatges podem detectar anomalies en TACs de forma més precisa i ràpida que els metges. El que estem veient des de fa uns anys és el pas de la IA d’àmbits professionals a l’àmbit personal. Avui qualsevol persona sense necessitar coneixements tècnics pot utilitzar IAs generatives i això porta molts problemes. Per exemple, en l’àmbit educatiu tenim problemes d’alumnes que utilitzen ChatGPT i eines semblants per plagiar treballs. Això és inacceptable, hem de ser crítics amb el que generi la IA, no hi ha cap garantia que el que genera sigui verídic.

S’està anant massa ràpid amb la IA? S’hi està apostant sense acabar-ne de valorar els pros i contres traient-la al mercat sense una filosofia concreta?
La indústria sempre va més ràpid que la política i la regulació. La UE està treballant en regular la IA, però de totes formes els consumidors hem d’exigir garanties a les empreses que la produeixen, també per exemple, en termes de dades i privacitat.

Per què és important l’ètica dins de la intel·ligència artificial?
L’ètica és important en qualsevol àrea que pot tenir un impacte en la nostra societat o el nostre planeta. En molts casos no sabem per què la IA pren les decisions que pren i en molts casos aquestes decisions tenen biaixos. Degut a la importància de les decisions que prenen alguns d’aquests sistemes, hem d’exigir garanties que aquests sistemes funcionaran de forma ètica. Per exemple, un sistema que decideix automàticament si concedir una hipoteca no pot tindre biaixos.

Estem veient com la intel·ligència artificial comença a suplantar identitats a internet. Per exemple, fa pocs dies va sortir una cançó de Bad Bunny i Bad Gyal que s’havia fet amb intel·ligència artificial sense el seu consentiment. Per on creus que haurien de passar les regulacions o limitacions per evitar que algú pugui veure com li suplanten la identitat?
I hem tingut casos més greus. Com deia, la UE està treballant per regular la IA, i en particular volen que aquestes IAs generatives tinguin moltes restriccions. Per exemple, els desenvolupadors d’IA hauran d’assegurar-se que no generi contingut il·legal, com en aquest cas.

Catalunya és pionera en la investigació sobre la IA?
Sí, tenim grans professionals a les nostres universitats i també tenim l’únic centre de recerca especialitzat en IA de l’Estat. La llàstima és que estem formant molts investigadors que, degut als pocs recursos que es destinen a la recerca, hem d’anar a treballar a l’estranger.

Què et va motivar a endinsar-te en aquest camp de la informàtica?
He tingut la sort de tindre grans professors, des de Montblanc fins a Barcelona, elles i ells m’han fet apassionar primer per la ciència i després per la IA.