–
– La jornada inaugural del ValgrAI Scientific Council Fòrum reunix en la UPV a experts internacionals, jóvens investigadors i empreses capdavanteres per a reflexionar sobre els reptes ètics, científics i socials de la IA
La Facultat de Belles Arts de la Universitat Politècnica de València (UPV) ha acollit l’obertura de l’IV ValgrAI Scientific Council Fòrum (VSCF), esdeveniment anual, que impulsa el diàleg entre ciència, empresa i institucions per a analitzar el present i futur de la intel·ligència artificial. Organitzat per la Fundació ValgrAI, el fòrum ha reunit a més de 300 assistents en una jornada multidisciplinària que ha posat el focus en l’aplicació responsable, transparent i transformadora de la IA.
La benvinguda institucional ha sigut a càrrec d’Ana Cidad, Directora Gerent de *ValgrAI; Vicent *Botti, Director General; i Inma Romero, Directora de l’Àrea de Biblioteca, Documentació i Ciència Oberta de la Universitat Politècnica de València. Els tres han coincidit a destacar el compromís de ValgrAI amb una intel·ligència artificial que no sols avance en el tècnic, sinó que també servisca per a millorar la vida de les persones i els entorns que habiten.
La primera keynote de la jornada ha sigut impartida per l’investigador de ValgrAI, UPV i la University of Cambridge José Hernández Orallo, una de les veus més autoritzades en el camp de l’avaluació de la intel·ligència artificial. En la seua ponència, titulada «AI Evaluation with Explanatory and Predictive Power», l’investigador de la UPV ha subratllat la necessitat de superar les mètriques tradicionals —basades en encerts o benchmarks estàtics— per a avançar cap a sistemes d’avaluació que expliquen el rendiment dels models, prediguen el seu comportament en situacions noves i permeten comparar-los de manera robusta amb capacitats humanes.
Hernández Orallo ha presentat ferramentes com DeLeAn i ADeLe, que permeten analitzar de forma més granular les habilitats cognitives que exhibix una IA, i entendre quin tipus de generalització realitza. Esta perspectiva no sols és crucial per a dissenyar sistemes més segurs i eficaços, sinó també per a construir una IA més comprensible i auditable. “Hem de deixar de preguntar simplement si un sistema encerta i començar a preguntar-nos per què el fa”, ha conclòs.
El futur de la Intel·ligència Artificial
El bloc titulat “The Future of AI: ValgrAI Researchers” ha sigut un dels moments més estimulants de la jornada, amb la participació de deu investigadors pre i postdoctorals de les universitats valencianes, que han compartit projectes capdavanters amb alt impacte social, molts d’ells desenrotllats en col·laboració amb centres mèdics, educatius i industrials. Estes intervencions han demostrat com l’ecosistema ValgrAI està formant a una nova generació de científics amb una mirada aplicada, rigorosa i compromesa.
Gottlob tanca la jornada amb una “psicoanàlisi” de ChatGPT
La segona ponència magistral de la jornada ha sigut oferida pel prestigiós investigador Georg Gottlob (Universitat d’Oxford i Universitat de Calàbria), qui ha exposat una visió crítica, però constructiva, dels models de llenguatge generatiu com ChatGPT, sota el provocador títol «Psychoanalysis (and Therapy) of ChatGPT».
Gottlob ha mostrat com estos models, malgrat la seua sorprenent capacitat lingüística, presenten errors sistemàtics, biaixos no detectats i una tendència a “al·lucinar” informació, inventant fets o referències. Ha qüestionat la cega confiança que a vegades es deposita en estos sistemes i ha presentat una solució: Chat2Data, un sistema d’agents intel·ligents que descompon tasques complexes en subtareas verificables, amb mecanismes interns de revisió, validació creuada i traçabilitat. Un enfocament que busca fer compatibles els avanços de la IA amb l’exigència de veracitat i control en entorns científics, jurídics o administratius.
La jornada ha finalitzat amb una taula redona moderada per Ramon López de Mantaras (CSIC), en la qual han participat figures internacionals com Carme Torras (CSIC) Tom Dietterich (Oregon State University i el propi Gottlob. En este espai s’ha debatut sobre els reptes científics, ètics i socials que planteja la IA, des de la transparència en la investigació fins a la necessitat d’una governança sòlida i democràtica d’estes tecnologies.
