Un estudi del centre INGENIO, dependent del Consell Superior d'Investigacions Científiques (CSIC) i la Universitat Politècnica de València (UPV), ha proposat un marc ètic per a la incorporació de la intel·ligència artificial (IA) en els sistemes de suport a les decisions clíniques. La investigació, publicada a la revista Science and Engineering Ethics, defensa que aquests sistemes basats en IA han de dissenyar-se com a eines de suport al judici humà, aplicant un marc basat en l'ètica discursiva per integrar la reflexió ètica en el procés de presa de decisions.
Les eines informàtiques conegudes com a CDSS (Clinical Decision Support Systems) analitzen informació clínica i proporcionen als professionals sanitaris dades, prediccions o recomanacions. La seua integració en la pràctica mèdica planteja reptes ètics importants, com ara fins a quin punt seguir una recomanació automatitzada, com justificar els resultats d'un algoritme o qui assumeix la responsabilitat final. Els principals desafiaments són el respecte a l'autonomia, evitar la deshumanització i la dilució de la responsabilitat.
Segons Félix Lozano, investigador d'INGENIO i autor del treball, l'ètica discursiva suggereix que les normes que afecten les persones han de poder justificar-se racionalment mitjançant el diàleg i la participació dels afectats. Aplicat a l'àmbit clínic, aquest enfocament permetria que les recomanacions generades per la IA fossin compreses, qüestionades i valorades en un procés de deliberació humana.
La reflexió ètica ha d'estar present des del disseny i desenvolupament dels sistemes d'IA i mantenir-se durant la seua aplicació. En aquest procés, haurien de participar no només els desenvolupadors de software, sinó també professionals sanitaris, experts en ètica i els pacients. Lozano afirma que la IA en decisions clíniques no s'ha de valorar només per la seua precisió, sinó també per la seua capacitat per preservar l'autonomia i permetre la comprensió i el qüestionament de les recomanacions.
Perquè els sistemes de suport a les decisions clíniques siguin ètics, han de funcionar com a eines que facilitin la deliberació i aportin informació rellevant, sense substituir el judici dels implicats. Les seues recomanacions han de ser comprensibles i traçables per ser avaluades pels professionals sanitaris. D'aquesta manera, la responsabilitat de les decisions recauria en els professionals, preservant alhora l'autonomia informada dels pacients.
Per avançar cap a aquest model, l'estudi assenyala la necessitat d'incorporar la reflexió ètica durant tot el desenvolupament i aplicació d'aquestes tecnologies. Això requereix un treball interdisciplinari entre filosofia moral, enginyeria de dades i polítiques públiques. La investigació ha comptat amb el suport de la Conselleria de Cultura, Educació i Ciència de la Generalitat Valenciana.
