La magistrada Army Ferreira, jueza del Tribunal Constitucional (TC), advirtió sobre los riesgos que plantea el uso de la inteligencia artificial en la administración de justicia, al considerar que delegar en esta tecnología decisiones que afectan derechos fundamentales compromete la función judicial y los principios del Estado constitucional.
Al participar en el Foro de Jueces de la Organización Mundial de la Propiedad Intelectual (OMPI), celebrado en Suiza, la magistrada afirmó que, aunque la inteligencia artificial ha contribuido al desarrollo industrial y tecnológico, su aplicación en el ámbito judicial plantea desafíos importantes. «La justicia no es un proceso industrial que demanda respuestas automáticas de manufactura a gran escala, sino un proceso judicial que requiere individualización, independencia, juez natural y tratamiento humano», expresó la jueza Ferreira, quien no se opone al uso de las herramientas digitales, sino al peligro que supone que los jueces las utilicen sin antes verificar y analizar su repercusión.
En ese sentido, mencionó que los riesgos asociados al uso de la inteligencia artificial abarcan aspectos éticos, sociales y de privacidad que pueden tener consecuencias significativas en la vida de las personas.
Entre ellos destacó los sesgos algorítmicos, que se producen cuando los sistemas de IA replican o amplifican prejuicios existentes. También señaló la recopilación masiva de información personal para alimentar estos modelos, que incrementa los riesgos para la privacidad; la generación de información inexacta por parte de modelos lingüísticos; la falta de transparencia de muchos sistemas avanzados, y la creciente dependencia tecnológica, que podría disminuir habilidades humanas fundamentales. «Luego de verificar los riesgos, debemos sincerar la conversación, y hacernos la pregunta, ¿cuál es la labor de nosotros los jueces? Nosotros lo que hacemos es tomar decisiones que afectan derechos», cuestionó.
