La Academia de Ciencias de Cuba en su sesión de Puertas Abiertas acogió la conferencia “Una visión holística de la Inteligencia Artificial. Segura y fiable: Riesgos, Ética, Regulación y Auditabilidad”, impartida por el profesor Dr.C. Francisco Herrera Triguero, director del Instituto Interuniversitario Andaluz de Ciencia de Datos e Inteligencia Computacional de las Universidades de Granada y Jaén, España.

La ocasión sirvió para reconocer al profesor Herrera Triguero con la condición de Académico Correspondiente, otorgada de manos de las vicepresidentas de la institución cubana.

 “La inteligencia artificial forma parte intrínseca de nuestras vidas hasta el punto que nos ayuda a tomar decisiones rápidas y no reconocemos lo imprescindible que se convierten estos sistemas como el GPS y que hay generaciones que solo conocen el trabajo con aplicaciones que emplean IA”, explicó Herrera, quien con su ponencia realizó un recorrido por la historia de la Inteligencia Artificial (IA), el surgimiento de otras concepciones como la IA generativa, la eclosión de la IA y las proyecciones para crear plataformas de IA fiables y seguras.

El investigador español defendió la idea de que la IA para que sea precisa, efectiva y útil debe estar supervisada y aprobada por un personal capacitado para ello.

Añadió que, aunque la IA se alimenta de datos, si le proporcionamos información confusa o errónea, sin previa revisión por un especialista, corremos el riesgo de obtener resultados incorrectos, fenómeno conocido como alucinaciones, según dijo el especialista.

Herrera califica entre los riesgos de estos sistemas la necesidad de controlar las tareas que ejecuten y revisar los resultados que provean, para evitar experiencias como Amazon o Netflix donde se han reproducido sesgos de género y sociales en el empleo de la IA.

Sobre las regulaciones, el especialista declaró que muchos países desarrollaron sus leyes a partir de los 10 principios aprobados en Naciones Unidas en 2022 , además de la reciente cumbre realizada en el Reino Unido donde se acordó la creación de políticas basadas en los riesgos mundiales de la IA.

El conferencista expuso la experiencia de España, aplicando el Reglamento AI Act aplicado donde se clasifica a los sistemas de IA no solo en función del sector de tecnología que utilizan, sino también en cuanto al riesgo: mínimo y limitado (no se requiere acción, pero sí ciertas exigencias de transparencia); alto (estrictos controles y evaluaciones de conformidad) e inaceptable (prohibiciones).

En cuanto a las normas éticas, de regulación y auditabilidad, agregó que se debe establecer e implementar un sistema de gestión de riesgos en dependencia del propósito previsto del sistema IA, elaborar documentación técnica, configurar las capacidades del registro (trazabilidad y auditabilidad), garantizar un grado adecuado de transparencia y proporcionar a los usuarios información sobre las capacidades y limitaciones del sistema e información para utilizarlo, además de garantizar la supervisión humana (medidas integradas en el sistema y/o a implementar por los usuarios), garantizar robustez, precisión y ciberseguridad.

Como pilares básicos para una IA fiable Herrera define que deben ser lícitas, respetar los principios éticos que salvaguardan los derechos de las personas, tener un correcto funcionamiento siempre y prevenir medidas de protección.

Como retos consideró importante la protección de datos para alimentar el algoritmo, la explicabilidad, dado que no todos los usuarios que emplean las plataformas tienen pleno conocimiento de su funcionamiento y el origen de las respuestas que ofrece; y el sesgo de los datos.

Asimismo, incluye como desafío la responsabilidad del cuidado medioambiental, por la gran huella de carbono que deja el empleo de la IA, lo cual se estudia desde la Green IA.

Herrera remitió a los presentes en la conferencia a la lectura de su libro Inteligencia artificial y tecnologías digitales para los ODS (2021) donde analiza las ventajas de la IA para cada uno de los Objetivos de Desarrollo Sostenible, para el enfrentamiento al cambio climático y la mejoría de los sistemas de predicción de desastres.

El Dr.C. Francisco Herrera Triguero colabora desde hace 15 años con profesionales cubanos en la realización de investigaciones y tesis doctorales en temáticas de la IA y las Ciencias de la Computación. Durante la conferencia, afirmó que después del intercambio de hoy, espera incrementar las alianzas entre la Academia de Ciencias de Cuba, el Centro Tecnológico de Jaen y la Real Academia de Ingeniería.

Conozca también cinco proyectos de Inteligencia Artificial creados en Cuba  https://medium.com/juventud-t%C3%A9cnica/conoces-estos-5-proyectos-de-inteligencia-artificial-creadas-en-cuba-d02c738d6c19

Últimas noticias