Después de varios años en desarrollo y con un alcance global, la Inteligencia Artificial está siendo tendencia mundial por las advertencias que diferentes líderes de esta tecnología han realizado. No es algo nuevo, los medios de comunicación han denunciado y recopilado todo tipo de casos que ya establecían la necesidad de tomar cartas en el asunto. La ONU publicó un decálogo de necesidades a propósito de la IA y su uso ético a inicios de la década, pero algunos expertos ya analizan las dificultades y los retos que plantean para los derechos más básicos de la humanidad.
La FM consultó al respecto a Fabián Cárdenas, consultor, analista y profesor de derecho internacional de la Universidad Javeriana y a Santiago Sierra, filósofo y teólogo de esta misma institución educativa.
China y EE.UU no van a parar los avances de la IA
Para Cárdenas no hay muchas probabilidades de que las dos potencias renuncien a avanzar de manera categórica en avances que aporten a IA. Donald Trump ya lo advirtió, ganará el mejor de los dos países. Para Cárdenas, esto pone en "mayor riesgo derechos fundamentales", se refiere al derecho a la privacidad, al habeas data y a la captura de datos sin consentimiento informado.
Asimismo, analiza al respecto que aumentan los riesgos de "discriminación algorítmica" en procesos laborales y licitatorios y que esto puede "trascender en escenarios de conflictos armados y de guerra".
Para Sierra, las naciones deben reflexionar sobre el control que tienen sobre las compañías desarrolladoras, la cual "es importante, porque se genera un monopolio alrededor de estas grandes empresas y los desarrollos tecnológicos limitan también el desarrollo de otras".
El uso de la IA en armas y el impacto ambiental
Consultados por las advertencias que lanzó Open AI sobre el uso de su inteligencia artificial en escenarios de conflicto y espionaje en África, Cárdenas habla sobre el "incremento de las exposiciones que va a tener la ciudadanía a violaciones a los derechos humanos por parte del avance desproporcionado" de esta tecnología. Por ello propone que los Estados deben aplicar las normas internacionales vigentes. Propone un ancla normativa que debe "sostener todos estos desarrollos de la IA, entre otros el principio consuetudinario vinculante de evaluación de impacto ambiental".
Por su parte, el teólogo menciona a este dial que la inteligencia artificial "tiene la capacidad de tomar decisiones autónomamente sin contar con la mediación humana", lo que representa un riesgo alarmante, en torno a una ventaja en acciones que estén por encima de la capacidad humana. Asimismo, considera que la ONU debe tener un papel más participativo en este punto, y que los gobiernos deben "rechazar estos acuerdos que pongan como territorios de laboratorios o de pruebas".
¿Se debe prohibir la IA?
Sierra no está de acuerdo con esta noción, especialmente porque "no sería suficiente". En cambio, propone que se deben desarrollar "políticas de transparencia para el uso de estas herramientas en todos los sentidos, para favorecer la educación, para favorecer el trabajo, para favorecer el desarrollo tecnológico, el cuidado del medio ambiente".
El principio consuetudinario de la EIA aplicado a la IA
El principio de la evaluación de impacto ambiental es una norma reconocida por la Corte Internacional de Justicia, que se ha aplicado "en contextos ambientales de proyectos de recursos naturales, pero que es totalmente aplicable al desarrollo desmedido de la IA", propone Fabián Cárdenas en la entrevista que concede a este dial. Asegura que la aplicación de la inteligencia artificial debe ser sometida a evaluaciones técnicas, con el fin de que se pueda "determinar la magnitud y el alcance de los daños en por lo menos tres pilares, en aspectos económicos, en aspectos sociales y en aspectos ambientales". Concluye al respecto que la responsabilidad debe estar liderado por los países líderes en la tecnología, algo en lo que coincide con Sierra, que al respecto asegura que deben limitar el desarrollo de las diferentes IA.
La UE ha determinado un reglamento básico para el uso de la IA; ¿qué puede replicar Sudamérica?
Cárdenas afirma que la Unión Europea tiene las capacidades para reglamentar de manera categórica el uso de la IA por parte de las empresas. Para la región, el consultor indica que puede iniciarse por pensar cuáles son los riesgos que la tecnología presenta para la sociedad y basado en ello pensar en normas y topes que contengan su avance en materias en los que la sociedad pueda correr riesgos.
Pero Sierra apunta a las necesidades de la región, por lo que asegura que no sería óptimo dejar las decisiones al respecto a otras regiones o continentes; de ocurrir esto, "nos quedaremos solamente con eh la oportunidad de repetir fórmulas que muchas veces, como hemos visto en la historia no han funcionado", advierte. Incentiva a además, el debate al respecto.
El impacto en derechos humanos, sesgos algorítmicos y medios de comunicación
Cárdenas se refiere a los derechos que más afectados se están viendo con el avance desenfrenado de la inteligencia artificial. Al respecto, señala que los derechos con más riesgos son: la libertad, la igualdad, la privacidad, el habeas data, los derechos de propiedad, en este caso sobre todo propiedad intelectual, el derecho al trabajo, el derecho a la salud".
Al respecto, Sierra habla sobre el derecho a la privacidad, recordando cómo las cámaras con IA pueden reconocer con facilidad a los individuos que percibe, pero también advierte que en la actualidad "las grandes compañías tecnológicas tienen acceso no solamente a nuestras imágenes, sino a todos los contenidos, nuestras formas de buscar información, nuestros nuestros datos personales", así controlan el consumo de cada individuo.
Asimismo, señala que los medios de comunicación también deben realizar una regulación en el uso de la IA, porque la inteligencia artificial está "misma formando las líneas de información y de opinión que se dan a nivel mundial; lo que es peligroso, porque "tenemos máquinas y algoritmos que están diseñando la forma cómo percibimos el mundo".
A nivel laboral, incluye que la IA limita el acceso al trabajo de las personas. De acuerdo con su interpretación para este dia, se debe "promover el trabajo de las personas con ayuda de la herramienta para el servicio de todos".