Carlos Hornelas
carlos.hornelas@gmail.com
El 21 de marzo de este año, la ONU emitió una resolución en pos de la regulación de la Inteligencia Artificial. Dicho documento pretende velar y prevenir que los derechos humanos no sean vulnerados en detrimento de la población usuaria de sus servicios.
De acuerdo con esta resolución, los sistemas de IA deben ser seguros, trazables, transparentes, no discriminatorios y amigables con el medio ambiente.
En lo que refiere a seguridad, se pretende prevenir y hacer un uso responsable de esta herramienta. Para tal efecto, debe quedar totalmente claro cada uno de los riesgos y vulnerabilidades que implica su uso.
En ese orden de ideas, se destaca que toda IA debe ser supervisada en todo momento por un ser humano y hacer consciente al usuario de que las decisiones que tome a partir de los resultados obtenidos pueden contener algunos sesgos derivados de los algoritmos utilizados durante el procesamiento de datos, de manera que no deposite ni toda la confianza ni toda la responsabilidad de sus acciones a dicha herramienta como coartada por un uso indebido o malicioso, o que reemplace el expertise de un profesional en su área de especialización. Asimismo, debe enterarse al usuario acerca de que interactúa con un agente de IA cuando sea el caso.
La trazabilidad se refiere a que el proceso de entrenamiento y funcionamiento de los modelos de IA esté plenamente documentado y guarde un seguimiento pormenorizado sobre su evolución, hitos y avances de manera sistemática y pueda ser consultado por los usuarios. Esto incluye identificar tanto los datos utilizados como los algoritmos que siguen para llegar a sus resultados.
Por transparencia, se entiende que el origen de los datos con los que ha sido entrenada la inteligencia artificial sean claros y se pueda evaluar la calidad de los mismos, el tipo de compensación para quienes cedieron la información, así como los detalles respecto a las limitaciones del sistema como los posibles sesgos en la programación o la manera en la que se procesan los resultados de salida. Al usuario debe quedarle perfectamente claro lo que la IA puede hacer y aquello que no.
La transparencia incluye no solamente aspectos de programación sino también sobre los recursos técnicos usados para brindar el servicio, el cumplimiento con las normas relativas a derecho de autor, privacidad, protección de datos personales, ciberseguridad y limitaciones del modelo matemático utilizado. En lo que respecta a la no discriminación, deben establecerse mecanismos mediante los cuales los beneficios de esta tecnología estén disponibles en condiciones de equidad a toda la población. Además del acceso, será necesario asegurarse que las políticas sobre cuestiones públicas no sean tomadas con base en operaciones automatizadas de resultados que impliquen un tratamiento desigual entre los miembros de una determinada comunidad sin el consentimiento de quienes pueden resultar afectados. Y, por último, debe tomarse en cuenta el menor impacto ambiental para la operación de esta tecnología, sin afectar de manera significativa los recursos naturales. Sin duda alguna, todavía estamos en la fase inicial de implementación y tenemos mucho camino por recorrer.
