Por: Eduardo Rivera S.
CEO de Global Media Investment
Como director de una empresa tecnológica he aprendido que la innovación no se mide solo por lo que una herramienta puede hacer, sino por la confianza que genera en quienes la usan. En Global Media Investment trabajamos con inteligencia artificial (IA) para resolver problemas complejos en sectores como comercio, análisis de datos, turismo y servicios personalizados. Sin embargo, nunca hemos perdido de vista que cualquier desarrollo tecnológico necesita gestionarse de manera ética y transparente para generar valor real.
Es aquí donde entra el concepto de AI TRiSM (AI Trust, Risk, and Security Management), el cual combina gestión de riesgos, seguridad, ética y transparencia en el desarrollo de sistemas de inteligencia artificial. Para nosotros, AI TRiSM va más allá de ser un conjunto de reglas, representa una práctica diaria que aplicamos en todos nuestros proyectos.
Los pilares de AI TRiSM van mucho más allá de la seguridad
AI TRiSM no se trata solo de evitar riesgos técnicos, implica gestionar cada aspecto del desarrollo de la IA para garantizar que el sistema sea justo, seguro y ético. Desde nuestra experiencia, estos son los pilares esenciales que toda empresa debería aplicar:
- Transparencia: Explicar cómo funcionan los modelos y qué datos se utilizan.
- Responsabilidad: Asegurar que los sistemas puedan auditarse y corregirse en caso de errores.
- Seguridad: Proteger los datos y prevenir ataques cibernéticos.
- Gestión de privacidad: Cumplir con las normativas de protección de datos como el GDPR y las leyes locales.
- Ética y equidad: Minimizar sesgos y garantizar resultados justos para todos los usuarios.
Estos principios no son conceptos abstractos; son herramientas prácticas que aplicamos en proyectos de análisis de datos, predicciones de mercado y automatización de procesos. Adoptarlos, desde luego, ha significado invertir tiempo y recursos en auditorías internas y desarrollo continuo, pero los beneficios superan con creces el esfuerzo.
Los riesgos de ignorar la confianza en la IA
Ignorar estos principios puede tener consecuencias graves. Hemos visto ejemplos de empresas que enfrentan problemas legales y pérdida de reputación debido a fallas en sus sistemas de IA. Desde modelos discriminatorios en evaluaciones crediticias hasta algoritmos sesgados en procesos de contratación, los casos de mala gestión de IA son un recordatorio constante de la importancia de AI TRiSM.
En 2018, seguí de cerca el caso de Amazon, cuando su sistema de reclutamiento basado en inteligencia artificial mostró un sesgo de género preocupante. El algoritmo penalizaba automáticamente currículos que contenían palabras como “mujer” o términos asociados a actividades femeninas, debido a que fue entrenado con datos históricos donde predominaban perfiles masculinos. Desde mi experiencia liderando desarrollos tecnológicos, sé que este tipo de errores no son fallas técnicas simples, sino consecuencias de no aplicar una gestión adecuada de datos y auditorías constantes.
Algo similar ocurrió en 2019 con Apple y su tarjeta de crédito Apple Card, desarrollada en colaboración con Goldman Sachs. El sistema fue acusado de otorgar límites de crédito visiblemente más bajos a mujeres en comparación con hombres, incluso cuando compartían perfiles financieros similares. Como empresario, entiendo que gestionar riesgos y supervisar algoritmos no es opcional. La falta de controles adecuados puede afectar la confianza de los clientes y dañar la reputación de una marca de manera irreversible. Ambos casos nos recuerdan que la tecnología más avanzada requiere una gestión ética y transparente.
En nuestro sector, no solo competimos por resultados tecnológicos, sino también por la confianza del mercado. Cada proyecto que desarrollamos lleva consigo el compromiso de ser transparente y justo, porque entendemos que la tecnología no solo cambia negocios, sino también vidas.
Una oportunidad para México
En México, el desarrollo de tecnologías basadas en IA está creciendo rápidamente, pero la regulación aún está en proceso. La reciente propuesta de la Ley de Protección de Datos Digitales es un paso importante, pero aún falta definir estándares específicos para la inteligencia artificial.
En Global Media Investment creemos que las empresas deben adelantarse a la regulación adoptando prácticas de AI TRiSM antes de que sean obligatorias. Esto no solo mejora su competitividad, sino que también garantiza un crecimiento tecnológico responsable.
Para nosotros, AI TRiSM no implica solo cumplir con requisitos legales, sino liderar con ética y visión. La inteligencia artificial puede transformar industrias, pero solo si se gestiona con integridad y propósito.
El futuro de la inteligencia artificial no está solo en sus capacidades técnicas, sino en la manera en que elegimos gestionarlas. AI TRiSM es una oportunidad para liderar esa transformación con transparencia y responsabilidad. Y en Global Media Investment, estamos decididos a estar a la vanguardia de ese cambio.
