Implementar adecuadas políticas internas frena sesgos de la IA

J. L. Revilla, solutions specialist de Microsoft, recomienda políticas de gobernabilidad al interior de las organizaciones para conseguir un conveniente manejo de la data, en beneficio del negocio. La sobreabundancia de información desestructurada genera complicaciones y riesgos, resaltó

Las empresas en la actualidad trabajan con múltiples plataformas, incluidas varias nubes, con flujos de datos muy complejos que requieren pasar un filtro, consolidarse y ser ordenados. Datos estructurados y no estructurados, cruzados de muchas fuentes y no todo confiables.

Sin una política de gobernabilidad adecuada todos los usuarios tendrán información diferente o no sabrán donde encontrarla y perderán tiempo cuadrando números, advirtió J. L. Revilla, solutions specialist de Microsoft, durante su presentación en el webinar sobre Gobierno Digital organizado por AmCham la semana pasada.

“No importa si gastas en el ERP más grande: igual los usuarios terminan exportando datos a un Excel para hacer sus reportes”, advierte. ¿Cuál es el problema? Que se hace lo mismo para distintos programas, generando nuevos datos. Además, está lo que se reporta en cada máquina de planta, los sensores en el almacén, las cámaras, los POS, y un largo abanico de fuentes de información que viene en diferentes idiomas.

“Se necesita manejar calidad de data privacidad, una política de retención y linaje, para saber de dónde vino ese dato, qué afecta y hacia dónde se dirige. Se necesitan criterios claros de clasificación de la data sensible”

El tema no es la tecnología que se adquiere, añadió, sino las políticas y procesos definidos para guardar la información correcta, destruir la que no sirve y darle acceso solo a quien le corresponde. Las organizaciones necesitan una cultura de toma de decisiones sobre los datos, formas adecuadas de buscarlos y saber plantearse las preguntas adecuadas para resolver los desafíos que implica el manejo del ciclo del dato, remarcó.

“Cuando hablamos hoy de la data no solo es la transaccional, sino todo el flujo que sigue, para entender su pasado y su impacto. La idea es entender lo que la causa, sí, pero donde realmente obtiene valor es en el futuro. ¿Cómo la analizo y que modelo de previsión hago?”, señaló.

La Inteligencia Artificial hoy permite a las empresas predecir lo que podría suceder y puede ser útil más allá de la misma organización, comentó. Como ejemplo citó a una farmacéutica que predecía cuando se vendría un quiebre de stock de un medicamento en particular. Se dieron cuenta que eso significaba que podían saber de qué se iba a enfermar la gente con unos días de anticipación y le ofrecieron al Gobierno darle esa predicción para prepararse.

Otro ejemplo citado es el de una compañía de autos que tienen casi 200 sensores que trasmiten en tiempo real a la nube cuando pasan un bache. Ellos lo usan para predecir y programar citas al taller, pero también conocen el estado de las pistas y eso les permite venderle al Gobierno el detalle de qué pistas están con desperfectos, para que puedan arreglarlas.

El problema, advirtió, es que todos estos sistemas de IA y ML son creados por personas que trasladan sus propios sesgos al programa creado, explicó J. L. Revilla. Por ejemplo, dijo, hay muchos sistemas de visión computarizada y reconocimiento facial que funciona con gente blanca, porque fueron entrenados con personas de dichas características. O sistemas de patrullaje que mandan a la policía a las zonas más peligrosas y no se llega a reportar y atender los crímenes en otras zonas.

Cada vez vemos más innovación, pero cada organización debe ser responsable sobre el uso del dato, los sesgos que pueden existir y cómo fueron programados los algoritmos, remarcó.  Es necesario entender el impacto que tendrá el uso de los datos y de la IA que los procesa. Y eso parte de las políticas de la organización, los comités de seguridad y todo el trabajo que se hace para cuidar la fuente del dato y el uso que se le dará. “Imposible tener un uso responsable si no hay una política y cultura adecuada en la organización”, remarcó. 

ÚLTIMAS NOTICIAS

Medidas para frenar venta informal móvil impacta al mercado | eBIZ Noticias
Más allá del incidente: cómo proteger la identidad digital que custodia RENIEC | eBIZ Noticias
Movida estratégica: Netflix comprará Warner Bros y HBO | eBIZ Noticias
Arca Continental lleva la IA a las bodegas | eBIZ Noticias
2026: un año de inflexión en ciberseguridad | eBIZ Noticias
Durante el evento "La Ruta ZIS Perú: Transformación que trasciende" se destacaron los casos de éxito de 21 empresas del sector industrial de Lima y Callao | eBIZ Noticias

NOTICIAS RELACIONADAS

Medidas para frenar venta informal móvil impacta al mercado

Activaciones de nuevas líneas móviles se reduce en 27% tras un mes de adoptarse medidas dispuestas por el Osiptel para evitar la venta ambulatoria de chips. Además, se culminará el año con el bloqueo de 2,5 millones de equipos que no están en la lista blanca y se tomarán medidas para frenar mal uso de billeteras móviles.

Leer más »