La IA es una lupa

Aunque lo mío es la Humanocentria en proyectos tecnológicos, tengo una mente curiosa, entrenada para cuestionarlo todo, y desde ahí escribo; porque he notado un patrón en todos los acontecimientos que hemos vivido este mes.
Ayer, mientras leía el Wired, me llamó la atención, tras una semana de caídas de sistemas en Estados Unidos, como decían que cualquiera podía perdonarse la sospecha de que había llegado una ciberguerra digna de una película de Hollywood.

Como psicóloga social puedo ver todo este pánico como una reacción humana: cuando algo falla, buscamos un villano. Pero, estoy convencida de que la IA no crea los problemas; los pone en evidencia

Cuando una empresa incorpora IA, y algo empieza a fallar, la tentación es culpar a la herramienta. Pero, con frecuencia lo que aparece es un problema que llevaba tiempo escondido, sea por falta de gestión o porque es tan complejo resolverlo, que han preferido taparlo con soluciones temporales.

¿Qué suele salir a la luz? Primero, grietas en la seguridad cibernética: accesos que nadie revisa, contraseñas compartidas, sistemas sin actualizar. Segundo, cuellos de botella en el flujo de información: datos dispersos en varias hojas de cálculo, aprobaciones que dependen de una sola persona. Tercero, fallas en las operaciones: procesos que funcionaban gracias al esfuerzo heroico de alguien y no a un diseño sólido.

La IA necesita información ordenada, procesos claros y accesos bien definidos para trabajar bien. Si no los encuentra, se “tranca” y nos muestra lo que estamos haciendo mal, comportándose de manera errática. Uno de los aprendizajes que más he interiorizado del Project Management (PMI) es la mitigación o prevención de riesgos. Y esa preparación se construye antes de la crisis, no durante.

Sin ser experta en IA, (Aunque estoy involucrada en proyectos que la usan , como QCobro y Fonoster-TelefonIA) les aseguro que una IA bien implementada funciona como un chequeo médico: puede darnos noticias que no esperábamos, pero nos permite actuar a tiempo, antes de que el síntoma se convierta en emergencia. Pienso que estas últimas semanas nos han dejado una gran lección, y es que antes de gritar «ciberataque», conviene preguntarse con calma qué ocurrió realmente.

En República Dominicana, donde la digitalización avanza en bancos, comercios y servicios públicos, esta reflexión es especialmente oportuna, ya que veo el “hype” por la IA, pero, qué tal si vemos esto como una oportunidad de auditar los procesos, antes de embarcarse en proyectos cuantiosos, soportados por IA. Debemos cambiar la pregunta; en lugar de «¿qué problema nos trajo la IA?», preguntemos «¿qué nos está mostrando que ya estaba ahí?».

Antes de implementar IA auditemos nuestros procesos, qué tan saludable está tu data, cómo andan los controles y la seguridad cibernética. Y, para mí lo más importante: qué tan honesto está siendo tu equipo en el reporte de problemas y baches internos. Siempre digo que las personas son la parte más importante.

Posted in OpinionesEtiquetas

Más de opiniones

Más leídas de opiniones

Las Más leídas