Cuando la IA cocina, que no te cierre la puerta
Una pequeña falla en el sitio web nos forzó a reflexionar con mayor profundidad: ¿qué pasa cuando la inteligencia artificial hace que la tecnología sea más fácil de usar, pero se vuelve más difícil de auditar y controlar?
El problema comenzó con una sola palabra: Huevos.
En nuestra página Acerca de en castellano, esa palabra debía aparecer en Malvinas Argentinas 26. Sin embargo, la página seguía mostrándola con una fuente de reemplazo.
Una vez resuelto ese conflicto, apareció un problema más profundo. El navegador intentó cargar la fuente Malvinas y nos informó que el archivo que había recibido estaba dañado. Nuestro archivo original estaba intacto, pero la versión que había pasado por el flujo de construcción asistido por IA ya no era idéntica.
Una prueba nos dio pistas de qué había pasado. Al parecer, la fuente había sido tratada como texto normal, en lugar de como un archivo informático especial.
Ahí apareció una lección de diseño más amplia.
El flujo de construcción que utilizábamos estaba centrado en la conversación. El usuario dice lo que quiere y la IA realiza gran parte del trabajo detrás de escena. Esto oculta la complejidad técnica y hace que el software sea más amigable y fácil de usar.
Pero la debilidad se hace evidente cuando algo sale mal.
Los usuarios pueden editar manualmente archivos de texto y códigos comunes en cierta medida, pero no siempre tienen acceso directo a todos los archivos que forman parte de la construcción de la web.
Un mejor modelo sería uno que mantiene la conveniencia de poder conversar con el agente sin que eso se convierta en la única manera de poder ejecutar acciones o acceder directamente a determinadas partes del sistema.
El usuario debería poder decir: “Pon esta fuente en la carpeta institucional”, y dejar que la IA haga el trabajo. Pero también debería poder ver el archivo, reemplazarlo, eliminarlo, confirmar que coincide con el original o inspeccionar el folder donde lo colocaron.
El tema de fondo puede simplificarse en que la IA debería permitirle al usuario delegar el trabajo sin que sea a cambio de perder el control.
Tal vez otra lección es que un sistema seguro y confiable no debería pedir que se confíe en él cuando existe evidencia que puede ser verificada directamente.
La inteligencia artificial debería hacer que la tecnología sea más fácil de entender y controlar sin quitarle el poder de decisión o soberanía a la persona que la utiliza.