Hay algo particularmente interesante en la discusión actual sobre inteligencia artificial: mientras nosotros seguimos preguntándonos quién debería controlar a la IA, quienes construyen las herramientas ya comenzaron a discutir entre ellos cómo deberían controlarse.

El acuerdo anunciado en la Casa Blanca entre el gobierno de Estados Unidos y algunas de las principales empresas de inteligencia artificial coloca esa discusión en un terreno mucho más concreto. El pacto establece compromisos voluntarios para que las compañías mantengan controles internos, recurran a auditorías externas y creen mecanismos dentro de sus propios consejos de administración para revisar los resultados de esas evaluaciones.

Sobre el papel, parece una respuesta lógica a una tecnología que crece más rápido que nuestra capacidad para comprenderla, pero ¿quién controla a los que se están controlando a sí mismos?

Y aquí regresamos a una idea que hemos repetido en otras ocasiones. La inteligencia artificial no es una herramienta que pueda simplemente apagarse porque alguien decidió que representa un riesgo. Ya está incorporada a nuestras vidas y a la forma en que millones de personas buscan información. La discusión dejó de ser si la vamos a utilizar: ahora es qué vamos a hacer mientras aprendemos a vivir con ella.

Por eso resulta interesante que la respuesta empiece precisamente por la autorregulación.

Las empresas que desarrollan los modelos conocen mejor que nadie las capacidades de sus sistemas, los riesgos que detectan y las limitaciones de sus propias herramientas. Pero también tienen un interés evidente en continuar desarrollándolas.

Y sí, no hace falta asumir malas intenciones para reconocer la contradicción: pedirle a una industria que establezca sus propios límites significa confiar en que sus intereses de seguridad, responsabilidad y crecimiento podrán convivir cuando llegue el momento de decidir si un modelo debe avanzar, detenerse o modificarse.

El acuerdo intenta resolver esa contradicción con varias capas de control. Las compañías deberán mantener controles internos, trabajar con evaluadores externos y establecer comités en sus consejos para revisar los resultados. Pero el documento es voluntario y no establece por ahora un mecanismo legal de sanción.

Y quizá ahí está la parte más importante de todo esto: estamos intentando construir las reglas de una tecnología que todavía cambia mientras escribimos esas mismas reglas.

Hace unos años la preocupación era que la inteligencia artificial pudiera equivocarse al responder una pregunta. Hoy hablamos de sistemas capaces de ejecutar tareas durante periodos prolongados, utilizar herramientas, acceder a sistemas y realizar actividades cada vez más complejas.

Ya no hablamos solamente de si una IA puede inventar una respuesta o producir una imagen falsa. Hablamos de qué sucede cuando una herramienta tiene suficiente autonomía para actuar, encontrar una salida a una restricción o ejecutar una cadena de acciones cuyo resultado no estaba previsto exactamente por quien la utilizó.

Y entonces aparece nuevamente nuestra vieja contradicción: queremos que la IA sea suficientemente poderosa para resolver problemas que nosotros no podemos resolver con facilidad, pero queremos que permanezca perfectamente limitada cuando nosotros decidamos que llegó demasiado lejos. El problema es que la tecnología no entiende nuestras contradicciones; pero nosotros sí.

Por eso la regulación puede ser necesaria, pero difícilmente será suficiente. Una ley puede establecer responsabilidades, pero ninguna de esas medidas sustituye la necesidad de que quienes desarrollan, venden y utilizan inteligencia artificial sepan qué están haciendo.

Y aquí aparece el otro gran problema: no solamente necesitamos controlar a las empresas que construyen IA. Necesitamos formar a las personas que van a convivir con ella.

De poco sirve tener el modelo más auditado del mundo si el usuario acepta cada respuesta como verdad. De poco sirve una política de seguridad sofisticada si alguien utiliza una herramienta sin entender sus alcances. Y de poco sirve discutir quién vigila al algoritmo si millones de personas están dispuestas a entregarle decisiones personales, profesionales o informativas sin cuestionar sus resultados.

La autorregulación empresarial puede ser una pieza de ese sistema. No debería confundirse, sin embargo, con la idea de que el problema ya quedó resuelto.

Porque la IA también está aprendiendo, en términos prácticos, dónde están nuestros límites. Y si nosotros no sabemos cuáles son, difícilmente podremos explicarle a una máquina dónde debe detenerse.