La administración de Donald Trump ha decidido que las empresas de inteligencia artificial se autorregulen en materia de seguridad, un enfoque que genera escepticismo entre expertos y críticos. La medida, anunciada tras una reunión de directores ejecutivos del sector con el presidente, contrasta con las crecientes advertencias sobre los riesgos de la IA. Mientras tanto, la historia reciente ofrece una lección preocupante sobre los peligros de confiar en la buena voluntad de la industria.
Una lección del pasado
En 1966, casi 51,000 personas murieron en las carreteras de Estados Unidos. A pesar de que los cinturones de seguridad ya existían y podían salvar vidas, la industria automovilística no los incorporó voluntariamente. Fue necesaria la intervención del Congreso, que creó el Departamento de Transporte y aprobó leyes de seguridad vial. Para 1968, los cinturones eran obligatorios en todos los vehículos nuevos. Este episodio demuestra que la autorregulación rara vez funciona cuando están en juego intereses comerciales.
El acuerdo voluntario de las empresas de IA
El martes, varios directores ejecutivos de empresas de IA se reunieron con Trump y firmaron un acuerdo de seguridad. Según el presidente, el plan se basa en que las compañías se vigilen entre sí: “Van a vigilar, y se van a vigilar entre ellos, y van a autorregularse, se van a controlar a sí mismos. Va a funcionar muy bien”, declaró Trump en el Despacho Oval. Sin embargo, no está claro cómo se garantizará el cumplimiento ni qué consecuencias habrá por incumplir.
La iniciativa contrasta con las voces dentro del sector que piden normas claras y vinculantes. Bill Gates, por ejemplo, ha advertido sobre un posible apocalipsis de la IA. Otros ejecutivos han sugerido que se debe “marcar el ritmo de la frontera”, pero incluso si los principales laboratorios acordaran una desaceleración, no hay forma de verificar que cumplan su palabra, y China probablemente seguiría su propio camino.
Riesgos y desafíos
La economía estadounidense depende cada vez más de la IA, con inversiones y acuerdos financieros circulares que crean una burbuja difícil de sostener. Cualquier restricción significativa podría desestabilizar no solo a Silicon Valley, sino a todo el país. Además, no existe un equivalente al cinturón de seguridad para la IA: no hay una solución simple que reduzca el riesgo de manera demostrable. Los daños potenciales son difíciles de cuantificar, y las predicciones van desde la extinción humana hasta el simple marketing de ciencia ficción.
Un informe reciente de CNN reveló que el ejército estadounidense estuvo a punto de abordar un barco chino debido a un informe falso generado por IA que indicaba que transportaba material nuclear. Este incidente plantea dudas sobre si el acuerdo voluntario puede prevenir situaciones similares. La administración Trump sugiere que el Departamento de Justicia y el FBI son suficientes como barreras de seguridad, pero no está claro si las empresas de IA pueden ser consideradas legalmente responsables cuando sus modelos causan daños.
La ausencia de un marco regulatorio
Hasta ahora, nadie sabe cómo garantizar la seguridad de la IA. Se requiere una enorme coordinación, recursos y autoridad regulatoria para desarrollar un marco adecuado y hacerlo cumplir, algo para lo que los gobiernos están diseñados. En lugar de abordar estos desafíos, la administración Trump se aparta y pide acelerar el desarrollo. El freno, por ahora, no está a la vista.
OpenAI ha retrasado o cancelado lanzamientos de modelos avanzados por motivos de seguridad, pero también ha sufrido ataques informáticos cuyos detalles siguen saliendo a la luz. La pregunta sigue siendo si la autorregulación es suficiente o si, como en el caso de los automóviles, se necesitará una intervención regulatoria contundente para evitar tragedias.