Aquí tienes una interesante lección de historia. Y no te preocupes, será breve. En 1966, casi 51,000 personas fallecieron en las carreteras de EE UU. Las pruebas abrumadoras sugerían que se podrían haber salvado muchas vidas con los modernos cinturones de seguridad, que por entonces ya llevaban varios años en el mercado. La industria automovilística respondió uniendo fuerzas y, en un triunfo de la autorregulación, incorporó voluntariamente este dispositivo de seguridad en todos los vehículos nuevos que salían de la cadena de montaje.
Es broma. Por supuesto que no hicieron eso. En otoño de 1966, el congreso creó el Departamento de Transporte y, a continuación, aprobó la Ley Nacional de Seguridad Vial y de Vehículos de Motor, así como la Ley de Seguridad en las Carreteras. Eso otorgó al gobierno federal una nueva y amplia autoridad para establecer normas de seguridad. En 1968, los cinturones ya eran obligatorios en todos los autos nuevos. A pesar del enorme aumento del tráfico en las autopistas en los últimos 60 años, hoy en día se producen muchas menos muertes en la carretera.
¿Qué podría salir mal?
Estaba pensando en esto mientras veía cómo varios directores ejecutivos de empresas de IA se reunían el martes en torno al presidente de EE UU, Donald Trump, felicitándose a sí mismos por haber firmado un acuerdo de seguridad sobre la IA. Mi colega Maddy Varner escribió sobre las estipulaciones específicas, pero, en resumen, depende en gran medida de los propios laboratorios de IA que se controlen a sí mismos.
O, como lo expresó Trump de forma aún más sucinta el miércoles en el Despacho Oval: “Van a vigilar, y se van a vigilar entre ellos, y van a autorregularse, se van a controlar a sí mismos. Va a funcionar muy bien”.
Así pues, este es el estado actual de la regulación de la seguridad de la inteligencia artificial. Por un lado están los ejecutivos del sector, los empleados y las figuras destacadas del mundo tecnológico, quienes aseguran que es necesario introducir normas claras, meditadas y tácticas para evitar un posible desastre. Bill Gates, por ejemplo, ha protagonizado una campaña mediática en la que advierte sobre un apocalipsis de la IA. Por otro lado, está el pensamiento mágico de Trump: si se repite algo suficientes veces, tiene que ser cierto.
Esto no quiere decir que nada de esto sea sencillo ni fácil. La cuestión de cómo “marcar el ritmo de la frontera” adecuadamente, como les gusta decir a algunos de esos mismos ejecutivos, sigue abierta. Incluso si todos los principales laboratorios de IA acordaran una desaceleración, no hay una forma eficaz de garantizar que cumplan su palabra, y es probable que China siguiera su propio camino de todos modos. La economía estadounidense se sustenta cada vez más en el sector de la IA, que se ha convertido en una serpiente que se muerde la cola; acuerdos financieros e inversiones circulares. Cualquier medida restrictiva significativa conlleva el riesgo de una gran inestabilidad que trascienda con creces los límites de Silicon Valley.
La IA no tiene cinturón de seguridad
Hay que reconocer que la industria automovilística es también una analogía imperfecta por todo tipo de razones. No existe un equivalente al cinturón de seguridad para la IA, ni una solución sencilla que pueda reducir de forma demostrable el riesgo de la noche a la mañana. Además, se tardó décadas en que la mayoría de los estados aprobaran leyes que obligaran a la gente a llevarlos puestos. Los posibles daños son menos evidentes y menos cuantificables. Los catastrofistas de la IA te dirán que la tecnología podría provocar la extinción de la humanidad en una década; los escépticos sostienen que eso no es más que palabrería de marketing propia de la ciencia ficción.
Ya hemos hablado antes de diversos escenarios de riesgo relacionados con la IA, pero nadie puede afirmar con certeza qué va a pasar a continuación. Si buscas datos para calcular tu propia probabilidad personal de “fin del mundo”, te remito a un informe reciente de CNN sobre cómo, al parecer, el ejército estadounidense estuvo a punto de abordar un barco chino, en parte porque un informe falso generado por IA indicaba que transportaba material nuclear. ¿Qué aporta, si es que aporta algo, el acuerdo sobre la IA para evitar que se produzcan incidentes similares en el futuro? No está claro.
