Paren con la inteligencia artificial o vamos a perder el control de nuestra civilización

Alex Trebek, conductor del programa de preguntas y respuestas Jeopardy!, junto a Ken Jennings y Brad Rutter, participantes humanos; en el medio, Watson, el sistema de aprendizaje automático de IBM que en 2011 ganó la competencia y se alzó con 1 millón de dólares

En 1899, Charles Duell era el comisionado de la Oficina de Patentes de Estados Unidos. Se le atribuye, con malicia y sin pruebas, el haber sugerido que esa repartición estatal pronto se iría achicando hasta eventualmente desaparecer, porque, dicen que dijo Duell, "todo lo que puede inventarse ya ha sido inventado" .

Duell nunca dijo nada así. Más bien, lo contrario. Esa frase delirante salió, todo indica, en una revista de humor. En una edición de 1899, la inglesa Punch publicó una broma basada en la idea de que todo lo que se podía inventar ya había sido inventado. Aunque colocaba esa instancia en el futuro.

Por algún motivo, la anécdota me vino a la cabeza cuando leí la carta que firmaron la semana pasada un número de personas pidiendo que se suspenda durante seis meses el entrenamiento de los grandes modelos de lenguaje (LLM, por sus siglas en inglés). Aparte de cualquier otra consideración, y solo como aperitivo, ¿por qué al menos seis meses y no al menos dos años? ¿Año y medio? ¿Ocho meses? ¿Es negociable?

El texto está diseñado para pegar fuerte, y lo consiguió (aunque el vapor, fiel a su naturaleza, se desvaneció rápido). Pero contiene un número sospechoso de vaguedades y una muy tendenciosa selección de documentación probatoria. Por ejemplo, es cierto que la IA le ha ganado a los humanos al ajedrez y al go, pero la carta se abstiene de mencionar la noticia de que en febrero un humano le ganó 14 de 15 juegos de go a la IA , y que lo hizo explotando un rasgo humano que las máquinas no tienen: la picardía . Tampoco menciona, la carta abierta, la sólida refutación que hizo Kevin Kelly desde las páginas de Wired sobre el mito de una inteligencia artificial sobrehumana .

El maestro de go Ke Jie compite contra AlphaGo, en 2017. Ganó la IA, pero estos días otro jugador encontró un punto ciego en los algoritmos y el humano le ganó a la máquina 14 partidas de 15

La carta, según se dijo, estaba firmada "por 1000 expertos" . En realidad, como es una carta abierta, la puede firmar cualquier persona, y en ese listado no todos son nombres brillosos, como Yuval Harari , o asociados a la industria de la inteligencia artificial, como Elon Musk . Hay de todo. Por eso, decir que "más de 1000 expertos piden que se suspendan las investigaciones en inteligencia artificial" es un poco forzado. Además, es incorrecto; la carta no dice eso. A propósito, dos semanas después, la carta cosecha algo más de 16.000 firmas. Nada, para los estándares de casi cualquier petición en la Red.

Inviable

Dejando de lado la intención de volverse viral ("paren todo, que se viene el fin del mundo") , hay otros problemas con el planteo de esta petición, incluido el concepto mismo de "carta abierta" , que suena a situación de crisis terminal. Crisis terminal que ni existe; es más, ChatGPT ha demostrado que es bueno para hablar, pero no le sale bien fingir el cuento del tío .

El primero es que lo que piden no se puede aplicar. Todo bien, los entiendo si tienen miedo, y creo que es un miedo muy justificado, aunque también creo que...