Que dice Anthropic, la startup de IA más valiosa del mundo, que tal vez sea mejor bajarle al ritmo de desarrollo.
Y no es el único.
Primero: Anthropic pidió en un blog que los grandes laboratorios de desarrollo consideren bajarle al ritmo, todos a la vez.
¿Por qué tanto drama? Por lo que llaman auto-mejora recursiva, es decir, el punto en que la IA aprende a hacerse más lista ella sola, sin que ningún humano la ayude.
Y agárrate, porque hay drama: uno de sus fundadores le pone fecha. Dice que ese salto, la IA mejorándose sola, llegará en menos de dos años.
Hay quien dice que todo esto es una estrategia.
David Sacks, asesor informal de Trump, los acusa de captura regulatoria: usar la alarma para frenar a los rivales.
Pero no fue la única alerta.
También esta semana, el Journal reportó en exclusiva que Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind) y los jefes de IA de Microsoft y Meta firmaron una carta al Congreso de Estados Unidos. Y lo que piden es curioso: una ley que obligue a filtrar a quien compre ADN y ARN sintético.
¿Por qué?
Porque es el material con el que hoy se imprimen secuencias genéticas a la medida.
El miedo es simple: que una persona con secuencias genéticas pueda relativamente fácil usar IA para diseñar un patógeno nuevo.
Porque, en el fondo, todas las empresas de IA dicen que las barreras de conocimiento que durante décadas frenaron a los malos se están borrando rápido.
¿Por qué importa?
Si usas IA en tu empresa, toma nota: los que te la venden son los mismos que dudan de qué tan rápido conviene soltarla.
La herramienta que adoptas hoy corre más rápido que las reglas que la rodean.
La empresa que más advierte del peligro es también la más valiosa del negocio. O sea que el miedo y la valuación no se pelean, conviven.
