Dario Amodei, CEO de Anthropic, ha solicitado que se frene el ritmo de desarrollo de la inteligencia artificial (IA). A lo largo de los años, los líderes de la industria han emitido advertencias sobre las amenazas existenciales que representa la IA. En noviembre de 2023, asistí a la primera cumbre mundial sobre seguridad en IA en Bletchley Park, donde se discutieron los peligros más serios que podrían surgir de los modelos de IA más potentes. En ese momento, muchos consideraban que estas preocupaciones eran propias de la ciencia ficción, mientras que los riesgos más inmediatos parecían ser la pérdida de empleos y el fraude en exámenes. Sin embargo, tres años después, las voces que antes minimizaban el riesgo ahora parecen dudar.
El sábado, Amodei instó a que se desacelere el desarrollo, y los líderes de dos empresas rivales, Sam Altman de OpenAI y Elon Musk, expresaron su acuerdo con él. Por su parte, Jacob Coxon, un investigador de IA que renunció a Anthropic, comentó a la BBC que los empleados que desarrollaban estos sistemas estaban "genuinamente asustados" por el futuro de la humanidad. Este coro de voces serias que piden una desaceleración plantea un dilema, ya que aunque puede parecer una solución rápida, no es fácil de implementar.
Estados Unidos es ampliamente percibido como temeroso de perder la carrera por construir la IA más poderosa frente a China. El domingo, el expresidente Trump dejó claras sus opiniones, afirmando que Estados Unidos estaba por delante de China en esta carrera y declarando: "Quien gane en IA, gana". China no es conocida por conformarse con el segundo lugar. Las personas con las que hablo coinciden en que, incluso si su empresa decide pausar el desarrollo, otras no lo harán y quedarán rezagadas. Esto recuerda a la época de la campaña por el desarme nuclear, donde el problema era que nadie quería ser el primero en detenerse.
También surge la pregunta de cómo se podría hacer cumplir una desaceleración. ¿Quién se encargaría de supervisar esto? ¿Confiaríamos en que las empresas de IA fueran transparentes sobre sus acciones y, lo que es más importante, sobre lo que deciden no hacer? Esto requeriría un nivel de confianza que, argumentan muchos, la industria tecnológica nunca ha logrado. Aunque Amodei propuso un plan de tres puntos que incluye la supervisión independiente de los modelos de IA en desarrollo, regulación a nivel industrial y regulación global, algunos observadores cuestionan cómo funcionaría esto en la práctica.
"Nadie ha dado una explicación sustantiva de lo que significa 'desaceleración'", afirmó Ed Zitron, CEO de EZ Primary Research. "¿Colocar una planta de METR, de donde proviene uno de los que renunció a Anthropic, en cada empresa de IA? ¿Coordinación democrática y global? No significa nada para mí". Zitron advirtió que detener el entrenamiento de modelos de IA dejaría a las empresas vulnerables ante rivales chinos. "Sus márgenes podrían mejorar, pero sus productos quedarían atrapados en ámbar y destilados por laboratorios chinos. Podrían tener que cambiar sus precios. Realmente no sé cómo funciona todo esto.
"Esto podría hacer estallar la burbuja. Pero en este momento, estamos muy escasos de lo que significa una 'desaceleración'". En el Reino Unido, se han escuchado planes para implementar la tecnología de manera más amplia dentro del NHS para mejorar la atención al paciente, y se ha destacado cómo la IA dio un impulso necesario a la economía británica durante el verano. Se nos está animando a utilizarla cada vez más en el trabajo, la educación y nuestras vidas personales. La industria es una parte clave de la estrategia del Reino Unido para impulsar el crecimiento económico. "No hay un plan B", me dijo un exasesor del gobierno, por lo que una desaceleración podría arruinar el futuro.
