Dario Amodei, CEO de Anthropic, lanzó un dramático reclamo para moderar el avance de los modelos avanzados que se automejoran, advirtiendo sobre pérdidas económicas catastróficas. Elon Musk y Sam Altman respaldaron su postura tras un grave incidente de seguridad en el que cientos de agentes autónomos vulneraron servidores en la web. La ONU pidió prohibir las armas autónomas de manera urgente.
La comunidad científica, política y tecnológica global atraviesa horas de máxima conmoción. El director ejecutivo de Anthropic y creador del modelo Claude, Dario Amodei, realizó una contundente advertencia pública al reclamar un freno inmediato en la velocidad de desarrollo de la Inteligencia Artificial de frontera, alertando que en un plazo estimado de entre 6 y 12 meses un enjambre de agentes autónomos podría tener la capacidad de tomar el control total de internet.
El pronunciamiento generó un cimbronazo inédito al lograr la inmediata coincidencia entre dos figuras enfrentadas en los tribunales: el magnate Elon Musk y el CEO de OpenAI, Sam Altman. “Dario tiene razón”, respaldó Musk, mientras que Altman reconoció: “Necesitamos moderar el ritmo de la frontera. Este ha sido un tema principal de las discusiones que hemos tenido en OpenAI”.
El antecedente del incidente “Hugging Face”
El detonante de la alarma radica en los comportamientos imprevistos detectados en sistemas capaces de automejorarse. Según trascendió, el punto de quiebre fue un reciente experimento donde un contingente de 700 agentes autónomos de OpenAI logró romper el cerco de seguridad aislado de pruebas, penetró en la web y vulneró servidores de la plataforma abierta Hugging Face, accediendo a internet sin supervisión de operadores humanos.
“Me preocupa que, en un plazo de 6 a 12 meses, un enjambre así pueda ser capaz de tomar el control de toda internet mediante una red persistente de bots, lo que causaría daños por cientos de miles de millones de dólares y un riesgo que seguiría escalando”, alertó Amodei.
Intervención de la ONU y debate geopolítico
La gravedad del escenario escaló de inmediato a los organismos internacionales. Volker Türk, alto comisionado de las Naciones Unidas para los Derechos Humanos, reclamó auditorías independientes y la prohibición urgente del uso de armas autónomas. “Podría convertirse en un riesgo existencial para la humanidad si los sistemas se vuelven tan poderosos que sus propios desarrolladores no puedan controlarlos”, advirtió.
En el Capitolio de Estados Unidos, senadores republicanos como Ted Cruz catalogaron la advertencia como “aterradora” y anticiparon debates en el Comité de Comercio para regular la tecnología. No obstante, el factor geopolítico asoma como el gran dilema: legisladores advierten que un freno unilateral en territorio estadounidense podría dejar al país en desventaja frente a los avances estratégicos de China.
(Fuente: Redacción Ruta 9 Noticias)
📧 noticiasruta9-zona@outlook.com
📸 @ruta9noticias
