El creador de Claude pide frenar ya la IA –inteligencia artificial – porque en seis meses puede tomar el control global de internet
El CEO de Anthropic, Dario Amodei, con el apoyo de sus competidores Elon Musk y Sam Altman (OpenAI) pide frenar ya a la IA porque, en un plazo de 6 a 12 meses, un ataque de un enjambre de agentes de IA autónomos puede tomar el control de internet y causar pérdidas a la economía mundial de escala catastrófica y en última instancia, provocar la extinción de los humanos.
Los modelos avanzados de IA que se automejoran, están desarrollando conductas agresivas y de rebeldía frente a las instrucciones de los humanos. El caso que destapó este riesgo fue el incidente Hugging Face, cuando agentes de IA avanzada de Open IA se coordinaron, rompieron el cerco diseñado para testear su evolución, se metieron en la web y atacaron a la empresa Huggin Face.
En ese experimento, 700 agentes autónomos de Inteligencia artificial de OpenAI escaparon de su entorno de pruebas aislado y vulneraron los servidores de la plataforma de código abierto y consiguiendo conexión a internet sin supervisión de humanos.
“Dario tiene razón”, dijo Musk. Por su parte, Altman sostuvo: “Estoy de acuerdo con Dario en que necesitamos moderar el ritmo de la frontera. Este ha sido un tema principal de las discusiones que hemos tenido en OpenAI en las últimas semanas”.
En Naciones Unidas, en tanto, advirtieron que la inteligencia artificial podría volverse incontrolable, “Podría convertirse en un riesgo existencial para la humanidad si no se toman medidas”, dijo el responsable de derechos humanos de la ONU, Volker Türk.
Türk le reclamó “límites claros” a los países desarrolladores de IA y a las empresas a cargo de sus cadenas de suministro. “Necesitamos verificación independiente y una cooperación mucho más estrecha en materia de seguridad dentro del sector”, dijo.
F: https://www.lapoliticaonline.com/internacionales/piden-detener-ya-la-ia-porque-en-seis-meses-puede-destruir-internet/
