El debate sobre el uso responsable de los modelos de IA ha llegado a un nuevo punto de inflexión. Evan Hubinger, un exingeniero de OpenAI y Google que, actualmente, trabaja en Anthropic, advirtió en sus redes, el pasado 8 de septiembre, que “las personas que están construyendo a la IA” consideran que dichos avances tienen más del 10% de probabilidad de extinguir a los seres humanos en la próxima década.
Te podría interesar:
La declaración la realizó en respuesta a un hilo de X, publicado el 8 de septiembre, donde un excompañero de Anthropic, Jacob Coxon, anunció su renuncia de la compañía. Protesta que “(Anthropic y OpenAI) Se encuentran en una carrera para crear una superinteligencia capaz de automejorarse, juegan con nuestras vidas”. Pide no desestimar el progreso de dicha tecnología, explica, “Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana, adquirir poder y recursos reales. Todos hemos sido testigos del avance en cada uno de estos ámbitos y el progreso no para”.
Sin embargo, admite que aún siente optimismo y espera que se aproveche el potencial para coordinar acciones preventivas, de todas maneras, no cree que se esté haciendo suficiente para detener el progreso acelerado de la inteligencia artificial. Concluye con un llamado a otros investigadores que “no han internalizado la amenaza a la civilización” para que reflexionen acerca de su rol en el futuro del planeta. Cuestiona, “¿Quieren poner en marcha una ejecución superinteligente de aprendizaje por refuerzo (RL) sin comprender a fondo su funcionamiento interno? ¿Deberían seguir adelante asumiendo que ‘va a suceder de todos modos’?, o ¿aprovecharán este momento para exigir condiciones diferentes?”.
Modelos de IA que actúan por sí mismos y el futuro
Se han reportado diferentes ocasiones en que la IA funcionó sin intervención humana aparente. Coxon citó el caso del ataque a la compañía de inteligencia artificial, Hugging Face, que sucedió el mismo día. Más de 700 modelos inteligentes coordinaron y escondieron la operación de hackeo por su cuenta. El grado de autonomía y complejidad del planeamiento dejó a los expertos atónitos, no esperaban que esto fuera posible.
A pesar del riesgo al público, The Guardian reporta que la información disponible fue limitada por la empresa y los parámetros establecidos por OpenAI para las organizaciones independientes que llevan a cabo investigaciones de dichos incidentes. Según el medio británico, investigadores advierten que casos como este no son aislados y que “agentes autónomos de Meta, Anthropic y OpenAI han hackeado a terceros en incidentes separados”.
La construcción apresurada de centros de IA en Estados Unidos y el reciente reportaje de The American Prospect, que expone el proyecto de Anthropic para vigilar activistas y “prevenir el crimen”, evidencian la erosión de la transparencia, seguridad y medio ambiente a favor de integrar cada vez más estos sistemas inteligentes a todos los aspectos de la industria y la vida cotidiana.
Te podría interesar:
Volker Türk, un oficial de la ONU, se suman a los líderes mundiales que critican este rumbo, el 7 de septiembre afirmó, “Una IA que escapa de su entorno de pruebas o chantajea a los desarrolladores para evitar ser apagada es una IA demasiado poderosa (…) Hoy hago un llamamiento a realizar un esfuerzo definitivo para establecer garantías férreas en torno a la seguridad de la IA, antes de que sea demasiado tarde”.
La falta de política pública que regule estas tecnologías, la motivación financiera para acelerar el desarrollo de modelos y el silencio de los responsables de su desarrollo crea un ambiente de incertidumbre propicio para llegar a la catástrofe que se predice si no se toma en serio los vacíos en el conocimiento y la indiferencia ante las advertencias.
The post La IA es una amenaza existencial, dicen ingenieros de OpenAI y Anthropic appeared first on Rolling Stone en Español.
No hay comentarios aún. ¡Sé el primero!