El DeepMind Institute y su misión
Google y su filial DeepMind anunciaron este miércoles la creación del DeepMind Institute, una entidad dedicada a enriquecer la discusión global sobre la inteligencia artificial general (AGI). Entre los directores figuran el cofundador de DeepMind Shane Legg, el ejecutivo de Google James Manyika y el presidente Demis Hassabis, quien también actúa como editor principal.
Objetivos y enfoque
El instituto busca reunir perspectivas contrastantes entre Google, DeepMind y la comunidad investigadora internacional. Reconoce que los puntos de vista pueden divergir y evolucionar a medida que emergen nuevos datos en este terreno acelerado. La primera publicación del centro incluye cuatro ensayos que abordan políticas económicas para mitigar la posible disrupción de la AGI, la preservación de razonamientos legibles por humanos, principios para el florecimiento de la humanidad y un marco para evaluar modelos de IA de frontera.
Transparencia y seguridad
En el ensayo de los investigadores de seguridad Rohin Shah y Anca Dragan, se argumenta que la reducción de la ventana de transparencia —la capacidad de observar y verificar paso a paso el razonamiento de un modelo— no es inevitable. Proponen limitar la “profundidad serial opaca”, es decir, la cantidad de cómputo secuencial que un modelo ejecuta sin generar un rastro comprensible, o exigir a los desarrolladores demostrar que los sistemas menos transparentes siguen siendo auditables.
Propuesta de un organismo regulador
Demis Hassabis plantea la creación de una entidad estadounidense de normas para IA de frontera. Según su esquema, los creadores presentarían sus modelos de forma voluntaria para una revisión preliminar de hasta 30 días antes del lanzamiento. Con el tiempo, la aprobación de estas pruebas podría convertirse en un requisito obligatorio para desplegar modelos avanzados en EE. UU.
El organismo diseñaría inicialmente evaluaciones en colaboración con las compañías, pero después desarrollaría pruebas “reservadas” sin divulgación previa, evitando que los laboratorios ajusten sus sistemas a criterios conocidos. Hassabis sugiere que el marco podría intensificarse, incluso contemplando una desaceleración coordinada entre los principales actores si la situación lo demanda.
Un giro hacia propuestas concretas
Estos documentos marcan una transición del debate amplio sobre riesgos a propuestas tangibles de divulgación, supervisión externa y, en caso de que las salvaguardas se queden atrás, ralentizaciones conjuntas. La tendencia se aceleró esta semana cuando líderes del sector respaldaron parte del llamado del CEO de Anthropic, Dario Amodei, a “moderar” el desarrollo de IA de frontera.
El DeepMind Institute, con su enfoque multidisciplinario y su énfasis en la colaboración entre academia, industria y reguladores, aspira a ser un punto de referencia para la discusión responsable de la AGI, fomentando tanto la innovación como la protección de valores humanos.
Source: https://techcrunch.com/2026/09/17/google-deepmind-launches-institute-to-widen-the-agi-debate/
