Google presentó el Instituto DeepMind, una plataforma destinada a promover el análisis y el debate sobre el desarrollo de la Inteligencia Artificial General (AGI), sus riesgos y sus posibles consecuencias
La iniciativa estará dirigida por Shane Legg, cofundador y científico jefe de AGI de Google DeepMind; Demis Hassabis, cofundador y presidente del laboratorio, además de científico jefe de Alphabet; y James Manyika, presidente de investigación, laboratorios, tecnología y sociedad de Google
Un espacio para reunir distintas perspectivas
El instituto publicará ensayos y análisis sobre los interrogantes que plantea la AGI. Además de especialistas de Google y DeepMind, la plataforma busca incorporar aportes de investigadores externos y expertos de distintas disciplinas
Sus responsables anticipan que los autores no necesariamente coincidirán en sus opiniones. El objetivo es ampliar la discusión sobre una tecnología que podría tener efectos en el trabajo, las instituciones y la organización de la sociedad
La AGI suele definirse como una inteligencia artificial capaz de realizar una amplia variedad de tareas cognitivas con un rendimiento comparable al humano. Sin embargo, no existe una definición única aceptada por toda la industria. El ensayo de lanzamiento del instituto plantea una visión ambiciosa: un sistema con todas las capacidades cognitivas del cerebro humano
Los riesgos de sistemas cada vez más autónomos
Los responsables del Instituto DeepMind reconocen que los sistemas actuales todavía tienen limitaciones en determinadas tareas, aunque consideran que algunas podrían reducirse en el futuro cercano
Entre los riesgos asociados con modelos más avanzados mencionan la ciberseguridad, las amenazas biológicas y la dificultad de controlar sistemas capaces de aprender por sí mismos
También señalan el desafío que representan los agentes de inteligencia artificial autónomos. Estos sistemas podrían ejecutar tareas durante largos periodos y utilizar herramientas sin supervisión constante, lo que plantea dudas sobre la capacidad humana para establecer límites y mantener el control
El instituto sostiene que estas cuestiones no pueden abordarse únicamente desde la tecnología. Las ciencias sociales, las humanidades, las artes y los gobiernos también tendrían un papel en la búsqueda de respuestas
Trabajo, creatividad y nuevas reglas
Entre los temas que la plataforma pretende estudiar figuran los cambios que una futura AGI podría generar en la sociedad y en la forma de comprender el trabajo, la creatividad y la condición humana
Otro eje será el diseño y la administración segura de sistemas de AGI, así como de comunidades integradas por múltiples agentes de inteligencia artificial
La evolución de estas tecnologías también podría exigir nuevas normas, estructuras de supervisión o modificaciones en las instituciones existentes, especialmente si alcanzan capacidades muy superiores a las actuales
El Instituto DeepMind considera que todavía no existe una respuesta definitiva sobre cómo desarrollar e implementar una AGI de manera responsable. Por eso, plantea que el debate debe incluir a sectores más amplios que la comunidad tecnológica y anticiparse a una tecnología que aún no existe en su forma más ambiciosa