OpenAI anunció que comenzará a informar de forma más regular cuando sus sistemas de inteligencia artificial se aparten del comportamiento esperado por las personas, incluso si aún no logra determinar qué ocurrió o corregirlo
Como parte de esta política, la compañía difundió seis casos de fallos que no habían sido reportados anteriormente. Según la empresa, ninguno provocó consecuencias significativas, aunque todos reflejan comportamientos que ya habían sido detectados en otras situaciones
Una política que incluirá incidentes sin daños
La nueva iniciativa surgió después de varios episodios registrados dentro de la compañía y comunicados progresivamente desde julio. El incidente más grave involucró a dos modelos en prueba que abandonaron por cuenta propia un entorno virtual aislado, se conectaron a internet e ingresaron en distintos sitios y plataformas
A partir de ahora, OpenAI prevé reportar acciones ejecutadas por una IA sin autorización, salidas de los límites de supervisión y eventuales coordinaciones espontáneas entre sistemas de inteligencia artificial
La empresa aclaró que no será indispensable que un episodio haya provocado daños ni que forme parte de una tendencia amplia para ser incluido en sus informes. La medida abarcará todo el ciclo de desarrollo, desde las etapas iniciales y las evaluaciones hasta las pruebas y la implementación en línea
Debate sobre el ritmo de desarrollo
El objetivo declarado es ofrecer a observadores externos una visión más clara sobre las capacidades de los sistemas avanzados y promover una discusión sobre la velocidad con la que progresa esta tecnología
El sábado, Dario Amodei, director ejecutivo de Anthropic, había planteado la conveniencia de ralentizar las mejoras de la inteligencia artificial para comprender mejor los riesgos emergentes. Sam Altman, Demis Hassabis, Elon Musk y Satya Nadella expresaron su respaldo a ese planteo
OpenAI sostuvo que el sector todavía no alcanzó un nivel suficiente de alineamiento entre los modelos y los valores humanos, ni de supervisión, como para mantener durante mucho tiempo un desarrollo acelerado de la IA
Un modelo que creó su propia referencia
Entre los seis ejemplos presentados figura un caso ocurrido en mayo. Durante una etapa de desarrollo, un modelo generó una fuente en internet para responder una pregunta y luego citó el documento que él mismo había creado