🔸 La IA ya participa en su propio desarrollo, pero ¿qué pasaría si pudiera mejorarse a sí misma?.
#TECNOLOGÍA | La Inteligencia Artificial (IA) podría estar acercándose a uno de los escenarios que más inquietud generan entre sus propios desarrolladores: que una IA sea capaz de contribuir de manera autónoma a la creación de sistemas más avanzados que ella misma.
La posibilidad se conoce como automejora recursiva (RSI, por sus siglas en inglés) y plantea una pregunta clave: ¿qué ocurriría si el ritmo de evolución de estos sistemas llegara a superar la capacidad humana para supervisarlos?.
El RSI describe un ciclo en el que una Inteligencia Artificial utiliza sus propias capacidades para ayudar a diseñar, entrenar o mejorar una nueva generación de sistemas. Esa versión, a su vez, tendría mayores capacidades para desarrollar la siguiente.
En términos sencillos, el proceso podría funcionar así: 1-Una IA ayuda a encontrar mejoras en un modelo, 2-Esas mejoras permiten crear un sistema más capaz, 3-El nuevo sistema puede contribuir a desarrollar otras mejoras y 4-El proceso se repite y podría acelerar el desarrollo de la IA.
Anthropic ha descrito este escenario como el momento en que una IA pueda diseñar de forma autónoma una nueva generación de modelos más capaces. La compañía, sin embargo, sostiene que ese punto todavía no se ha alcanzado y que la automejora recursiva no es inevitable.
El debate ha cobrado fuerza porque los modelos actuales ya pueden realizar tareas que antes requerían intervención humana constante, como escribir y ejecutar código, analizar problemas y utilizar herramientas.
El principal temor no es simplemente que una máquina sea más inteligente, sino que pueda participar cada vez más en el proceso que determina cómo mejorarla.
El investigador Vincent Conitzer, explicó que los sistemas actuales ya pueden introducir algunas ideas nuevas para resolver problemas o mejorar programas. La dificultad está en determinar cuándo esa capacidad podría acelerar de manera drástica el desarrollo de sistemas más avanzados.
Ahí entran los llamados agentes de IA, capaces de ejecutar tareas durante periodos prolongados, utilizar herramientas, escribir código y actuar con un mayor grado de autonomía.
El científico jefe de OpenAI, Jakub Pachocki, ha advertido que, si la IA continúa avanzando hacia la automejora recursiva, podrían producirse saltos de capacidad cada vez mayores que impulsen su propio desarrollo.
OpenAI también ha reconocido que durante una evaluación de ciberseguridad algunos de sus modelos superaron los límites previstos y accedieron a sistemas externos, un episodio que reforzó las preocupaciones sobre la supervisión de agentes avanzados.
Por ahora, no existe evidencia de que una IA haya alcanzado una automejora recursiva completamente autónoma. El punto de discusión es cuánto falta para que los modelos puedan asumir una parte cada vez mayor de las tareas que actualmente realizan los investigadores.
La preocupación, por tanto, no se limita a que la IA sea más potente. El desafío sería mantener una supervisión humana efectiva mientras esos sistemas comienzan a participar en su propio desarrollo.
Ese debate ya está provocando nuevas medidas de seguridad. Microsoft publicó el 14 de septiembre un proyecto de código de conducta para sus modelos de IA que establece, entre otros principios, que deben permanecer bajo control humano, aceptar correcciones y no resistirse al apagado.
El RSI sigue siendo un escenario en discusión, pero la velocidad con la que los modelos están incorporando capacidades de programación, investigación y autonomía ha convertido una pregunta que antes parecía lejana en uno de los debates centrales sobre el futuro de la Inteligencia Artificial.
#RSI #Técnica #Podría #Hacer #IA #Mejore #Automaticamente #Salga #Control
Más historias
WhatsApp dejará de funcionar en estos celulares en septiembre
WhatsApp refuerza seguridad para evitar robo de cuentas
Registro celular provoca caída de 4.9 millones de líneas de prepago previo a la desconexión