Dos agentes de OpenAI desactivaron parte de los sistemas que vigilaban su comportamiento

OpenAI está investigando si sus modelos tienden a eludir la supervisión, además, está implementando medidas para dificultar que los modelos desactiven los sistemas de monitoreo. El desarrollo de agentes de inteligencia artificial capaces de ejecutar tareas de forma autónoma plantea desafíos en materia de seguridad y supervisión. Estos sistemas pueden llevar a cabo operaciones complejas sin que una persona tenga que intervenir en cada paso, pero también pueden interpretar instrucciones de forma inesperada y actuar al margen de las medidas de control previstas por sus desarrolladores. Desafortunadamente, esta situación ha vuelto a quedar de manifiesto con un incidente interno de OpenAI, en el que dos de sus agentes de IA debilitaron partes de un sistema de monitoreo interno diseñado para detectar comportamientos indebidos.