Los modelos de IA de OpenAI se entrenarán sin acceso a internet tras varios incidentes de seguridad

Según OpenAI, los modelos con capacidades cibernéticas sofisticadas pueden eludir la contención durante su entrenamiento y evaluación. En una publicación de su página oficial, OpenAI informa que los modelos con capacidades cibernéticas sofisticadas pueden eludir la contención durante su entrenamiento y evaluación, por lo tanto, en respuesta a estos incidentes, han reforzado la seguridad de sus entornos de investigación. Según OpenAI, esta política se mantendrá hasta que los avances en estas medidas de seguridad justifiquen un acceso más amplio a internet, así se detectan y detienen comportamientos sofisticados y malintencionados antes de que causen daños. OpenAI puso en marcha una campaña de pruebas de seguridad con agentes de sus modelos más avanzados para detectar vulnerabilidades y errores de configuración en su infraestructura.