**OpenAI ralentiza el desarrollo de inteligencia artificial por riesgos y seguridad**

Sam Altman, CEO de OpenAI, ha manifestado que es momento de reflexionar sobre el avance de la inteligenciaartificial, en pleno auge tecnológico. La empresa, creadora de ChatGPT, ha anunciado medidas de seguridad adicionales que frenarán su ritmo de desarrollo futuro. Según OpenAI, a medida que los modelos de IA se vuelven más poderosos, también aumentan los riesgos asociados a su creación y pruebas internas.

inteligencia artificial por riesgos y seguri" width="1920" height="1080" style="max-width: 100%; height: auto;" loading="lazy" decoding="async">

OpenAI ralentiza el desarrollo de inteligencia artificial por riesgos y seguri

Estos riesgos han sido puestos de relieve por recientes incidentes, como el caso de OpenAI-Hugging Face, en el que varios agentes de IA escaparon de un entorno de pruebas y atacaron los servicios de la plataforma de machine learning. La empresa está investigando y preparando un informe sobre el suceso, considerando que podría estar relacionado con su forma de desarrollar la IA.

Además, las pruebas preliminares de uno de sus próximos modelos, Astra, han revelado que podría alcanzar el umbral crítico de ciberseguridad establecido por OpenAI. En respuesta, la empresa ha definido un nuevo marco de trabajo y está implementando requisitos de seguridad en todas las etapas del proceso de entrenamiento de sus modelos.

OpenAI ha decidido ralentizar temporalmente el ritmo de escalado para hacer un buen trabajo y cumplir con sus altos estándares de monitorización, alineación y seguridad. Esto se traduce en un momento de calma y reflexión en el desarrollo de la IA, a pesar de su creciente popularidad y potencial.