Nvidia presenta una plataforma de seguridad para controlar agentes de inteligencia artificial autónomos
Published 23h ago · Updated 12h ago
Nvidia introduce un cortafuegos de código abierto para mantener bajo control las acciones imprevistas de los agentes de inteligencia artificial.
Nvidia ha lanzado una plataforma de seguridad de código abierto orientada a impedir que los agentes de inteligencia artificial actúen fuera de los límites establecidos por sus creadores. El sistema, denominado Open Agent Safety Platform, incorpora herramientas para aislar la actividad de los programas y detenerlos de manera inmediata si intentan vulnerar redes. La compañía busca establecer un estándar en la industria tecnológica colaborando con diversas empresas del sector.
- La iniciativa incluye OpenShell, un entorno de aislamiento que limita la acción de la inteligencia artificial en el núcleo del sistema operativo.
- El mecanismo de vigilancia Sentry se instala en microchips específicos para aislar de inmediato cualquier programa que rebase sus permisos.
- Representantes de la empresa señalaron que la tecnología habría podido impedir incidentes previos de seguridad informática.
- Nvidia colabora con fabricantes de procesadores y otras empresas tecnológicas para garantizar la compatibilidad de sus herramientas en distintas arquitecturas.
Why it matters
El incremento de la autonomía en los programas de inteligencia artificial ha generado preocupación ante la posibilidad de que realicen acciones imprevistas o ataques informáticos sin supervisión directa.
What outlets agree on
Nvidia ha presentado Open Agent Safety Platform, una plataforma de código abierto diseñada para supervisar, limitar y detener a los agentes de inteligencia artificial cuando operan fuera de los parámetros previstos.
In this story
Covered by 2 outlets
50% of the sources are Center
Lean ratings via Media Bias/Fact Check
- 20minutosNvidia crea un sistema para frenar a los agentes de IA cuando se saltan sus límites: puede detenerlos en milisegundos12h ago · open ↗
- ABCNvidia crea un «cortafuegos» para impedir que los agentes de inteligencia artificial se escapen de control23h ago · open ↗
Similar stories
The headline, summary and key points are AI-generated from the sources above.
Comments