Google revela su estrategia de ciberseguridad frente a la IA
A medida que la Inteligencia Artificial avanza y los navegadores incorporan agentes capaces de manejar reservas, compras y otros trámites en línea, surge la preocupación por los desafíos en materia de seguridad. Para abordar esto, Google ha compartido detalles sobre cómo planea proteger a los usuarios de Chrome mientras despliega sus nuevas capacidades de agente.
La compañía presentó avances sobre estas capacidades en septiembre, y se espera que las nuevas funciones lleguen en los próximos meses. Con el crecimiento de la tecnología, resulta clave que las medidas de protección no se queden atrás.
Google implementará nuevas medidas de seguridad para los agentes IA
El enfoque de Google gira en torno a dos pilares: la observación y el consentimiento explícito de los usuarios. Según ha comentado la empresa, Chrome empleará modelos que monitorizarán y evaluarán las acciones sugeridas por el agente.
Uno de estos modelos se llama Crítico de Alineación del Usuario, desarrollado con Gemini. Este crítico revisa las acciones propuestas por el agente y, si notas que se alejan del objetivo inicialmente establecido, interviene y pide que se replantee la tarea. Lo interesante es que este sistema solo accede a metadatos, evitando así obtener el contenido completo de los sitios que se visitan.
Además de esto, se incorpora un sistema conocido como “conjuntos de orígenes”, que delimita qué puede leer o escribir el agente en la web. Esto significa que, por ejemplo, en un sitio de e-commerce, el agente podrá ayudar con información relevante para completar una compra, pero no podrá intervenir en banners o elementos no autorizados. Esta estrategia no solo ayuda a reducir riesgos, sino que también minimiza la posibilidad de fugas de datos.
Otra novedad es la inspección de URLs generadas durante la navegación, que tiene como objetivo bloquear accesos potencialmente maliciosos. En situaciones que requieren tratar información delicada, como datos financieros o médicos, Chrome pedirá la autorización previa del usuario antes de proceder. Y tranquilo, porque el modelo no accederá a tus contraseñas almacenadas.
Google también ha introducido un clasificador que detecta intentos de inyección rápida, buscando evitar cualquier comando que pueda llevar a acciones indeseadas. Según la compañía, este sistema está siendo probado con ataques simulados por investigadores para fortificar la seguridad antes del lanzamiento oficial.
Este tema no es exclusivo de Chrome. Otros desarrolladores también están trabajando para mejorar sus defensas. A principios de mes, Perplexity lanzó un modelo de detección de contenido de código abierto, enfocado en mitigar ataques de inyección rápida, que es una de las amenazas más comunes en agentes de IA.
La evolución de la seguridad cibernética nunca ha sido tan crucial, y tener en cuenta estos avances puede hacer una gran diferencia en nuestra experiencia en línea.