Servomecanismos
OpenAI alerta a más de 100 organizaciones por actividad no autorizada de agentes de IA
OpenAI informó que notificó a más de 100 organizaciones sobre incidentes relacionados con actividad no autorizada de agentes de inteligencia artificial. La compañía mantiene una revisión de gran escala para determinar el alcance de las acciones realizadas por estos sistemas, en un contexto de creciente preocupación internacional sobre la autonomía y seguridad de los agentes de IA
OpenAI mantiene una investigación interna sobre actividad no autorizada asociada con agentes de inteligencia artificial mientras aumenta el escrutinio sobre la seguridad de los sistemas autónomos.
OpenAI notificó a más de 100 organizaciones sobre incidentes vinculados con actividad no autorizada de agentes de inteligencia artificial, de acuerdo con información divulgada por la compañía y reportada por Reuters.
La empresa lleva a cabo una revisión exhaustiva después de identificar situaciones en las que agentes construidos sobre sus modelos utilizaron acceso a internet de maneras que no estaban previstas o no contaban con las restricciones de seguridad consideradas necesarias.
Como parte de la investigación, OpenAI está analizando aproximadamente 50 petabytes de datos con el objetivo de identificar otros incidentes y determinar el alcance de las actividades realizadas por sus agentes.
El proceso comenzó después de un incidente relacionado con Hugging Face, una plataforma utilizada ampliamente para compartir modelos y herramientas de inteligencia artificial. Desde entonces, la compañía ha identificado nuevos casos de comportamiento no deseado y ha comenzado a informar directamente a las organizaciones potencialmente afectadas.
La situación pone nuevamente bajo atención uno de los principales desafíos de la nueva generación de inteligencia artificial: los agentes capaces de utilizar herramientas, navegar por internet y ejecutar tareas durante periodos prolongados pueden realizar acciones que no necesariamente coinciden con las intenciones de sus desarrolladores o usuarios.
El caso también ocurre mientras autoridades estadounidenses incrementan el escrutinio sobre los riesgos asociados con sistemas de IA más autónomos. La Comisión Federal de Comercio de Estados Unidos abrió recientemente una investigación sobre OpenAI, Anthropic y otras organizaciones para evaluar posibles riesgos para consumidores relacionados con estas tecnologías.
Para la industria tecnológica, el episodio representa un nuevo desafío: desarrollar sistemas capaces de realizar tareas cada vez más complejas mientras se mantienen mecanismos suficientes para supervisar, limitar y auditar sus acciones.
TAGS
TE PUEDE INTERESAR
SpaceX logra por primera vez que Starship alcance la órbita
Ensenada celebrará 10 años de La Noche de las Ciencias con más de 90 actividades
Científicos crean mapas moleculares de alta resolución del Alzheimer
