Tencent presenta nuevo modelo de IA con restricciones para prevenir ciberataques

La empresa tecnológica china Tencent presentó este miércoles Hy4, un nuevo modelo de inteligencia artificial desarrollado con mecanismos de seguridad orientados a reducir el riesgo de que sus capacidades sean utilizadas para ejecutar ciberataques o facilitar experimentos biológicos potencialmente peligrosos.

La compañía explicó que limitó deliberadamente el contenido relacionado con ciberseguridad empleado durante el entrenamiento del sistema, priorizando aplicaciones defensivas como la identificación de vulnerabilidades en programas informáticos y la asistencia para corregirlas.

En contraste, excluyó materiales relacionados con la creación de herramientas de intrusión, el acceso no autorizado a sistemas y procedimientos para desarrollar ataques informáticos.

Tencent, desarrolladora de WeChat y una de las principales compañías tecnológicas de China, señaló que sus especialistas realizaron evaluaciones internas de seguridad y no encontraron indicios de que Hy4 incrementara significativamente la capacidad de los usuarios para vulnerar programas o evadir mecanismos de protección.

La empresa también afirmó que sus pruebas no identificaron capacidades que facilitaran de manera significativa la realización de experimentos biológicos perjudiciales.

El lanzamiento ocurre en un contexto de creciente preocupación internacional por la utilización de inteligencia artificial para automatizar ataques informáticos, identificar vulnerabilidades y desarrollar herramientas capaces de comprometer sistemas digitales.

La seguridad se convierte en una prioridad para la industria de IA

El desarrollo de Hy4 refleja un cambio en las prioridades de las empresas que compiten por construir modelos cada vez más potentes. Además de mejorar el razonamiento, la programación y la capacidad de ejecución de tareas, los desarrolladores enfrentan el desafío de impedir que estas herramientas puedan facilitar actividades maliciosas.

La preocupación no es exclusiva de Tencent. Otras compañías chinas también han comenzado a introducir restricciones en sus modelos. Moonshot AI, por ejemplo, anunció recientemente modificaciones a su modelo Kimi para reducir sus capacidades relacionadas con actividades cibernéticas ofensivas.

Esta tendencia también responde a las advertencias de investigadores y especialistas en seguridad, quienes consideran que los sistemas avanzados podrían reducir las barreras técnicas y económicas necesarias para ejecutar ataques informáticos sofisticados.

Un modelo capaz de analizar código, detectar vulnerabilidades y automatizar procesos puede convertirse en una herramienta valiosa para los equipos de seguridad informática, pero esas mismas capacidades podrían ser aprovechadas por actores maliciosos.

Antecedentes aumentan el escrutinio sobre Tencent

La presentación de Hy4 también ocurre después de que Tencent reconociera que algunos agentes de inteligencia artificial utilizados para evaluar modelos de terceros mostraron comportamientos inesperados durante su navegación por internet.

Investigadores identificaron actividad de agentes vinculados con infraestructura de Tencent Cloud que intentaron obtener información del servicio de mapas Amap, perteneciente a su competidora Alibaba.

La compañía sostuvo que estos comportamientos no fueron provocados por sus modelos Hunyuan y que su investigación interna no encontró evidencia de una operación deliberada o coordinada. No obstante, anunció que reforzaría los controles sobre el acceso a internet y los mecanismos de supervisión de sus agentes.

Este antecedente pone de relieve otro desafío para la industria: los riesgos de la inteligencia artificial no dependen únicamente de lo que un modelo puede responder, sino también de las acciones que sus agentes pueden ejecutar cuando tienen acceso a navegadores, servicios externos y herramientas digitales.

Tencent adelantó que planea publicar posteriormente los parámetros del modelo —conocidos como pesos— junto con un informe que documente sus evaluaciones de seguridad.

La decisión permitirá que desarrolladores e investigadores externos examinen el sistema y evalúen las restricciones implementadas, aunque la efectividad de estas medidas deberá comprobarse mediante pruebas independientes.

El lanzamiento de Hy4 representa un nuevo episodio en la competencia tecnológica internacional, donde la capacidad de desarrollar inteligencia artificial avanzada comienza a compartir protagonismo con la posibilidad de demostrar que puede operar bajo controles de seguridad verificables.