Helen Toner, exconsejera de OpenAI y una de las voces más influyentes en el ámbito de la inteligencia artificial, ha lanzado una serie de advertencias sobre los riesgos crecientes asociados al avance tecnológico en este campo. En una entrevista reciente, Toner afirmó que, incluso si la inteligencia artificial no volviera a evolucionar a partir de hoy, su impacto ya sería equiparable al de la llegada de internet.

“El potencial transformador de la IA ya es evidente en múltiples áreas: educación, sanidad, industria y relaciones personales. Pero también lo son sus peligros”, subrayó Toner, quien dejó su puesto en el consejo de OpenAI en 2023 tras un periodo de tensiones internas sobre la dirección ética y estratégica de la compañía.

Entre los riesgos más destacados, Toner señaló la creciente tendencia a delegar decisiones importantes en sistemas automatizados sin una supervisión crítica. “Estamos cediendo autonomía a herramientas que no siempre entendemos ni controlamos del todo. Eso plantea desafíos no solo técnicos, sino profundamente humanos y sociales”, explicó.

Otro fenómeno que preocupa a la especialista es la proliferación de grupos organizados alrededor de sistemas de IA que actúan como guías ideológicos o incluso espirituales. Toner advirtió que ya existen comunidades que siguen las recomendaciones de modelos generativos como si fueran textos sagrados, lo que podría derivar en formas de manipulación masiva o sectarismo algorítmico.

Sobre el panorama geopolítico, la experta destacó que China aún se encuentra entre seis y doce meses por detrás de Estados Unidos en el desarrollo de modelos de lenguaje avanzados. Sin embargo, advirtió que esa diferencia podría ampliarse si el sector privado y el público en Occidente continúan acelerando sin una regulación adecuada.

Toner llamó a establecer “una arquitectura regulatoria global” que permita contener los riesgos sin sofocar la innovación. “La clave está en no sacrificar la seguridad por la velocidad”, concluyó.