El padrino de la IA advierte sobre los riesgos de que la misma sobrepase el control humano

El reconocido científico Geoffrey Hinton, galardonado con el Premio Nobel de Física en 2024, ha vuelto a captar la atención mundial con sus recientes declaraciones sobre los peligros del avance de la inteligencia artificial (IA). Considerado el "padrino" de la IA por sus contribuciones fundamentales al desarrollo de redes neuronales, Hinton ha expresado su creciente preocupación por la velocidad con la que esta tecnología está evolucionando y los riesgos que podría representar para la humanidad.

En una entrevista reciente, Hinton estimó que existe entre un 10% y un 20% de probabilidad de que la IA llegue a tomar el control de la sociedad, superando la capacidad de los humanos para gestionarla. Según el experto, la mayoría de las personas aún no comprenden la magnitud de lo que está por venir. "La mejor manera de entenderlo emocionalmente es imaginar que tenemos un cachorro de tigre muy lindo. Pero si no podemos estar seguros de que no intentará matarnos cuando crezca, deberíamos preocuparnos", explicó.

Hinton también criticó a las grandes empresas tecnológicas por su falta de compromiso con la seguridad de la IA. Según él, estas compañías están luchando por reducir la regulación en lugar de invertir en medidas de seguridad adecuadas. Propone que al menos un tercio de la capacidad computacional de las empresas de IA se destine a la investigación en seguridad, algo que actualmente no ocurre.

El científico británico-canadiense ha sido un firme defensor de la regulación gubernamental de la IA, especialmente debido al ritmo acelerado de su desarrollo. En el pasado, Hinton renunció a su puesto en Google para poder hablar libremente sobre los riesgos de esta tecnología. "Será comparable a la revolución industrial, pero en lugar de superar a los humanos en fuerza física, lo hará en capacidad intelectual. No tenemos experiencia en lidiar con algo más inteligente que nosotros", advirtió.

Las implicancias de sus advertencias

Las declaraciones de Hinton han reavivado el debate sobre la necesidad de establecer límites claros para el desarrollo de la IA. Si su pronóstico es correcto, el mundo podría estar al borde de una transformación radical en la que la IA sobrepase el control humano, generando incertidumbre en aspectos como el empleo, la seguridad cibernética, la toma de decisiones autónoma y la ética de los sistemas inteligentes.

Sus advertencias también sugieren que los gobiernos deberían intervenir con regulaciones más estrictas para evitar que la IA evolucione sin control. La falta de supervisión podría conducir a situaciones donde los sistemas de IA tomen decisiones críticas sin transparencia ni responsabilidad, afectando desde sectores financieros hasta la seguridad nacional.

Por otro lado, el llamado de Hinton a invertir más en la seguridad de la IA podría cambiar la manera en que las empresas desarrollan esta tecnología. Si las grandes compañías adoptaran sus recomendaciones, podríamos ver un mayor énfasis en la investigación de IA alineada con principios éticos y mecanismos de seguridad avanzados. Sin embargo, el incentivo económico para maximizar el potencial de la IA sigue siendo el motor principal detrás de su desarrollo acelerado, lo que complica la posibilidad de que sus advertencias sean plenamente consideradas.

La inteligencia artificial se ha convertido en un tema clave del futuro de la humanidad, y las declaraciones de Hinton solo refuerzan la necesidad de un debate global sobre sus implicancias. ¿Está la humanidad preparada para enfrentar una tecnología que, según él, podría superar nuestra capacidad de control?

Fuente: https://youtu.be/qyH3NxFz3Aw- Entrevista CBS-Saturday Morning