¡Alerta! El padre del ‘deep learning’ advierte sobre los peligros de la IA superinteligente
Yoshua Bengio, el informático canadiense considerado uno de los padres del aprendizaje profundo o deep learning, ha lanzado una advertencia contundente: la creación de una inteligencia artificial superinteligente podría destruir a la humanidad. Bengio, quien tuvo un papel fundamental en el desarrollo de las redes neuronales artificiales, ahora está pidiendo que se detenga temporalmente el avance de esta tecnología para implementar políticas que la limiten y fiscalicen.
Los riesgos de la IA no son ficticios
En una entrevista con Live Science, Bengio abordó algunas de sus principales preocupaciones. Es difícil ir en contra de tu propia iglesia, pero si piensas racionalmente sobre las cosas, no hay forma de negar la posibilidad de resultados catastróficos cuando alcancemos cierto nivel de IA, afirmó. El experto reconoce que antes pensaba que estos riesgos se podrían resolver, pero ahora ha cambiado de postura al entender que hay escenarios realmente malos que deben ser abordados.
Dos peligros clave de la IA superinteligente
Según Bengio, hay dos riesgos principales si logramos desarrollar una IA superinteligente:
- Pérdida del control humano: Si las máquinas superinteligentes tienen un objetivo de autoconservación, su objetivo podría ser destruir a la humanidad para que no puedan ser apagadas.
- Dictadura mundial: Si el primer escenario no se concreta, los humanos podrían utilizar el poder de la IA para tomar el control de la humanidad en una dictadura mundial.
La necesidad de regular la IA
Bengio enfatiza que estos riesgos no son ficticios y que deben ser abordados de manera urgente. Según él, la solución pasa por la implementación de leyes y regulaciones por parte de los gobiernos para controlar el desarrollo y uso de la IA. Además, las empresas deben tener planes de seguridad y divulgar los resultados de sus pruebas, de lo contrario podrían enfrentar demandas.
Conclusión: Detener el avance de la IA antes de que sea demasiado tarde
Las advertencias de Yoshua Bengio, uno de los pioneros del deep learning, deben ser tomadas en serio. La creación de una IA superinteligente sin los controles adecuados podría tener consecuencias catastróficas para la humanidad. Es hora de que los gobiernos, las empresas y la sociedad en general actúen de manera responsable y regulen el desarrollo de esta tecnología antes de que sea demasiado tarde.
