La advertencia de sagan sobre inteligencia artificial

En 1995, el astrónomo y divulgador Carl Sagan publicó su libro 'Demonios en el Mundo: La Ciencia como una Vela en la Oscuridad'. En él, planteó una preocupación que hoy vuelve a tomar fuerza en el debate sobre inteligencia artificial (IA): el equilibrio entre el crecimiento del poder tecnológico y la comprensión social.

La 'mezcla explosiva' de ignorancia y poder

Sagan sostenía que una sociedad que combina Tecnología avanzada con un bajo nivel de conocimiento científico puede generar un 'equilibrio frágil' entre el poder tecnológico y la comprensión social. Con la rapidez en que evoluciona la Tecnología, especialmente la IA, si la mayoría de la sociedad no entiende cómo funcionan estos sistemas, puede surgir un 'desastre'.

En el caso de la IA, los avances en áreas como el aprendizaje automático, el procesamiento de lenguaje natural y la visión por computadora han permitido la creación de sistemas capaces de realizar tareas que antes eran exclusivas de la inteligencia humana, como analizar grandes cantidades de datos, generar texto o incluso diseñar objetos.

Este rápido progreso tecnológico ha abierto debates sobre quién realmente entiende cómo funcionan estas herramientas y quién debe controlarlas. La advertencia de Sagan se interpreta ahora como una llamada a la educación científica y al pensamiento crítico para que la sociedad pueda evaluar y regular adecuadamente el poder tecnológico que se va concentrando en manos de unos pocos.