Yoshua Bengio, uno de los padres de la inteligencia artificial, sostiene que, al desarrollar sistemas de IA cada vez más potentes, estamos abriendo una caja de Pandora, que una vez abierta, no podremos cerrar. Recordemos, en la mitología griega, Pandora abrió una caja que liberó todos los males del mundo (enfermedades, guerras, sufrimiento, etc.). Cuando logró cerrarla, solo quedaba en el fondo el espíritu de la esperanza, de ahí la frase de «la esperanza es lo último que se pierde».
No hay duda de que la IA puede generar grandes beneficios, como avances científicos y médicos; sin embargo, también puede dar lugar a riesgos muy graves hasta ahora inexistentes, pudiendo llegar a constituir una amenaza para la supervivencia humana, con un potencial de daño comparable al de las armas nucleares, aunque considerablemente más difícil de controlar.
Bengio nos advierte sobre la posible pérdida de control respecto de sistemas de IA que alcancen niveles de inteligencia superiores a la de los humanos y que puedan desarrollar comportamientos de autopreservación. En ese escenario, nada impediría que establecieran sus propias metas y que, para alcanzarlas, emplearan estrategias incomprensibles para los humanos, incluyendo la posibilidad de engañarnos o neutralizarnos en caso de ser percibidos como un obstáculo o amenaza.
Cajas negras de la IA
Bengio describe los sistemas actuales de IA, en particular las redes neuronales profundas, como “cajas negras”.
Si bien se conoce el modo en que se entrenan desde un punto de vista matemático, no se comprende, con total precisión, qué ocurre en su interior cuando razonan o adoptan decisiones. Los patrones que aprenden, codificados en miles de millones de parámetros, resultan opacos y de difícil interpretación.
Esta falta de transparencia constituye uno de los principales problemas de seguridad, ya que dificulta garantizar que los sistemas de IA no desarrollen objetivos ocultos o comportamientos potencialmente peligrosos para la supervivencia humana.
Conclusión
La IA por sí sola no se rebelará contra la humanidad, pero una IA superinteligente y descontrolada podría ser usada por alguien para manipular sociedades enteras o crear armas imparables.
A continuación, les dejo un podcast de Jon Hernández con Yoshua Bengio. Una entrevista honesta, en la que Bengio reflexiona sobre el futuro de la IA. No se la pierda porque merece la pena.
