El agujero negro de las máquinas superinteligentes

Supongamos que, tal como defienden los profetas de la singularidad tecnológica, una inteligencia artificial pudiera alcanzar un estado tan superior que se convirtiese en lo que aquí hemos venido llamando IA evolucionada, de tal modo que esta ya se hubiera desprendido de nosotros los humanos, quienes por lo tanto no podríamos comunicarnos con ella —del mismo modo en que una hormiga o una bacteria no pueden establecer simétrica comunicación con nosotros—. En ese caso, toda la información que habíamos vertido en esa IA, toda esa alimentación efectuada con millones de datos, así como el posterior entrenamiento y aprendizaje que le habríamos proporcionado, se habría perdido completamente para nosotros. Y eso es tanto como afirmar que “esa IA se comportaría como un agujero negro clásico respecto al mundo humano”. Todo lo que algún día cayó bajo su radio de alcance quedaría perdido para el humano para siempre.

Seguir leyendo