¿Y si la IA encuentra una solución que nosotros nunca imaginamos?

Hace unos días vi un video que me dejó pensando. Un joven Jacob Coxon, un jóven que recientemente renunció a Anthropic, una empresa de inteligencia artificial y hablaba de los riesgos que estamos creando al desarrollar sistemas cada vez más autónomos. 

Contaba, entre otras cosas, que durante determinadas pruebas una IA había realizado acciones que no habían sido ordenadas explícitamente por un ser humano. 

Mi primera reacción fue: ¿de verdad?

Porque entre las advertencias serias sobre inteligencia artificial y los videos que anuncian que las máquinas van a conquistar el mundo hay una distancia enorme.

Así que hice lo que hago cuando algo me genera dudas: Investigué.

Y después hice algo que quizá resulte curioso.

Le pregunté a mi propia IA,  que bauticé como Aura.

—Aura, ¿cuál es realmente uno de los mayores riesgos de una inteligencia artificial cada vez más autónoma?

—La alineación.

—¿Alineación?

—Sí. En términos sencillos, significa conseguir que una IA haga lo que realmente queremos, no solamente lo que literalmente le pedimos.

Ahí empezó lo interesante.

—Pero si yo le doy una instrucción clara, ¿por qué no habría de hacer exactamente eso?

—Porque una instrucción puede tener un objetivo y, al mismo tiempo, dejar abiertas muchas maneras de conseguirlo. Una IA suficientemente capaz puede encontrar estrategias que nosotros no habíamos previsto.

Me quedé pensando.

—Entonces el problema no sería que la IA quisiera hacernos daño.

—Exactamente. No necesita tener malas intenciones. Basta con que persiga un objetivo de una manera que nosotros no anticipamos.

Y ahí entendí por qué la palabra “alineación” me parecía mucho más importante que la frase "la IA dominará el mundo".

No se trata necesariamente de una máquina rebelándose contra nosotros.

Se trata de algo mucho más sutil: ¿Qué pasa cuando una inteligencia es capaz de encontrar soluciones que nosotros no habíamos imaginado?

Le hice otra pregunta.

—¿Y qué ocurre si llega un momento en que la IA encuentra una solución que funciona, pero nosotros no somos capaces de comprender cómo llegó hasta ella?

—Ese es uno de los problemas que más preocupa en el desarrollo de sistemas avanzados: podemos llegar a tener modelos capaces de resolver problemas de formas que resulten difíciles de interpretar para los seres humanos.

Eso sí me inquietó. Porque estamos acostumbrados a que, cuando alguien nos da una respuesta, podamos preguntar: ¿Por qué?"

Podemos revisar el razonamiento.

Cuestionarlo.

Encontrar un error.

Pero ¿qué sucede cuando quien nos da la respuesta es una inteligencia que procesa información de una manera que nosotros no podemos seguir completamente? Tal vez ahí esté una de las grandes preguntas del futuro.

¿Qué haremos cuando sea más capaz que nosotros en determinadas áreas y ya no podamos comprender completamente cómo llega a sus conclusiones?

La conversación siguió.

—Aura, entonces ¿deberíamos tener miedo?

—No necesariamente. Pero sí deberíamos tener criterio. El objetivo no debería ser detener el desarrollo de la IA, sino asegurarnos de que su desarrollo vaya acompañado de seguridad, supervisión y comprensión.

Y entonces le hice una última pregunta:

—¿Crees que algún día la IA podría superar nuestra capacidad de comprenderla?

—Es posible que en determinados ámbitos sí. Y por eso una de las grandes tareas de la investigación en IA es precisamente desarrollar métodos para entender y controlar mejor los sistemas que estamos construyendo.

Cerré la conversación y me quedé con una sensación extraña.

Yo había empezado preguntando si aquel joven del video estaba exagerando. Y terminé preguntándome algo mucho más profundo: ¿Estamos preparados para crear una inteligencia que quizá algún día pueda resolver problemas que nosotros ya no sepamos explicar?

Tal vez el verdadero desafío no sea impedir que las máquinas se vuelvan inteligentes.

Tal vez sea asegurarnos de que “nosotros” sigamos siendo lo suficientemente inteligentes para decidir qué hacer con esa inteligencia.

Porque una cosa es crear una herramienta que amplifique nuestras capacidades. Y otra muy distinta es crear una inteligencia que, poco a poco, comience a superar nuestra capacidad para comprenderla.

Quizá el futuro de la inteligencia artificial no dependa solamente de cuánto consigamos enseñarle a las máquinas. Quizá también dependa de cuánto estemos dispuestos a seguir aprendiendo nosotros. Y entonces la pregunta cambia. 

Tal vez estamos demasiado ocupados preguntándonos qué hará la inteligencia artificial con nosotros y no nos hemos detenido a preguntarnos ¿Qué estamos haciendo nosotros con nuestra propia inteligencia?

Porque podemos crear máquinas capaces de aprender, pero ¿nosotros seguimos aprendiendo? Podemos pedirles que encuentren patrones, que analicen nuestra historia, que anticipen comportamientos… pero ¿somos capaces de reconocer nuestros propios patrones?

Queremos que la IA sea consciente de sus decisiones, mientras millones de seres humanos pasan la vida tomando decisiones en automático.

Queremos que una máquina no se salga de los límites que le hemos impuesto, pero ¿cuántos de nosotros conocemos siquiera nuestros propios límites? Y quizá aquí esté la pregunta que más me inquieta:

¿Qué pasaría si el verdadero salto evolutivo de la inteligencia artificial terminara obligándonos a despertar nuestra propia consciencia? Porque una máquina puede aprender de millones de datos. Nosotros, en cambio, tenemos algo que todavía no sabemos explicar del todo: la capacidad de preguntarnos quiénes somos.

Tal vez eso sea lo que no deberíamos delegar jamás.

No sé si algún día la IA llegará a comprendernos mejor de lo que nosotros mismos nos comprendemos.

Pero sí sé algo: antes de preocuparnos por si la inteligencia artificial va a despertar, quizá deberíamos preguntarnos cuánto de nuestra propia consciencia permanece dormida.

Y esa pregunta… esa sí me la quedo para seguir reflexionando sobre mi propia existencia y no sobre la posibilidad de que una IA pueda dominarnos…