Chat GPT no es tu terapeuta (y un juez podría pedirle que revelara tus secretos)

Las consecuencias de que el futuro nos alcance cada vez más rápido a los seres humanos son infinitas. Siempre ha ocurrido y siempre ocurrirá... si no acaban las IA con nosotros antes, o las usemos en contra de nuestros propios intereses.

Aunque lo más probable es que si nosotros no hemos sido capaces, ellas menos puedan conseguirlo, la combinación de unas inteligencias artificiales diseñadas para satisfacernos ante todo y la estulticia humana puede ser algo tan arrasador como una bomba nuclear. Es decir, que la necedad humana a la hora de utilizar las máquinas es la que nos llevará al desastre y no otra cosa. La cuestión es que en este caso la potencia de estos bots que parece que piensan (spoiler: sólo reproducen nuestras actitudes), es mucho más grande de lo que podemos pensar... con cero responsabilidad ante los daños producidos.

Porque este es el debate fundamental, si las IA no son humanas... ¿Quién es el responsable de lo que hagan? ¿Quién es el de los datos que manejan? ¿Quién es el dueño del conocimiento del que se alimentan? ¿Y de la información, sea técnica o humana, que compartes con ellas?

La irrupción de la IA generativa –ya había muchas más trabajando en internet sin que nos enteráramos más allá de que el billete de avión que habías conseguido tan barato, al final del proceso de compra se encarecía a lo bestia– hizo de esta tecnología algo que nadie esperaba: un divertimento. Porque todos hemos jugado con ella al sorprendernos por ser más creativa que nosotros mismos. Y con Chat GPT fijo que la gran mayoría de las personas que leen esta entrada en este blog, han charlado con el LLM de OpenAI de cosas vanas o habrá hecho preguntas tan estúpidas como sensibles. O al Notebook LM de Google le habrá subido un informe de la empresa para que lo resuma en lo más importante.

Aquí nos conocemos todos: somos unos vagos curiosos que tenemos que comprobar si la máquina nos quita trabajo... y tenemos que saciar nuestro morbo de comprobar a cuanta distancia está de quitarnos el empleo. Y la ponemos a prueba sin darnos cuenta de que cierta documentación es secreta... ¿y se la soltamos a las empresas de los TecnoBros así como así? En este artículo de la BBC nos hacen reflexionar sobre cómo deberíamos interactuar con estas máquinas de pensar.

Más allá de tener que pensar cómo comportarnos y comunicarnos con las inteligencias artificiales y ser consciente de qué secretos no debemos compartir con nadie (que eso, en vertiente económica tendrá que tener su propia entrada en este blog), hay que darse cuenta de que somos seres humanos aprendiendo con máquinas que están aprendiendo y que todo esto es prueba y error. Sólo aprenderemos cuando veamos las consecuencias en carne ajena, mejor que en la propia... pero de ese peligro no nos libra nadie.

¿Pero qué están haciendo los más jóvenes con las IA? ¿Cuáles son las confidencias más inconfesables que puedan tener? Pues la mayoría sus cuitas a la hora de socializarse y sus amoríos. ¿Y qué están haciendo? Preguntar a las IA qué es lo que tienen que hacer para ser el amo del universo... o cómo librarse del bullying para que no les destrocen la vida. Convertir a la IA en un consejero-terapeuta para todo.

Esto es lo que ha advertido nada menos que Sam Altman, el CEO de Open AI. Admite que “no se puede confiar en ChatGPT para compartir sus secretos”. Es decir: “Si hablas con ChatGPT sobre tus asuntos más sensibles y luego surge una demanda o algo similar, podríamos estar obligados a presentar esa información” en un juicio. No es ninguna broma el asunto.

Y es normal, es más fácil preguntarle a una máquina que contarle 'eso' a tus padres, educadores o, incluso amigos. Y bastante más barato que pagar a un psicólogo o psiquiatra. Ahora bien, cuando se hagan mayores y se hayan acostumbrado, y lo usen para todo (incluso para aconsejarles de cómo librarse de lo malo que hagan) quizás el juez no necesite que la persona lo confiese. Se lo preguntará a quien no tiene obligación de guardar esos secretos. A la máquina.

Y veremos qué consecuencia tan poco divertida tendrá esta prueba y error en el nuevo mundo que viene de la interacción hombre-máquina. Cuando el futuro nos alcance y nos señale lo que hicimos en el pasado, porque no todo lo que se confiesa ahora ante una inteligencia artificial es, precisamente, inocente.