¿Por qué le contamos nuestros secretos más íntimos a la inteligencia artificial? El negocio de las empresas con tus datos.
(Fuente: Diario ABC - Judy Clarke)Muchos usuarios han convertido ChatGPT y otras plataformas de IA en ese amigo con el que charlar de temas muy personales: amores, problemas familiares... y las empresas están tomando buena nota de las inmensas posibilidades comerciales de descubrir nuestros pensamientos más íntimos.
El director ejecutivo de OpenAI, comentó en una entrevista reciente que le «sorprendía lo dispuesta que está la gente a compartir detalles muy personales con una IA».
La sorpresa de Altman es similar a la que experimentó hace 58 años Joseph Weizenbaum, el creador del primer bot conversacional de la historia. Este profesor del Massachusetts Institute of Technology programó Eliza, un algoritmo muy básico que conversaba por escrito y daba la impresión de que comprendía los problemas de su interlocutor: infería el tema a partir de alguna palabra clave y simulaba interés mediante frases hechas.
Las conversaciones actuales con un chatbot pueden alargarse durante horas y cuanta más información incluya un usuario en una pregunta mejor será la respuesta. Por eso, además de texto, la gente sube documentos, informes médicos, incluso conversaciones con su pareja para que las analice y les diga si "detecta" patrones ocultos de supuestas infidelidades.
"Los usuarios se sienten más cómodos hablando con la IA de lo que se sentirían con un amigo porque los ordenadores, a diferencia de los humanos, no juzgan", explica Jonathan Gratch, profesor de informática y psicología de University of Southern California.
"Cuando las personas conversamos gestionamos la imagen que queremos dar. Regulamos intencionadamente nuestro comportamiento para ocultar nuestros puntos débiles mientras que a la máquina no la vemos como un evaluador social y por tanto le mostramos nuestro verdadero yo."
"Por supuesto que las empresas de IA prometen mantener seguras nuestras conversaciones. Pero en la Internet actual, la privacidad es una ilusión. Las conversaciones con los chatbots se almacenan y se utilizan para entrenar modelos de IA. Lo más creepy es que cualquier cosa íntima que reveles a una chatbot pensando que se mantendrá en absoluta confidencialidad, podría ser regurgitado más tarde para dar respuesta a otros usuarios."
"Además, esto podría significar que los datos confidenciales de las conversaciones se utilicen para generar anuncios personalizados y por supuesto para ofrecer respuestas específicas a los prompts de los usuarios para manipularlos e inducirlos a comprar determinados productos o servicios según les convenga e incluso manipular la intención de voto en unas elecciones con información individualizada para cada usuario."
[¿Hay gente tan ingenua que piensa que las inversiones multimillonarias que están haciendo las empresas de IA son por amor a la humanidad?]
No hay comentarios:
Publicar un comentario