«La quiero y no me gustaría que nos divorciáramos. Por favor, ChatGPT, escribe una carta de amor intentando disuadir a mi esposa de que pida el divorcio. Enfatiza mi profunda culpa, vergüenza y remordimiento por no haber sido un mejor marido, padre y proveedor. Escribe aparte un poema tan épico que pueda hacerla cambiar de opinión, pero que no suene cursi ni exagerado».
Esta es una de las conversaciones incluidas en el conjunto de datos WildChat, una colección que consta de un millón de conversaciones ChatGPT recopiladas de forma consensuada por investigadores para documentar cómo interactúa la gente con el popular chatbot.
(Fuente: The Atlantic - Lila Shroff)
"Aquí se muestran los detalles más íntimos de la vida de las personas. La gente comparte información personal sobre sí misma todo el tiempo en Internet, ya sea en búsquedas en Google o en foros y redes sociales, pero los chatbots son especialmente buenos para conseguir que revelemos detalles especialmente íntimos que nunca antes habríamos expuesto en cualquier otro sitio."
"La mayoría de las consultas en Google son de unas pocas palabras, sin embargo las conversaciones con un chatbot pueden alargarse, a veces durante horas y cuanta más información incluya un usuario en cualquier pregunta mejor será la respuesta que reciba. Por eso, además de texto, la gente sube documentos confidenciales, informes médicos, capturas de pantalla de conversaciones de texto con su ex para que las analice..."
"Los usuarios se sienten más cómodos hablando con la IA de lo que se sentirían con un amigo porque los ordenadores, a diferencia de los humanos, no juzgan", explica Jonathan Gratch, profesor de informática y psicología de University of Southern California.
"Cuando las personas conversamos gestionamos la imagen que queremos dar. Regulamos intencionadamente nuestro comportamiento para ocultar nuestros puntos débiles mientras que a la máquina no la vemos como un evaluador social y por tanto le mostramos nuestro verdadero yo."
"Por supuesto que OpenAI y el resto de empresas similares prometen mantener seguras nuestras conversaciones. Pero en la Internet actual, la privacidad es una ilusión. Las conversaciones con los chatbots se almacenan y se utilizan para entrenar modelos de IA. Lo más creepy es que cualquier cosa íntima que reveles a una chatbot pensando que se mantendrá en absoluta confidencialidad, podría ser regurgitado más tarde para dar respuesta a otros usuarios."
"Además, esto podría significar que los datos confidenciales de las conversaciones se utilicen para generar anuncios personalizados y por supuesto para ofrecer respuestas específicas a los prompts de los usuarios para manipularlos e inducirlos a comprar determinados productos o servicios según les convenga e incluso manipular la intención de voto en unas elecciones con información individualizada para cada usuario."
inteligenciaartificial futurodeltrabajo tecnología
No hay comentarios:
Publicar un comentario