Carissa Véliz, filósofa en University of Oxford: "La IA está diseñada para inventar contenidos verosímiles, no para buscar la verdad".
Esta experta en filosofía moral y tecnología alerta de los riesgos para la democracia de las inteligencias artificiales.(Fuente: Público - Pablo Romero Martínez)
Profesora asociada en el Instituto para la ética de la inteligencia artificial y miembro del Hertford College, University of Oxford, autora de varias obras de referencia sobre vigilancia y privacidad, ahora enseña a empresas y gobiernos a considerar la finalidad del uso de las IA y los peligros que entraña ignorar sus riesgos, incluso para el propio sistema democrático.
https://lnkd.in/dT3eAH8T
-"Al final, la democracia depende de tener información fiable y de que los ciudadanos estén relativamente bien informados, y si tienes una máquina cuya especialidad es inventarse historias que son plausibles y verosímiles, pero no verdad, y facilita la generación de estos contenidos a escala, pues evidentemente hay un problema de desinformación".
-"Es normal que la tecnología vaya por delante de las leyes, y creo que es un enfoque bueno que la legislación se fije en los fines de su uso más que en la tecnología en particular, porque la tecnología cambia todo el rato. Al final la IA es una herramienta, sofisticada, pero una herramienta; por lo tanto, los seres humanos que están detrás de esa herramienta son responsables de esos motores de IA."
"Para empezar las tecnológicas han ignorado la ley y diseñado un sistema de manera ilegal, o sea, tomando datos que tenían derechos de autor, datos personales, todo lo que han podido barrer en internet, hasta el momento parece que hemos aceptado ese hecho, y ahora tenemos la contradicción de que estamos utilizando esas herramientas que no cumplen ni siquiera con las normas de derechos de autor ni con con el reglamento de protección de datos, pero esas normas siguen vigentes".
"No están entrenadas para pensar ni, por tanto, conocer sus propios límites de conocimiento. Son generadoras de respuestas estadísticas que no buscan la verdad sino la plausibilidad, la verosimilitud. O sea, para que nos la creamos".
"Si la IA se inventa algo muy complicado de comprobar, se pierde tanto tiempo editando y corrigiendo errores que parece que el trabajo lo hace una. De momento la gente sobre todo usa las herramientas de IA por curiosidad, por diversión, para escribir algún email poco importante; está por ver qué usos serán realmente importantes".
-"No obstante, la velocidad de su desarrollo está creando una nueva generación que no sólo la usa despreocupadamente para escribir trabajos en el sistema educativo, por ejemplo, sino que se está desacostumbrando a contrastar si la información que le devuelve el sistema es verdadera o falsa."
