Gary Marcus, investigador en IA: “El futuro de la inteligencia artificial es más oscuro con Trump en la Casa Blanca”.
(Fuente: EL PAÍS Tecnología - Manuel G. Pascual)Profesor de psicología y neurociencia en New York University su investigación se ha centrado en la intersección entre psicología cognitiva e inteligencia artificial. Paralelamente, ha fundado dos startups. La primera de ellas, Geometric Intelligence, fue adquirida por Uber en 2016 y convertida en un laboratorio de investigación sobre aprendizaje profundo. La segunda, Robust.AI, pretende contribuir al desarrollo abierto de software para robots autónomos.
Marcus (Baltimore, EE UU, 54 años) no se ha cansado de predicar en redes sociales en los últimos meses los peligros de que Donald Trump llegara a la Casa Blanca, especialmente si lo hacía de la mano de Elon Musk. Al final ha sucedido. La suya es una de las voces más escuchadas en EE UU sobre inteligencia artificial (IA) y sus peligros.
Testificó el año pasado junto a Sam Altman, director general de OpenAI, en el subcomité del Senado que exploraba formas de controlar la IA. Según sostiene en su último libro, "Taming Silicon Valley" (The MIT Press) si no hacemos nada, la IA generativa convertirá el mundo en un lugar peor.
-"Tras la victoria de Trump veo el futuro muy oscuro. La IA generativa conlleva muchos riesgos, a corto y largo plazo, y creo que las perspectivas de una regulación significativa bajo la administración Trump son escasas. La UE tiene su ley de IA; EE UU tiene muy poca regulación específica sobre IA para proteger a sus ciudadanos, y no veo que eso vaya a cambiar en los próximos años".
-"Elon fue una de las primeras personas en advertir sobre los riesgos de la IA, pero ahora ha invertido mucho dinero en el éxito de esa tecnología. Imagino que hará todo lo posible para que el Gobierno subvencione el desarrollo de la IA, incluidas sus propias empresas, a pesar de los riesgos sobre los que antes advertía".
"La IA generativa hará avanzar el capitalismo de la vigilancia. Algunas personas vuelcan sus secretos más íntimos en los chatbots, y sus creadores esperan poder acceder a los archivos, correos electrónicos, calendarios e incluso contraseñas de todo el mundo. Los propios modelos de lenguaje, por la forma en que responden, pueden moldear sutilmente las creencias de la gente, e incluso implantar creencias falsas. Estamos dando a los creadores de estas herramientas un poder extraordinario. Mientras tanto, estos modelos ya se están utilizando para generar desinformación, tomar decisiones sesgadas en la contratación laboral, alimentar la ciberdelincuencia y mucho más."
"La tecnología tiene algunas ventajas, pero no está nada claro que supongan un beneficio neto para la humanidad. Por el contrario, la mayoría de los beneficios irán a parar a las grandes empresas que crean estos sistemas, mientras que la mayor parte de los costes los absorberá la sociedad."
