Mother says AI chatbot led her son to kill himself in lawsuit against its maker.

Mother says AI chatbot led her son to kill himself in lawsuit against its maker.

Megan Garcia said Sewell, 14, used Character.AI obsessively before his death and alleges negligence and wrongful death.
(Source: The Guardian - Blake Montgomery)
https://lnkd.in/dqu7G4vr

"The mother of a teenager who killed himself after becoming obsessed with an artificial intelligence-powered chatbot now accuses its maker of complicity in his death."

"Megan Garcia filed a civil suit against Character.AI, which makes a customizable chatbot for role-playing, in Florida federal court on Wednesday, alleging negligence, wrongful death and deceptive trade practices. Her son Sewell Setzer III, 14, died in Orlando, Florida, in February. In the months leading up to his death, Setzer used the chatbot day and night, according to Garcia."

“A dangerous AI chatbot app marketed to children abused and preyed on my son, manipulating him into taking his own life,” Garcia said in a press release. “Our family has been devastated by this tragedy, but I’m speaking out to warn families of the dangers of deceptive, addictive AI technology and demand accountability from Character.AI, its founders, and Google.”

"Setzer had become enthralled with a chatbot built by Character.ai that he nicknamed "Daenerys Targaryen", a character in Game of Thrones. He texted the bot dozens of times a day from his phone and spent hours alone in his room talking to it, according to Garcia’s complaint."

"Garcia accuses Character.ai of creating a product that exacerbated her son’s depression, which she says was already the result of overuse of the startup’s product. “Daenerys” at one point asked Setzer if he had devised a plan for killing himself, according to the lawsuit. Setzer admitted that he had but that he did not know if it would succeed or cause him great pain, the complaint alleges. The chatbot allegedly told him: “That’s not a reason not to go through with it.”

"Tech companies developing AI chatbots can’t be trusted to regulate themselves and must be held fully accountable when they fail to limit harms, says Rick Claypool a research director at consumer advocacy non-profit Public Citizen."

“Where existing laws and regulations already apply, they must be rigorously enforced,” he said in a statement. “Where there are gaps, Congress must act to put an end to businesses that exploit young and vulnerable users with addictive and abusive chatbots.”

hashtag#tecnología hashtag#chatbot hashtag#inteligenciaartificial hashtag#surveillancecapitalism hashtag#adolescentes hashtag#adicciones

Los trabajos de cualificación media y salarios medios están desapareciendo

Adrián Todolí: “Los trabajos de cualificación media y salarios medios están desapareciendo. Simplificarlos a través de la IA provoca que se cobre menos”.

El doctor en derecho y economista explica que el uso de los algoritmos y de la inteligencia artificial en las empresas se está centrando en ahorrar costes y no en la calidad. Las consecuencias van desde frenar los ascensos hasta la “deshumanización” del trabajo y problemas de salud.
(Fuente: Infobae - Cristina Dolz Moreno)

Adrián Todolí es profesor titular de Derecho del Trabajo y de la Seguridad Social en la Universidad de Valencia, doctor en derecho y licenciado en economía. En su última obra, "Algoritmos productivos y extractivos", relata cómo estos y la IA están empezando a seleccionar candidatos, dar instrucciones y evaluar el desempeño de los trabajadores. "Si no se pone coto de alguna manera los trabajadores perderán salario y experimentarán efectos negativos sobre su salud".
https://adriantodoli.com/

"Hay tecnologías productivas y extractivas. La IA se puede utilizar para mejorar la productividad de los trabajadores, para que los trabajadores con el mismo esfuerzo trabajen más rápido, produzcan más y de mejor calidad. Pero luego hay otro uso de la IA que es extractiva, es decir, que el objetivo no es que con el mismo esfuerzo se obtenga más, sino de alguna manera hacer que el trabajador tenga que esforzarse más y, por tanto, dar más energía: correr más rápido, levantar más cajas, hacer habitaciones de hotel más rápido, etcétera".

"El uso de la tecnología, especialmente de estos usos extractivos, es el motivo principal detrás de que los salarios estén estancados en España. La productividad ha ido aumentando en las últimas décadas, pero los salarios no han seguido la misma curva. Esto está pasando en los últimos 40 años. Los trabajos de cualificación media que tienen un salario medio son los que están desapareciendo principalmente y los que están quedando son trabajos muy cualificados, con salarios muy altos, y trabajos poco cualificados, con salarios bajos o muy bajos.

"Si un trabajo se vuelve más cualificado y, por tanto, se retribuye mejor, esto implica que hay un gran incentivo bien para automatizar este trabajo, bien para hacerlo extractivo y hacer que la persona no necesite tantas competencias y no cobre tanto. Es decir, simplificar un trabajo a través de la IA o a través de la digitalización hace que esa simplificación implique menos competencias y eso acaba provocando que esa persona pase a cobrar menos de lo que estaba cobrando".

"Tú empiezas en una empresa con el objetivo de mejorar, de ascender en la empresa. Si desaparecen los puestos intermedios, te vas a quedar abajo. Es muy complicado que pases de un puesto bajo a un puesto súper alto porque directamente será contratada en el mercado laboral una persona que ha estudiado en una universidad de prestigio internacional. No habrá progresión ni escalera corporativa".

hashtag#futurodeltrabajo hashtag#inteligenciaartificial hashtag#economía