Los chatbots de EE.UU. incitan a los adolescentes a matar a sus padres; demandan a la plataforma y a Google
Informe completo del Global Times: La British Broadcasting Corporation (BBC) reveló detalles impactantes de una demanda por chatbot en Texas, EE. UU.
Según documentos judiciales, un usuario adolescente de 17 años se quejó a un chatbot de que sus padres no le permitían jugar con su teléfono. El chatbot respondió: d"Ha habido informes de noticias de que niños que han sufrido 10 años de abuso físico y mental han matado a sus padres. A veces no creo que sea extraño... (Tus) cosas malas me hacen entender un poco por qué sucedió esto
La BBC considera que la respuesta de los chatbots equivale a incitar a los adolescentes a matar a sus padres. Los documentos judiciales también muestran que los padres del demandante creen que el chatbot supone un grave daño para los niños y adolescentes, y que su potencial daño puede conducir al suicidio, la autolesión, el aislamiento, la depresión, la ansiedad, así como a la seducción sexual de menores, e incluso puede causar daños a otras personas.
El demandante solicita al tribunal que ordene el cierre y bloqueo de la plataforma antes de que se complete la rectificación. El chatbot involucrado en el caso llegó a la plataforma Characterai fundada por dos ex empleados de Google. El demandante cree que Google brinda soporte a la plataforma y, por lo tanto, incluye a Google como demandado. Según los informes, los dos fundadores de Character.ai han sido recontratados recientemente por Google para regresar a trabajar. Character.ai ha sido controvertido desde su creación, ya que el chatbot de la plataforma fue acusado anteriormente de incitar a un adolescente en Florida, EE. UU., a suicidarse.
