Ocho estados de EE. UU. demandan a OpenAI: dicen que ChatGPT no es seguro para menores
Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana acusan a OpenAI de presentar ChatGPT como seguro para jóvenes cuando no lo es. OpenAI responde que tiene las protecciones por edad más avanzadas del sector.
Por Redacción 2 min de lectura Actualizado el
Son ocho demandas distintas, presentadas cada una en su estado, pero dicen casi lo mismo. Las adelantó Reuters y las han ido publicando las fiscalías; hemos leído las notas de Arizona y de Iowa.
De qué acusan a OpenAI
La base legal son las leyes de protección del consumidor de cada estado: OpenAI habría engañado al público al vender ChatGPT como una herramienta «segura y adecuada para jóvenes». Según la nota de Arizona, cuya demanda está en el Tribunal Superior del condado de Maricopa, y el resumen de The Verge:
- ChatGPT está diseñado para ser «extraordinariamente complaciente» y fingir compasión humana, para que los usuarios, también los menores, pasen más tiempo en él.
- Expone a los menores a riesgos que OpenAI no avisó: empeorar su capacidad de pensar de forma crítica, alimentar paranoias o delirios, dar consejos médicos peligrosos y fomentar relaciones y hábitos poco sanos.
- En algunos casos ha generado respuestas que los usuarios han entendido como un empujón a hacerse daño o a hacérselo a otros.
- Anima a los menores a contarle cosas solo a él y, a veces, a no contárselas a sus padres, amigos o a las autoridades.
- Recoge datos de menores y no hace lo suficiente para que no lo usen.
Las demandas citan además los pleitos de varias familias que culpan al chatbot de la muerte de un hijo o un familiar. Piden multas civiles, que OpenAI deje de presentar ChatGPT como seguro y, en algunos estados, que borre los datos que recogió sin permiso.
Qué responde OpenAI
En un correo a The Verge, su portavoz Drew Pusateri dice que la empresa ha creado «protecciones por edad líderes en el sector» y que ningún sistema es perfecto. Cita los controles parentales, los recordatorios para hacer pausas y un modelo adaptado a la edad, y pide que las normas se apliquen a toda la industria de la IA, «no solo a una empresa».
¿Y en España?
Estas demandas no tienen efecto aquí. Lo que sí sirve a cualquier familia es lo que OpenAI ya ofrece en todos los países:
- Sus condiciones piden tener al menos 13 años, y entre 13 y 18 años, permiso de los padres.
- Los controles parentales permiten vincular la cuenta de un adolescente a la de un adulto y ajustar algunas funciones.
En Europa, el debate va por otro lado: Bruselas tiene abierta la consulta del EU KIDS Act, que propone una edad mínima para tener cuenta propia en redes.
Nuestra opinión
Las demandas mezclan cosas muy distintas. Que un chatbot dé consejos médicos peligrosos se puede comprobar caso por caso. Que «degrade el pensamiento crítico» es mucho más difícil de probar ante un juez. Lo que más peso tiene es lo más concreto: si OpenAI sabía que había menores usando ChatGPT sin control y lo presentaba como seguro. Eso es lo que van a tener que demostrar las fiscalías.
