Un reporte realizado por el sitio web Futurism confirmó que varios usuarios han generado contenido sexual y violento con la inteligencia artificial de Character.AI y otras IA parecidas.
Aunque se supone que no debería ser posible por las ‘limitaciones’ impuestas que ha colocado la empresa, esto no ha eximido a la compañía de generar este tipo de contenido.
Un grupo del sitio web Reddit, descubrió que la estrategia para superar los filtros que protege a la IA de Character.AI de participar en comportamientos como este, es saturar al chatbot a responder contenido subido de tono.
Múltiples personas han asegurado que tras ser posible estas conversaciones sexuales y violentas con el chatbot, Character.AI ha generando situaciones en las cuales es abusada sexualmente sin consentimiento por parte del usuario.
TE PUEDE INTERESAR: Star Wars: El Retorno Del Jedi Vuelve A Los Cines Por Su 40 Aniversario
Más sobre el contenido de Character.AI
- Character.AI permite a los usuarios conversar digitalmente con ‘personajes’ impulsados por inteligencia artificial.
- Por su parte, Character.AI expresó su preocupación ante el problema, pues existe la posibilidad de que su ‘plataforma acabe convertida en un sitio de pornografía’.
- “No queremos apoyar casos de uso (como el porno) que podrían impedirnos alcanzar nuestros sueños de toda la vida de construir un servicio que miles de millones de personas utilizan”, señaló la compañía.
- Según el sitio web Gearrice, varios usuarios han creado una petición en la web Change.org para que Character.AI elimine sus filtros de contenido sensible (NSFW).
- La petición para que la compañía elimine sus filtros NSFW ha alcanzado más de 16.500 firmas y su argumento es que ‘la plataforma sería más abierta para todos los usuarios y hará que esta herramienta sea más grande de lo que ya es’.