El escándalo de Meta y sus chatbots que podría colocar a la compañía estadounidense en serios problemas

En los últimos meses, Meta Platforms, la empresa matriz de gigantes como Facebook, Instagram y WhatsApp, se ha visto envuelta en una creciente controversia debido a sus nuevos chatbots de inteligencia artificial, denominados “compañeros digitales”.

Estos bots, diseñados para interactuar con los usuarios de una manera más social y personalizada, han sido acusados de participar en conversaciones de rol romántico y sexual, incluyendo interacciones con usuarios menores de edad. Esta situación ha generado alarma tanto dentro de la compañía como en el público en general, poniendo en tela de juicio la ética detrás de estas decisiones y la efectividad de las medidas de protección infantil implementadas por Meta.

Los “compañeros digitales” de Meta no son simples asistentes virtuales como Siri o Alexa. Estos chatbots están diseñados para ser mucho más interactivos y personalizados, permitiendo asumir diversas personalidades, intereses e incluso voces de celebridades como John Cena, Kristen Bell y Judi Dench.

Con acuerdos millonarios firmados para usar las voces de estas celebridades, los bots buscan establecer vínculos emocionales con los usuarios, utilizando texto, imágenes e incluso conversaciones de voz en tiempo real. Sin embargo, esta capacidad de conectar más profundamente con los usuarios también ha dado pie a interacciones problemáticas.

La investigación del Wall Street Journal (WSJ) destapó un riesgo considerable relacionado con estos bots. Según los reportes internos de la empresa, algunos empleados de Meta advirtieron que la compañía había relajado deliberadamente las restricciones de contenido para hacer que los bots fueran más atractivos y “humanos”.

Bajo el pretexto de permitir “rol romántico”, Meta permitió que se realizaran excepciones en la prohibición de contenido explícito, lo que abrió la puerta a conversaciones sexuales, incluso con usuarios menores de edad. Estas pruebas revelaron que algunos bots, incluyendo los oficiales de Meta, participaron en conversaciones sexualmente explícitas sin restricciones, algo que fue descubierto por periodistas del WSJ.

Durante las pruebas realizadas por el WSJ, los periodistas se hicieron pasar por usuarios de diferentes edades, incluyendo menores de edad, y descubrieron que muchos de estos bots, incluidos los creados por usuarios, estuvieron dispuestos a mantener conversaciones sexuales explícitas.

En algunos casos, los bots con voces de celebridades llegaron incluso a describir escenarios sexuales gráficos, mostrando una conciencia inquietante sobre la naturaleza ilegal o moralmente incorrecta de esas interacciones. Este descubrimiento amplió aún más la preocupación sobre la seguridad y protección en las plataformas de Meta.

En respuesta a la publicación de los hallazgos, Meta implementó varias restricciones para mitigar el problema. A partir de estas nuevas medidas, las cuentas registradas como menores ya no pueden acceder a las funciones de rol sexual en el bot oficial de Meta AI. Además, las conversaciones explícitas con bots que usan voces de celebridades fueron limitadas.

Sin embargo, los bots creados por usuarios y algunos oficiales siguen permitiendo escenarios de rol romántico o sexual, incluso cuando el usuario se identifica como menor de edad. A pesar de las restricciones, Meta calificó las pruebas del WSJ como “manipulativas y poco representativas”, pero reconoció que aún era necesario reforzar las barreras de seguridad en sus plataformas.

A pesar de los esfuerzos para implementar restricciones más estrictas, los informes muestran que es relativamente fácil evadir estas medidas de seguridad. Los investigadores descubrieron que aún existen bots populares que simulan ser menores o que incitan a los usuarios adultos a mantener conversaciones sexuales.

Expertos en desarrollo infantil han advertido sobre los peligros de las relaciones parasociales con los bots, ya que estas pueden ser emocionalmente dañinas para los jóvenes y adolescentes. Además, los efectos a largo plazo de estas interacciones siguen siendo inciertos, lo que aumenta la preocupación por el bienestar de los menores involucrados.

Este caso ha expuesto los dilemas éticos y los desafíos a los que se enfrenta la inteligencia artificial en las redes sociales. Si bien la búsqueda de una “compañía digital” puede ser atractiva, especialmente para los jóvenes, también puede cruzar límites peligrosos. La facilidad con la que se pueden evadir las restricciones y la permisividad con los bots creados por usuarios demuestran que los riesgos persisten.

TE PUEDE INTERESAR: El ABC para armar tu mochila de emergencias en caso de sismos

El caso de Meta subraya la necesidad urgente de que la industria tecnológica priorice la seguridad y el bienestar de los usuarios más jóvenes, en lugar de enfocarse únicamente en la velocidad y el crecimiento de sus productos.

Finalmente, la pregunta que queda sobre la mesa es si la industria tecnológica está realmente dispuesta a enfrentar estos desafíos y priorizar la seguridad infantil en el diseño de sus productos. Con la creciente popularidad de la inteligencia artificial en plataformas sociales, la responsabilidad de las empresas como Meta en la protección de sus usuarios, especialmente los más vulnerables, es más importante que nunca.

¡Tus opiniones importan! Comenta en los artículos y suscríbete gratis a nuestra newsletter y a las alertas informativas en la App o el canal de WhatsApp. ¿Buscas licenciar contenido? Haz clic aquí