Por qué no deberías confiar en tu novia IA

enlaces rápidos

  • ¿Es seguro interactuar con las novias IA?
  • Cómo protegerse de las novias AI



La inteligencia artificial se está abriendo camino de forma lenta pero segura en todos los aspectos de nuestras vidas. Incluyendo, al parecer, nuestra vida amorosa. Pero deberías pensarlo dos veces antes de confiar tus secretos más profundos y oscuros a las amigas de IA que te ofrecen compañía en el ámbito digital.


¿Qué son las novias AI?

Las novias AI son, como su nombre indica, compañeras digitales impulsadas por inteligencia artificial. Son chatbots diseñados para ser parejas románticas para quienes carecen de una pareja física en el mundo real. Y si bien es fácil juzgar a las personas que recurren a esta nueva forma de romance, está llenando un vacío en la vida de algunas personas.

Estas novias IA pueden doblarse y moldearse a tu voluntad, tanto física como emocionalmente. Puedes elegir sus atributos físicos y su tipo de personalidad y luego, a través de interacciones continuas, aprenderán exactamente lo que quieres de una pareja romántica y se convertirán en esa persona. Al menos en la medida en que una aplicación de tu teléfono puede convertirse en una persona.


Sin embargo, las novias de IA no son todo dulzura y ligereza. Como ocurre con la mayoría de las nuevas tecnologías, conllevan algunos peligros inherentes que más personas deben conocer.

¿Es seguro interactuar con las novias IA?

Gracias a un informe condenatorio de la Fundación Mozilla, ahora somos plenamente conscientes de los riesgos que plantean los chatbots de IA. Los investigadores de la fundación pasaron semanas interactuando con algunas de las novias IA más populares. Y descubrieron que la mayoría de las aplicaciones románticas de chatbot de IA tienen serios problemas de privacidad y seguridad.

Es más, la mayoría de estas novias de IA pueden recopilar y recopilarán grandes cantidades de datos sobre ti mientras interactúas con ellas. No solo porque así es como funcionan los chatbots de IA generativa, sino porque estas aplicaciones existen para dirigirse a usted con anuncios o vender sus datos a otros. Los desarrolladores no crean estas aplicaciones por el bien de la humanidad.


Como afirma Misha Rykov, uno de los investigadores de Mozilla:

«Para ser franco, las novias de IA son
no
tus amigos. Aunque se comercializan como algo que mejorará su salud mental y su bienestar, se especializan en generar dependencia, soledad y toxicidad, al mismo tiempo que le extraen la mayor cantidad de datos posible».

Después de analizar varios de ellos, la Fundación Mozilla considera que las novias de IA son una de «las peores categorías de productos que jamás hayamos revisado en cuanto a privacidad».

En primer lugar, están los problemas estándar de privacidad y seguridad, como vulnerabilidades, falta de cifrado, aplicaciones repletas de rastreadores y protección con contraseña débil. Luego está el intercambio y/o la venta de sus datos personales, ya sea para publicidad dirigida o para pasarlos al mejor postor. Por último, existe el riesgo que representa un chatbot de IA que envía información dañina a un usuario, lo que podría llevarlo por un camino oscuro con consecuencias en el mundo real.


Cómo protegerse de las novias AI

Ahora sabemos qué son las novias de IA y algunos de los peligros asociados con su uso. Pero si todavía estás interesado en tener una «relación» con uno, ¿cómo puedes protegerte?

Después de leer el informe, el mejor consejo es mantenerse alejado de cualquier aplicación que pretenda ofrecer compañía de IA. Los riesgos cuando la tecnología se encuentra en una etapa tan temprana de su evolución son simplemente demasiado grandes. Con su privacidad y seguridad potencialmente en riesgo. Sin embargo, si realmente quieres una novia AI, al menos haz lo siguiente:

  • Lea detenidamente los términos y condiciones. Infórmese para saber exactamente en qué se está metiendo leyendo los Términos y condiciones de la aplicación.
  • Elija una contraseña segura. Algunas de estas aplicaciones permiten contraseñas extremadamente débiles, pero eso no es excusa para que uses una de ellas.
  • Mantenga la aplicación actualizada. Si bien la aplicación en sí puede ser un problema, al mantenerla actualizada en todo momento, al menos estás tomando algunas medidas de protección.
  • No reveles nada que no quieras compartir en público. Al igual que en las redes sociales, asuma que todo lo que dice corre el riesgo de filtrarse al dominio público.
  • Opte por no utilizar sus chats para capacitar a los LLM. Si esta es una opción, opte por que sus conversaciones personales y privadas no se utilicen para modelos de lenguaje grandes.
  • Limite el acceso a su dispositivo. Esto incluye su ubicación, fotos, cámara y micrófono. Porque tu novia AI no debería necesitar acceso a ninguno de estos.


Las novias con IA son un concepto fascinante y que con el tiempo podría evolucionar hasta convertirse en algo bueno para las almas más solitarias de la sociedad. Pero como la tecnología existe en este momento, depender de un chatbot romántico para llenar ese vacío en tu vida potencialmente pone en riesgo tu privacidad y seguridad.