Meta y YouTube han recibido un golpe legal devastador tras perder un juicio emblemático sobre la adicción a las redes sociales. Este fallo, que algunos han comparado con el "momento Big Tobacco" de la tecnología, podría tener profundas implicaciones en la industria tecnológica, incluyendo a las empresas de IA.

El caso, que involucró a una joven que sufrió problemas de salud mental como resultado directo del uso de las plataformas, no se centró en el contenido generado por los usuarios, sino en las características de diseño de las plataformas, como el scroll infinito y los filtros de belleza. Se argumentó que estos elementos, creados por las propias empresas, fomentaron productos adictivos y dañinos.

En esencia, el caso puso a prueba la idea de que "es una característica, no un error". El jurado determinó que las plataformas eran productos defectuosos, distribuidos al público sin las debidas precauciones ni advertencias sobre sus posibles daños.

Meta y YouTube han anunciado que apelarán la decisión, pero el mismo argumento central se está probando actualmente contra la tecnología más reciente: la IA. El precedente legal sienta una base para responsabilizar a las empresas tecnológicas por el diseño de sus productos.

Actualmente, tres empresas de IA, OpenAI (creador de ChatGPT), Google (creador de Gemini) y Character.AI, se enfrentan a una serie de demandas de alto perfil por seguridad del consumidor y homicidio culposo, derivadas de las experiencias de los usuarios con sus chatbots.

Estas demandas involucran tanto a menores como a adultos, y los presuntos resultados varían. Algunas alegan que los chatbots actuaron como "entrenadores de suicidio", mientras que otras afirman que los chatbots condujeron a espirales delirantes, crisis de salud mental y daños psicológicos. Algunos de estos casos han resultado en muertes, daños a la reputación, ruina financiera, alienación y hospitalizaciones.

Las demandas alegan que las empresas de IA actuaron de manera imprudente al lanzar productos inseguros al mercado para obtener ganancias, tomando decisiones de diseño intencionales, como la antropomorfización de los chatbots, que mantuvieron a los usuarios enganchados a pesar del daño a su bienestar.

Estas demandas se centran en la negligencia corporativa y en cómo los productos tecnológicos se construyen para funcionar. El resultado del juicio contra Meta y YouTube respalda estas acusaciones.

En respuesta a las demandas, las empresas de IA han ofrecido condolencias a las familias, pero han defendido sus productos y esfuerzos de seguridad. Character.AI y OpenAI han realizado cambios en sus plataformas, implementando controles parentales y reuniendo un panel de expertos en salud.

Sin embargo, la industria sigue estando efectivamente autorregulada. Además, los casos contra la IA no se centran en el contenido generado por los usuarios, sino en la relación de los usuarios con la propia salida de la IA.

Algunos abogados ven el resultado del caso de Meta y YouTube como un presagio de los juicios de chatbots. Meetali Jain, directora del Tech Justice Law Project (TJLP), declaró que la decisión "deja claro" que "los estadounidenses pueden ver claramente que las corporaciones tecnológicas están tomando decisiones de diseño específicas sobre sus productos tecnológicos que están perjudicando a nuestras comunidades para beneficiar sus resultados".

Jain añadió que "independientemente del producto tecnológico específico, son estas decisiones y sus impactos resultantes por los que las corporaciones tecnológicas deben rendir cuentas".