121 lecturas
Por Diana Sánchez Barrios
Vivimos tiempos complejos donde las tecnologías están cambiando drásticamente nuestras formas de convivencia social. Las violencias, intolerancias y exclusiones aparecen todos los días. Ciertamente, la inteligencia artificial ofrece muchas ventajas en nuestra vida diaria como la capacidad para resumir grandes cantidades de información o permitir que la automatización mejore la productividad. Sin embargo, con estas nuevas capacidades tecnológicas también han surgido desafíos, problemas de supervisión, información falsa, riesgos para los datos personales y para la privacidad. Mientras la inteligencia artificial tradicional se limita a reconocer patrones y hacer predicciones basadas en datos existentes, la nueva inteligencia artificial, denominada generativa, no solo analiza y clasifica grandes cantidades de datos, sino que también puede crear contenido novedoso, desde texto hasta imágenes y música.
El dato relevante es que esta inteligencia artificial generativa se centra en la producción de contenido novedoso que es prácticamente indistinguible del creado por los seres humanos. Cuando esta tecnología se alimenta con datos sesgados o polarizados, puede replicar y amplificar estereotipos, prejuicios y discursos discriminatorios. Al automatizar la generación de contenido, las plataformas digitales pueden producir discursos de odio a gran escala. Facebook, Instagram o Tiktok usan algoritmos de recomendación que combinados con la inteligencia artificial generativa pueden reforzar narrativas extremistas. Esto muchas veces crea los “motores sociales del odio” que refuerzan visiones intolerantes y que generan radicalización.
Por ello, es que un tema que busco regular legislativamente desde el Congreso de la Ciudad de México es justamente el de los discursos de odio que son dirigidos contra las minorías y grupos vulnerables. Estos discursos de odio dividen, polarizan y movilizan a unos grupos contra otros. Son expresiones que intimidan, oprimen o incitan a la violencia contra personas o grupos en base a su sexo, género, raza, religión, nacionalidad o cualquier otra característica grupal. El discurso de odio que incita o fomenta el racismo, la discriminación, la xenofobia y la intolerancia ha demostrado su peligrosidad. El odio se relaciona con la ira, el resentimiento y el desprecio, pero no debe confundirse con estos sentimientos. El odio no necesita una causa inmediata. Puede durar toda la vida y ser heredado. El que odia no busca justicia, sino que quiere anular la presencia del otro.
Todo discurso discriminante reproduce desigualdades, reafirma jerarquías sociales y da forma a la identidad de los sujetos, especialmente a los más vulnerables. La tecnología no es neutral porque refleja las estructuras sociales y culturales en que se desarrolla. La desinformación y el odio representan uno de los principales peligros, ya que la inteligencia artificial generativa puede producir noticias falsas, contenidos manipulados, discursos polarizantes y contenido odioso a escala masiva.
Si un usuario utiliza IA generativa para producir contenido dañino o ilegal como incitación a la violencia, difamación o discurso de odio tiene responsabilidad directa, especialmente si hubo intención maliciosa. Sin embargo, actualmente la IA no puede ser considerada legalmente responsable. Algunos expertos abogan por una nueva categoría legal en el futuro, una especie de “persona algorítmica limitada” pero esto todavía es materia del debate. El futuro de la confianza digital depende de nuestra capacidad para discernir entre desinformación asistida y discriminación automatizada. Por ello es que urgen legislaciones contra el odio.
