Adolescencia en la era de la IA

Tal vez ya han visto la nueva y atrapante serie de Netflix “Adolescencia”, no solo entretiene sino que también refleja un escenario digital en que niños y jóvenes se ven expuestos a múltiples riesgos que trascienden la figura del acosador sexual. Como abogada dedicada, entre otros asuntos, al estudio y la regulación de la Inteligencia Artificial, observo que la capacidad de crear, manipular y propagar contenido se ha acelerado de manera exponencial. Esta realidad exige que revisemos tanto nuestro marco legal como nuestras pautas de crianza.

En la  actualidad se superponen amenazas igualmente graves: la difusión de imágenes íntimas sin consentimiento, la proliferación de “fake news” alimentadas por la IA, los desafíos virales que promueven conductas extremas, el ciberbullying y los discursos de odio que se expanden por redes sociales. Ya no basta con enseñar a nuestros hijos a “no hablar con desconocidos” en el plano físico; ahora debemos comprender cómo funcionan las nuevas interacciones virtuales para protegerlos y, a la vez, acompañarlos en su desarrollo social y emocional.

Desde un punto de vista legal, este panorama plantea la necesidad de repensar nuestras leyes y normas de conducta. El Código Civil y Comercial de la Nación (CCyCN), por ejemplo, establece la responsabilidad parental no solo en lo referente a la manutención y el cuidado físico, sino también en la formación de los hijos, incluyendo el uso seguro y responsable de la tecnología.

Sin embargo, la vertiginosa evolución de las herramientas digitales y la aparición de lenguajes crípticos entre los adolescentes generan una brecha de comprensión difícil de acortar. Cuando un padre o una madre descubre que su hijo/a intercambia mensajes con símbolos cuyo significado ignora, el desconcierto puede ser total.

¿A qué nos referimos con la “pastilla roja”? En ciertas subculturas virtuales, especialmente en la llamada “manosfera”, esta metáfora —tomada de la película Matrix— se utiliza para justificar una ideología que promueve una masculinidad tóxica, contraria al feminismo y, en muchos casos, abiertamente misógina.

Dentro de este entorno, surgen grupos conocidos como “incel” (involuntary celibates), caracterizados por un discurso que culpa a las mujeres del supuesto fracaso romántico de algunos hombres y alienta la hostilidad hacia ellas. Quienes se identifican con la “píldora roja” creen “despertar” a una verdad que, según su visión, el resto de la sociedad no puede ver. Por otra parte, la llamada “píldora negra” lleva ese pensamiento al extremo: asumir que las mujeres dañan a los hombres indiscriminadamente, justificando un rencor fatalista y sin remedio.

Lo alarmante es que estos símbolos y expresiones se expanden con rapidez entre las nuevas generaciones. Algo tan aparentemente inofensivo como un emoji de corazón puede tener decenas de interpretaciones. Para muchos adolescentes, el corazón rojo expresa amor; el púrpura (asociado por el feminismo a la sororidad) puede significar deseo sexual; el amarillo, un interés mutuo; el rosa, atracción sin connotaciones sexuales; el naranja, un mensaje de calma o esperanza. Esa complejidad simbólica se convierte en un idioma propio, inaccesible para padres y educadores que no estén familiarizados con el entorno digital en el que sus hijos se mueven.

En este marco, la Inteligencia Artificial se posiciona como eje de numerosos debates. La facilidad para generar contenido falso o manipulado (deepfakes), la creación de perfiles automatizados que fomentan odio o difunden noticias fraudulentas, el uso de algoritmos que segmentan a los usuarios y les muestran información sesgada… todo ello agrava las brechas existentes y facilita la viralización de conductas perjudiciales.

El desafío para el Derecho es mayúsculo: necesitamos actualizar normas y procedimientos para garantizar que quienes desarrollan y gestionan estas tecnologías asuman obligaciones claras de prevención y control. Por supuesto, la responsabilidad no recae únicamente en las plataformas digitales o en el Estado.

Los padres y madres tienen un rol insustituible: educar y guiar a sus hijos, promover el pensamiento crítico y enseñarles a discernir entre fuentes confiables y contenidos engañosos. El reto es doble: por un lado, acompañar a los adolescentes para que no se aíslen en el universo virtual; por otro, formarse para descifrar ese universo y tener herramientas que permitan detectar situaciones de riesgo.

Establecer una relación de confianza que facilite el diálogo: preguntarles qué hacen en línea, interesarse por sus redes sociales o los juegos que frecuentan, e incluso compartir ciertos espacios virtuales con ellos, puede ser la diferencia entre una crianza atenta y una desconexión total.

El rol de la escuela también debe reforzarse. Más allá de la educación sexual integral, se vuelve urgente implementar programas de alfabetización digital y emocional, para enseñar a los jóvenes a detectar desinformación y a relacionarse de manera sana en entornos virtuales. Si la comunidad educativa se involucra y las familias participan, habrá mayores posibilidades de contener el impacto de fenómenos como el ciberacoso, las “fake news” o la manipulación ideológica.

La nueva realidad digital no tiene marcha atrás. Adaptarnos implica reconocer sus códigos, comprender sus lenguajes y, a la vez, asumir la misión de establecer límites y guías que favorezcan su crecimiento sano. La mirada humana y el acompañamiento cercano de los adultos es insustituible. La clave está en tender puentes en lugar de crear barreras: hacer de la tecnología un aliado para la educación, la participación y el entendimiento mutuo, en vez de un callejón sin salida donde proliferen el odio y la violencia. No quedarnos atónitos ante una “pastilla roja” o un símbolo críptico, sino comprender lo que hay detrás, y responder con empatía y firmeza.

* Directora del Instituto de Derecho e IA del Colegio de Abogados y Procuradores de Neuquén.