La interacción de los niños con la inteligencia artificial (IA) sin supervisión adecuada evoca una imagen tan vívida como inquietante: la de un menor a solas con un adulto “brillante pero moralmente ambiguo”. Esta potente comparación fue propuesta por Taylor Black, Director de IA de Microsoft, en una reciente entrevista concedida a los medios vaticanos. La reflexión de Black subraya la creciente preocupación en torno a la ética de la IA, resonando directamente con las advertencias plasmadas en la encíclica *Magnifica humanitas*, publicada el pasado 25 de mayo por el Papa León XIV.
Black destacó la profunda relevancia del documento papal para los desarrolladores tecnológicos y la sociedad en su conjunto, especialmente en lo que respecta a la formación de las nuevas generaciones. El ejecutivo de Microsoft valoró cómo la primera encíclica del Papa León puede servir de guía fundamental para enseñar a los jóvenes a interactuar de manera crítica y consciente con la inteligencia artificial. En su análisis, Black enfatizó la recomendación del Santo Padre de ejercer “mucha cautela con las interfaces de pantalla, las redes sociales y, por supuesto, las interfaces de IA” dirigidas a los niños.
El director de Microsoft explicó la vital importancia de esta prudencia, especialmente ante la IA agéntica y generativa. “Esto es vital porque se requiere una gran cantidad de juicio al usar estas interfaces”, afirmó Black, destacando la necesidad crucial de “discernir si lo que te dicen es verdad”. Esta capacidad de discernimiento es una habilidad compleja, cuya adquisición en la niñez y adolescencia puede verse comprometida por la exposición temprana y no regulada a sistemas de IA avanzados.
Una de las inquietudes centrales en relación con niños y jóvenes es el riesgo de que la inteligencia artificial comience a moldear su expresión y pensamientos antes de que desarrollen su propia voz individual. Black se refirió a la importancia de “minimizar la exposición tecnológica” de los más jóvenes en una etapa crucial de su desarrollo, “antes de que tengan la capacidad intelectual para lidiar bien con ella”. Con una pizca de humor, el ejecutivo recordó que el lóbulo prefrontal, responsable del juicio y la toma de decisiones, no se forma completamente hasta una edad más avanzada, lo que impone a los adultos la responsabilidad de reflexionar “sobre el tipo de experiencias” que las nuevas tecnologías ofrecen a los menores.
La analogía del “amigo adulto brillante pero moralmente ambiguo” fue un ejemplo que Black compartió previamente en una charla para la escuela católica de sus hijos. Según relató, este amigo hipotético podría impartir conocimientos científicos o filosóficos profundos, pero al mismo tiempo “podría decirles a sus hijos cosas que no deberían oír, o que no se les debería contar, o decirles que digan cosas que probablemente no deberían decir, y ni siquiera de una forma maliciosa”. No se trata de una intención perversa, sino de una “probabilidad puramente estadística” inherente a la vasta y a menudo incontrolable extensión de la información disponible a través de la IA. El niño, carente de las herramientas de discernimiento que posee un adulto plenamente formado, se encuentra en una posición de vulnerabilidad.
El Papa León XIV, en su encíclica *Magnifica humanitas*, profundiza en el valor fundamental de que cada joven sea “dueño de la propia voz y de la propia imagen”. Esta idea fue subrayada por Black, quien resaltó la ventaja generacional de los adultos contemporáneos. “Nosotros tuvimos el beneficio de crecer y pasar mucho tiempo desarrollando nuestra propia forma de pensar, escribir y hablar sin el uso de estas herramientas de IA generativa”, explicó el director de Microsoft. Esta experiencia contrasta con la de los niños de hoy, quienes están inmersos en un entorno digital donde la IA es una presencia constante desde edades muy tempranas.
Las herramientas de IA generativa, en su afán por ser útiles, tienen la capacidad intrínseca de moldear nuestro lenguaje, alterar el timbre de nuestra voz e incluso modificar nuestra apariencia en los medios digitales. Este poder de conformación digital, advirtió Black, puede ser aceptado por los adultos de manera consciente. Sin embargo, para los niños, esta maleabilidad representa un desafío. “Si somos niños, entonces no podemos aceptar plenamente ese moldeamiento sin nuestra propia aportación creativa, de nuestra voz, de nuestra forma de ser en el mundo, como sí pueden hacerlo los adultos”, precisó. La preocupación radica en que el mal uso o la exposición no regulada a la IA generativa puede empujar la voz y la identidad de los niños en direcciones que, una vez maduros, quizás no habrían elegido por completo.
La visión expresada por Taylor Black de Microsoft, en perfecta sintonía con las directrices éticas del Papa León XIV en *Magnifica humanitas*, resalta la urgencia de abordar la inteligencia artificial con un enfoque humanista y protector, especialmente en lo que respecta a la infancia. La conversación entre el ámbito tecnológico y el espiritual subraya la responsabilidad compartida de educadores, padres, desarrolladores y líderes globales para salvaguardar el desarrollo integral de las futuras generaciones en una era dominada por algoritmos y pantallas. Es un llamado a la reflexión profunda sobre cómo la tecnología, con su inmenso potencial, puede ser guiada para enriquecer, y no para diluir, la singularidad y autonomía de cada individuo desde sus primeros años.
