La inteligencia artificial ya llegó a la infancia: GandIA apuesta por crear un entorno seguro

• La inteligencia artificial ya forma parte de la vida de niñas, niños y adolescentes; el desafío es que aprendan a usarla con criterio y protección.
• GandIA lanzó en México una plataforma para crear historias, cómics y videojuegos con filtros de contenido, controles parentales y mecanismos de seguridad.
• La herramienta fue desarrollada durante dos años de investigación y con la participación de 300 menores, docentes y familias, y busca impulsar la creatividad sin sustituir el pensamiento propio.

La inteligencia artificial ya forma parte de las búsquedas, las tareas y el entretenimiento de niñas, niños y adolescentes. El reto ya no es decidir si tendrán contacto con ella, sino garantizar que aprendan a utilizarla en espacios que protejan su seguridad, fortalezcan su criterio y les permitan desarrollar sus ideas.

Ante este escenario, GandIA lanzó en México una plataforma de IA con la que menores de edad pueden crear historias, cómics, videojuegos y experiencias educativas mediante conversaciones e instrucciones sencillas. La herramienta incorpora controles parentales, filtros de contenido y mecanismos para detectar interacciones de riesgo.

“No queremos que niñas y niños utilicen una inteligencia artificial que piense por ellos, sino que los ayude a pensar mejor, participar en el proceso creativo y convertir sus ideas en algo que puedan compartir”, afirmó Cristian Sandoval, fundador de GandIA, empresa mexicana enfocada en la creación colaborativa con inteligencia artificial.

En lugar de entregar una respuesta terminada para copiar y pegar, la plataforma guía al usuario por distintas decisiones. Para desarrollar un cómic, por ejemplo, debe crear personajes, construir el contexto, elegir los diálogos y definir cómo avanza la historia. En las actividades educativas puede seleccionar rutas, responder preguntas y recibir retroalimentación.

Además, integra modelos especializados en texto, imagen, sonido, video y programación, lo que permite combinar distintos formatos sin que el usuario necesite contratar cada tecnología por separado.

Diseñada desde la infancia

GandIA se desarrolló durante dos años mediante pruebas y sesiones de trabajo con 300 niñas y niños, docentes y familias. El proceso permitió identificar tres preocupaciones: el acceso a contenidos inadecuados, la necesidad de verificar la información y el riesgo de que la IA sustituya parte del aprendizaje.

A partir de estos hallazgos, especialistas en tecnología y educación ajustaron las funciones creativas y los mecanismos de protección. Madres, padres y tutores pueden orientar los contenidos según la edad y los intereses de cada menor. Ante una solicitud inapropiada, la interacción se limita y el usuario es redirigido.

El sistema también puede bloquear cuentas cuando detecta patrones relacionados con explotación o acercamientos de adultos que representen un riesgo.

“Prohibir el uso de la IA no impedirá que niñas, niños y adolescentes tengan contacto con ella. Necesitamos herramientas diseñadas para su edad, con reglas claras, acompañamiento familiar y mecanismos de protección desde el inicio”, afirmó César Daniel González Madruga, cofundador de GandIA.

El equipo ha llevado estas inquietudes a espacios especializados en seguridad digital en México y Estados Unidos. También ha sostenido acercamientos con autoridades para revisar protocolos de prevención ante riesgos para los menores.

Uno de los ejes del proyecto es utilizar la IA como una puerta hacia la creatividad, no como un sustituto de la imaginación. Para Carlos Carsolio, alpinista, escultor y conferencista mexicano, innovar significa aprovechar el conocimiento existente para abrir una ruta nueva.

“La tecnología puede ampliar nuestras posibilidades, pero la idea, la curiosidad y el impulso para crear siguen naciendo de las personas”, afirmó Carsolio.

Aunque la plataforma fue diseñada con énfasis en las infancias, también puede ser utilizada por docentes, adultos mayores, profesionistas y las personas que así lo deseen. GandIA también dio a conocer que ya prepara funciones de cocreación para que varios usuarios trabajen en una mismo proyecto.

La llegada de esta herramienta abre una conversación que va más allá de su lanzamiento. La IA formará parte del entorno en el que crecerán las nuevas generaciones. La decisión no está entre permitirla o prohibirla, sino entre dejar que la consuman sin orientación o darles recursos para utilizarla con criterio, creatividad y acompañamiento.

Desarrollado en México, el proyecto también plantea una pregunta de fondo: quién define los valores de las tecnologías que acompañarán a las siguientes generaciones. 

“Apoyar la tecnología hecha en el país no solo significa impulsar la innovación nacional, sino abrir la posibilidad de crear herramientas pensadas desde las necesidades de las infancias mexicanas y participar activamente en las decisiones que marcarán su relación con la inteligencia artificial”, concluyó César Daniel González Madruga.