Los peligros de la IA en las búsquedas para niños: un llamado de alerta

Una reciente investigación de una organización dedicada a la protección de menores ha puesto de manifiesto un preocupante hallazgo: las herramientas de inteligencia artificial (IA) como AI Overvies y el Modo IA de Google no logran identificar adecuadamente señales de crisis que pueden afectar a los niños. Este estudio encontró que las plataformas fallaron en detectar ideas suicidas, síntomas de psicosis, y además, permiten la validación de trastornos alimenticios. En un contexto donde la violencia y el acoso escolar son cada vez más preocupantes, la facilidad con que se pueden generar 'deepfakes' de índole sexual plantea un grave riesgo, señalando la necesidad de una revisión urgente de las políticas de seguridad en línea.

En Venezuela, donde la situación social y económica ha desencadenado múltiples crisis familiares y comunitarias, el uso de herramientas digitales se ha incrementado, especialmente entre los jóvenes que buscan formas de expresión y de conexión en un entorno adverso. Este contexto resalta aún más la urgencia de garantizar que los menores naveguen en línea de manera segura y protegida. La prevención del acoso escolar y la promoción de la salud mental deben estar en el centro de la discusión sobre el uso de tecnologías emergentes en un país que atraviesa un momento crítico.

La evidencia sugiere que, aunque la IA tiene el potencial de ofrecer beneficios, es esencial que las plataformas implementen medidas efectivas para salvaguardar a sus usuarios más vulnerables, especialmente cuando se trata de los niños. Según El Nacional, esta situación requiere la intervención de padres, educadores y legisladores para establecer un entorno digital seguro y responsable.