Algoritmo seguro
A pasada publicación dun estudo elaborado por Unicef e a USC, dirixido polo profesor Antonio Rial Boubeta, puxo enriba da mesa unha evidencia incómoda: a tecnoloxía, tal e como está deseñada hoxe, non pensa no benestar das persoas, e moito menos no das crianzas. O informe revela que nenos e nenas galegas de apenas dez ou once anos xa están presentes en varias redes sociais, expostos a dinámicas que superan con moito a súa capacidade de comprensión e defensa. Non é unha anécdota estatística; é un síntoma dun problema estrutural. Un dato que pide atención seria.
Esta análise académica insiste en que non abonda con educar ás familias, nin con pedir prudencia ao alumnado. O que falla é o ecosistema tecnolóxico no seu conxunto, construído sobre unha lóxica de máximo beneficio que converte a atención humana nun recurso explotable. As plataformas non son inocentes: están deseñadas para reter, estimular, manipular e encadear, mesmo cando o usuario é un menor. A industria coñece os efectos psicolóxicos, coñece os riscos, coñece os danos. E, con todo, continúa a perfeccionar mecanismos de enganche cada vez máis sofisticados.
Por iso é necesario que os poderes públicos axusten a norma legal, impulsen campañas de
sensibilización e asuman que a tecnoloxía non é un territorio neutro. A mensaxe é clara: non se pode deixar a saúde mental da infancia, e do conxunto total da cidadanía, nas mans dun mercado que opera con criterios exclusivamente lucrativos. A ética non pode ser opcional. É deber social.
A chamada de atención vai máis alá: o crecemento acelerado da Intelixencia Artificial, que avanza a un ritmo que nin sequera os seus creadores parecen controlar. Aprende, optimiza, replica e amplifica patróns sen que exista un marco global capaz de garantir que o seu desenvolvemento
non erosione dereitos fundamentais. A tecnoloxía xa non só evoluciona: impúlsase a si mesma, engorda sen parar, acelera. E faino nunha dirección marcada polos intereses das grandes multinacionais.
Neste escenario, cobra especial relevancia a recente encíclica Magnifica humanitas do Papa León XIV, presentada no Vaticano o 25 de maio pasado. O Pontífice advirte da necesidade de “desarmar a IA”, liberándoa das lóxicas que a converten en instrumento de dominio, exclusión ou morte, e lembra que toda innovación debe permanecer ao servizo da persoa, respectar a dignidade humana e evitar que o progreso tecnolóxico convértase nunha regresión moral ou social. A súa reflexión, lonxe de ser teórica, conecta directamente co debate contemporáneo sobre algoritmos, plataformas e sistemas autónomos que xa condicionan a vida cotiá e mesmo a forma de librar guerras.
Sen dúbida, a tecnoloxía trouxo avances extraordinarios para a humanidade, e seguirá facéndoo. Ademais é inevitábel, por iso aínda que non se pode poñer portas ao campo aberto, tampouco deixar que o campo se converta nun territorio sen lei. É tempo de poñer límites razoables, marcos de actuación, criterios de protección. O que nos toca agora é exercer sentidiño colectivo: regular, educar, supervisar e, sobre todo, lembrar que detrás de cada pantalla hai unha persoa con dereitos.