Aspectos técnicos y sociales a considerar del Plan A.N.G.E.L.

El pasado lunes 10 de junio Marcelo Ebrard, contendiente en el proceso interno de Morena para ser candidato presidencial, presentó una propuesta de seguridad que, en caso de ser triunfador en el proceso interno y en las elecciones de 2024, su potencial gobierno llevaría a cabo en todo México. Esta propuesta de seguridad tiene nombre de  Plan Avanzado de Normas de Geolocalización y Seguridad, al que bautizó como Plan A.N.G.E.L.

En su presentación Ebrard habló de la necesidad de implementar más tecnología para luchar contra la inseguridad, para tal fin, su propuesta se basó en la experiencia y tecnología que han implementado otros países, tal como Estados Unidos, China y algunos países de Europa.

En general, el Plan A.N.G.E.L. cuenta con ocho tecnologías clave que, de acuerdo a su visión, ayudarán a contar con “el México más seguro de su historia”:

1. Reconocimiento facial en vías públicas en todo el país; 2. Identificadores del lugar exacto de dónde se disparó un arma; 3. Detectores de armas por patrones de movimiento;  4. Reconocimiento morfológico de delincuentes por fenotipos; 5. Rastreadores de marcación y seguimiento de vehículos; 6. Drones que marcan y siguen a criminales; 7. Cámaras inteligentes en los elementos de la Guardia Nacional y 8. Bases de datos con inteligencia artificial

Tal como habría de esperarse, esta propuesta ha generado una avalancha de críticas y señalamientos, buena parte de estos centrados en la protección de la privacidad personal y los derechos humanos; sin embargo, esta propuesta tiene más aristas desde las cuales ser analizada, sobre todo si se toma en cuenta el proceso de producción y funcionamiento tecnológico, así como las capacidades de poder asociadas.

Para comenzar, es importante hacer un fuerte énfasis en que la tecnología no soluciona problemas sociales sólo porque sí: más tecnología no implica inmediatamente la solución de conflictos, esta creencia usualmente es denominada “solucionismo tecnológico”, la cual se encuentra bastante extendida a nivel mundial y consiste en una fe ciega a la tecnología, como si ésta fuera mágica o infalible.

Al respecto, sólo hace falta ver casos como el de Estados Unidos, un país que tiene tecnología (e infraestructuras) de sobra y con un aparato policial fuertemente financiado; sin embargo, al día de hoy este país cuenta con la población encarcelada más grande del mundo y su tejido social se encuentra bastante desgastado, al punto que las tensiones raciales, culturales, económicas y políticas  han generado el caldo de cultivo suficiente para el estallido de la violencia, criminalidad y abusos de todo tipo, sin ninguna tecnología a la vista que pueda solucionar mágicamente sus problemas, entonces, ¿por qué pensar que el caso mexicano sería diferente?

 Además, el impacto de la tecnología no sólo depende de cómo se usa ésta, sino que también se asocia a los lugares en donde se produce y funciona; así como las personas e instancias implicadas en su proceso de producción, funcionamiento y uso; por tanto, las experiencias de otros países con ciertas tecnologías pueden no adecuarse a la realidad nacional y menos aún local.

Si a esto le sumamos que para el desarrollo de modelos de IA se requiere de datos de entrenamiento que sean de calidad, representativos y significativos; la pregunta que salta directamente es ¿Qué programas tiene contemplados la propuesta de Ebrard y cuántos de éstos serán entrenados con datos de mexicanos?

Es evidente que el elemento central de esta propuesta es el recabo y procesamiento de datos, varios de estos en tiempo real, a lo que surgen preguntas tales como ¿de dónde saldrán y a dónde irán, cómo se armarán las bases de datos, cómo se entrenarán las bases de datos, dónde se alojarán, transformarán y procesarán, cómo y quién determinará los parámetros de entrenamiento (qué se considera seguro, riesgoso, peligro inminente, criminal)? Este último punto es importante, ya que el plan propone el reconocimiento morfológico por fenotipo (lo que ya de por sí es endeble, dado que no se trata de una ciencia exacta ni reconocida), por lo que todo el proceso del tratamiento de datos se volvería un asunto de seguridad nacional.

Marcelo Ebrard también mencionó en su presentación la necesidad de integrar bases de datos de la administración pública; sin embargo, se debe tener en cuenta la poca eficacia que históricamente diversas instituciones han tenido en el manejo de datos, por lo que antes que poner más tecnología, sería necesario solucionar los procesos humanos que no han logrado integrar exitosamente la tecnología (especialmente a nivel local), sin mencionar el tímido papel que ha jugado el INAI en el ordenamiento del mercado de datos personales en México. 

Además, Ebrard en su presentación aseguró que la base de datos centralizada estará impulsada por una plataforma de procesamiento administrada por una inteligencia artificial, la cual “no podrá ser corrompida ni cometer errores humanos”, algo que evidentemente es falso, ya que hasta una IA puede ser hackeda y contener parcialidades desde su entrenamiento.

En lo que corresponde al destino o resguardo de datos, si una empresa privada fuera la responsable del recabo y procesamiento, ésta tendría una ventaja enorme en el desarrollo de sus productos, así que la salvaguarda de datos y la creación de soluciones y productos nacionales propios se volvería imperativo.

Otro punto interesante es que no se toca nunca el tema de los datos en posesión de privados, ya que una buena forma de lograr recabar más datos de calidad sería que el Estado solicitara y recabara datos de incidentes de seguridad a las empresas, sobre todo en materia de ciberseguridad. Algo interesante al respecto es que muchas de las voces críticas (varias de estas financiadas por la Usaid) promueven un alarmismo enorme hacia el Estado como receptor y analista de datos, aunque poco critican el mercado de datos o la enorme asimetría de riqueza de datos entre el interés público y la iniciativa privada, algo que se vuelve anacrónico a la vista de tecnologías que se alimentan de datos, ya que esta tendencia dejaría al Estado sin una de las materias primas críticas para el desarrollo de tecnología como la IA.

Más allá de los datos, el objetivo del plan contempla que gracias a éste “se actuará con mayor eficacia y rapidez” en materia de seguridad, aunque en este plan no se mencionan a otras instituciones más allá de la Guardia Nacional, por lo que este plan únicamente podría impactar en la precisión a la hora de buscar un delito por parte de una sola institución.

Y dejando de lado los problemas de confiabilidad en la IA, su inexactitud de predicción o la capacidad humana de poder burlar la tecnología, hay problemas sociales e institucionales que van más allá del descubrimiento del delito, tal como sucede con la corrupción, la cual también abarca al proceso de impartición de justicia.

En lo que corresponde a las infraestructuras, ¿Cómo exactamente se pretende llevar este modelo a regiones y pueblos que ni siquiera tienen acceso a Internet o una infraestructura adecuada (ya ni hablemos de centros de datos y la necesidad de disminuir la latencia)?

Asimismo, este plan arroja una serie de cuestiones complejas en materia de transparencia y rendición de cuentas, ya que un ecosistema tecnológico de vigilancia y predicción criminal implica una capacidad de poder sin precedentes, tanto para las empresas como para los Estados. 

Más allá de toda cuestión problemática del plan, resulta interesante la propuesta que plantea el ex Secretario de Relaciones Exteriores, Marcelo Ebrard, sobre todo si se tiene en cuenta la modernización del crimen, tanto organizado como no organizado, por lo cual este plan en lugar de desecharse completamente, requiere de un análisis, debate y transformación a fondo, así como su regionalización y contextualización,sobre todo con un enfoque diseñado para combatir las nuevas manifestaciones criminales, especialmente en materia de ciberseguridad y cibercrimen.