Seguridad industrial y desarrollo de aplicaciones de IA en el “edge”

Los sistemas de IA amplían los servicios y las actividades de análisis en la interfaz del cliente, promueven la automatización de la producción controlada por sensores y proporcionan la base para nuevas capacidades de producto y la implementación de estas en nuevos modelos comerciales. La costosa tecnología analógica se reemplaza por una tecnología de sensores digitales comparativamente más sencilla y económica. Las aplicaciones de IA en el edge son una tecnología orientada al futuro que requiere un manejo experto para que puedan aprovecharse los beneficios con un riesgo asociado aceptable. Los fabricantes de productos basados en IA requieren nuevos criterios para crear y mantener la confiabilidad de los productos basados en IA. Estos deben basarse en un concepto Know-Your-Artificial-Intelligence (KYAI).

El uso de IA en aplicaciones administrativas y de producción industrial está impulsado principalmente por el deseo de aumentar la productividad e introducir nuevas funciones de rendimiento. Los sistemas de IA amplían los servicios y las actividades de análisis en la interfaz del cliente, promueven la automatización de la producción controlada por sensores y proporcionan la base para nuevas capacidades de producto y la implementación de estas en nuevos modelos comerciales. Con los nuevos procesos basados en IA, se requieren menos trabajadores para llevar a cabo actividades rutinarias, y la costosa tecnología analógica se reemplaza por una tecnología de sensores digitales comparativamente más sencilla y económica. El documento “Industrial security and the development of AI applications in the edge” de Plattform Industrie 4.0 se enfoca en las redes neuronales.
Con el avance generalizado de la IA en campos de actividad ocupados antes por humanos y tecnología analógica, están surgiendo nuevos riesgos de seguridad. Una de las razones es la continua y rápida reducción de la explicabilidad de los resultados de las redes neuronales avanzadas.
Además, una revolución tecnológica en el área del machine learning (ML) que comenzó en 2018 está redefiniendo la implementación de las tecnologías en la nube y en el edge: en la fase inicial de despliegue de ML, se requerían considerables recursos informáticos (generalmente en un pool extenso de servidores en un centro de datos en la nube), tanto para la creación (adquisición de datos, evaluación de datos, entrenamiento) como para la utilización operativa del sistema de reconocimiento terminado (inferencia). Sin embargo, hoy en día los recursos necesarios se limitan básicamente a la formación, que ahora es mucho más eficiente gracias a la escalabilidad de las arquitecturas de red y los aspectos de AutoML™, así como al aprendizaje de transferencia y el aprendizaje multitarea. Las nuevas tecnologías permiten obtener, de manera descentralizada y rentable, dispositivos en el edge operados de manera local, rendimiento de inferencia fuera del alcance de instancias centralizadas, debido al nivel actual y previsible de la latencia de red. La inferencia, la implementación práctica del sistema completamente entrenado, solo sigue siendo útil en la nube debido a los beneficios relacionados con la actualización, el mantenimiento y los grandes requisitos específicos de aplicación para los recursos informáticos y de almacenamiento.
A largo plazo, lo más probable es que el uso productivo de la IA tenga lugar principalmente en el edge, en dispositivos de hardware locales, en lugar de en servidores remotos. Por lo tanto, todas las características positivas tienen una contrapartida en términos de riesgos de seguridad, ya que la vigilancia externa y el espionaje son amenazas considerables. Por otro lado, la comunicación externa se está reestructurando al trasladar tareas complejas al edge. Se están desarrollando nuevos métodos y oportunidades para fortalecer la privacidad y la confidencialidad. Por ejemplo, la comunicación permanente a nivel de máquina se puede reemplazar por entregas regulares de informes a través de dispositivos en el edge en un formato de seguridad optimizada que solo contiene la información específica requerida por un proveedor de servicios en particular para realizar sus tareas. Cualquier sospecha de espionaje puede ser contrarrestada de esta manera.

Falta de explicabilidad en las decisiones de IA
Un reto que afecta las decisiones y evaluaciones basadas en IA es la falta de explicabilidad de los resultados de las aplicaciones de IA. A menudo se buscan explicaciones cuando la IA ofrece un resultado que no satisface las expectativas humanas. Sin embargo, la IA no puede reconocer las razones de las decisiones equivocadas ni, de hecho, dar forma a generalizaciones o abstracciones en relación a los problemas que surgen de la manera en la que lo hacen los humanos.
En la actualidad, existe una clara contradicción entre la precisión y la explicabilidad de los resultados de IA. Esto también se debe al nivel de rendimiento sobrehumano en ciertas aplicaciones. Si bien se han realizado varios esfuerzos para mejorar la explicabilidad de las decisiones de IA, rara vez se producen resultados satisfactorios.
Aún puede ser posible satisfacer el deseo humano de encontrar una explicación que tenga sentido para los propios humanos. Mientras tanto, la IA también puede reconocer cuestiones para las que los humanos ya no encuentran una explicación. Sin embargo, este deseo será cada vez más difícil de cumplir. Como referencia, por ejemplo, existe un método de evaluación de imágenes retinianas basado en IA que, entre otras cuestiones, permite identificar el género, las enfermedades y los hábitos de vida de una persona (aprendizaje oportunista). El reconocimiento de algunos de estos atributos es inexplicable para los humanos, al menos hasta la fecha. Anteriormente, no se sabía científicamente que las características visibles de la retina contenían ciertos datos.
Los resultados se pueden explicar mejor cuando se utilizan métodos de IA más antiguos, como las máquinas de vectores de soporte (SVM), una familia de métodos de aprendizaje automático basados en kernel. Sin embargo, estos métodos suelen lograr una tasa de reconocimiento significativamente menor en comparación con las redes neuronales.
Algunos esfuerzos para lograr una mejor explicabilidad de la IA basada en redes neuronales se centran en traducir la profundidad de anidamiento de las funciones generadas automáticamente en las redes neuronales modernas, que suelen tener más de 100 capas, en métodos de IA adicionales con menos profundidad.
Las siguientes mejores prácticas pueden mejorar la explicabilidad de los resultados:

• Ensayos intensivos (también con la ayuda de una IA de ensayo), con el correspondiente enfoque en casos de decisión dudosos. Esto también se aplica en general, independientemente de si se utiliza o no IA para la toma de decisiones.
• Enseñar la IA con datos relevantes, para evitar un mal aprendizaje.
• Si es posible, granularización de las evaluaciones basadas en IA para indicar claramente qué parte de un conjunto de reglas de IA ha llevado a cabo determinada evaluación.

Cambios estructurales en el uso de la IA industrial
La IA continúa desarrollándose rápidamente en dos direcciones (edge y nube) en muchas áreas de aplicación especializadas: está logrando un rendimiento cada vez mayor y capacidades sobrehumanas mientras que, a su vez, es cada vez más común en nuestra realidad cotidiana. Ambas tendencias se relacionan con la característica de machine learning, que actualmente se considera a menudo la característica de IA más relevante a nivel económico.
La IA está en todas partes: en los automóviles y en la mayoría de los dispositivos técnicamente sofisticados que se utilizan en los hogares, el entretenimiento, la producción, el diagnóstico, las tecnologías de comunicación, la agricultura y el ejército. Apenas hay límites para su proliferación, ya que constantemente se desarrollan nuevos usos potenciales. Al mismo tiempo, la IA procesa cada vez más áreas de manera mucho más “inteligente” de lo que es posible para los humanos de muchas maneras. Las máquinas no solo son más económicas, mucho más rápidas y más confiables, sino que también son mucho más productivas dentro de su campo específico. El ML impulsará una mayor especialización hacia una nueva era.

IA en el edge
El rendimiento de la IA en el edge ha dado un salto significativo en los tres últimos años. Por lo tanto, la IA puede tener impacto en extensas áreas de la vida diaria. El profesor de Stanford Andrew Ng ya predijo este desarrollo cuando afirmó que “IA es la nueva electricidad”. La IA se está volviendo tan habitual como la electricidad, está en todas partes y la proporción de dispositivos tecnológicos sin conexión a la IA pronto será insignificante.
Para comprender la nueva y cambiante situación, en primer lugar hay que ser conscientes se debe entrenar un sistema de IA. Esto significa que en una red neuronal generalmente se determinan actualmente entre 50 y 150 millones de parámetros (pesos). Este paso es complejo y requiere una gran cantidad de capacidad informática, memoria principal y aritmética de coma flotante. Una vez que se han determinado estos parámetros y la red ha sido “entrenada”, entonces continúa la aplicación, es decir, la inferencia. Por lo general, no se realizan más cambios en la red durante un largo periodo de tiempo. Entonces solo ejecuta pasos hacia adelante, por ejemplo, para clasificar valores de entrada. Esto se puede hacer con una estructura de memoria mucho más compacta y una aritmética mucho más habitual.
Gracias a los avances en tecnología de semiconductores, el rendimiento de los dispositivos en el edge también está mejorando. Los dispositivos con formato de Raspberry Pi, por ejemplo, ahora cuentan con una memoria de hasta 8 GB y una CPU multinúcleo. Como base de hardware para los procesos de inferencia, los dispositivos con tales recursos tienen considerables reservas de energía incluso para exigentes sistemas de ML en aplicaciones industriales típicas, como el control de calidad basado en análisis de imágenes.
Cada vez más, se está incorporando IA de alta calidad en todas las áreas de las empresas y de la vida privada.
Hoy en día, incluso los dispositivos pequeños tienen espacio para varios sistemas de ML; por ejemplo, como conjunto que incremente aún más la precisión. Incluso el más pequeño de los dispositivos también puede albergar sistemas de ML maliciosos que pueden usarse para espiar o para causar interrupciones, provocando problemas específicos de seguridad.
El ecosistema de la industria de TI, que incluye a fabricantes de hardware, software, sistemas y aplicaciones, ha comenzado a aprovechar ampliamente las posibilidades que se abren cuando las TI puede percibir y reconocer diversos aspectos del entorno. Esto se aplica a varios segmentos verticales, en el campo profesional y de consumo, en una amplia variedad de aspectos económicos y niveles de complejidad variables. Técnicas como el control por voz, el control de acceso basado en patrones o la incorporación de datos para aplicaciones de todo tipo -desde productos industriales como sistemas de advertencia de cambio de carril en automóviles, hasta la detección basada en la voz de enfermedades respiratorias o la producción industrial, como la IA en el control de calidad óptica, pasando por el control de calidad en el proceso de soldadura- son cada vez más habituales.
En la Industria 4.0, la funcionalidad de la aplicación migra del “exterior” (en la nube) al Operational Technology Edge, que generalmente se encuentra en del entorno de TI de una empresa. Los datos ya no tienen que salir de la empresa para ser procesados por un servicio externo: el servicio lo realiza el operador sin ninguna conexión con el Editor.
El beneficio más importante, además de la reducción de costes y el incremento del rendimiento, es la oportunidad de reducir los riesgos asociados a la comunicación entre empresas.
Al pasar a niveles de protocolo que pueden ser explicados por seres humanos, se puede reducir de manera significativa el espionaje, a través de la evaluación e interpretación específicas de flujos de mensajes y la infiltración con malware.
El reconocimiento de patrones tiene lugar en el seno de la empresa en el edge, como parte de una función de la máquina. La posibilidad de ataque se reduce porque solo se crean informes periódicos en formato PDF, que muestran la próxima fecha de mantenimiento, y porque ya no es necesaria una conexión continua de datos.
Dado que este dispositivo de edge puede albergar la IA y otros conjuntos de reglas para verificar anomalías o violaciones de reglas, en este punto ya se pueden activar alarmas y bloquear accesos o intentos de acceso no válidos e inusuales.
Por otro lado, el uso de dispositivos de edge potentes genera un exceso de potencia informática en las funciones centrales de rendimiento del hardware.
Los dispositivos de edge pueden rastrear una gran parte de las funciones de inteligencia artificial relevantes para la seguridad y reconocer a nivel local si ha habido un cambio en el comportamiento y, en caso necesario, decidir cómo proceder con las solicitudes externas. Sin embargo, un dispositivo local no puede reconocer si el comportamiento de la infraestructura general ha cambiado entre los puntos finales y en los participantes. Para ello, habría que proporcionar IA en un punto centralizado. En caso necesario, este recibiría datos de los dispositivos de edge para una evaluación completa y centralizada. La ubicación de una IA tan centralizada aún no se puede determinar porque la arquitectura de la infraestructura aún no se ha definido (totalmente).
En resumen, cabe señalar que, si bien los sistemas de IA se crean a través del machine learning con un uso intensivo de recursos de pools de servidores en la nube, en la práctica se implementan en forma de software optimizado para pequeños dispositivos descentralizados en el edge de Internet e incluso más allá, en lugares del mundo sin electricidad ni redes de comunicación.
Estas capacidades no están exentas de riesgos, porque los dispositivos inteligentes de edge también pueden no ser buenos.

IA en la nube
Actualmente, existen arquitecturas de red que están dirigidas deliberadamente a una escalabilidad eficiente. Esto está generando una mayor racionalización de los módulos de carga para lograr inferencias con una calidad de reconocimiento determinada, incluyendo una mayor resolución de los inputs. Tales arquitecturas también son importantes para que los recursos necesarios para la formación puedan alinearse con los objetivos cualitativos de las inferencias. Esta formación es costosa y aún debe realizarse en una nube de configuración extensa.
Una implementación en la nube para la inferencia solo es necesaria para una clasificación extremadamente detallada.
Se está desarrollando una nueva clase de complejidad para el proceso de entrenamiento de grandes arquitecturas nuevas al margen de los sistemas básicos para aplicaciones de aprendizaje por transferencia. Con la utilización de la IA para determinar la estrategia formativa óptima (en sistemas como AutoML de Google), existen nuevas oportunidades para alcanzar la precisión. Hoy en día, los procesos de entrenamiento requieren muchos recursos, principalmente porque muchas combinaciones de hiperparámetros deben probarse en un procedimiento heurístico de entrenamiento para lograr resultados óptimos en el único módulo de carga para inferencia. Las estrategias basadas en IA permitirán encontrar rutas más cortas y rentables. También se está abriendo un nuevo mercado para software de alto valor.
En resumen, se puede afirmar que la IA en la nube moderna brindará resultados que conducirán a un número cada vez mayor de capacidades sobrehumanas de las máquinas, especialmente en áreas que antes se consideraban limitadas a la inteligencia humana. La creatividad y la estrategia de desarrollo se han considerado hasta la fecha habilidades específicas de los humanos, mientras que las capacidades de los órganos sensoriales se consideran técnicamente factibles desde hace mucho tiempo. Por ejemplo, los perros tienen mejor sentido del olfato que los humanos, mientras que las aves tienen mejor visión. Está claro desde hace mucho tiempo que las máquinas pueden adoptar este tipo de capacidades y, de hecho, superar a los humanos en estas áreas. Ha surgido un nuevo campo de batalla en la seguridad de las TI en la Industria 4.0 con la proliferación de la IA en los dispositivos de edge más pequeños. Estos son ampliamente utilizados y, aunque a veces no están asociados en absoluto a la IA, pueden ejecutar los módulos de carga desde estas redes con un alto nivel de rendimiento y, al mismo tiempo, permiten la manipulación dentro del dispositivo.