Soy un firme creyente de que la IA va tener un profundo impacto en nuestra forma de ejercer la atención sanitaria en el largo plazo y confió que éste se traduzca en una medicina más humana en la línea de lo que sugiere Eric Topol en Deep Medicine.
Es lógico que ante la crisis que estamos sufriendo con el COVID-19 surjan todo tipo de propuestas de cómo la IA puede ayudar a combatir la pandemia. También es fácil dejarse arrastrar por el COVID-19 IA-hype. Por ello es importante que no perdamos nuestra capacidad de reflexión crítica y afrontemos el problema con una aproximación escéptica y realista de lo que la IA puede y no puede hacer.
En esta línea me parece muy interesante el artículo[i] de Alex Engler en Brookings y sus ocho consideraciones críticas:
- La IA no puede ofrecer valor sin la colaboración de expertos en la materia. Aunque la IA tiene el potencial de descubrir por si sola patrones en los datos, su validez, las intervenciones prácticas que se pueden derivar de ellos, su aplicabilidad a diferentes contextos requiere de la participación de expertos en el dominio. Una aproximación escéptica a la IA siempre cuenta con un equipo multidisciplinar en el que participan experto en el dominio.
- La IA necesita de datos, muchos datos. La base para la construcción de un modelo de IA es la existencia de datos históricos de calidad etiquetados. Ante un nuevo fenómeno hemos de preguntarnos si se satisface dicha premisa. Una aproximación escéptica a la IA siempre interroga por el volumen, origen, calidad y universalidad de los datos empleados en la construcción del modelo.
- No confíes sólo en los datos de precisión del modelo. Para caracterizar el desempleo de una modelo de clasificación necesitamos información adicional como la sensibilidad y especificidad. Una aproximación escéptica a la IA duda de modelos que presentan una muy elevada precisión y requieren de métricas adicionales para evaluar la efectividad real del modelo ante el problema que pretendemos resolver.
- El despliegue de un modelo en el entorno de producción (mundo real) degrada su rendimiento. Una aproximación escéptica a la IA es considerar que la precisión del modelo en producción será siempre inferior a la obtenida en los ensayos de laboratorio.
- Las predicciones de la IA deberían permitir realizar intervenciones eficaces. Una aproximación escéptica a la IA es responder a la pregunta: ¿es viable implementar una actuación práctica, realista y útil con la predicción que realiza el modelo?
- La IA tiende a funcionar mejor con aspectos específicos que con eventos raros de proporción global. Probablemente la IA no disponga del contexto y la capacidad para distinguir entre un pequeño brote gestionable y una pandemia emergente. Una aproximación escéptica a la IA es responder a la pregunta: ¿es la IA adecuada para resolver este tipo de problema?
- Podrían haber consecuencias no intencionadas como la emergencia de un nuevo orden social con sistemas de vigilancia invasivos que atenten a nuestros principios éticos y se vulneren derechos fundamentales como la privacidad y libertad de movimiento. Una aproximación escéptica a la IA es asegurar que la aplicación de la IA cumple nuestro marco de referencia ético.
- Y no olvidar: la IA pude estar sesgada. Una aproximación escéptica a la IA es considerar que un modelo basado en IA estará sesgado hasta que no se pruebe lo contrario.
[i] A guide to healthy skepticism of artificial intelligence and coronavirus. Alex Engler. Brookings. 02/04/2020.