La caja negra (v0.1)

Más recientemente se ha dicho que es necesario evitar los algoritmos de caja negra, es decir los algoritmos que resuelven problemas de maneras que no es posible explicar, ya sea porque quien diseñó el algoritmo no quiere explicarlo como porque nadie sabe realmente cómo se puede explicar claramente el proceso que la red neuronal o el computador llevó a cabo para responder la pregunta.

La solución ha sido a través de diferentes métodos, todos bajo el término sombrilla de «explainability» (explicabilidad, por tratar de traducirlo a español). Lo realmente problemático no es que se lleve a cabo el proceso para explicar el algoritmo, sino que se haya llegado a la solución con métodos que no sea fácilmente explicables por un ser humano. Aunque muchos comportamientos del ser humano no pueden explicarse, es difícil justificar lo mismo para una máquina.

Hay un artículo cuyo autor dice que, en realidad, la falta de explicación no es algo imposible de resolver.