Troomes

Language Interpretability Tool (LIT) es una herramienta visual, comprension de modelos interactivo para modelos NLP.

LIT está diseñado para responder preguntas como:

• ¿En qué tipo de ejemplos funciona mal mi modelo?
  ¿Por qué mi modelo hizo esta predicción? ¿Se puede atribuir esta predicción a un comportamiento adverso o a anteriores indeseables en el conjunto de entrenamiento?
  ¿Mi modelo se comporta de manera consistente si cambio cosas como el estilo textual, el tiempo verbal o el género del pronombre?

Mas informaction: https://github.com/pair-code/lit/