Ce repository contient des tutoriels sur comment faire de l'extraction de relation en utilisant Pytorch 1.4 sur Python 3.7.
-
Pour installer PyTorch, les instructions sont sur ce site.
-
TorchText :
pip install torchtext -
spaCy en anglais :
python -m spacy download en -
transformers :
pip install transformers
On utilise les données SemEval-2010 Task 8.
- 1 - CNN
Dans ce premier notebook, le modèle utilisé est un réseau de neurones convolutif (ou CNN) pour faire de l'extraction de relation (RE).
- 2 - BiLSTM+Attention
Ici, on utilise un modèle composé d'un modèle BiLSTM associé à un modèle d'attention.
- 3 - CNN+Attention
Dans ce notebook nous implémentons un modèle CNN auquel s'ajoute le mécanisme d'attention.
- 4 - BERT
Enfin, on implémente le modèle BERT décrit ici en utilisant Hugging Face.