Machine Learning Scientist, LLM Training

Rejoignez notre équipe de recherche pour résoudre des problèmes d'extraction d'informations.

Vous devez être un expert en ML, NLP et LLM

***** PhD ou Master 2 requis *****

Nous recherchons un chercheur en IA pour créer des VLM tels que NuExtract3 afin d'alimenter la plateforme https://nuextract.ai/.

Votre travail consistera à créer des jeux de données, entraîner des LLM, effectuer des expériences / études d'ablation, etc. Consultez la liste des sujets typiques ci-dessous.

Nous publions nos modèles sous licences open-source et publions occasionnellement des articles à leur sujet.

Vous rejoindrez une équipe de brillants scientifiques en ML supervisée par notre CEO (https://www.linkedin.com/in/etiennebcp/).

Nous sommes une startup IA de 3 ans avec 12 employés située à Station F, Paris. Nous avons fait le YCombinator.

Nous avons un modèle de travail hybride -- vous devez être capable de travailler depuis notre bureau régulièrement (au moins une fois par semaine).

Exigences

• Master 2 Recherche ou PhD.
• Solide expérience en ML/NLP/LLM.
• Autonome, créatif, passionné par le ML/NLP/LLMs.
• Sait comment fine-tuner un LLM (SFT et RL). À jour avec la recherche sur les LLM.
• Esprit de chercheur et de bâtisseur.
• Apprécie l'environnement startup (rythme rapide, changements de direction fréquents).

Responsabilités

• Entraînement de LLM spécifiques à des tâches.
• Exécution d'expériences / études d'ablation.
• Création de jeux de données.
• Développement de logiciels liés aux LLM.
• Veille sur la recherche pertinente en LLM & NLP.

Sujets R&D typiques sur lesquels nous travaillons

(liste non exhaustive) :

1. Confiance dans l'extraction

Les utilisateurs de NuExtract.ai veulent pouvoir vérifier rapidement la validité des valeurs extraites dans la sortie JSON. Pour ce faire, ils ont besoin de savoir quelles valeurs NuExtract juge fiables et lesquelles ne le sont pas.

Nous voulons trouver comment obtenir un score d'incertitude pour les valeurs extraites par NuExtract. Ce n'est pas trivial en raison de la multiplicité des réponses correctes et des corrélations entre les réponses.

2. Localisation de l'extraction

Les utilisateurs de NuExtract.ai veulent pouvoir vérifier rapidement la validité des valeurs extraites. Pour ce faire, ils ont besoin de savoir d'où, dans le document, provient l'information (ou d'où elle est déduite).

Nous voulons trouver la meilleure façon d'y parvenir.

3. Extraction de documents longs

Les LLM ont une longueur de contexte limitée qui restreint la taille des documents. Nous voulons trouver comment NuExtract pourrait extraire des informations de documents beaucoup plus longs que sa longueur de contexte.

4. Raisonnement pour l'extraction structurée

Nous voulons entraîner NuExtract à raisonner via une chaîne de pensée privée sur son extraction.

5. Agent d'extraction

Nous voulons donner à NuExtract la capacité d'utiliser des outils (par exemple, zoomer sur un document ou effectuer une recherche web) afin d'améliorer la qualité de l'extraction.

6. Benchmark d'extraction structurée

Il n'existe pas de benchmark public pour l'extraction structurée. Nous voulons créer un tel benchmark et le rendre public.

Liens

• Plateforme : https://nuextract.ai/
• Blog : https://about.nuextract.ai/blog
• Hugging Face : https://huggingface.co/numind
• Github : https://github.com/numindai
• Discord : https://discord.com/invite/3tsEtJNCDe
• Papier NuNER : https://arxiv.org/abs/2402.15343